**LlamaBarn** — это небольшой (всего 12 МБ) приложение для меню-бара macOS, разработанное организацией **ggml-org** (авторами популярного проекта llama.cpp). Его слоган: «Уютный дом для ваших LLM» (A cosy home for your LLMs).
### Основная цель
Упростить запуск локальных больших языковых моделей (LLM) на Mac до уровня «как подключиться к Wi-Fi». Оно скрывает всю сложность командной строки: скачивание моделей, квантизацию, настройку контекста и параметров под аппаратное обеспечение.
### Ключевые особенности
- Работает как иконка в меню-баре macOS (написано на Swift).
- Встроенный каталог моделей — показывает только те, которые совместимы с вашим Mac (учитывает объём RAM, чип Apple Silicon и т.д.).
- Автоматическая оптимальная конфигурация под ваше железо для максимальной производительности и стабильности.
- Тесная интеграция с **llama.cpp** (включает его напрямую в проект).
- При выборе модели запускает локальный сервер на `
http://localhost:2276`.
- Предоставляет стандартный OpenAI-совместимый API — можно подключить к любому приложению (например, чатам, IDE и т.д.).
- Встроенный веб-интерфейс для прямого чата с моделью в браузере.
- Полностью локально, без облака и зависимостей от сторонних сервисов.
### Установка
- Через Homebrew: `brew install --cask llamabarn`
- Или скачать с страницы Releases на GitHub.
### Как использовать
1. Установите модель из встроенного каталога (скачивается автоматически).
2. Выберите модель в меню — приложение запустит сервер.
3. Общайтесь через веб-UI (`
http://localhost:2276`) или API (например, через curl).
Проект открытый (лицензия MIT), активно развивается организацией ggml-org. Это удобный «графический фронтенд» для llama.cpp специально для macOS, без лишних наворотов и бloatware.
Репозиторий:
GitHub
GitHub - ggml-org/LlamaBarn: A cosy home for your LLMs.
A cosy home for your LLMs. Contribute to ggml-org/LlamaBarn development by creating an account on GitHub.
#macos, #opensorce, #нейросети
#опенсорс, #линукс, #виндос, #макос, #полезности