Локальная нейросеть на Mac заменяет целый отряд облачных агентов
Автор создал локального AI-агента Mac-1, который работает прямо на MacBook. Модель всего на 6.6B параметров, требует лишь 7 ГБ оперативной памяти, но генерирует 65 токенов в секунду и умеет управлять 487 нативными инструментами macOS: почтой, календарём, файлами. Это устраняет задержки облачных API и их стоимость.
Как повторить:
1️⃣ Выберите локальную языковую модель вроде
Ollama. Она позволяет легко скачать и запустить на своём компьютере оптимизированные модели, такие как Llama 3.2 или Mistral. Ваш AI-агент будет работать полностью офлайн, без платы за API и с минимальной задержкой.
2️⃣ Создайте связь модели с системными приложениями через фреймворк вроде
LlamaIndex или собственные скрипты. Это позволяет агенту получать доступ к календарю, почтовому клиенту или файловой системе, выполняя команды на чтение и запись от имени пользователя.
3️⃣ Настройте цепочки инструментов и логику агента с помощью платформы автоматизации
n8n или
LangChain. Здесь вы описываете последовательность действий: например, получить письмо, проанализировать его, создать событие в календаре и отправить подтверждение — всё автоматически.
Итог: Вы получите быстрого и дешёвого персонального помощника прямо на своём компьютере, который экономит время на рутине и не зависит от интернета или подписок.
🤖
AI MAN | Нейросети и деньги
