Свой ChatGPT локально за вечер — без ежемесячных платежей
Для тех, кто хочет полный контроль над диалоговым ИИ: приватность, эксперименты, работа без интернета.
1️⃣ Установите движок для локальных моделей
Ollama — это программа, которая скачивает и запускает большие языковые модели прямо на вашем компьютере. Она работает в фоне и не требует мощной видеокарты. Установка простая: скачайте инсталлер с сайта или вставьте команду в терминал.
Ollama
2️⃣ Скачайте подходящую модель
На сайте Ollama есть библиотека моделей разного размера и назначения. Для старта идеально подойдёт Llama 3.1 8B — она достаточно умная для большинства задач и работает даже на процессорах без видеокарты. Чтобы скачать, просто выполните в командной строке: `ollama run llama3.1:8b`.
Библиотека моделей Ollama
3️⃣ Поставьте удобный веб-интерфейс
Вместо командной строки используйте Open WebUI — это аналог привычного чата ChatGPT, который работает в вашем браузере и подключается к Ollama. Установка через Docker займёт несколько минут, а интерфейс позволит легко общаться с моделью, вести историю и создавать промпты.
Open WebUI
4️⃣ Настройте и протестируйте связку
После установки откройте Open WebUI в браузере (обычно по адресу http://localhost:3000). В настройках укажите, что backend — это ваша локальная Ollama. Выберите скачанную модель и начните диалог. Теперь у вас есть полноценный ассистент, работающий офлайн.
Итог: за 1-2 часа вы получаете приватный AI-ассистент с нулевой стоимостью запросов, который может генерировать тексты, код, идеи и работать без интернета.
🤖
AI MAN | Нейросети и деньги