Свой ChatGPT локально за вечер — без ежемесячных платежей
Для тех, кто хочет приватный и бесплатный AI-ассистент на своём компьютере без ограничений.
Кому и зачем: Разработчикам, исследователям и гикам для безопасной работы с данными, экспериментов и экономии на подписках.
1️⃣ Установите движок Ollama
Это платформа для запуска больших языковых моделей (LLM) на вашем ПК или Mac. Скачайте инсталлятор с сайта или установите одной командой в терминале. Он создаст среду для работы моделей.
Скачать Ollama
2️⃣ Загрузите модель
В терминале выполните команду, например, `ollama run llama3.1:8b`. Это загрузит оптимизированную версию модели Llama 3.1 с 8 миллиардами параметров — она работает даже на компьютерах без мощной видеокарты. Модель сохранится локально.
Выбрать модель из библиотеки
3️⃣ Поставьте удобный веб-интерфейс
Open WebUI — это аналог чата ChatGPT, который работает в вашем браузере, но подключён к локальной модели через Ollama. Установка через Docker или Python занимает несколько минут и даёт полноценный интерфейс с историей диалогов.
Установить Open WebUI
4️⃣ Настройте и используйте
После запуска Open WebUI откройте `http://localhost:3000` в браузере. В настройках укажите адрес вашего Ollama (`http://localhost:11434`). Теперь вы можете общаться с моделью, обрабатывать тексты и документы — все данные остаются на вашем устройстве.
Итог: У вас есть полностью приватный AI-ассистент с нулевой ежемесячной стоимостью, способный работать без интернета и обрабатывать конфиденциальные данные.
🤖
AI MAN | Нейросети и деньги
