drumih/turbo-fieldfare
Этот проект позволяет запускать большую языковую модель Gemma 4 26B-A4B на компьютерах Mac с процессором серии M, используя всего около 2 ГБ оперативной памяти. Это достигается за счёт эффективной реализации на языке Swift. Проект полезен для исследователей и разработчиков, которым нужно запускать мощные ИИ-модели на устройствах с ограниченными ресурсами, без необходимости в серверном оборудовании.
⭐ 1.5k · Swift
🤖 AI MAN | Нейросети и деньги