#AI: MIT впихнул LLM в айфон ⌨️
😐 Ранее писали про телефон OpenAI без приложений. Liquid AI зашли с другой стороны - не строят девайс, а делают модель которая бегает на любом.
MIT-спинофф, 121 человек. Подняли $297 млн от AMD и a16z при оценке $2.35 ярда.
Суть LFM2.5-8B-A1B:
8 ярдов параметров, но активных только 1.5 ярда за раз - включаются нужные блоки. Занимает меньше 6 гигов. Reasoning модель с контекстом 128к. По бенчмаркам бьёт Google Gemma 4 (26 ярдов параметров).
Скорость на устройствах:
🟢MacBook M5 Max: 253 tok/s
🟢Ryzen AI Max: 146 tok/s
🟢iPhone: ~30 tok/s
🟢H100 (сервер): 18.5к tok/s
AMD закрыли раунд не просто так - им нужны модели которые продают их чипы. Модель в open-source на HuggingFace, работает через llama.cpp и MLX.
🗒 AI уходит из облака в карман - Apple заливает ярды в Siri, OpenAI строит свой телефон, а MIT-стартап просто выкладывает модель бесплатно. Как запускать AI-агентов локально разбираем в ИИ-клубе.
Slavik | Updates | Инстаграм | ИИ Клуб
![Изображение канала: Bloomberg ⨯ [Market & Crypto]](https://content.desigram.ru/avatar/4d7c158a-6f2a-4fe7-9b64-acd331242a24.jpg){kind=small}
