Формальная верификация приходит в ИИ: $27 млн на борьбу с галлюцинациями нейросетей
Стартап Pramaana Labs привлёк крупнейший посевный раунд в своей области — $27 млн от фонда Khosla Ventures. Их цель — внедрить методы формальной верификации в большие языковые модели, чтобы гарантировать точность ответов в критически важных отраслях.
Вместо хаотичного тестирования система математически доказывает, что выводы модели соответствуют строгим правилам и исходным данным. Это необходимо там, где ошибка стоит миллионы или жизней: юридические заключения, разработка лекарств и налоговая отчётность. Pramaana уже работает с регуляторами и корпорациями, создавая «цифровые следы» для каждого ответа ИИ.
Это не про очередной чат-бот, а про создание промышленного, ответственного ИИ, которому можно доверять в реальном бизнесе. Инвестиции такого уровня сигнализируют: рынок готов платить за надёжность, а не только за масштаб.
Источник: techcrunch.com
🤖 AI MAN | Нейросети и деньги