🐋 Покупают на хаях, боятся на дне

Важное отличие от Claude 3.5: модель не имеет встроенных ограничений на «опасные» запросы. Её цель — дать доверенным исследователям и компаниям понять, как именно можно взломать или обмануть будущие ИИ. Это контролируемый стресс-тест. Кому доступно? Пока только «доверенным» организациям — исследовательским институтам, коммерческим компаниям из специального списка и, вероятно, государственным подрядчикам. Это не массовый релиз. Почему это важно для бизнеса? Это шаг к «красным командам» для ИИ. Кто получит доступ, сможет раньше других находить уязвимости в больших моделях. Значит, сможет раньше создавать более безопасные продукты или сервисы для защиты от ИИ-атак. Если вы создаёте продукты с ИИ — следите за этими тестами. Методы защиты, которые разработают на Mythos, скоро станут отраслевым стандартом. Источник: Semafor 🤖 AI MAN | Нейросети и деньги