🤖 Ущерб от ИИ-катастрофы может оказаться не по карману всем страховщикам мира
Разработчик Claude допускает, что возможностей всей мировой страховой отрасли может не хватить для покрытия такого риска. Об этом компания Anthropic предупредила в
документах к IPO.
Автономные ИИ-агенты способны менять код, удалять данные и проводить финансовые операции. Одна ошибка может запустить цепочку следующих — быстрее, чем человек успеет вмешаться. Часть последствий будет сложно или невозможно отменить.
Anthropic признает: гарантировать, что компания выявит и предотвратит все опасные действия моделей, она не может.
Tokensales |
News |
Incrypted Plus