Антропик объявила в этом месяце о модели под названием Claude Mythos. Сказали, что её слишком опасно выпускать.

Они заблокировали её за проверенной коалицией AWS, Apple, Microsoft, Google и JPMorgan по цене в пять раз выше, чем у их следующей лучшей модели.
Основная идея была в том, что она обнаруживает уязвимости в программном обеспечении, которые ни человек, ни ИИ раньше не находили.
Через две недели исследователь безопасности нашёл те же самые уязвимости, которые Антропик продемонстрировал как доказательство, и загрузил их в небольшие, дешёвые открытые модели, которые может запустить любой.
Каждая из них обнаружила основную уязвимость. Модель с открытым весом из китайской лаборатории также заметила то, чего не заметила анропиковская анонс: уязвимость является червь-распространяемой.
Она распространяется сама по себе с машины на машину.
Это разница между серьёзной ошибкой и тем, что может вывести из строя больницы в 150 странах за выходные.