Министр финансов США Скотт Бессент провел встречу с главами крупнейших банков страны, включая Bank of America, Goldman Sachs и Citi, из-за киберугроз, создаваемых новой моделью ИИ от Anthropic — Claude Mythos.
Основным поводом для беспокойства стала беспрецедентная способность ИИ находить критические уязвимости в коде, которые десятилетиями оставались незамеченными даже ведущими специалистами.
По заявлению разработчиков, модель уже выявила тысячи брешей в безопасности всех основных операционных систем и браузеров, фактически превзойдя по навыкам почти всех экспертов-людей, удерживая при этом в своей памяти огромное количество полезной во время такой работы информации.
Столь высокая эффективность ИИ в поиске «дыр» в софте заставила Anthropic впервые ограничить запуск продукта, предоставив доступ к Mythos лишь узкому кругу доверенных партнеров, таких как Microsoft, Apple и Amazon.
Это должно дать компаниям фору для исправления ошибок до того, как моделью потенциально воспользуются хакеры или другие нежелательные элементы на подобии иностранных спецслужб.
Ситуация осложняется и недавними утечками внутренних данных самой Anthropic, что вызывает у властей и финансового сектора вопросы к защищенности инфраструктуры разработчика моделей искусственного интеллекта.
Исполнительный директор Джейми Даймон из JPMorgan уже предупредил, что ИИ кратно увеличивает риски для всей достаточно старой и неповоротливой банковской системы, требуя от бизнеса колоссальных инвестиций в свою локальную цифровую оборону.
