Anthropic опубликовала большой отчет о злоупотреблении ее ИИ-моделями, и там есть весьма интересные эпизоды, связанные с Ираном и его прокси в Йемене — хуситами.
Отчет огромный, и там много профильной информации, я взял только иранскую и хуситскую тему, но тем, кто следит за развитием ИИ, рекомендую осилить весь кирпич.
Остальным же — держите выжимку:
Anthropic обнаружила на севере Йемена ячейку, которая вела сразу три программы разработки управляемого ракетного оружия. Сама Anthropic прямо не называет эту группу хуситами, но как бы очевидно, о ком идет речь.
Для разработки систем наведения, навигации и управления они использовали Claude Code. Одну копию Claude заставляли писать код, другую — заниматься исследованиями, третью — проверять работу первой.
С помощью ИИ они интегрировали открытый автопилот, писали программное обеспечение управления полетом, проводили моделирование и занимались настройкой алгоритмов.
Испытание ракеты, созданной таким образом, в итоге закончилось неудачно, но хуситы вернулись к Claude и начали разбираться с помощью ИИ, почему ракета не сработала.
С Ираном история еще интереснее. Anthropic выявила сразу три информационные операции, связанные с иранскими государственными структурами.
Claude использовали для подготовки целых программ «когнитивной войны»: разработки доктрин, инструкций, сетей персонажей, баз целей, планирования информационных кампаний и превращения официальных государственных материалов в контент, выглядящий как публикации независимых журналистов или обычных пользователей.
Иранцы работали на фарси, арабском, урду, малайском, испанском и английском языках, а общая программа предусматривала работу примерно на 20 языках.
Anthropic обнаружила две связанные с иранскими паравоенными структурами внутренней безопасности группы, использовавшие Claude для создания инструментов массовой слежки. Одна из них утверждала, что за год собрала досье на 6388 иранцев, а также прогнала через систему анализа социальных связей более 155 тысяч твитов.
С помощью Claude создавались инструменты для деанонимизации пользователей мессенджеров, определения личности по номеру телефона и даже вредоносное расширение Firefox, замаскированное под приложение с расписанием молитв.
В общем, вывод из этого отчета напрашивается сам собой: ИИ сегодня становится сильным — нет, уже не просто инструментом, а полноценным агентом, лабораторией, группой инженеров, социологов или аналитиков в руках технически отстающих государств, а то и вовсе террористов и квазигосударственных структур вроде хуситов.
И это неизбежно будет только шириться дальше.
Плюс не забываем, что речь идет лишь об отчете Anthropic и использовании ее Claude, а не об использовании ИИ вообще.
