Глава передовой американской ИИ-лаборатории Anthropic Дарио Амодеи заявил, что компания не поддерживает запрет открытых моделей искусственного интеллекта с открытыми весами, в том числе китайских.
Поводом стали сообщения о возможных ограничениях для американского бизнеса и открытое письмо в защиту таких моделей ИИ, которое подписали Nvidia, Microsoft, Meta, OpenAI и другие технологические компании.
По словам Амодеи, открытые модели без опасных возможностей являются общественно полезным инструментом, поскольку их можно бесплатно распространять, запускать на собственной инфраструктуре и адаптировать под задачи бизнеса и исследований.
Вместо общего запрета глава Anthropic предлагает сосредоточиться на трех направлениях:
• Первое предполагает усиление экспортного контроля мощных ускорителей и оборудования для производства чипов, чтобы ограничить возможности авторитарных государств обучать собственные передовые модели.
• Второе касается борьбы с промышленной дистилляцией, при которой более слабая модель обучается на ответах мощной системы и позволяет приблизиться к лидерам при значительно меньших вычислительных затратах.
• Третья мера предусматривает обязательное тестирование всех достаточно мощных моделей на кибернетические, биологические и другие опасные возможности независимо от того, распространяются ли они открыто или работают через закрытый сервис.
При этом Амодеи не согласен с тезисом о том, что модели с открытыми весами автоматически усиливают защитников больше, чем атакующих.
После публикации модели разработчик уже не может отозвать ее, установить для нее надежные ограничения или контролировать способы применения.
Особенно серьезной глава Anthropic считает потенциальную асимметрию в биологии, где мощная модель ИИ может ускорить создание опасного патогена, тогда как разработка вакцин, производство препаратов и развертывание защиты потребуют значительно больше времени.
Поэтому Амодеи предлагает оценивать риски мощных моделей на основе практических испытаний перед их выпуском, а не заранее считать, что открытый или закрытый способ распространения сам по себе определяет уровень опасности системы.
