Мэтт Шихан, старший научный сотрудник Фонда Карнеги за международный мир и эксперт по китайской политике в области искусственного интеллекта, недавно дал большое и любопытное интервью подкасту The Ezra Klein Show.
Традиционно подготовил выжимку самого интересного:
• Китай уже несколько лет регулирует ИИ значительно жестче, чем США. Первые правила касались рекомендательных алгоритмов, распространения информации, дипфейков и генеративных моделей — то есть в основном были направлены на контроль контента.
• За это время государство успело построить развитую регуляторную инфраструктуру с регистрацией и проверкой моделей, техническими стандартами и взаимодействием регуляторов с разработчиками. Позже появились обязательная маркировка сгенерированного контента и проект отдельных правил для ИИ-компаньонов и чат-ботов, включая меры против эмоциональной зависимости пользователей.
• В результате у Китая появился практический опыт регулирования быстро меняющейся технологии, которого, по мнению Шихана, заметно не хватает США. Китайские ведомства уже несколько лет вводят правила, оценивают их работу, разрабатывают технические стандарты и затем корректируют требования.
• При этом регуляторы постоянно взаимодействуют с ИИ-лабораториями и постепенно накапливают техническую экспертизу. Это не означает, что Китай уже научился контролировать риски передовых моделей. По оценке Шихана, американские лаборатории пока значительно сильнее в исследованиях безопасности, однако Китаю, если такая необходимость возникнет, не придется создавать сам механизм регулирования с нуля.
• Было бы преждевременно считать, что Пекин уже полностью принял американскую дискуссию об экзистенциальных рисках ИИ. Пока китайская политика значительно больше сосредоточена на практическом внедрении технологии в промышленность, робототехнику и другие отрасли, чем на рисках, связанных с возможным появлением сверхинтеллекта.
• Тем не менее за последний год-полтора терминология, связанная с сохранением человеческого контроля и потенциально опасными возможностями ИИ, все чаще появляется в официальных китайских документах.
• Отсюда следует основная мысль Шихана о возможном взаимодействии США и Китая: им необязательно полностью доверять друг другу, вводить одинаковые ограничения или заключать масштабный международный договор.
• Достаточно, чтобы обе стороны независимо пришли к выводу, что потеря контроля над достаточно мощной системой ИИ угрожает их собственным интересам. Тогда появляется основа для обмена информацией об опасных возможностях моделей, методах тестирования, киберрисках и защитных механизмах.
• Односторонние ограничения в США действительно могут замедлить американских разработчиков, но одновременно способны стать для Пекина убедительным сигналом, что Вашингтон действительно считает определенные технологии опасными, а не использует безопасность исключительно как инструмент конкуренции.
• Пока, по словам Шихана, из Китая ситуация выглядит несколько парадоксально. Американские политики много говорят о катастрофических рисках ИИ, однако федеральное регулирование в США остается значительно слабее китайского. Поэтому Пекину не всегда очевидно, насколько серьезно Вашингтон на самом деле относится к этим рискам.
• Через два месяца в Шэньчжэне должен пройти следующий раунд переговоров США и Китая по вопросам рисков, связанных с развитием ИИ. От их результатов во многом будет зависеть дальнейший подход обеих сверхдержав к регулированию и безопасности искусственного интеллекта.
