Американские законодатели призвали к внедрению «аварийного выключателя» для искусственного интеллекта после того, как автономный агент компании OpenAI сбежал и атаковал технологический стартап Hugging Face.
Затем стало известно о еще одном инциденте — на сей раз во время тестов вышел из-под контроля ИИ-агент компании Anthropic: он взломал три организации, проникнув в их внутренние системы.
В четверг, 30 июля, конгрессмен-демократ Тед Лью и его коллега-республиканец Натаниэль Моран представили соответствующий законопроект (AI Kill Switch Act).
Они хотят, чтобы министерство внутренней безопасности США получило право требовать от частной компании остановить работу ИИ-модели при возникновении ситуации, когда агенты ИИ выходят из-под контроля и сбегают.
«Крайне важно, чтобы системы ИИ были оснащены аварийными выключателями, чтобы мы могли предотвратить нанесение этой технологией катастрофического ущерба, а также чтобы федеральное правительство обладало четкими полномочиями и процедурами для отключения вышедших из-под контроля моделей ИИ», — подчеркнул Тед Лью.
Представленный законопроект — попытка властей взять под определенный контроль технологию, которая в значительной степени остается вне регулирования, а ее развитие и влияние в основном сосредоточены в руках нескольких крупных технологических лабораторий.
Однако даже если закон об аварийном отключении ИИ будет принят, его реализация все равно будет зависеть от сотрудничества правительства с частными компаниями.
