Национальный институт стандартов и технологий США (NIST) объявил о новых соглашениях с Google DeepMind, Microsoft и xAI, в рамках которых государственные специалисты смогут тестировать передовые ИИ-модели еще до их публичного релиза.
Через центр CAISI американские власти получили доступ к передовым моделям ИИ для оценки их возможностей, потенциальных угроз и значения для национальной безопасности.
По данным NIST, организация уже провела более 40 подобных проверок, включая анализ еще не выпущенных моделей.
В некоторых случаях разработчики предоставляют версии ИИ с ослабленными или полностью отключенными защитными ограничениями, чтобы государственные эксперты могли оценить реальные возможности систем без встроенных фильтров.
Фактически США постепенно формируют постоянный механизм взаимодействия между государством и крупнейшими разработчиками ИИ, превращая тестирование нейросетей в элемент национальной стратегии.
CAISI теперь выступает главным государственным центром координации в этой области и занимается не только проверкой моделей, но и разработкой стандартов безопасности, обменом данными и оценкой международной конкуренции в сфере ИИ.
В тестировании участвуют специалисты из разных ведомств, включая структуры, связанные с вопросами обороны и разведки, а сами проверки могут проходить даже в закрытых классифицированных средах.
