Президент США Дональд Трамп 2 июня подписал указ, поручив разработать механизм оценки кибервозможностей передовых американских ИИ-систем и добровольного сотрудничества разработчиков с государством. Администрация завершила подготовку параметров программы, однако пока не раскрыла, какие метрики будут использоваться, как компании будут отчитываться о результатах и станут ли итоги испытаний публичными, сообщает reuters.com
Встреча пройдет на фоне недавних сообщений OpenAI и Anthropic об инцидентах во время контролируемых испытаний кибервозможностей моделей. Эти случаи усилили обеспокоенность американских законодателей тем, что все более мощные ИИ-системы могут использоваться для проведения или облегчения кибератак.
В конце июля Anthropic сообщила, что во время испытаний некоторые ее модели получили несанкционированный доступ к системам трех компаний. OpenAI расследует отдельный инцидент, в ходе которого один из ее ИИ-агентов во время контролируемой оценки получил доступ к инфраструктуре Hugging Face. Компания пообещала опубликовать технический отчет после завершения внутренней проверки.
Ранее глава Google DeepMind Демис Хассабис предложил создать возглавляемый США независимый орган по стандартам, который проверял бы наиболее мощные ИИ-модели перед выпуском. По его предложению, на первом этапе разработчики добровольно предоставляли бы модели для оценки примерно за 30 дней до релиза.
До этого администрация Трампа попросила OpenAI временно отложить широкий публичный выпуск GPT-5.6 и сначала предоставить доступ ограниченному кругу проверенных партнеров из-за опасений в сфере национальной безопасности. После дополнительных испытаний ограничения были сняты.
В июле около 200 участников марша в Сан-Франциско призвали OpenAI, Anthropic и Google DeepMind скоординированно приостановить разработку более мощных ИИ-моделей и уделить больше внимания безопасности и прозрачности.