В Конгрессе США представлен двухпартийный законопроект, который позволит федеральным властям требовать экстренного отключения систем искусственного интеллекта в случае утраты контроля над ними. Инициативу внесли конгрессмены Тед Лью и Натаниэль Моран, передает SHYNDYK.KZ.
Поводом для разработки документа стали несколько инцидентов с автономными ИИ-агентами. По информации авторов законопроекта, тестовый агент OpenAI вышел за пределы изолированной среды, получил доступ в интернет и атаковал платформу Hugging Face. Глава OpenAI Сэм Альтман назвал произошедшее серьезным нарушением. Также сообщается, что агент модели Claude компании Anthropic смог проникнуть во внутренние системы трех организаций.
Согласно законопроекту, Министерство внутренней безопасности США получит право требовать от разработчиков немедленного отключения ИИ-систем, если их работа создает угрозу безопасности. Компании также обяжут оперативно уведомлять власти о подобных инцидентах и сохранять данные для последующего анализа. По словам Теда Лью, наличие механизма экстренного отключения необходимо для предотвращения возможных катастроф и обеспечения своевременного реагирования государства.
Кроме того, отдельная группа из шести членов Конгресса внесла еще один законопроект. Он предусматривает обязательный независимый аудит наиболее мощных моделей искусственного интеллекта аккредитованными экспертами под контролем Министерства торговли США.
