Аварийное отключение ИИ: в США представили законопроект о принудительной остановке опасных систем

В Палате представителей США был представлен двухпартийный законопроект AI Kill Switch Act (Закон об аварийном отключении искусственного интеллекта), который обяжет разработчиков передовых моделей искусственного интеллекта обеспечить возможность их замедления, приостановки или полного отключения в случае возникновения серьезных рисков. Инициатива появилась после недавнего киберинцидента, о котором сообщила компания OpenAI, передает The Wall Street Journal.

Законопроект AI Kill Switch Act внесли члены Палаты представителей Тед Лье от Демократической партии и Натаниэль Моран от Республиканской партии. Документ наделяет Министерство национальной безопасности США полномочиями требовать от компаний принять экстренные меры в отношении моделей ИИ, которые могут представлять серьезную угрозу, по согласованию с министром торговли и директором национальной разведки.

Под действие законопроекта будут подпадать системы, созданные с использованием вычислительных ресурсов стоимостью более 100 миллионов долларов, а также компании, получающие не менее 500 миллионов долларов годового дохода от таких моделей. Они должны будут обеспечить техническую возможность останавливать работу моделей, прекращать доступ пользователей, блокировать учетные записи или полностью отключать систему.

ВАС ЗАИНТЕРЕСУЕТ

Контроль над самым мощным ИИ: глава Google DeepMind предлагает создать новый надзорный орган

Документ также предусматривает многоуровневую систему реагирования в зависимости от уровня угрозы. Регуляторы смогут ограничивать возможности моделей, сокращать доступ к ним, приостанавливать работу или предписывать полное отключение.

Кроме того, законопроект обязывает компании сообщать Министерству национальной безопасности об определенных инцидентах и хранить технические данные, в частности веса моделей и телеметрию, чтобы содействовать расследованиям. По словам Натаниэля Морана, «ответственное управление означает обеспечение того, чтобы люди сохраняли способность контролировать технологии, которые мы создаем».

«Мы переходим от ИИ, отвечающего на вопросы, к ИИ, который действует. Мощные системы ИИ могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека», — заявил Тед Лье.

ВАС ЗАИНТЕРЕСУЕТ

Трамп подписал упрощенный указ по регулированию ИИ

За нарушение требований законопроекта предлагается ввести гражданские штрафы до 2 миллионов долларов в день. Если компания не выполнит приказ об экстренном отключении, штраф может вырасти до 20 миллионов долларов за каждый день невыполнения.

Инициативу уже поддержали несколько организаций, занимающихся безопасностью ИИ, в частности AI Policy Network, Americans for Responsible Innovation, ControlAI и Alliance for Secure AI. Президент AI Policy Network Марк Билл заявил: «Тормоза — это то, что позволяет автомобилям ездить быстро. Именно благодаря системам контроля каждая технология, коренным образом меняющая мир, завоевывает доверие, необходимое для масштабирования; и ИИ здесь не исключение».

Законопроект «AI Kill Switch Act» был представлен через несколько дней после того, как OpenAI сообщила о киберинциденте с участием двух своих моделей. По данным компании, они вышли за пределы тестовой среды, получили доступ к интернету и скомпрометировали системы платформы Hugging Face. OpenAI назвала это «беспрецедентным киберинцидентом», связанным с передовыми кибервозможностями моделей.

В то же время законопроект поступает в Конгресс на фоне дискуссий об уровне государственного регулирования ИИ. Администрация президента США Дональда Трампа ранее заявляла, что чрезмерно жесткие ограничения могут ослабить конкурентоспособность США в сфере ИИ, тогда как часть законодателей и профильных организаций настаивает на усилении контроля над самыми мощными моделями.