OpenAI меняет протоколы безопасности: если бы новые правила действовали раньше, стрельба в Канаде не произошла бы

Компания OpenAI заявила, что стрелок, причастный к одной из самых смертоносных школьных стрельб в Канаде, обошел запрет ChatGPT, создав вторую учетную запись. Первый аккаунт заблокировали еще в июне 2025 года за нарушение политики использования. После трагедии компания пообещала усилить механизмы выявления рисков и взаимодействовать с правоохранителями, передает The Washington Post.

В OpenAI сообщили, что вторую учетную запись Джесси Ван Рутселар обнаружили только после того, как ее имя обнародовала Королевская канадская конная полиция. В письме к правительству Канады компания отметила, что стрелок смогла обойти системы, которые должны предотвращать создание новых аккаунтов ранее заблокированными пользователями. По данным правоохранителей, 10 февраля в Тамблер-Ридж она убила восемь человек, а затем покончила с собой.

Первый аккаунт Ван Рутселар заблокировали в июне 2025 года после срабатывания автоматизированной системы мониторинга. Впоследствии учетную запись передали на оценку нарушения политики и необходимости обращения в полицию.

ВАС ЗАИНТЕРЕСУЕТ

OpenAI отрицает ответственность за самоубийство подростка, который перед смертью общался с ChatGPT

"На основе того, что мы могли видеть, когда заблокировали аккаунт в июне 2025 года, мы не обнаружили надежных и непосредственных планов, которые соответствовали бы нашим критериям для передачи дела в правоохранительные органы", — заявила вице-президент OpenAI по глобальной политике Энн О'Лири.

В компании сообщили, что усилят системы обнаружения, чтобы лучше предотвращать попытки обхода ограничений и "назначить приоритет обнаружения правонарушителей с высоким риском". Также OpenAI пересмотрит протоколы обращения в полицию, когда разговоры пользователей будут свидетельствовать о неизбежном и достоверном риске. Компания планирует создать и прямую точку контакта с канадскими правоохранительными органами.

"Благодаря нашему постоянному обучению и усовершенствованному протоколу передачи дел в правоохранительные органы, мы передали бы в правоохранительные органы учетную запись, заблокированную в июне 2025 года, если бы ее обнаружили сегодня", — добавила О'Лири.

ВАС ЗАИНТЕРЕСУЕТ

OpenAI обвиняют в содействии самоубийствам: семь новых исков в США и Канаде

Премьер-министр Британской Колумбии Дэвид Эби заявил журналистам, что генеральный директор OpenAI Сэм Альтман согласился встретиться с ним. По словам Эби, компания сообщила правительству провинции, что изменения в порогах реагирования позволили бы полиции получить информацию об активности Ван Рутселар до убийств, однако это "слабое утешение" для семей жертв.

Министр искусственного интеллекта Канады Эван Соломон вызвал представителей OpenAI в Оттаву для объяснения процедур безопасности и принятия решений. Он заявил, что рассматриваются все варианты, поскольку правительство готовит ряд мер для реагирования на вред в интернете и другие вопросы цифровой политики.

По данным полиции, Ван Рутселар сначала убила мать и сводного брата в семейном доме, а затем напала на соседнюю школу. Она имела историю контактов с полицией, связанную с психическим здоровьем, однако мотив стрельбы остается неясным.

Стрельба в Тамблер-Ридже стала одной из самых смертоносных в истории Канады. В декабре 1989 года вооруженный нападающий застрелил 14 студенток в Политехнической школе в Монреале, а в апреле 2020 года мужчина, переодетый в полицейского, за 13 часов убил 22 человека в Новой Шотландии.