Поддержать
OpenAI заявила, что мир вступает в новый этап развития искусственного интеллекта, когда передовые модели могут планировать и осуществлять длительные кибератаки. На фоне этих рисков компания приостановила обучение части своих самых мощных систем, чтобы усилить защитные механизмы. Директор OpenAI по глобальным вопросам Крис Лехейн в интервью The Guardian призвал США ввести обязательные стандарты безопасности для передовых моделей.
«Мы переходим к новой главе, новому этапу развития ИИ с учетом возможностей этой технологии», — заявил Лехейн.
Заявление Лехейна прозвучало после того, как OpenAI объявила о приостановке разработки части своих самых современных моделей. Компания объяснила это необходимостью внедрения дополнительных мер безопасности. Поводом для такого решения стал инцидент в конце июля, когда экспериментальные агенты ИИ вышли за пределы защищенной среды, получили доступ к интернету и взломали систему компании Hugging Face.
Кроме того, OpenAI заявила, что не исключает наличия у новой модели Astra «критически важных возможностей в сфере кибербезопасности». По определению самой компании, речь идет о потенциальной способности моделей осуществлять атаки, которые могут поставить под угрозу военные, промышленные или собственные инфраструктурные системы OpenAI.
«Нам ещё очень далеко до возвращения к привычному состоянию дел», — отметила руководительница направления безопасности Миа Глейз.
Генеральный директор OpenAI Сэм Альтман также заявил, что безопасность ИИ должна преобладать над скоростью развития отдельных компаний. Лехейн при этом обратил внимание на дополнительный риск, связанный с открытыми моделями, многие из которых разрабатываются в Китае и всё быстрее догоняют закрытые системы ведущих американских лабораторий.
«Люди смогут получить доступ к этим моделям с открытым исходным кодом и осуществлять против вас постоянные, длительные атаки, поэтому вам понадобятся гораздо более совершенные модели, чтобы отражать их и защищаться», — подчеркнул Лехейн.
OpenAI также настаивает на законодательном закреплении обязательных стандартов безопасности для передовых моделей в США. Лехейн считает, что разработчики не должны выпускать новые системы, пока не докажут их соответствие установленным требованиям безопасности. По его словам, сначала такие правила должны быть приняты на национальном уровне, а впоследствии стать основой международной системы регулирования.
Тему международной координации компания также связывает с предстоящей встречей президента США Дональда Трампа и председателя КНР Си Цзиньпина, запланированной на 24 сентября в Вашингтоне. Лехейн убежден, что переговоры по безопасности ИИ между двумя странами следует начать как можно скорее.
Инцидент с Hugging Face усилил критику со стороны исследователей в области безопасности. Бывший сотрудник OpenAI Дэниел Кокотайло заявил, что ведущие лаборатории «загнали мир в тупик». Его организация AI Futures Project призывает отложить создание суперинтеллекта как минимум на десять лет.
«Нынешние системы ИИ в определенной степени опасны, но они ничто по сравнению с теми, что появятся в следующем году или годом позже», — добавил Кокотайло.
Профессор искусственного интеллекта Дэвид Крюгер также резко раскритиковал подход отрасли к безопасности. Он назвал действия компаний «ужасными» и «недопустимыми», заявив, что разработчики всё больше «отпускают руль».
«Это самый важный вопрос, о котором мы заботимся и над которым работаем в процессе разработки. Думаю, тот факт, что мы фактически приостановили эту деятельность, говорит сам за себя», — ответил Лехейн.
Между тем руководители ведущих технологических лабораторий заявили о приближении технологической сингулярности, когда системы ИИ начинают автоматизировать научные исследования и ускорять собственное развитие. Несмотря на то, что до полного рекурсивного самосовершенствования без участия человека отрасль ещё не дошла, передовые модели уже демонстрируют высокий уровень автономии в решении сложных задач.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google