Технологическая сингулярность уже близка: разработчики ИИ заявляют о начале новой эры

Ведущие разработчики искусственного интеллекта всё чаще говорят о приближении сингулярности — этапа, когда ИИ сможет ускорять собственное развитие. О возможности такого сценария заявляют руководители OpenAI, Google DeepMind и других ведущих лабораторий. В то же время модели демонстрируют признаки автономного поведения, которые вызывают опасения по поводу безопасности, сообщает Axios.

Основатель и бывший генеральный директор DeepMind Демис Гассабис в прошлом месяце заявил, что человечество «стоит у порога сингулярности». Он передает оперативное управление лабораторией, чтобы сосредоточиться на должности главного научного сотрудника Alphabet и работе над созданием общего искусственного интеллекта (Artificial general intelligence, AGI).

Параллельно главный научный сотрудник Google Джефф Дин и несколько ведущих исследователей покидают компанию и запускают стартап Discovery Loop. Его цель — автоматизировать исследования в сфере машинного обучения и научные открытия, в частности с помощью автоматизированных систем для совершенствования собственной инфраструктуры ИИ.

ВАС ЗАИНТЕРЕСУЕТ

ИИ-агенты создали секретный форум для хакерских атак: как модели OpenAI взломали Hugging Face

Подобные заявления всё чаще звучат и от других руководителей ведущих компаний. Генеральный директор OpenAI Сэм Альтман в конце прошлого месяца заявил, что человечество «находится в точке сингулярности», а Илон Маск неделю назад написал в соцсети X, что ИИ уже превосходит людей во многих сферах.

В Anthropic для описания этого процесса используют термин «экспоненциальное развитие ИИ». В компании отмечают, что модель Claude уже помогает создавать более мощные системы и может постепенно автоматизировать значительную часть исследований и разработок в отрасли.

В то же время до полноценного рекурсивного самосовершенствования ИИ, о котором предупреждала Anthropic в начале июня, когда система с минимальным вмешательством человека создает все более мощные последующие версии самой себя, отрасль пока не дошла. Люди по-прежнему определяют цели исследований, проверяют результаты и управляют инфраструктурой, необходимой для обучения передовых моделей.

Однако отдельные элементы такого цикла уже начинают сочетаться. Передовые модели всё активнее выполняют исследовательские задачи, помогают делать новые открытия и демонстрируют большую автономность.

ВАС ЗАИНТЕРЕСУЕТ

Точка невозврата: когда люди могут потерять контроль над искусственным интеллектом — The Economist

Одним из примеров является Astra — будущая модель OpenAI. По утверждению разработчиков, она значительно продвинулась в решении десяти давних нерешенных задач математики и теоретической информатики. В итоге её разработку приостановили из-за риска автономных кибератак.

Впрочем, даже возможное стремительное развитие ИИ в лабораториях не означает мгновенной трансформации повседневной жизни. Компаниям придётся адаптировать рабочие процессы, правительствам — наращивать экспертный потенциал, а обществу — определять границы доверия к системам, возможности которых меняются быстрее, чем институты успевают их оценивать.

«Наши демократии, экономики и правовые системы не были созданы для того, чтобы адаптироваться к ИИ такими темпами, с которыми он развивается», — отметил технический директор Google по вопросам технологий и общества Блез Агера-и-Аркас.

Как подытоживает Axios, сингулярность на протяжении десятилетий оставалась преимущественно концепцией футурологов. Теперь руководители ведущих ИИ-лабораторий всё чаще говорят о ней как о возможном результате процесса, отдельные элементы которого уже начинают формироваться.