Поддержать
Генеральный директор Anthropic Дарио Амодей заявил о необходимости замедлить развитие самых мощных систем искусственного интеллекта из-за рисков для человечества. Руководители xAI Илон Маск и OpenAI Сэм Альтман поддержали его призыв, пишет Bloomberg.
Генеральный директор Anthropic опубликовал в субботу пост в блоге, в котором отметил, что его компания введет новые меры безопасности, такие как привлечение независимых экспертов, и призвал отрасль поддержать более масштабное замедление темпов развития ИИ.
Амодей назвал два основных фактора, определивших его новый призыв: способность ИИ к самосовершенствованию и недавний инцидент с участием OpenAI и Hugging Face, когда целая группа ИИ-агентов объединилась, чтобы взломать сторонний веб-сайт.
«Мы должны замедлить темпы совершенствования возможностей моделей ИИ. Прогресс и в дальнейшем будет казаться быстрым, и мы должны разумно использовать время, которое мы выиграем», — написал он.
Но он также отметил, что любое замедление должно быть сбалансировано с реалиями конкуренции.
«Чтобы было понятно: регулирование темпов не означает остановку обучения моделей или технического прогресса, а обеспечение того, чтобы у компаний было достаточно времени для наладки и защиты своих моделей, а у независимых экспертов — для подтверждения этого», — написал Амодей.
После его призыва глава OpenAI Сэм Альтман пообещал принять предложение Амодея о «независимых экспертах с доступом, аналогичным доступу сотрудников», а Илон Маск, возглавляющий xAI Corp., написал: «Дарио прав».
Хотя все трое лидеров, как отмечают журналисты, на протяжении многих лет предупреждали о рисках ИИ, фактическое скоординированное замедление развития практически не имеет прецедентов в этой отрасли, которая выпускала один продукт за другим ради повышения вовлеченности пользователей, захвата доли рынка и стремления к росту продаж.
Однако обеспокоенность по поводу серьезных рисков, связанных с искусственным интеллектом, начала выходить на первый план, отчасти благодаря громкому увольнению на этой неделе исследователя компании Anthropic, вызванному экзистенциальными опасениями, что его компания действует безответственно.
В то же время издание отмечает, что пока остается неясным, как далеко ведущие компании в сфере ИИ, которые сами являются ярыми конкурентами, а также сталкиваются с жесткой конкуренцией со стороны китайских фирм, зайдут во внедрении новых ограничений или мер безопасности.
Также непонятно, позволят ли антимонопольные органы компаниям регулировать темпы развития каким-либо скоординированным образом, а инвесторы, стремящиеся получить маржу и прибыль, отреагируют ли на идею замедления.
На протяжении всего бума ИИ руководители ведущих лабораторий в этой области предупреждали о потенциальных экзистенциальных рисках — эти утверждения иногда отвергали как попытки продвижения возможностей своих продуктов и позиционирования себя в качестве лучших распорядителей этой технологии. Сам Амодей ранее заявлял, что вероятность того, что всё пойдёт «очень, очень плохо», составляет 25%.
Компания Anthropic уже давно позиционирует себя как организацию, которая подходит к разработке искусственного интеллекта более ответственно и безопасно, чтобы минимизировать потенциальные опасности этой технологии и максимизировать общественные выгоды. В начале этого года компания приложила значительные усилия, чтобы ограничить выпуск своей модели Mythos после того, как установила, что она представляет особую угрозу для кибербезопасности. Ранее Anthropic также заявляла, что миру нужна система, которая позволяла бы коллективно решать, когда следует замедлить работу над этой технологией.
В то же время Anthropic продолжает вести конкурентную борьбу с OpenAI за создание всё более совершенных моделей, способных автоматизировать более сложные и ценные задачи для бизнес-клиентов. Обе компании подали документы для выхода на биржу, причем ожидается, что Anthropic дебютирует на Уолл-стрит уже в этом году.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google