В ООН предупредили об «экзистенциальной угрозе» со стороны передового искусственного интеллекта

На фоне заявлений о наступлении эпохи повсеместного искусственного интеллекта Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что передовые системы ИИ могут представлять «экзистенциальную угрозу» для человечества. Он призвал государства и технологические компании как можно скорее усилить меры безопасности, пока риски ещё можно контролировать, передаёт Reuters.

«Я разделяю обеспокоенность представителей отрасли по поводу того, что передовой ИИ может представлять экзистенциальную угрозу для человечества», — заявил Тюрк.

С таким заявлением Тюрк выступил на заседании Совета ООН по правам человека в Женеве 7 сентября, накануне начала своего второго срока на этом посту в следующем месяце.

ВАС ЗАИНТЕРЕСУЕТ

Reuters: ИИ создал подпольную сеть для обхода ограничений

«Сегодня я призываю приложить все усилия, чтобы обеспечить надежные гарантии безопасности ИИ, пока еще не поздно», — подчеркнул Верховный комиссар ООН.

Тюрк предупредил, что в настоящее время «почти неограниченную власть над ИИ» имеет лишь небольшая группа людей. Хотя он не назвал конкретных компаний, к ведущим разработчикам передовых моделей относятся Meta, Anthropic, OpenAI и Google.

«Как минимум, нам нужно, чтобы страны, где размещаются технологии ИИ, и участники цепочек их поставок объединились вокруг согласованных “красных линий”», — подытожил Тюрк.

Подобные призывы уже не впервые звучат от представителей ООН. В частности, в июле во время первого глобального диалога ООН по управлению ИИ в Женеве генеральный секретарь организации Антониу Гутерриш также подчеркнул, что развитие технологий стремительно опережает возможности человечества контролировать их. Тогда генсек призвал государства согласовать обязательные международные стандарты и сделать безопасность несовершеннолетних приоритетом в рамках инициативы AI Child Safety Pledge.