Гутерриш призвал разработать глобальные правила в отношении ИИ: дети должны находиться под особой защитой

Вскоре после того, как министр иностранных дел Великобритании Иветт Купер призвала мировые державы незамедлительно разработать общие правила регулирования искусственного интеллекта, генеральный секретарь ООН Антониу Гутерриш заявил, что развитие ИИ опережает возможности человечества контролировать его. В ходе первого глобального диалога ООН по управлению ИИ, который начался в Женеве, он призвал страны согласовать международные правила в отношении ИИ и сделать защиту детей одним из главных приоритетов глобального регулирования, передает Reuters.

По словам Гутерреша, технологии ИИ уже способны изменять экономику, рынок труда, влиять на выборы и баланс безопасности. Именно поэтому международное сообщество должно как можно скорее разработать общие правила их использования.

«Инновации нуждаются в ограничениях… Чтобы искусственный интеллект был эффективным, его необходимо регулировать», — заявил Гутерриш.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект как оружие и рычаг влияния: на саммите НАТО обсудят вопросы безопасности ИИ — Politico

Двухдневный глобальный диалог не предусматривает подготовку международного договора. Его целью является обсуждение принципов глобального управления искусственным интеллектом, минимизации потенциального вреда и использования возможностей этой технологии.

В ходе встречи делегаты рассмотрят первую независимую глобальную научную оценку развития ИИ, подготовленную группой из 40 экспертов при поддержке ООН. Полный отчет планируется обнародовать в следующем году, когда также состоится вторая глобальная встреча в Нью-Йорке.

Особое внимание Гутерриш уделил безопасности детей. Он заявил, что современные системы искусственного интеллекта уже используются детьми, хотя их влияние на психику и развитие до сих пор недостаточно изучено. Ранее это подтвердил анализ ЮНИСЕФ, в котором говорится, что 20 миллионов детей в десяти странах уже используют инструменты ИИ, однако механизмы защиты несовершеннолетних не успевают за стремительным распространением технологии.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект делает мир глупее — СМИ

«Мы не позволяем, чтобы лекарства попали к ребенку, пока их безопасность не будет доказана. Мы проверяем каждую игрушку. Однако искусственный интеллект уже проник в жизнь наших детей — в их обучение, дружеские отношения, самые сокровенные вопросы — ещё до того, как кто-то спросил, как это на них повлияет», — подчеркнул Гутерриш.

Генеральный секретарь ООН предложил создать международное обязательство AI Child Safety Pledge, в соответствии с которым компании должны будут доказывать безопасность своих систем, прежде чем открывать к ним доступ детям. Кроме того, по его словам, системам ИИ следует запретить генерировать сексуализированные изображения детей, а в случаях, когда ребенок демонстрирует признаки психологического кризиса, чат-боты должны прекращать взаимодействие и перенаправлять его к человеку, способному оказать помощь.

Гутерриш также обратил внимание на неравномерное развитие технологий искусственного интеллекта в мире. Он отметил, что передовые модели и вычислительные ресурсы сосредоточены в небольшом числе стран и компаний, тогда как развивающиеся страны рискуют остаться позади.

ВАС ЗАИНТЕРЕСУЕТ

«ИИ-гонка»: G7 и западные разработчики искусственного интеллекта объединяются против Китая — Politico

Согласно представленному независимому отчету экспертов, на долю США приходится 75 % вычислительной мощности 500 самых мощных суперкомпьютеров для ИИ, тогда как на долю Китая — еще 15 %. Несмотря на то, что более миллиарда человек в мире уже еженедельно пользуются чат-ботами с ИИ, уровень их распространения в развивающихся странах остается значительно ниже.

По данным EuroNews, накануне саммита более 100 международных организаций, в числе которых Amnesty International и Save the Children, также призвали правительства усилить защиту детей от рисков ИИ. Коалиция, которую координирует 5Rights Foundation, считает, что ответственность за безопасность систем ИИ должны нести в первую очередь компании-разработчики, а не родители. Организации предложили десять ключевых мер, среди которых:

• обязанность компаний доказывать безопасность своих продуктов для детей ещё до их запуска;
• введение финансовых санкций за нарушение прав детей;
• запрет на использование психологической уязвимости несовершеннолетних при разработке сервисов;
• запрет на коммерческое использование изображений, голосов и биометрических данных детей.

«Дети не просят нас остановить инновации в области ИИ, но и не следует ждать, пока будет нанесен ущерб, а потом только убирать за собой», — заявила исполнительный директор 5Rights Foundation Леанда Баррингтон-Лич и добавила, что уважение к правам детей «должно стать обязательным условием ведения бизнеса, а не дополнительной опцией».

Такие заявления звучат на фоне реальных угроз со стороны ИИ. В частности, чат-бот ChatGPT компании OpenAI помогал готовить теракты и подталкивал людей к самоубийству. Также чат-бот Grok компании xAI массово генерировал обнаженные изображения детей, которые распространял через соцсеть X.