Керівники OpenAI та Anthropic виступили в Раді Безпеки ООН: різні погляди на безпеку ШІ

Генеральні директори OpenAI та Anthropic Сем Альтман і Даріо Амодей виступили перед Радою Безпеки ООН з окремими доповідями про безпеку штучного інтелекту. Хоча обидва закликали до міжнародної співпраці, вони по-різному оцінили масштаби ризиків цієї технології. Дискусія відбулася на тлі посилення уваги до безпеки ШІ після недавніх заяв дослідників Anthropic про можливі катастрофічні наслідки розвитку цієї технології, передає The Guardian.

Сем Альтман під час приблизно 10-хвилинного виступу наголосив, що ШІ здатний підвищити продуктивність і принести користь суспільству, але водночас може використовуватися зі зловмисною метою. За його словами, майбутнє цієї технології має визначатися демократичними інституціями, а не лише приватними лабораторіями.

ВАС ЗАЦІКАВИТЬ

Anthropic спрямує мільйонів на підтримку регулювання штучного інтелекту в США

«Перед нами стоїть вибір. ШІ може стати або початком нового ренесансу творчості й відкриттів, або ж новою промисловою революцією, що принесе потрясіння та хаос», — заявив Альтман членам Ради Безпеки.

Очільник OpenAI також застеріг від «апокаліптицизму» в дискусії про ризики ШІ та запропонував «серединний шлях», який ґрунтується на трьох принципах: системи мають залишатися під контролем людини, приносити користь суспільству — від медицини до підприємництва — та розширювати можливості людей. Він підкреслив, що ключові рішення щодо розвитку ШІ повинні ухвалювати уряди, підзвітні своїм громадянам.

Водночас виступ Альтмана контрастував із політичною діяльністю OpenAI у США. Комітет політичної дії Leading the Future, створений президентом компанії Грегом Брокманом, зібрав понад 100 мільйонів доларів і витрачав гроші на кампанії проти кандидатів, які підтримують жорсткіше регулювання сфери ШІ.

ВАС ЗАЦІКАВИТЬ

Ризик вимирання людства через ШІ «неприйнятний»: Сем Альтман відклав IPO OpenAI

Даріо Амодей виступав перед Радою Безпеки через відеозв'язок і повторив ключові тези із заяви, опублікованої у блозі 12 вересня. Він закликав укласти міжнародні угоди, які заборонять використання ШІ для розробки біологічної зброї та запровадять єдині світові стандарти тестування нових моделей — тобто перевірки їхньої безпеки перед використанням.

«За умови неналежного управління, я навіть вважаю, що ШІ може становити загрозу для людства загалом. Ми в Anthropic переконані, що маємо найкращі в галузі показники щодо запобігання таким ризикам», — наголосив Амодей.

Попри різні акценти у виступах, Альтман і Амодей давно виступають за посилення міжнародної співпраці у сфері регулювання ШІ. Водночас їхні компанії продовжують конкурувати за лідерство в галузі та випускають нові моделі ШІ. Напередодні вийшли GPT-6 Sol і GPT-6 Luna від OpenAI, а також Claude Opus 5.5 від Anthropic.