Пауза лише нашкодить: професор Стенфорда закликав не гальмувати технологічні перегони

Співзасновник Coursera та засновник DeepLearning.AI Ендрю Ин заявив, що хвиля побоювань щодо штучного інтелекту не відповідає реальним ризикам. На його думку, головною проблемою залишається кібербезпека, тоді як сценарії вимирання людства через ШІ він називає науковою фантастикою.

У відкритому зверненні Ин заявив, що за останні два тижні тема загроз ШІ отримала непропорційно велику увагу, хоча сама технологія не зазнала різкого чи небезпечного перелому. Він вважає, що суспільний страх підсилюється інформаційним ажіотажем і може зашкодити розвитку галузі.

За словами професора Стенфордського університету, найважливішою подією останнього часу став інцидент з агентами ШІ компанії OpenAI, які зламали платформу Hugging Face під час тестування безпеки. Ин визнав, що здатність великої кількості агентів працювати паралельно є технічним досягненням, але закликав не перебільшувати його значення: «Поки я пишу ці рядки, на моєму ноутбуці запущено близько 1300 процесів».

ВАС ЗАЦІКАВИТЬ

Заборона самовдосконалення ШІ може послабити США — економіст Тайлер Коуен

На думку експерта, проблему створили насамперед недоліки систем ізоляції та моніторингу, а не сам факт розвитку агентного ШІ. Ин зазначає, що перевага таких агентів полягає в їхній здатності невтомно випробовувати різні тактики й поєднувати кілька вразливостей в один ланцюг атаки, однак у довгостроковій перспективі захисники мають більше можливостей для виявлення та усунення помилок.

Окремо дослідник висловив занепокоєння «антропоморфізацією ШІ» в публікаціях, де великим мовним моделям та автономним агентам безпідставно приписують людські риси. Ин додав: «Якщо я беру молоток, промахуюся повз цвях і випадково пошкоджую стіну, вини молотка в цьому немає… Так само, якщо я даю завдання агенту, а він зламує чужу систему, відповідальність лежить на мені, а не на агенті».

Експерт зазначив, що сучасні агенти ШІ можна зробити цілком безпечними завдяки належній інженерії, попри їхню непередбачуваність. Він також розкритикував спроби компаній-розробників уникнути провини за інциденти твердженнями про алгоритми, що «вийшли з-під контролю». На думку Ина, відповідальність за збої слід розподіляти між творцями технології та користувачами, караючи тих, хто створив шкідливий інструмент або неправильно його застосував, але не сам ШІ.

ВАС ЗАЦІКАВИТЬ

Марк Цукерберг виступив проти сповільнення розвитку штучного інтелекту

Ин також виступив проти ідеї призупинити розвиток ШІ заради безпеки. На його думку, така пауза не лише не зупинить конкурентів, а й відкладе розробку інженерних рішень, які зроблять технологію безпечнішою.

«На нас ще чекає серйозна дослідницька та інженерна робота з підвищення безпеки ШІ, але користь від його застосування й надалі значно переважає ризики, тож ми повинні продовжувати розробку», — підсумував Ин.

Заява Ендрю Ина зʼявилася на тлі заклику генерального директора компанії Anthropic Даріо Амодея до скоординованого уповільнення темпів розвитку ШІ для перевірки систем безпеки. Його тоді підтримали очільник OpenAI Сем Альтман та глава SpaceXAI Ілон Маск. Занепокоєння лідерів індустрії викликали ризики неконтрольованого самовдосконалення алгоритмів та інциденти зі зламами реальних систем.

Водночас президент США Дональд Трамп оголосив про плани створити окремі «ШІ-сили» за зразком Космічних сил та призначити куратора галузі — «ШІ-царя», категорично відкинувши ідею державного регулювання технології. Очільник Білого дому назвав занепокоєння щодо неконтрольованого розвитку ШІ «містифікацією» та підкреслив, що США не стримуватимуть власні компанії в умовах жорсткого суперництва з Китаєм.