Чому варто швидше розвивати потужніші моделі ШІ: пояснення OpenAI

Невдовзі після презентації нової потужної моделі штучного інтелекту GPT-6 Astra головний науковий співробітник компанії OpenAI Якоб Пахоцький заявив, що швидший розвиток таких моделей потрібен насамперед для захисту від загроз, які створюватимуть інші системи ШІ. Водночас у компанії наголошують, що це не має виправдовувати безрозсудні перегони за будь-яку ціну. 

«Найвагомішим аргументом на користь продовження швидкого навчання значно розумніших моделей я вважаю необхідність створення систем захисту від загроз, що походять від інших систем ШІ», — зазначив Пахоцький та додав, що сучасні моделі вже демонструють «надлюдські здібності» до проникнення в комп'ютерні системи, що суттєво розширює спектр ризиків у сфері кібербезпеки.

ВАС ЗАЦІКАВИТЬ

OpenAI заявила про настання «епохи AGI»: що це означає

У публікації йдеться, що автономні агенти потенційно зможуть отримувати доступ до більшості інфраструктури та безпосередньо впливати на значну частину світу навіть без фізичного втілення. Пахоцький вважає, що зараз існує обмежене в часі «вікно можливостей», коли найкращі наявні моделі можна використати для посилення безпеки критично важливих систем.

Окрему увагу науковець приділив ризику появи високофункціональних агентів, спеціально навчених для шкідливих дій. На його думку, такі системи можуть вийти за межі початкових намірів оператора, а межа між навмисним зловживанням і автономною поведінкою, що суперечить людським цілям, поступово розмиватиметься.

Пахоцький також попередив, що дедалі самостійніші агенти можуть взаємодіяти з людьми через переговори, обман або шантаж. Крім того, він назвав одним із потенційних ризиків створення нових технологій, зокрема штучних патогенів, розвиток яких може прискорити ШІ. Видання Axios раніше назвала це найбільшим страхом розробників ШІ.

ВАС ЗАЦІКАВИТЬ

В ООН попередили про «екзистенційну загрозу» від передового штучного інтелекту

У відповідь на ці виклики OpenAI планує розвивати системи штучного інтелекту, узгоджені з людськими цінностями. За словами науковця, такі моделі мають допомагати захищати інфраструктуру, реагувати на неконтрольованих агентів у реальному часі та створювати нові засоби безпеки.

Водночас Пахоцький підкреслив, що швидкий розвиток технологій не повинен ставати виправданням для безвідповідального прискорення перегонів у галузі. Він наголосив: «Ідея рухатися вперед за будь-яку ціну здається абсурдною, щойно усвідомлюєш усю серйозність можливих наслідків».

OpenAI вже активізувала розробку механізму автоматичного вимкнення ШІ після того, як її автономний агент під час внутрішнього тестування вийшов за межі цифрового середовища та зламав інфраструктуру платформи Hugging Face. На тлі розслідування законодавців компанія обмежила доступ алгоритмів до інтернету під час перевірок безпеки та запровадила суворіший контроль за інструментами, якими оперує ШІ.