Заборона самовдосконалення ШІ може послабити США — економіст Тайлер Коуен

Американський економіст Тайлер Коуен розкритикував ідею заборони механізмів рекурсивного самовдосконалення (RSI) моделей штучного інтелекту. На його думку, таку політику буде майже неможливо реалізувати на практиці, а її наслідком може стати втрата конкурентоспроможності американських компаній.

Коуен відреагував на пропозиції обмежити RSI — здатність одних моделей ШІ використовувати власні результати для прискорення розвитку інших моделей, — які, зокрема, описує журналіст Езра Кляйн. Автор стверджує, що навіть якщо відкласти питання про втрату інновацій, залишається невирішеним головне: як саме контролювати використання таких технологій у світі, де існують іноземні сервіси, відкриті моделі та транснаціональні корпорації.

Економіст ставить низку практичних запитань: чи доведеться блокувати американцям доступ до закордонних сайтів зі ШІ, забороняти зберігання відкритих моделей на особистих комп'ютерах або перевіряти історію створення моделей. На його думку, складно також уявити, як працюватиме заборона, якщо компанії перенесуть розробку до іноземних дочірніх структур або якщо провідні моделі стануть доступними лише за межами США.

ВАС ЗАЦІКАВИТЬ

Марк Цукерберг виступив проти сповільнення розвитку штучного інтелекту

Коуен вважає, що відмова американських лабораторій від RSI створить перевагу для конкурентів, які продовжать інвестувати в обчислювальні потужності та розвиток моделей. Він також звертає увагу на суперечність між можливістю звичайних компаній використовувати ШІ для написання коду та потенційною забороною таких підходів для провідних розробників моделей.

Автор також сумнівається, що існує зрозумілий механізм, який дозволив би тимчасово зупинити розвиток RSI, а потім безпечно його відновити. На його думку, якщо провідні лабораторії припинять працювати з такими системами, їм буде складніше оцінити їхні реальні ризики та рівень безпеки.

Підсумовуючи, Коуен називає ідею заборони RSI «нежиттєздатною» та вважає її прикладом політики, яка звучить переконливо, але не враховує практичних наслідків. Він стверджує, що після вже ухвалених рішень у сфері розвитку ШІ країнам доведеться працювати над тим, щоб пройти цей етап «більш-менш правильно», а не розраховувати на прості заборони.

ВАС ЗАЦІКАВИТЬ

Генеральний директор Nvidia оцінив ймовірність кінця світу у 2030 році

«Що довше ми заперечуватимемо цю істину, то важче буде всім нам», — заявив Коуен.

Застереження економіста щодо небезпеки штучного гальмування інновацій перегукуються з поточною політикою Вашингтона, спрямованою на зняття бар'єрів перед розробниками. Зокрема, президент США Дональд Трамп оголосив про плани створити окремі «ШІ-сили» за зразком Космічних сил та призначити куратора галузі — «ШІ-царя», категорично відкинувши ідею державного регулювання технології. Очільник Білого дому назвав занепокоєння щодо неконтрольованого розвитку ШІ «містифікацією» та підкреслив, що США не стримуватимуть власні компанії в умовах жорсткого суперництва з Китаєм.

Водночас цей підхід прямо суперечить позиції керівників провідних американських ШІ-лабораторій, зокрема Anthropic, OpenAI та xAI. Вони публічно закликали до скоординованого уповільнення галузі для впровадження стандартів безпеки.