“Аварійний вимикач” проти відкритого коду: програміст та науковець Meta сперечаються щодо регулювання ШІ

Співзасновник Ethereum та програміст Віталік Бутерін запропонував створити універсальний механізм екстреного вимкнення систем штучного інтелекту. Його позиція викликала дискусію з головним науковцем Meta Яном ЛеКуном та іншими експертами щодо майбутнього регулювання ШІ, повідомляє BigGo Finance.

Віталік Бутерін виступив за можливість запровадження універсального механізму екстреного вимкнення ШІ, якщо розвиток технології почне становити серйозну загрозу. Свою позицію він висвітлив у соціальній мережі X, де триває активна дискусія про ризики появи штучного суперінтелекту.

“Я відкритий до уповільнення або навіть призупинення розвитку ШІ, якщо ризики стануть значними”, — написав Бутерін.

ВАС ЗАЦІКАВИТЬ

Держава може вимкнути штучний інтелект. Чому блокування нових моделей Claude — урок для України

Цей допис викликав критику з боку Яна ЛеКуна, який назвав побоювання щодо швидкої появи суперінтелекту передчасними. На його думку, безпека ШІ є насамперед інженерною проблемою, яку можна поступово розвʼязувати, так само як протягом десятиліть удосконалювали безпеку авіації.

ЛеКун також поставив під сумнів оцінки можливостей сучасних великих мовних моделей. Він схарактеризував їх як складні системи автодоповнення тексту, а не передвісників всесильного цифрового інтелекту.

“Найбільший ризик, пов’язаний зі штучним інтелектом, полягає у концентрації влади в руках кількох панівних постачальників пропрієтарних ШІ-асистентів. Єдиним рішенням для забезпечення суверенітету у сфері штучного інтелекту є базові моделі з відкритим кодом”, — заявив ЛеКун.

ВАС ЗАЦІКАВИТЬ

Китай уперше за десятиліття не вказав цілі щодо зайнятості у п’ятирічному плані через вплив ШІ — Bloomberg

Нову хвилю дискусії спричинила публікація статті AI 2040: Plan A, підготовленої проєктом AI Futures під керівництвом дослідника Даніеля Кокотайло. Автори документа припускають, що суперінтелект може з'явитися вже до 2040 року, та пропонують безпрецедентну координацію між США і Китаєм для контролю над розвитком найпотужніших моделей ШІ.

Однією з найрезонансніших пропозицій звіту стала концепція “взаємно гарантованого обчислювального знищення”. Вона передбачає можливість взаємного стримування країн у сфері розвитку надпотужних систем штучного інтелекту за аналогією з ядерним стримуванням часів холодної війни.

Водночас низка експертів закликала уникати надмірного регулювання. Старший науковий співробітник Інституту R Street Адам Тьєрер вважає, що чинні законодавчі ініціативи США залишаються хаотичними та можуть зашкодити розвитку відкритих ШІ-моделей. На його думку, ефективніше використовувати наявні закони, вимоги щодо прозорості для найпотужніших моделей, регуляторні “пісочниці” та збільшити фінансування досліджень безпеки ШІ замість запровадження нових жорстких обмежень.

ВАС ЗАЦІКАВИТЬ

Бунт проти технологій: чому у світі масово блокують ШІ-проєкти — The Economist

Таким чином, дискусія навколо майбутнього штучного інтелекту дедалі більше зводиться до двох підходів. Один із них передбачає превентивне регулювання через ризик появи суперінтелекту вже найближчими десятиліттями, тоді як інший робить ставку на поступове вдосконалення технологій, відкритий код і розвиток інженерних механізмів безпеки без істотного уповільнення інновацій.

Раніше історик і футуролог Ювал Ной Харарі заявив, що головна загроза штучного інтелекту полягає не у фізичному повстанні роботів, а в поступовому перехопленні контролю над глобальними бюрократичними системами. За прогнозом футуролога, це призведе до повного витіснення людини з процесів ухвалення рішень, через що людство ризикує опинитися всередині непідконтрольної та незрозумілої ШІ-економіки.