Выйдет ли ИИ из-под контроля человека: ученый опроверг апокалиптические прогнозы

Американский ученый Эндрю Ин не считает неизбежной перспективу того, что человечество утратит контроль над искусственным интеллектом. По его мнению, развитие ИИ можно сравнить с авиацией: люди не способны полностью контролировать самолеты, но научились делать их достаточно безопасными благодаря опыту и постепенному развитию технологий. В подкасте Silicon Valley Girl Podcast Ин ответил на опасения относительно возможного выхода ИИ из-под человеческого контроля.

ИИ невозможно контролировать идеально

Ин отметил, что люди уже имеют дело с технологиями, поведение которых не могут предсказать абсолютно точно. В качестве примера он привёл самолёты, на движение которых влияют внешние факторы, в частности ветер.

По словам исследователя, на начальных этапах развития авиации это приводило к катастрофам и гибели людей. Однако накопленный опыт позволил постепенно совершенствовать технологии и сделать полёты значительно безопаснее.

ВАС ЗАИНТЕРЕСУЕТ

Прибыль для компаний, риски — для людей: эксперт призвал остановить неконтролируемую гонку ИИ

Опыт авиации можно применить к ИИ

«Никто не может идеально контролировать ИИ, поскольку он генерирует результаты, содержащие элемент случайности, поэтому мы не знаем наверняка, как именно он будет действовать», — — заявил Ин.

Учёный признаёт, что при использовании искусственного интеллекта уже происходили сбои, некоторые из которых нанесли реальный ущерб. В то же время он считает, что это не является доказательством неизбежной потери контроля над технологией. Так же считают и учёный Гэри Маркус, и предприниматель Зак Корман, которые проанализировали взлом платформы Hugging Face агентами ИИ компании OpenAI.

Он отметил, что сложные системы — от самолетов и электрических схем до современного ИИ — обычно разрабатываются постепенно, осторожно наращивая их возможности и одновременно совершенствуя механизмы контроля. Эксперт признал, что человечество никогда не сможет обеспечить абсолютный контроль ни над самолетом, ни над ИИ. Однако, по его мнению, уже сейчас возможностей для их контроля достаточно, чтобы сценарий полной потери контроля не выглядел неизбежным.

В то же время историк и футуролог Юваль Ной Харари заявил, что ИИ может превзойти человеческий разум и взять на себя контроль над процессами уже в течение следующих 10 лет. По его словам, человечество все еще контролирует ситуацию, а решающими станут своевременные регуляторные меры государств, которые должны не допустить превращения интеллектуального превосходства алгоритмов в реальную политическую и социальную власть машин.