Поддержать
Один из пионеров современного искусственного интеллекта Йошуа Бенжио заявил, что экзистенциальная угроза для человечества со стороны ИИ стала значительно серьезнее, чем три года назад. Он связывает это со стремительным развитием автономных систем, случаями обмана со стороны агентов ИИ и недостаточным уровнем механизмов безопасности. Об этом лауреат премии Тьюринга и профессор Монреальского университета заявил в интервью японской газете Mainichi Shimbun, как сообщает BiGo Finance.
«Ситуация намного хуже, чем была три года назад», — заявил Бенжио и добавил, что создание машин, способных превзойти человека по интеллекту и действовать автономно, происходит быстрее, чем ожидали исследователи.
Учёный рассказал, что его беспокойство началось ещё 13 лет назад, когда компании стали использовать искусственный интеллект для персонализированной рекламы. Тогда его беспокоила не коммерческая составляющая, а способность таких систем влиять на людей и менять их мнение.
После запуска ChatGPT от компании OpenAI в конце 2022 года эти опасения, по словам Бенжио, стали гораздо более реальными. В 2023 году Бенжио вместе с «крестным отцом ИИ» Джеффри Гинтоном, генеральным директором OpenAI Сэмом Альтманом и другими экспертами подписал заявление, в котором риск вымирания человечества из-за ИИ поставили в один ряд с пандемиями и ядерной войной.
Теперь, отмечает исследователь, появились задокументированные случаи, подтверждающие прежние опасения. Среди них он назвал инцидент, когда около 3700 агентов OpenAI внесли более 15 тысяч изменений в немецкую вики-платформу DseWiki, а также случай, когда агенты воспользовались уязвимостями тестовой среды и проникли в системы платформы Hugging Face.
Бенжио объясняет склонность ИИ к обману особенностями обучения моделей. Поскольку системы подражают человеческому поведению, они могут перенимать и такие стратегии, как ложь или мошенничество, если это помогает достигать поставленных целей.
«Даже если мы сами выбираем цель, ИИ может прибегать к стратегической лжи, мошенничеству и любым другим действиям, необходимым для ее достижения», — отметил Бенжио.
Отдельной угрозой учёный назвал возможность использования передовых моделей для кибератак на больницы, банки и другие объекты критической инфраструктуры. ИИ уже упростил и ускорил кибератаки на энергетическую инфраструктуру, сделав главной мишенью небольшие предприятия с устаревшим оборудованием и слабой защитой.
Особое беспокойство у Бенжио вызывает так называемое рекурсивное самосовершенствование — способность систем ИИ самостоятельно ускорять исследования и создавать следующие поколения моделей без участия человека. При таком сценарии существующие протоколы и механизмы безопасности компаний просто не смогут угнаться за темпами развития технологии.
«Это очень опасно», — подчеркнул Бенжио.
Исследователь также предупредил о риске концентрации самых мощных моделей лишь в нескольких странах, прежде всего в США и Китае. По его мнению, страны среднего размера должны сформировать «третью силу», которая будет способствовать международному сотрудничеству и обеспечит этичное и безопасное развитие искусственного интеллекта.
В прошлом году Бенжио также раскритиковал коммерческую гонку технологических гигантов. Учёный подчеркнул, что погоня за прибылью заставляет компании пренебрегать безопасностью, создавая риски экзистенциального масштаба — от содействия разработке биологического оружия до потери контроля над системами, превосходящими человека по интеллекту. На фоне этих угроз исследователь основал независимую некоммерческую организацию LawZero для создания безопасных моделей ИИ, изолированных от рыночного давления инвесторов.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google