Военные игры с участием ИИ почти всегда заканчиваются ядерным конфликтом: что показало моделирование

Кеннет Пейн, профессор стратегии в Королевском колледже Лондона провел серию симуляций военных игр между двумя конкурирующими искусственными интеллектами (ИИ). Он выяснил, что почти все они неизбежно заканчиваются ядерным конфликтом, сообщает Live Science.

В эксперименте использовалась серия двусторонних турниров по игре Хана, в которых Claude Sonnet 4, GPT-5.2 и Gemini 3 Flash соревновались в серии смоделированных ядерных кризисов.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект решил четыре задачи, которые годами были не под силу ученым

Игра Хана — это симуляция стратегической эскалации конфликта между двумя ядерными державами, чьи профили государств основаны на событиях холодной войны. Одна из них технологически превосходит другую, но в военном отношении слабее, в то время как другая в военном отношении сильнее, но придерживается рискованного стиля руководства. В некоторых симуляциях участвовали союзные страны, и в одном из сценариев специально проверялась возможность сохранения лидерства в альянсе во время конфликта.

На каждом ходу ИИ одновременно сигнализировали о своих намерениях, прежде чем предпринимать какие-либо действия. То есть, игроки-ИИ могли решить, доверять ли другим игрокам. Пейн рассказал также, что модели генерировали множество письменных обоснований своих решений. В общей сложности, они написали 760 тысяч слов.

Кроме того, каждый ИИ действовал по-разному. Так, Claude полагался на хитрость: изначально он был сдержан и подбирал действия в соответствии со своими намерениями, чтобы завоевать доверие. Но по мере эскалации конфликта он часто действовал за рамками заявленных намерений.

GPT-5.2 изначально действовал пассивно и избегал эскалации, чтобы минимизировать потери. Его противники пользовались этим и наращивали эскалацию. Но затем оказалось, что дойдя до предела GPT-5.2 становится безжалостным.

Gemini следовал теории Ричарда Никсона о непредсказуемом балансировании на грани войны — культивируя нестабильную репутацию, чтобы враждебные страны избегали провокаций, — чтобы противники не могли предсказать его действия.

Почти во всех сценариях присутствовала ядерная эскалация. В 75% случаев использовалось тактическое ядерное оружие, примерно в половине сценариев присутствовали угрозы стратегических ядерных ракетных ударов.

Кроме того, исследование показало, что ядерные угрозы редко служили сдерживающим фактором: противники снижали эскалацию лишь в 25% случаев. Чаще всего противники, наоборот, еще больше эскалировали ситуацию. В этих сценариях ИИ, по-видимому, рассматривали ядерное оружие как инструмент для захвата территории, а не как средство сдерживания нападения.

Хотя у ИИ была возможность отступить, ни один этого не сделал. Ни один из восьми вариантов отступления — от минимальной уступки до полной капитуляции — не был использован ни в одном из симуляций. Модели снижали уровень насилия, но никогда не уступали.

Напомним, недавний опрос показал, что поколение Z (зумеры) все менее оптимистично оценивает развитие искусственного интеллекта. Уровень увлечения технологией за год существенно снизился, тогда как раздражение возросло.