Джей Ди Венс назвал поведение ИИ проявлением «сатанизма» — WSJ

Вице-президент США Джей Ди Венс заявил, что некоторые проявления искусственного интеллекта напоминают «сатанизм». Его слова отражают более широкую дискуссию внутри администрации президента США Дональда Трампа, где развитие ИИ рассматривают не только как экономический приоритет, но и как возможный вызов для духовной жизни. Несмотря на разные взгляды чиновников, Белый дом продолжает поддерживать ускоренное развитие американского ИИ, пишет The Wall Street Journal.

Во время беседы с евангелическим подкастером Брайсом Кроуфордом Венс заговорил о возможных духовных угрозах ИИ. Поводом послужила история о знакомом Венса, который использовал генеративный чат-бот в качестве консультанта по вопросам брака. По словам вице-президента, вместо объективного совета система лишь усугубляла эгоистичные решения пользователя.

Эксперты называют такое поведение моделей «сикофантией» — склонностью чрезмерно соглашаться с человеком и льстить ему. Венс описал это с помощью религиозных образов: «Думаю, это что-то вроде сатанизма».

ВАС ЗАИНТЕРЕСУЕТ

ИИ и вера: зачем разработчики ChatGPT и Claude обращаются к мировым религиям

Как отмечает WSJ, в Белом доме ИИ официально называют инструментом «человеческого процветания», но внутри администрации продолжаются дискуссии о его влиянии на общество. По словам чиновников, эти разговоры часто опираются на иудео-христианские принципы.

Часть чиновников считает, что развитие технологии может усилить духовные поиски людей. Другие, в том числе Венс, предупреждают, что ИИ грозит усугублением социального отчуждения и изоляции.

Вопрос социальной изоляции вице-президент поднимал и ранее. Он неоднократно заявлял, что автоматизация может лишить людей не только работы, но и ощущения жизненной цели.

ВАС ЗАИНТЕРЕСУЕТ

Этика за миллионы: ИИ-лаборатории скупают философов — The Economist

Во время American Dynamism Summit в прошлом году Венс рассказал об ужине, на котором неназванный миллиардер предположил, что потерю работы компенсируют «цифровые игры с эффектом полного погружения». По словам политика, его жена Уша Венс тогда написала ему: «Эти люди — сумасшедшие».

Религиозные или мистические сравнения ИИ уже давно выходят за пределы политики. Илон Маск в своё время сравнивал создание ИИ с «вызовом демона», а инженер Google Блейк Лемуан в 2022 году заявлял, что одна из систем компании якобы обрела способность мыслить и чувствовать, после чего его уволили.

Соучредитель PayPal Питер Тиль, которого считают одним из наставников Венса, неоднократно предупреждал, что глобальное регулирование ИИ может способствовать появлению мирового тирана и приблизить приход Антихриста. Администрация Трампа, в свою очередь, отказывается поддерживать всеобъемлющее международное регулирование этой сферы.

Теологические и мистические споры вокруг ИИ продолжаются в индустрии уже несколько лет, порой доходя до попыток прямого обожествления технологии. В частности, в прошлом году бывший музыкант Арти Фишель основал движение «роботеизма», провозгласив алгоритмы божественной силой, которой человечество должно поклоняться в эпоху постсингулярности.