Микеланджело и ИИ: как не потерять свою уникальную идею, работая с искусственным интеллектом

Еще совсем недавно главным навыком работы с искусственным интеллектом считалось умение правильно сформулировать запрос. Человека фактически учили разговаривать с машиной на ее языке: четко определить задачу, убрать лишние слова, задать контекст, формат ответа, ограничения и критерии результата. Появилась даже отдельная дисциплина — prompt engineering, своеобразная культура перевода человеческого замысла на язык, максимально понятный большой языковой модели.

Похоже, этот этап оказался переходным — короткой фазой, о которой мы когда-нибудь будем вспоминать так же, как сегодня вспоминаем первые инструкции по использованию поисковых систем.

В профессиональной среде все более заметным становится почти противоположный способ взаимодействия с ИИ — длинный, неструктурированный голосовой рассказ, или rambling. Вместо тщательно отредактированного запроса человек просто говорит модели все, что думает о проблеме: основную идею, сомнения, ассоциации, противоречия, неудачные варианты, уточнения и даже мысли, от которых он отказывается прямо во время разговора. Логика проста: модели иногда нужна не более красивая команда, а больше информации — больше тех самых «битов», из которых она может реконструировать истинный замысел человека.

На первый взгляд, речь идет лишь о более удобном способе ввода информации. На самом деле проблема гораздо глубже. Рамблинг может стать новой архитектурой интеллектуального взаимодействия человека и искусственного интеллекта, где машина получает доступ не только к результату мышления, но и к самому процессу его формирования. И именно поэтому эта, казалось бы, сугубо технологическая тема заслуживает внимания не только инженеров, но и всех, кто профессионально работает с идеями, — ученых, юристов, редакторов, государственных служащих.

ВАС ЗАИНТЕРЕСУЕТ

Как работает искусственный интеллект и почему он только делает вид, что нас понимает

Что мы теряем, когда превращаем мысль в текст

Между мыслью и текстом существует расстояние, которое мы обычно не замечаем.

Пока человек пишет, он уже редактирует себя. Отбрасывает сомнительные предположения, убирает повторы, заменяет эмоциональные конструкции на нейтральные, старается быть логичным. Часть ассоциаций вообще не попадает в текст, потому что автору кажется, что они «не относятся к делу». Еще часть теряется из-за того, что ее трудно сформулировать.

В результате собеседник — человек или машина — получает не саму мысль, а ее отредактированную проекцию.

Для обычного человеческого общения это необходимо. Вряд ли коллеги будут в восторге, если вместо двух страниц концепции получат сорок минут потока сознания. Но для ИИ ситуация иная. Машина может выполнить именно ту работу, которую раньше мы были вынуждены делать до начала коммуникации: отфильтровать повторы, найти смысловые узлы, сопоставить противоречивые утверждения, восстановить причинно-следственные связи и превратить интеллектуальный хаос в структуру.

Поэтому меняется само распределение когнитивного труда. Человек генерирует смыслы. Машина помогает их формализовать.

И это гораздо важнее, чем возможность просто быстрее продиктовать запрос. Это смена роли — из диктующего четкую команду человек превращается в источник сырого интеллектуального материала, а модель начинает выполнять функцию, которую раньше могли себе позволить разве что авторы с личным редактором или научным секретарем.

ВАС ЗАИНТЕРЕСУЕТ

Почему лучшие модели ИИ решают сложные задачи, но не могут правильно определить время 

Проблема третьего человека

Новая идея почти никогда не рождается сразу в законченном виде. Сначала это нечеткий интеллектуальный контур: несколько наблюдений, противоречие, интуитивное ощущение, что между явлениями существует связь, которую пока сложно доказать. И именно на этом самом уязвимом этапе мы обычно начинаем обсуждать замысел с другими людьми.

Здесь возникает парадокс.

Чтобы объяснить собеседнику то, что еще не до конца поняли сами, мы вынуждены преждевременно формализовать концепцию. Собеседник задает вопросы, высказывает сомнения, предлагает альтернативы. Мы отвечаем. Он возражает. Мы корректируем аргументацию.

Спустя некоторое время кажется, что наша концепция стала сильнее.

Но всегда ли она остается нашей? Каждое постороннее замечание меняет траекторию дальнейшего мышления. При этом мы почти никогда не можем оценить качество такого вмешательства в момент его появления. Возможно, коллега заметил фундаментальную ошибку. А возможно, он просто высказал случайную ассоциацию. Через десять минут он забудет свое замечание, а автор еще месяцами будет перестраивать под него конструкцию.

Не фантастика. ИИ уже способен размножаться и влиять на работу онлайн-сервисов. Готовы ли мы к этому?

Возможен и менее безобидный сценарий. Научная, технологическая или институциональная конкуренция никуда не делась. Внешний участник может сознательно или бессознательно подталкивать автора к более безопасной, более традиционной или просто более понятной для себя траектории. В научной среде, государственном управлении, публичной политике — везде, где важно, «кто первым сказал» и «кто признан авторитетом», этот механизм работает особенно активно.

Так появляется феномен, который условно можно назвать когнитивной интерференцией: первоначальный замысел начинает меняться еще до того, как его автор получил возможность полностью увидеть свою конструкцию.

Микеланджело, которому все советуют

Метафора скульптора здесь почти идеальна.

Микеланджело приписывают мысль, что скульптура уже находится внутри камня, а задача художника — только убрать лишнее. Независимо от исторической точности этой фразы, она очень хорошо описывает процесс формирования сложной концепции. Автор тоже получает свою интеллектуальную глыбу. В ней одновременно присутствуют знания, опыт, интуиция, ошибки, прочитанные книги, случайные наблюдения и еще не доказанные предположения. Он не видит готовой конструкции во всех деталях, но уже ощущает ее контуры.

Теперь представим, что за спиной Микеланджело стоят двадцать экспертов.

Один советует отсечь больше слева. Второму не нравится пропорция головы. Третий предлагает изменить позу. Четвертый убеждает, что современному обществу вообще не нужен Давид. Каждая рекомендация в отдельности может быть логичной. Проблема возникает после сотни рекомендаций. Скульптор все еще держит резец, но постепенно отсекает камень уже не в соответствии со своим первоначальным замыслом, а в соответствии с образом, модифицированным чужими представлениями.

ВАС ЗАИНТЕРЕСУЕТ

В ООН предупредили об «экзистенциальной угрозе» со стороны передового искусственного интеллекта

В моей научной работе есть очень показательный пример. Уже несколько лет я слышу от коллег примерно один и тот же аргумент: не нужно создавать Цифровой кодекс. Десять лет назад, говорят они, уже пытались создать Информационный кодекс. Не получилось. Инициатива столкнулась с сопротивлением системы, межведомственными противоречиями, разным видением предмета регулирования — и в итоге ее не реализовали. С точки зрения традиционной логики это предупреждение: если предшественники не смогли, наверное, не стоит повторять их путь. Для меня вывод прямо противоположный.

Я продолжаю разрабатывать концепцию и модель Цифрового кодекса именно потому, что вижу в этом необходимость. Более того, неудача предыдущей попытки создания Информационного кодекса не опровергает эту идею, а в определенной степени подтверждает ее актуальность сегодня. Десять лет назад не существовало нынешнего цифрового государства, генеративного ИИ, современных платформенных экосистем, цифровых активов, цифровых двойников, автономных систем, масштабной алгоритмизации государственного управления. Изменился не только технологический ландшафт — изменился сам объект правового регулирования.

Поэтому аргумент «мы уже пробовали, и у нас не получилось» не всегда означает, что замысел ошибочен. Иногда он означает только, что его время тогда еще не настало.

В этом и заключается опасность внешнего интеллектуального влияния на ранних этапах работы. Чужая неудача легко становится пределом нашего собственного воображения. Прошлое начинает диктовать будущему, что оно тоже невозможно. Автору предлагают отсечь часть камня не потому, что она действительно лишняя, а потому, что десять лет назад кто-то уже пытался бить примерно в этом месте — и сломал резец. Но, возможно, именно там и находится скульптура.

Поэтому критика нужна. Научная дискуссия необходима. Проверка концепции оппонентами — это фундаментальная часть научного метода. Проблема начинается лишь тогда, когда критика входит в конструкцию раньше, чем автор сам увидел ее целостные контуры.

Именно здесь ИИ создает принципиально новую возможность.

ВАС ЗАИНТЕРЕСУЕТ

IT-образование в эру искусственного интеллекта: как университетам успевать за вызовами рынка

ИИ как когнитивный буфер

Между появлением замысла и его выносом в социальную среду теперь может появиться промежуточный этап — частное взаимодействие автора с интеллектуальной системой. Человек может часами объяснять машине концепцию, не беспокоясь о ее завершенности. Он может противоречить сам себе, отказываться от предыдущих утверждений, возвращаться к ним, высказывать интуитивные предположения, которые пока не способен доказать. ИИ при этом не обязательно должен быть соавтором. Гораздо интереснее его роль когнитивного буфера.

Его задача на первом этапе — не предложить человеку «лучшую идею», а помочь ему реконструировать свою.

Промпты «Покажи, что я повторяю. Определи, какие положения являются центральными. Отдели факты от моих предположений. Найди внутренние противоречия. Покажи, где я изменил позицию. Не исправляй меня — сначала объясни, что именно я пытаюсь построить» — это уже не классическая модель «вопрос — ответ». Это совместная работа над формированием когнитивной конструкции — и, нужно признать, работа, которую еще несколько лет назад было невозможно себе представить за пределами психотерапевтического кабинета или научного семинара.

Когда ИИ сам берется за «резец»

Здесь, однако, нужно сделать важное замечание. Искусственный интеллект — не нейтральное зеркало. Большие языковые модели статистически тяготеют к уже известным конструкциям. Они способны заполнять пробелы наиболее вероятными продолжениями, предлагать стандартные решения и незаметно нормализовать нестандартную мысль. В определенном смысле модель — это обобщенный голос миллионов предыдущих текстов, и этот голос по умолчанию консервативен: он тянет любую мысль к среднему, наиболее ожидаемому варианту.

И именно поэтому будущая культура работы с ИИ должна содержать парадоксальное правило: не позволяйте машине слишком рано делать вашу мысль правильной.

Пределы интеллекта: почему даже сверхразумный ИИ не решит всех проблем человечества

На раннем этапе исследования право на ошибку может оказаться более продуктивным, чем немедленная корректировка. У научных прорывов вообще есть одна неприятная особенность: вначале многие из них выглядят странно. Если каждую необычную гипотезу немедленно приводить в соответствие со средним значением накопленных человеческих знаний, мы получим невероятно логичный, хорошо структурированный и абсолютно вторичный результат. Поэтому человек должен сохранять за собой не только право на окончательное решение, но и право определенное время неправильно думать по-своему.

Это особенно важно в науке, праве, философии, стратегическом прогнозировании — везде, где новизна появляется не только благодаря нахождению нового ответа, но иногда и из-за отказа принимать старую формулировку самого вопроса. Для страны, которая одновременно ведет войну, перестраивает государственные институции и пытается преодолеть технологический разрыв, это не абстрактное философское замечание. Это вопрос о том, способны ли мы вообще позволить себе нестандартные решения — или будем и дальше отсекать их на этапе появления, теперь уже с помощью алгоритма, а не коллеги за спиной.

Какой навык работы с ИИ действительно станет важным

Поэтому рамблинг нужно рассматривать шире, чем очередную моду, связанную с ИИ. Он хорошо вписывается в общий переход от отдельных запросов к агентным системам, которым человек все чаще ставит не конкретную команду, а цель, контекст и пределы автономности.

Возможно, мы наблюдаем начало перехода от текстового интерфейса взаимодействия с ИИ к когнитивному. Клавиатура требовала сформулировать мысль, промпт — структурировать ее. Рамблинг позволяет передать ее в процессе формирования. А следующий этап, вероятно, будет заключаться в создании персональных агентных систем, которые годами будут накапливать контекст наших решений, концепций, сомнений и ошибок. Тогда взаимодействие человека с ИИ будет все меньше напоминать разговор с программой и все больше — работу с внешним продолжением собственной когнитивной системы.

И здесь главным станет уже не вопрос, насколько хорошо ИИ нас понимает. Гораздо важнее будет другое: помогает ли он нам лучше понять самих себя — до того, как нашу еще не завершенную мысль начнут исправлять все остальные?

Наверное, самым ценным ИИ будущего станет не тот, который сразу укажет человеку, как правильно. А тот, которому можно принести свою интеллектуальную глыбу и сказать: «Я еще не знаю, что именно здесь скрывается. Но, кажется, уже вижу контуры. Не бери резец. Сначала помоги мне увидеть их четче».