Быстрые ответы вместо понимания: как ИИ разрушает «ландшафт сложности» науки

После решения одной из семи «задач тысячелетия» системой искусственного интеллекта компании OpenAI австралийский математик Теренс Тао заявил, что стремительное развитие ИИ может подорвать традиции открытой науки, если исследователи перестанут делиться перспективными идеями из-за риска, что ИИ быстро «закроет» их задачи. По его мнению, действительно ценные открытые математические проблемы являются своеобразным невозобновляемым ресурсом, который может стать дефицитным.

Почему перспективные задачи являются исчерпаемым ресурсом

Тао объясняет, что хотя математических вопросов можно сформулировать бесконечно много, лишь небольшая часть из них способна привести к новым идеям или открыть неожиданные связи между различными отраслями науки. Он сравнивает ситуацию со страной, страдающей от нехватки питьевой воды, несмотря на то, что её окружает безграничный океан.

По словам математика, случайно сгенерированные задачи часто оказываются либо слишком простыми, либо практически неразрешимыми, поэтому не способствуют развитию науки. Именно определение того, какие проблемы действительно перспективны, требует длительного анализа, исторического опыта и понимания того, какие методы уже работают в конкретной области.

ВАС ЗАИНТЕРЕСУЕТ

Цена прорыва – 00: новая модель от OpenAI решила 10 задач, не дававшихся ученым десятилетиями

Разрушение «ландшафта сложности» алгоритмами

Тао отмечает, что новые инструменты традиционно изменяли «ландшафт сложности» науки, открывая новые горизонты исследований. Однако, по его мнению, современный ИИ работает иначе: он стирает границы между легкими и сложными задачами, но в то же время не предлагает понятных критериев того, какие проблемы остаются недостижимыми для машин.

Угроза открытой науке

Отдельную проблему математик видит в непрозрачности развития ИИ. Он отмечает, что компании редко публикуют отрицательные результаты своих экспериментов или раскрывают процесс поиска решений, поэтому исследователям становится всё сложнее оценивать реальные возможности этих систем.

«Мы уже видели случаи, когда даже слухи о том, что кто-то работает над определенной проблемой, провоцировали массовые усилия по применению ИИ для ее быстрого решения», — добавил Тао.

ВАС ЗАИНТЕРЕСУЕТ

Claude Fable разгадал 370-летний шифр за 44 минуты: как ИИ это сделал

Математик предупреждает, что такая тенденция может заставить учёных скрывать перспективные направления работы от коллег, что противоречит многовековой традиции открытого обмена знаниями. В долгосрочной перспективе это, по его мнению, может нанести ущерб развитию науки больше, чем принесет пользы быстрое решение отдельных задач.

Как адаптировать математику к эре ИИ

Тао также предостерегает от «бессистемного использования» мощных ИИ-инструментов. Он считает, что наибольшую ценность представляют не готовые ответы, а процесс исследования, который помогает лучше понять смежные проблемы и расширить научные знания.

В качестве возможного подхода Тао предлагает сосредоточиться на задачах, где оценивается не только правильность результата, но и качество анализа, приведшего к нему. Он отметил: «Это напоминает современные инициативы по сбору продуктов питания для благотворительности: организаторы больше не принимают любые пожертвования (даже если подтверждено, что продукты пригодны к употреблению), а следуют четким и общепринятым стандартам относительно того, какие именно продукты действительно нужны».

Ранее исследование ученых Корнельского университета показало, что распространение генеративного ИИ увеличило количество научных публикаций на 30–50 %, но в то же время спровоцировало кризис доверия в академической среде. Анализ более 2 миллионов препринтов показал: безупречно отшлифованный языковыми моделями текст перестал быть признаком высокого качества исследования, из-за чего рецензентам и редакторам становится всё труднее отличить реальные научные прорывы от работ сомнительной ценности.