Глава Microsoft предупредил бизнес о скрытой цене ИИ: компании рискуют лишиться собственных знаний

Генеральный директор Microsoft Сатья Наделла заявил, что компании, активно использующие искусственный интеллект, могут неосознанно передавать поставщикам моделей свои самые ценные корпоративные знания. По его мнению, бизнес должен контролировать собственный цикл обучения ИИ, чтобы не утратить конкурентные преимущества.

В новом посте в корпоративном блоге Наделла описал явление, которое назвал «парадоксом обратной связи». По его словам, компании платят за использование ИИ не только деньгами, но и собственными данными, опытом и интеллектуальной собственностью, которые модели получают во время взаимодействия с пользователями.

«По сути, вы платите за информацию дважды: сначала деньгами, а затем чем-то более ценным — собственными знаниями, которые вам приходится раскрывать, чтобы эта информация стала полезной. Чем лучших результатов вы ожидаете от модели, тем больше таких знаний вам придется ей предоставить», — написал Наделла.

ВАС ЗАИНТЕРЕСУЕТ

Когда финтех встречает ИИ. Триллионные возможности для мировых финансов и мошенников

Глава Microsoft сравнил эту ситуацию с информационным парадоксом, который в свое время описал лауреат Нобелевской премии по экономике Кеннет Эрроу. Если раньше риск потерять ценную информацию существовал для продавца, то в эпоху генеративного ИИ он, по словам Наделлы, перешел к покупателю.

По мнению руководителя Microsoft, предприятиям нужна новая «граница доверия», которая будет защищать не только данные, но и процесс накопления корпоративных знаний. Он считает, что организации должны иметь право использовать результаты работы моделей для обучения собственных систем, а также полностью контролировать память, оценки, обратную связь и контекст, которые накапливаются при использовании искусственного интеллекта.

Наделла обозначил пять принципов, которые, по его мнению, должны помочь бизнесу:

• создавать собственные критерии оценки и сохранять полное право собственности на внутреннюю память и контекст компании;
• обучать и настраивать модели на реальных рабочих процессах исключительно внутри изолированных корпоративных сред;
• отделить уровень оркестрации от конкретных моделей ИИ, чтобы иметь возможность заменить любую из них без потери накопленного опыта;
• оптимизировать затраты благодаря гибкому сочетанию задач, контекста и различных моделей без потери качества работы;
• объединить все элементы в непрерывный цикл самообучения, который будет постоянно приносить отдачу от инвестиций в ИИ.

ВАС ЗАИНТЕРЕСУЕТ

Против монополии технологических гигантов: генеральный директор Microsoft призвал к изменениям в индустрии ИИ

«Компания должна иметь возможность использовать модель, не теряя при этом тех знаний, которые делают её уникальной. Именно с этим «обратным информационным парадоксом» нам и приходится иметь дело», — подытожил генеральный директор Microsoft.

Как пишет TechCrunch, эта тенденция уже влияет на корпоративный рынок. Генеральный директор Solo.io Идит Левин сообщила, что всё больше компаний после экспериментов с закрытыми моделями переходят на открытые модели, которые можно развернуть в собственной инфраструктуре. Это позволяет лучше контролировать корпоративные данные и одновременно сократить расходы.

Подобную тенденцию также отмечают компании Vercel и OpenRouter. По их данным, доля запросов к моделям с открытым кодом растёт, а в прошлом месяце они уже обеспечили 29% всего трафика через ИИ-шлюз Vercel.

ВАС ЗАИНТЕРЕСУЕТ

Сколько денег американский бизнес тратит на ИИ-сотрудников — исследование

Заявление Наделлы привлекло особое внимание, поскольку Microsoft остается одним из крупнейших инвесторов OpenAI и сотрудничает с Anthropic. Несмотря на это, глава компании открыто призвал предприятия не полагаться полностью на закрытые модели и создавать инфраструктуру, которая позволит сохранять контроль над собственными знаниями и интеллектуальной собственностью.

Публикация Наделлы появилась вскоре после заявления генерального директора Palantir Алекса Карпа, который раскритиковал бизнес-модель OpenAI и Anthropic из-за использования системы оплаты за токены, которая не приносит бизнесу реальной отдачи. По мнению Карпа, компании все больше недовольны рисками потери своей интеллектуальной собственности, поскольку конфиденциальные данные передаются сторонним разработчикам.