Сатья Наделла предупредил: проприетарные ИИ-модели могут превратить данные компаний в оружие против них самих

Из всех споров, бушующих вокруг потенциальных негативных последствий ИИ, есть одна тревога, которая вызывает больше всего заламывания рук у энтузиастов ИИ в Кремниевой долине. Они опасаются, что гигантские лаборатории ИИ, продающие проприетарные модели, каким-то образом действуют как троянские кони.

Опасение заключается в том, что по мере того как стартапы и предприятия используют модели ИИ от лабораторий вроде OpenAI и Anthropic, эти лаборатории получают всё больший доступ к самой чувствительной бизнес-информации таких компаний. Затем создатели моделей могут использовать эти знания в собственных интересах, потенциально становясь конкурентами собственных клиентов. Среди тех, кто выступает с такими предупреждениями, — венчурные инвесторы вроде Джейсона Калаканиса и генеральный директор Palantir Алекс Карп.

Теперь, в неожиданной публикации в блоге, вышедшей в понедельник, к этому лагерю присоединился генеральный директор Microsoft Сатья Наделла. Наделла предупреждает, что пользователи ИИ — или «покупатели», как он их называет, — платят дважды. Они осознанно тратят деньги на использование токенов ИИ, но при этом, сами того не замечая, передают ценные данные.

«По сути, вы платите за интеллект дважды: один раз деньгами, а второй — чем-то ещё более ценным: проприетарными знаниями, которые вы вынуждены раскрыть, чтобы сделать этот интеллект полезным. Чем лучше вы хотите, чтобы модель работала, тем больше таких знаний вам приходится ей скармливать!» — пишет он.

Самое опасное, по его словам, заключается в том, что предприятия буквально обучают модели нюансам своего бизнеса.

«Модели учатся на “выхлопе”: промптах, которые пишут люди, инструментах, которые используют агенты, и особенно на исправлениях, которые люди вносят, когда модель ошибается. Каждое исправление превращается в концентрированное институциональное знание», — пишет он.

Это «такой тип знаний, который конкурент никогда не смог бы купить», и тем не менее предприятия сами его передают.

Наделла утверждает: если ИИ-компаниям разрешено свободно скрейпить интернет для обучения своих моделей, то справедливо, чтобы и предприятия могли в ответ изучать — или «дистиллировать» — эти модели. «Дистилляция» — это практика использования собственных выходных данных модели, чтобы понять, как она работает, и обучить новую, зачастую более дешёвую модель на основе этих инсайтов. В феврале Anthropic обвинила китайские модели с открытым исходным кодом в отправке миллионов промптов в Claude с целью улучшить собственные модели и призвала правительство США ужесточить экспортный контроль.

Мысль Наделлы в том, что создатели моделей не могут усидеть на двух стульях. Лицемерно свободно обучаться на данных всего мира, одновременно запрещая другим делать то же самое с их моделями.

«Хотя великая инновация, возникающая благодаря тому, что провайдеры моделей имеют права добросовестного использования для обучения моделей на публичных данных, необходима, мне кажется ироничным, что нынешнее положение дел затем оборачивается введением ограничительных условий на дистилляцию», — пишет Наделла.

Особенно Наделлу беспокоит ситуация, когда создатели моделей «оставляют за собой право учиться на данных об использовании и взаимодействии клиентов».

Решение Наделлы — именно из тех, которые мог бы предложить генеральный директор гигантского облачного провайдера. Он хочет, чтобы компании «сохраняли право собственности» на свои данные, включая промпты, обратную связь и так далее. Поэтому он призывает их создавать собственные «проприетарные среды обучения» в облаке — где их данные, вероятно, и так уже хранятся и где, что удобно, речь может идти об облаке Microsoft Azure. Он также хочет, чтобы компании встраивали то, что он называет «слоями оркестрации», — по сути, способ легко переключаться между моделями ИИ разных провайдеров, а не быть привязанными к одной. Инструменты вроде ИИ-«шлюзов», которые позволяют компаниям делать именно это, становятся всё более популярными.

Хотя Наделла ни разу не использует слова «открытый исходный код» как способ сохранения права собственности, это очевидный подтекст. Но есть и другой подтекст.

Крупные компании, многие из которых всё ещё имеют собственные дата-центры наряду с использованием облака, уже переходят на модели с открытым исходным кодом, установленные на собственной инфраструктуре — «on-prem», как говорят в индустрии. Идит Левин, основательница и генеральный директор Solo.io — компании, разрабатывающей сетевое и защитное ПО, которое помогает предприятиям управлять ИИ-системами, — говорит, что наблюдает именно такой сдвиг у своих клиентов. После экспериментов с производителями проприетарных моделей они начинают задаваться вопросом: «Могу ли я взять модель с открытым исходным кодом и запустить её on-prem? Она будет делать почти 90% того, что делает большая модель. И стоить будет гораздо меньше. Они это понимают и могут это контролировать.»

Технология Solo.io в прошлом году была выбрана в качестве основы для проекта Agentgateway фонда Linux Foundation. Среди клиентов её компании — такие предприятия, как T-Mobile, ADP и SAP. Она видит, что компании всё чаще устанавливают локально модели с открытым исходным кодом, и считает это следующей большой волной в корпоративном использовании ИИ.

И она не одна. Vercel — наиболее известная как платформа для создания и хостинга сайтов, недавно добавившая инструменты переключения между моделями ИИ, — и OpenRouter, компания, помогающая разработчикам маршрутизировать запросы между разными моделями ИИ, обе наблюдают всплеск трафика к моделям с открытым исходным кодом. Более того, в прошлом месяце открытые модели составили 29% всего трафика, прошедшего через шлюз Vercel.

Учитывая, что генеральный директор Microsoft — компании, инвестировавшей и в OpenAI, и в Anthropic, — теперь открыто призывает предприятия с осторожностью относиться к использованию проприетарных моделей, можно поспорить, что эта тенденция продолжит набирать силу. «Потребляя интеллект, вы создаёте интеллект. А то, что вы создаёте, должно принадлежать вам», — пишет Наделла.

Источник: TechCrunch

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: