Новости искусственного интеллекта и нейросетей

ИИ на всю катушку: компании устали платить за «токенмаксинг» без роста продуктивности

Мужчина бизнесмен

Корпоративная мода на «токенмаксинг» — стремление выжимать из ИИ как можно больше генерации и задач — начала давать сбой. Компании, которые бросились внедрять ChatGPT, Claude и другие ИИ-инструменты во всё подряд, столкнулись с растущими счетами, но не увидели сопоставимого роста продуктивности.

Смотрите видео на удобном для вас ресурсе!
YouTube ВК.Видео RuTube ОК

«С помощью ИИ очень легко создать то, что вам вообще не нужно», — говорит Винсент Гусдорф, глава AI-аналитики Moody’s Ratings. По его словам, после первых счетов бизнес быстро понял: новые инструменты дорогие, и пользоваться ими нужно осмысленно.

Токены — это единицы текста, которые ИИ читает и генерирует; примерно три четверти слова. Чем больше токенов тратит компания, тем выше счет. Еще недавно в Кремниевой долине высокий расход токенов подавали как признак эффективности: Сэм Альтман хвалил «токенмаксинг-стартапы», Дженсен Хуанг говорил, что если инженер за $500 тысяч не «сжигает» токенов на $250 тысяч, «что-то не так».

Но ажиотаж быстро сменился отрезвлением. Глава Microsoft Сатья Наделла предупредил, что компании фактически платят дважды: деньгами за токены и своими закрытыми данными, которые передают ИИ-провайдерам. Глава Palantir Алекс Карп выразился еще жестче: бизнес «в бешенстве» от того, что тратит деньги на токены, которые не создают ценности, и при этом с него требовали предоставить свою интеллектуальную собственность.

Теперь компании ищут не максимум ИИ, а более умное его использование. В Bain & Company отмечают: расходы на токены у крупных клиентов могут удваиваться почти каждые два месяца. Если платить условные $200 в месяц на одного разработчика и умножить это на 20 тысяч сотрудников, получается бюджетная строка, к которой мало кто был готов.

Один из главных выводов: не каждую задачу нужно отдавать самой мощной и дорогой модели. Для письма или простой сводки не нужен «ИИ-кувалда» уровня Claude Opus. Поэтому растет интерес к «маршрутизации моделей»: простые запросы отправляются более дешевым системам, сложные — мощным.

Дополнительное давление на рынок создают китайские open-source-модели вроде Kimi от Moonshot и GLM от Zhipu: они почти догоняют топовые американские модели, но стоят заметно дешевле.

Технический директор Mozilla Раффи Крикорян сравнивает токенмаксинг с прежней модой измерять продуктивность программиста количеством строк кода. От этой идеи индустрия уже отказалась. По его словам, токенмаксинг идет тем же путем — и через год над ним, возможно, будут просто смеяться.

Источник: AP

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.

Интересно? Поделиться:

6 комментариев к “ИИ на всю катушку: компании устали платить за «токенмаксинг» без роста продуктивности”

  1. Я как человек который возится с технологиями полностью согласен. ИИ мощный инструмент, но он не волшебная палочка. Чтобы он работал, нужно: чётко определить, что мы хотим улучшить (продажи, поддержка клиентов, аналитика); тестировать решения, а не запускать в продакшен на авось; измерять результат (сколько сэкономили, сколько заработали благодаря ИИ). Например вместо того чтобы генерировать 1000 безликих постов лучше сделать 10 персонализированных рассылок которые реально конвертируются. Или использовать ИИ для анализа клиентских запросов, а не для создания бессмысленных диалогов.

    Ответить

  2. Я это уже давно понял, даже используя ИИ чисто на бытовом уровне. С некоторыми задачами (пока перепишешь все промты так чтобы ИИ наконец-то тебя понял) времени уходит столько же, сколько если бы я сделал это вручную, плюс это было бы абсолютно бесплатно. А те задачи, которые решаются быстро, у меня и в бесплатный лимит вписываются.

    Ответить

  3. Похоже, многие компании уже перестают оценивать ИИ только по количеству использованных токенов. Если автоматизация не экономит время, не снижает затраты и не повышает качество работы, то даже самые мощные модели теряют свою ценность. Сейчас бизнесу важен не «вау-эффект», а реальная отдача от внедрения ИИ.

    Ответить

  5. Прочитала статью и прямо попала в точку. Сейчас действительно наблюдается этот переломный момент: компании наигрались в «ИИ ради ИИ». Мы все видели этот хайп с бесконечной генерацией токенов, но когда доходит до реальных бизнес-метрик, многие понимают, что продуктивность не выросла, а расходы — очень даже. Статья отлично подсвечивает, что пора переходить от количества к качеству и внедрять ИИ точечно, там, где он реально решает задачи, а не просто «красиво пишет». Очень отрезвляющий материал, рекомендую всем, кто сейчас планирует бюджеты на автоматизацию

    Ответить

  6. Ну хоть в этом наступает отрезвление от ИИ. Может быть наступит время, когда ИИ-модели будут выбирать не по критерию «это модно», а по критерию «это мне к лицу». А большим компаниям к лицу именно повышенная продуктивность и экономия бюджета. Вот тут китайские модели всех и опередят.

    Ответить

Добавить комментарий

Оставляя комментарий вы соглашаетесь на обработку персональных данных в соответствии с политикой конфиденциальности, соглашаетесь с пользовательским соглашением. Ваш адрес email не будет опубликован. Обязательные поля помечены *

Рекомендуем почитать

Подпишитесь на нашу рассылку

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам:

Отправить
Продолжая использовать наш сайт, вы соглашаетесь с использованием файлов cookie. Они помогают нам обеспечивать корректную работу сайта и делать его более удобным.
Принять
Подробнее…
Политика конфиденциальности