Как Кремниевая долина разводит энтерпрайз на ИИ-токены 🤡

СЕО Palantir Алекс Карп выдал на CNBC базу: создатели frontier-моделей (OpenAI, Anthropic и прочие) занимаются элегантным разводом бизнеса на деньги.

Суть претензии проста: бигтех продает корпорациям и госсектору доступ к API за сумасшедшие деньги, называя это «внедрением ИИ». Но по факту бизнес платит своеобразный «налог на богатство», не получая взамен никакой реальной ценности.

Почему крупный энтерпрайз (и тем более военные ведомства) сейчас в бешенстве от текущего рынка LLM:

1️⃣ Потеря контроля. Бизнес не понимает, кто контролирует веса моделей и как именно кэшируются промпты. Вы отдаете свои данные в черный ящик.

2️⃣ Слив бизнес-преимущества. Отдавать свои проприетарные, топовые данные (например, клинические данные, секретные разработки, финансовые стратегии) сторонней LLM, чтобы она на них дообучилась и стала умнее для ваших же конкурентов — это клинический идиотизм.

3️⃣ Иллюзия продукта. Голая языковая модель через API — это не решение проблемы. Это просто генератор текста.

Я уже сам устал повторять представителям компаний, которые хотят у себя ИИ: LLM сама по себе не имеет ценности для бизнеса. Это просто сырье.

Реальная, взрослая архитектура внедрения ИИ, за которую готовы платить серьезные деньги, по мнению Карпа, состоит строго из трех компонентов:

Модель + Слой приложения (Ontology) + Железо (Compute).

Если вы выкинете «слой приложения», который отвечает за автоматизацию, интеграцию с реальными базами данных компании, безопасностью и правами доступа, вы получите дорогую и бесполезную игрушку для генерации писем. А именно так и «внедряют» LLM в большинстве бизнесов и у нас. Оплатили Claude и в путь, теперь у нас ИИ! 🙃

Но бизнесу не нужна «самая умная закрытая модель в мире», если ради нее нужно слить свою коммерческую тайну. Бизнесу нужна инфраструктура, где можно развернуть что-то свое, иметь контроль, изолировать от внешнего интернета и натравить на свои внутренние данные без страха, что завтра это утечет в сеть. Ну или хотя бы встраивать грамотно подписочные модели в архитектуру, а не с чатиком общаться.

Очень медленно это доходит до компаний пока 🤷‍♂️