Перейти к содержимому

Новинки

Инференс-чипы и потребительские устройства: как ИИ-бум меняет цены и доступность гаджетов

Опубликовано:

Инференс-чипы становятся ключевым звеном между ИИ-бумом и потребительскими устройствами: рынок переходит от покупки «железа» для обучения моделей к экономике вычислений, а всё больше моделей работает прямо на смартфонах, ПК и периферийных устройствах. Для покупателя это означает, что доступность гаджетов с ИИ будет зависеть не только от цен на память и полупроводники, но и от того, насколько быстро производители научатся снижать стоимость одного запроса.

Стоимость инференса языковых моделей (USD за 1 млн токенов) по уровням производительности (Intelligence Index) с конца 2022 по апрель 2026 года. Источник: Artificial Analysis

Что такое инференс и почему он важен для гаджетов

Инференс в машинном обучении — это процесс, в ходе которого система искусственного интеллекта использует ранее обученную модель для принятия решений на основе новых данных. Если обучение модели требует мощных серверных кластеров, то инференс происходит постоянно и повсеместно: при распознавании речи, обработке фото, работе голосовых помощников и рекомендаций. Именно инференс определяет, насколько вычислительно тяжёлым будет устройство для конечного пользователя и какую цену производитель заложит в гаджет.

Сдвиг рынка: от максимальной производительности к стоимости вычислений

Рынок ИИ вступает во вторую фазу, где главным конкурентным преимуществом становится способность выполнять больше вычислений за меньшие деньги. Рост спроса на ИИ-инфраструктуру стимулирует производство полупроводников, усиливает дефицит памяти и ускоряет разработку новых технологий. Для потребительского сегмента это означает, что производители чипов и устройств будут конкурировать не только по пиковой производительности, но и по эффективности вычислений на ватт и на доллар.

Локальный ИИ на смартфонах, ПК и периферии

Рынок начинает переходить к локальному (on-device) ИИ: всё больше моделей будет работать непосредственно на смартфонах, ПК и периферийных устройствах без постоянного обращения в облако. Такой переход снижает нагрузку на сеть и серверы, но повышает требования к самим гаджетам — им нужны энергоэффективные инференс-решения. Для покупателя это может означать как рост функциональности устройств, так и изменение их ценовой структуры: часть стоимости ИИ-возможностей переносится с подписки на облако в цену самого устройства.

Аппаратная база: FPGA и edge-устройства

Для инференса на потребительских и edge-устройствах применяются FPGA благодаря низкому энергопотреблению и гибкости архитектуры. Благодаря низкому энергопотреблению и гибкости архитектуры они широко применяются в edge-устройствах (камерах, датчиках, промышленном оборудовании), где важны адаптивность и эффективность. В потребительских гаджетах такие решения конкурируют со специализированными ИИ-ускорителями, встроенными в системы на кристалле, и влияют на то, насколько доступными окажутся устройства с локальным ИИ.

Как удешевление инференса влияет на доступность гаджетов

Удешевление инференса приведёт к тому, что ИИ окажется встроен в большинство деловых и бытовых транзакций. Для потребительских устройств это создаёт двойственный эффект: с одной стороны, ИИ-функции становятся массовыми и перестают быть премиальной опцией, с другой — рост спроса на ИИ-инфраструктуру усиливает дефицит памяти и ускоряет разработку новых технологий, что может сдерживать снижение цен на сами гаджеты. Итоговая доступность будет зависеть от баланса между удешевлением вычислений и стоимостью компонентов.