Глоссарий / ИИ и данные
Инференс (вывод модели)
Инференс — это фактическая работа ИИ-модели: приём вашего ввода и выдача ответа, в отличие от обучения, которым модель была создана. За инференс вы платите при промышленной эксплуатации — по токенам или секундам, — и его скорость и стоимость определяют, что экономически осмысленно автоматизировать. Эффективная архитектура инференса — разница между ИИ-функцией, которая зарабатывает, и той, что незаметно съедает маржу.
Строите что-то, где это нужно? Поговорите с инженером: Форма связи