Inference

Инференс — выполнение обученной модели на новых данных для получения результата. На этапе инференса модель не обучается, а, например, генерирует аудио (речь, музыку) по запросу или классифицирует входной звуковой сигнал; важны оптимизация и скорость инференса, чтобы вывод происходил в реальном времени.