Когда потоковый Whisper отдаёт первый текст
В контрольном прогоне на H100 первый текст пришёл через 1,29 секунды от начала подачи файла. Это тест с подачей аудио в реальном темпе.
Почему отметки времени важны
Мост добавляет предзапись перед обнаруженной речью и после паузы запрашивает итог фразы. Декодер выдаёт промежуточные гипотезы, пока пользователь ещё говорит. Временную границу можно поставить либо в начале файла, либо в момент обнаружения речи. Из этих двух отсчётов получатся разные задержки даже на одном входе.