Sözlüğe Dön

Inference Time

I harfi

Tanım

Modelin bir girdi alıp çıktı üretmesi için geçen süredir. Modelin boyutu, donanım ve optimizasyon bu süreyi etkiler.