Token/Saniye

Token/Saniye, bir yapay zeka modelinin saniyede kaç adet "token" (kelime parçası veya karakter grubu) üretebildiğini gösteren bir hız ölçütüdür. Bu değer ne kadar yüksek olursa, AI'dan cevap almak için o kadar az beklersiniz; örneğin, GPT-4o saniyede yaklaşık 80 token üretebilir.

Tüm terimler