Долго ломал голову, почему с генерацией обычного текста крупная нейронка справляется ощутимо быстрее, чем с кодом...

А потом я вспомнил, что в терминологии LLM слова - это тоже токены.