Modelos e ingeniería aplicada
Vocabularios a medida en modelos pequeños: la promesa de abaratar la inferencia
Una publicación de Hugging Face plantea que especializar el vocabulario de los modelos de lenguaje pequeños puede recortar el costo de inferencia hasta 77% en aplicaciones reales. Analizamos qué significa, qué falta comprobar y por qué importa a las PYMES de la región.