Qué es un modelo de lenguaje (LLM)

Un LLM (por sus siglas en inglés, large language model) recibe un texto y calcula cuál es la continuación más probable, pieza por pieza. Esas piezas se llaman tokens. Lo que parece conversación es una predicción repetida muchas veces por segundo.

Casi todos los modelos actuales usan la arquitectura Transformer, presentada por investigadores de Google en 2017 en el artículo "Attention Is All You Need".

El modelo aprende patrones del texto con el que fue entrenado hasta una fecha de corte. No consulta internet por sí mismo: si una aplicación le da búsqueda o acceso a documentos, es porque alguien conectó esas herramientas.

Puede equivocarse con seguridad (lo que se llama alucinación). Por eso, en un negocio conviene darle tus propios datos (ver RAG) y revisar lo que responde en temas sensibles.

Algunos modelos solo se usan a través de la API o la app del proveedor (pesos cerrados). Otros publican sus pesos, los números que forman el modelo, para que puedas descargarlo y correrlo en tu propia infraestructura (pesos abiertos). Comparamos ambos tipos en la tabla de modelos.

No necesitas entrenar un modelo. Lo habitual es elegir uno existente, darle instrucciones claras y conectarlo a tus datos y canales, como WhatsApp o tu planilla de pedidos.