Tokens y costos: cuánto cuesta usar un modelo

Un token puede ser una palabra corta, parte de una palabra o un signo. OpenAI estima que, en inglés, un token equivale en promedio a unos 4 caracteres; en otros idiomas, como el español, la misma idea suele necesitar más tokens. Puedes contar tokens con el tokenizador de cada proveedor.

Costo = (tokens de entrada / 1.000.000 × precio de entrada) + (tokens de salida / 1.000.000 × precio de salida). Los precios se publican en dólares por millón de tokens.

Ejemplo con números redondos: 1.000 conversaciones al mes, con 2.000 tokens de entrada y 500 de salida cada una, suman 2 millones de tokens de entrada y 500.000 de salida. Con un modelo de 0,10 USD de entrada y 0,50 USD de salida por millón, el costo del modelo sería 0,20 + 0,25 = 0,45 USD al mes. Con uno de 2 USD y 10 USD, serían 4 + 5 = 9 USD.

Historiales de conversación largos que se reenvían en cada mensaje, documentos enteros pegados en el prompt y modelos que razonan mucho (el razonamiento se cobra como tokens de salida). El caché de prompts y el procesamiento por lotes, cuando el proveedor los ofrece, abaratan.

El costo del modelo suele ser una parte pequeña del total; súmale la plataforma de mensajería (por ejemplo, las tarifas de WhatsApp Business), la herramienta que usas y tu tiempo. Compara precios actuales en la tabla de modelos.