La demo costó unos centavos. El primer mes con usuarios reales trajo una factura que nadie había calculado. Le pasa a muchos equipos, y casi siempre por la misma razón: se presupuestó el desarrollo y no el consumo, que en un producto con IA es un costo variable que crece con el uso.
Acá no hay precios, porque cambian seguido y dependen del proveedor. Lo que sí se puede entender es de qué se compone el gasto y dónde tenés margen para moverlo.
Cómo se cobra
La mayoría de los proveedores de modelos cobra por tokens, la unidad de texto que procesa el modelo (un fragmento de palabra, aproximadamente). Se factura por separado lo que enviás, los tokens de entrada, y lo que el modelo genera, los de salida. Normalmente la salida cuesta más por token que la entrada, así que una respuesta larga pesa más que una pregunta larga.
Un detalle que sorprende: la entrada incluye todo lo que mandás, y la pregunta del usuario es apenas una parte. Las instrucciones del sistema, los ejemplos, los documentos recuperados y el historial de la conversación viajan en cada llamada. Un chat de veinte turnos reenvía los diecinueve anteriores en el turno veinte. Por eso el costo de una conversación crece más rápido que linealmente.
Estimar con datos reales
Hacer la cuenta con ejemplos inventados lleva a números optimistas. Un camino más fiable:
- Juntá una muestra de entre cincuenta y cien interacciones representativas, con sus entradas completas.
- Medí los tokens de entrada y de salida de cada una (los proveedores informan el uso en la respuesta de la API).
- Calculá el promedio, pero mirá también los casos extremos, porque son los que desbordan el presupuesto.
- Multiplicá por la cantidad de usos esperados por usuario y por mes, y agregale un margen para reintentos y picos.
Con eso tenés un costo por interacción y un costo por usuario activo. Esa cifra es la que tiene que entrar en el precio que le cobrás al cliente, junto con una cuota de seguridad por si el uso real se dispara.
Decisiones que bajan el gasto
Elegir el modelo según la tarea. No toda consulta necesita el modelo más grande. Clasificar un mensaje, extraer un campo o reformular una frase suele resolverse bien con uno más chico y más barato. Una estrategia habitual es dejar el modelo grande para lo difícil y derivar lo simple al chico. Verificalo con tu conjunto de pruebas antes de cambiar nada.
Acortar el contexto. Revisá qué mandás en cada llamada. Instrucciones que repiten lo mismo tres veces, documentos enteros cuando alcanzaba un fragmento, historial completo cuando bastaba un resumen. Resumir los turnos viejos de una conversación y conservar textual solo lo reciente recorta bastante sin que el usuario lo note.
Limitar la salida. Pedir respuestas breves y fijar un tope de tokens de salida evita sorpresas. Si el formato es estructurado, un JSON compacto gasta menos que un párrafo explicativo.
Cachear. Hay dos niveles. El primero es guardar respuestas a preguntas que se repiten textualmente o casi (preguntas frecuentes, traducciones de textos fijos) y servirlas sin llamar al modelo. El segundo, que algunos proveedores ofrecen, es el caché de prefijos: si el comienzo de tu prompt es siempre igual (las instrucciones largas, por ejemplo), esa parte puede procesarse a menor costo. Para aprovecharlo, poné lo fijo al principio y lo variable al final. Revisá en la documentación de tu proveedor cómo funciona exactamente, porque los detalles cambian.
Límites para que nadie te rompa la cuenta
Todo producto con IA expuesto al público necesita topes. Un límite de uso por usuario y por día, un tope de tamaño de entrada y una alerta de gasto en el panel del proveedor son medidas baratas. También conviene un corte de emergencia que podés accionar sin desplegar código. Sin esto, un bucle mal escrito o un usuario que automatiza consultas puede consumir en una noche el presupuesto del mes.
La latencia es otro costo
Más tokens de salida significa más espera. Un modelo grande suele responder más lento que uno chico, y un contexto enorme alarga el tiempo antes de la primera palabra. Para el usuario, una respuesta que tarda diez segundos es un costo aunque no aparezca en la factura. Mostrar la respuesta en streaming mejora la percepción sin cambiar el total, y tener un modelo rápido para lo simple ayuda en ambos frentes.
Si tenés que quedarte con un solo hábito, que sea medir. Registrá los tokens de cada llamada desde el primer día. Sin ese dato, cualquier optimización es una corazonada, y con él ves enseguida qué parte del prompt, qué funcionalidad o qué usuario concentra el gasto.