FinOps & Optimización de Tokens de IA
La adopción de inteligencia artificial no debe disparar los costos corporativos de Newsan. Cada interacción consume tokens en Google Cloud y se factura contra la cuenta de la compañía.
1 Estructura de Costos en Google Cloud (Vertex AI)
Los modelos de lenguaje facturan por millón de tokens (1M tokens ~ 750.000 palabras). Hay una diferencia abismal de costos entre las familias de modelos:
| Modelo | Input / 1M Tokens | Output / 1M Tokens | Relación de Costo | Caso de Uso Recomendado |
|---|---|---|---|---|
| Gemini 2.0 Flash / 1.5 Flash | $0.075 USD | $0.30 USD | 1x (Base) | 95% de las tareas: consultas, código, análisis de logs y resúmenes. |
| Gemini 1.5 Flash-Lite | $0.0375 USD | $0.15 USD | 0.5x (Ultra Barato) | Clasificación masiva, extracción simple y tareas background de alto volumen. |
| Gemini 1.5 Pro | $1.25 USD | $5.00 USD | 16.6x más caro | Razonamiento matemático profundo, arquitectura compleja o refactorings masivos. |
Siempre comenzar con Flash. Solamente escalar al modelo Pro si Flash no logra resolver la tarea tras un prompt claro y bien estructurado. Usar Pro "por si acaso" quema 16 veces más presupuesto sin ganancia perceptible.
Simulador Interactivo de Consumo y Costos
Escribí o pegá un texto de prueba para ver el costo exacto en dólares según el modelo.
2 Higiene de Contexto: Evitar el Despilfarro
- Subir un log de 200 MB cuando el error ocurrió en las últimas 15 líneas.
- Mantener una sesión de chat abierta durante 2 semanas saltando de un tema a otro.
- Pedirle a la IA que reescriba un archivo completo de 2000 líneas para cambiar una sola variable.
- Filtrar con
grep -i errorotail -n 50antes de enviar. - Usar
/compacto reiniciar sesión al cambiar de objetivo. - Solicitar únicamente el bloque de código o el
diffque se modifica.