El despilfarro de tokens en inteligencia artificial preocupa a las empresas
Hace un año, Sam Altman hacía una predicción llamativa: a medida que la producción de centros de datos se automatice, el coste de la inteligencia artificial [IA] debería converger en algún momento con el coste de la electricidad. Eso no ha ocurrido, pero además de gastar muchos tokens, se están desperdiciando.
El fenómeno del tokenmaxxing
El consumo desenfrenado de tokens como moda más que como herramienta útil ha comenzado a disparar alarmas. Las empresas se han dado cuenta de que están gastando pequeñas fortunas para que sus empleados intenten aprovechar al máximo la IA.
- Desperdicio de IA: Un estudio de EntelligenceAI afirma que por cada dólar invertido en IA, solo 18 centavos acaban llegando a producción. El 82% restante se invierte en correcciones y procesos de revisión sin generar valor.
- Uber advierte: Andrew Macdonald, COO de Uber, cuestiona el gasto masivo en IA y sugiere que no siempre está justificado si no va ligado a mejoras en la productividad. La empresa ha empezado a recortar el presupuesto para modelos de IA.
- Incertidumbre: Algunos expertos advierten que cortar el uso de IA puede ser contraproducente, ya que esto podría ser solo el principio. La clave está en no malgastarla.
El correcto uso de la IA
Según Matan Gringberg, CEO de la startup de IA Factory, es crucial utilizar los modelos de IA de forma adecuada para evitar el malgasto. Ejemplos como usar modelos potentes para tareas simples o triviales ilustran la necesidad de un uso responsable.
- Consumo excesivo de tokens: En el evento Google I/O, Sundar Pichai reveló que Alphabet procesa más de 3.200 billones de tokens al mes, siete veces más que hace un año. Esta demanda ha llevado a las empresas a restringir el uso trivial de IA.
- Agentes de IA: La proliferación de herramientas agénticas de programación ha aumentado significativamente el consumo de tokens. Automatizar tareas con estos agentes intensifica el gasto.
De tarifas planas a pago por uso
Empresas como OpenAI y Anthropic han cambiado sus estrategias, limitando los planes mensuales para que los usuarios no abusen de ellos. La filosofía de pago por uso busca concienciar a los usuarios sobre el uso adecuado de modelos de IA potentes.
En resumen, el despilfarro de tokens en IA es un problema que preocupa a las empresas, que buscan optimizar su uso. Lo importante no es consumir la IA por el mero hecho de hacerlo, sino utilizarla de manera eficaz para mejorar la productividad.
