Las empresas que apostaron por la inteligencia artificial para ahorrar costos están descubriendo que el verdadero costo de los tokens de IA es mayor de lo esperado. A medida que la dependencia de la IA crece, las empresas buscan formas de gestionar el costo de los tokens y equilibrar los beneficios con los gastos.
La empresa de software 8×8 utiliza el chatbot de inteligencia artificial Claude, de Anthropic, para redactar correos electrónicos, analizar comentarios de clientes y escribir código. Aunque la dependencia de Claude ha aumentado, la empresa asegura que sigue obteniendo beneficios. En los últimos 18 meses, 8×8 ha ahorrado unos 5 millones de dólares en costos anuales al cancelar suscripciones a herramientas de software y formativas innecesarias, gracias a las capacidades de Claude.
Joel Neeb, director de transformación y operaciones empresariales de 8×8, espera que los ahorros y los costos se equilibren a medida que más empleados adopten la IA y se incorpore a tareas más complejas. Sin embargo, por ahora, la factura anualizada de 8×8 por Claude está «muy por debajo» de la cifra de ahorro. Neeb se negó a revelar el gasto total exacto en IA generativa.
La «tokenomía» se ha convertido en una nueva obsesión en el sector tecnológico, ya que las empresas invierten cientos de millones de dólares en herramientas de IA para la programación, el marketing y la atención al cliente. Los tokens representan la cantidad de contenido que un modelo de IA analiza y genera, y su costo puede variar dependiendo del modelo y la tarea.
El director ejecutivo del Royal Bank of Canada reveló que el uso de tokens se había disparado un 500% en los últimos seis meses. En Cisco, un tercio de los empleados utiliza un chatbot interno de IA diariamente, lo que ha llevado a un aumento significativo en el uso de tokens. Algunos de los principales ingenieros de Amplitude, desarrollador de software de análisis, están «gastando miles de dólares al mes o más en tokens», según su director ejecutivo, Spenser Skates.
Aproximadamente 300 empresas abordaron preguntas o inquietudes sobre los tokens de IA durante sus conferencias sobre resultados o en debates públicos con analistas financieros en abril o mayo. Esto supone una pequeña fracción de las miles de conferencias celebradas durante ese período, pero hace un año, en abril y mayo, solo 93 empresas mencionaron la palabra «token».
Las empresas están desarrollando o buscando adquirir sistemas para supervisar el uso de los tokens y elegir el modelo más económico para una tarea determinada. Otros están tratando de encontrar el equilibrio entre contratar a más personal y aumentar sus presupuestos para tokens para alcanzar sus objetivos.
En 8×8, se anima a los empleados a consultar regularmente un panel de control que muestra cuánto utilizan Claude tanto ellos como sus compañeros. Neeb resalta que es posible que 8×8 establezca límites al uso que el personal puede hacer de Claude, especialmente con el lanzamiento del modelo Claude Opus 4.8, que cuesta casi 1.7 veces más que una oferta anterior.
La dirección de 8×8 supervisa el uso de la IA y ha advertido a los empleados de que negarse a dominar la IA acarreará consecuencias. Neeb sostiene que la paciencia y las medidas de rendición de cuentas son necesarias para orientar a los empleados y evitar el despilfarro.
En resumen, las empresas que apostaron por la IA para ahorrar costos están descubriendo que el verdadero costo de los tokens de IA es mayor de lo esperado. A medida que la dependencia de la IA crece, las empresas buscan formas de gestionar el costo de los tokens y equilibrar los beneficios con los gastos. La «tokenomía» se ha convertido en una nueva obsesión en el sector tecnológico, y las empresas deben encontrar formas de supervisar y controlar el uso de los tokens para evitar el despilfarro y maximizar los beneficios de la IA.
