Este conjunto mide el consumo de electricidad de sus mensajes de chatbot – ButterWord

¿Alguna vez te has preguntado cuánta electricidad se está utilizando cuando interactúas con un chatbot de IA? El ingeniero Julien Delavande se hizo esta pregunta, y construyó una herramienta para ayudar a encontrar la respuesta.

Los modelos de IA consumen energía cada vez que se ejecutan en GPU y chips especializados. Aunque no es posible determinar con precisión el consumo de energía de un modelo, se espera que el aumento en el uso de tecnologías de IA genere una mayor demanda de electricidad en los próximos años.

La necesidad de más energía para alimentar la IA ha llevado a algunas empresas a adoptar estrategias ambientalmente hostiles. Herramientas como la de Delavande buscan llamar la atención sobre este tema, y posiblemente hacer que los usuarios de IA reflexionen al respecto.

“Incluso pequeños ahorros de energía pueden sumar millones de consultas: la eficiencia del modelo o la longitud de la salida pueden tener un gran impacto ambiental”, escribieron los otros creadores de la herramienta.

⚡️ ¿Alguna vez te has preguntado cuánta energía se utiliza cada vez que envías un mensaje a ChatGPT?

Acabamos de crear una versión de la interfaz de chat que muestra cuánta energía consume tu mensaje en tiempo real. ¿Deberían todos los chatbots mostrar esto?

Detalles a continuación 👇👇 pic.twitter.com/tbl0pw51pw

– Delavande Julien (@juliendelavande) 22 de abril de 2025

La herramienta de Delavande está diseñada para trabajar con la interfaz de chat de ChatGPT, un front-end de código abierto para modelos como LUMBRE 3.3 70B de Meta y Gemma 3 de Google. La herramienta estima el consumo de energía de los mensajes enviados hacia y desde un modelo en tiempo real, informando el consumo en vatios-hora o julios. También compara el uso de energía del modelo con el de electrodomésticos comunes como microondas y LED.

LEAR  ¿Qué significa ser ciudadano por nacimiento? ¿Puede Trump eliminar el derecho constitucional en Estados Unidos?

Según la herramienta, pedir a LUMBRE 3.3 70B que escriba un correo electrónico sencillo utiliza aproximadamente 0.1841 vatios-hora, equivalente a hacer funcionar un microondas durante 0.12 segundos o usar una tostadora durante 0.02 segundos.

Es importante tener en cuenta que las estimaciones de la herramienta son solo eso: estimaciones. Delavande no afirma que sean extremadamente precisas. Sin embargo, sirven como un recordatorio de que todo, incluidos los chatbots, tiene un costo.

“Con proyectos como la calificación de energía de la IA y la investigación más amplia sobre la huella energética de la IA, estamos abogando por la transparencia en la comunidad de código abierto. ¡Algún día, el uso de energía podría ser tan visible como las etiquetas nutricionales en los alimentos!” escribieron Delavande y sus co-creadores.