El consumo de recursos de ChatGPT: Una mirada hacia la sostenibilidad

2 de Junio de 2023 · 3 min de lectura

spain_portugalpsp

Introducción

El año 2023 es el año de la inteligencia artificial. El modelo más usado sobre todo está siendo ChatGPT, en general, la mayoría de noticias que leemos hablan sobre los costos monetarios de ejecutar el modelo, pero no mucha gente habla sobre los costes ambientales del modelo.

Este modelo basado en IA que utiliza técnicas de Deep Learning para generar respuestas en procesamiento de lenguaje natural. Este modelo ha sido entrenado utilizando grandes cantidades de datos y ha alcanzado un nivel impresionante de capacidad para comprender y responder preguntas. Sin embargo, su rendimiento tiene un costo.

ChatGPT probablemente se implemente en múltiples ubicaciones geográficas, por lo que es muy dificil estimar la huella de carbono diaria, porque necesitaríamos saber exactamente cuántas GPU se ejecutan en qué regiones para incorporar los factores de emisión de carbono según el suministrador de la región. Por otro lado, estimar el consumo de electricidad y de agua de ChatGPT, en principio es más simple, ya que en este caso no necesitamos saber en qué regiones se está ejecutando.

Metodología

Kasper Groes Albin Ludvigsen, experto en sostenibilidad y científico de datos, ha propuesto una metodología para calcular el consumo eléctrico de modelos de IA usando los datos de "Estimating the carbon footprint of a bloom, a 176B parameter language model". De esta manera consigue estimar su consumo en tres pasos:

  1. Estima el consumo eléctrico de ChatGPT por query.
  2. Estima el numero de queries totales de ChatGPT para un período concreto, en este caso el mes de Enero de 2023.
  3. Multiplica estos datos por dos: prompt y respuesta.

De la misma manera, el funcionamiento de modelos de inteligencia artificial requiere infraestructuras físicas, que necesitan sistemas de refrigeración. Estos sistemas de refrigeración necesitan agua potable para evitar temperaturas altas en los equipos. Utilizando una metodología similar a la anterior, basándonos en los datos de Making AI Less “Thirsty”: Uncovering and Addressing the Secret Water Footprint of AI Models, podemos realizar una estimación del consumo de agua necesaria para los procesos de refrigeración. Para esta estimación no se tendrán en cuenta los costes hídricos derivados de la producción de energía, ya que no entra en nuestro alcance.

Una vez estimados estos datos podemos proceder a relativizar los datos comparándolos con el consumo de un ciudadano medio español, siendo los datos más recientes el Informe del Sistema Eléctrico Español de 2020 y el La Estadística sobre el Suministro y Saneamiento del Agua del INE para el mismo año.

Resultados

El consumo mensual de un español medio es 421 kWh y el de agua son 3990 L. Siguiendo la metodología mencionada anteriormente, se han obtenido los resultados adjuntos en la tabla.

Captura desde 2023-05-25 16-17-58

Como podemos observar al dividir el consumo mensual entre el consumo estimado podemos obtener que ChatGPT consume de media al mes lo que aproximadamente 22000 españoles a nivel energético y 17500 españoles a nivel hídrico. En los datos menos eficientes nos encontramos con un consumo equivalente a 55500 personas en cuanto a electricidad y 30000 personas en cuanto a agua potable.

Conclusiones

Aunque el manejo de una sola query consume recursos mínimos, la cantidad total se acumula en cantidades significativas cuando un producto como ChatGPT se expande. El motor de búsqueda Bing ha formado una alianza con OpenAI, lo que podría aumentar significativamente el número de consultas que ChatGPT debe manejar, y, por lo tanto, también aumentar el consumo de electricidad. Esto es sólo un ejemplo de sinergias que surgen con la salida de esta herramienta.

Por tanto, aunque estas tecnologías ofrezcan beneficios significativos, también debemos tener en cuenta su impacto ambiental y abre la puerta al debate sobre si la incorporación de modelos de aprendizaje automático en productos ya existentes aporta el suficiente valor como el aumento de consumo de recursos que esto supone.

Comparte este artículo
Artículos recientes