¿Por qué los chatbots de IA como Bard y ChatGPT pierden dinero cada vez que alguien los usa?

Estamos todos maravillados, y de alguna forma también asustados, por la llegada de la Inteligencia Artificial a nuestra vida cotidiana. Y aunque se habla incontables veces sobre todo lo que puede llegar a hacer, poco se sabe sobre el costo monetario que implica tener en funcionamiento a los famosos chatbots con los que podemos conversar.

Pero estas altas cifras de dinero para ejecutar modelos de lenguaje, como ChatGPT o Bard, provocan que las empresas tengan que limitar su calidad y, por ende, arriesguen que el auge mundial de la IA quede atascado.

“Los modelos que se están implementando en este momento, por impresionantes que parezcan, en realidad no son los mejores modelos disponibles”, reveló Tom Goldstein, profesor de ciencias de la computación en la Universidad de Maryland a The Washington Post.

Y es que aunque los gigantes tecnológicos casi no discuten sobre el costo de la Inteligencia Artificial, los expertos señalan que el dinero es el obstáculo más evidente para seguir desarrollando herramientas gratuitas y de calidad para la población.

Por ejemplo, OpenAI retuvo el poderoso modelo de lenguaje GPT-4 y por eso utiliza GPT-3.5 en la versión gratuita de ChatGPT, pero incluso quienes pagan para tener el mejor, solo pueden enviar 25 mensajes cada tres horas, porque es muy costoso de ejecutar.

Por su parte, Google lanzó su chatbot Bard recientemente, pero no es su modelo de lenguaje más grande ni tecnológico, por lo mismo: el precio.

Sam Altman, creador de OpenAI y ChatGPT, reveló que el costo de su chatbot era de “probablemente centavos por cada dígito por chat”. Y aunque no parece mucho, hay que multiplicar esos centavos por los más de 10 millones de usuarios que tiene por día.

SemiAnalysis calculó que ChatGPT costaba 700 mil dólares por día (cerca de 557 millones de pesos chilenos), solo en costos de cómputo.

Todo esto sin contar que algunas empresas de IA contratan a investigadores estrellas, cuyos salarios son similares a los de atletas profesionales.

Incluso, en un informe reciente sobre inteligencia artificial, la administración Biden señaló los costos computacionales de la IA generativa como una preocupación nacional.

La Casa Blanca escribió que se espera que la tecnología “aumente drásticamente las demandas computacionales y los impactos ambientales asociados”, y que existe una “necesidad urgente” de diseñar sistemas más sostenibles.

En el congreso estadounidense, Altman señaló que como empresa están tratando de “diseñar sistemas que no maximicen el compromiso. De hecho, estamos tan cortos de GPU (procesamientos de gráficos), que cuanto menos personas usen nuestros productos, mejor”.