“Puede ‘alucinar’, inventando respuestas sin necesariamente ser ciertas”: las advertencias del Mineduc a los docentes sobre el uso del ChatGPT

Este lunes, el Ministerio de Educación (Mineduc) lanzó una guía orientada a los quipos docentes, con el objetivo de entregar recomendaciones y advertir sobre las “limitaciones y precauciones” en torno al uso en ascenso del software de Inteligencia Artificial (IA) ChatGPT.

El ChatGPT es una famosa herramienta de la aplicación OpenAI, que utiliza IA para que los usuarios puedan mantener una conversación con el programa, resolver dudas de una amplia variedad de temáticas, traducir idiomas o generar textos, entre otras acciones.

Bajo ese escenario, en un documento de 15 páginas -que será facilitado en todos los establecimientos educacionales del país y que se encuentra disponible en ciudadaníadigital.cl-, el Mineduc entregó recomendaciones para su uso en el contexto educacional y advirtió que las respuestas que entrega ChatGPT “pueden ser incorrectas”.

“Es muy importante tener en consideración que las respuestas que entrega ChatGPT pueden ser incorrectas, imprecisas o tener distintos sesgos, ya que están basadas en la información con que se entrenó”, dicta el documento.

Asimismo, explican que, “si la información que recibió en su entrenamiento es incorrecta, imprecisa o sesgada, es altamente probable que reproduzca estos errores y sesgos. Por ejemplo, es probable que al responder reproduzca estereotipos y desigualdades de género, asociados al color de piel o visiones predominantes de ciertas culturas sobrerrepresentadas”.

Además, advierten que el chat, “al no tener siempre información contextualizada sobre lo que se le pregunta, puede “alucinar”, inventando respuestas sin necesariamente ser ciertas”.

Bajo ese escenario, desde el ministerio llaman a que la plataforma sea utilizada “siempre con criterio y juicio crítico”.