ChatGPT es fiable como modelo de lenguaje natural, pero no lo es como buscador ni como fuente de información. En las siguientes líneas explicamos por qué no debes confiar completamente en la información que le pides a ChatGPT, por qué, sin embargo, ChatGPT nos parece fiable y qué riesgos entraña esto.
Contenido del artículo
¿Cuán fiable es ChatGPT?
La fiabilidad de ChatGPT depende de la calidad y fiabilidad de los datos con los que haya sido entrenado, y ahí radica uno de sus problemas, que ha sido entrenado con datos de muy diversa índole y procedencia, de fuentes más confiables que otras y entre los que puede haber información falsa, errónea o sesgada.
Además, es imposible saber qué información forma la base de datos de ChatGPT exactamente, porque la falta de transparencia en la inteligencia artificial es, actualmente, uno de sus principales problemas, especialmente de los modelos de aprendizaje profundo (deep learning) que son denominados de IA de caja negra.
Así mismo, debemos tener en cuenta que en su versión gratuita, GPT-3.5, la información con la que fue entrenado solo llega a 2021, por lo que cualquier acontecimiento posterior no existirá para ChatGPT. Esto implica que si le hacemos determinadas preguntas para las que no dispone de información real, es muy probable que se invente las respuestas (lo que se ha venido en llamar «alucinación» de ChatGPT), de manera que la versión gratuita de ChatGPT falla mucho.
Ejemplo de respuesta cuando preguntamos a GTT-3.5 información posterior a enero de 2022
Y aun cuando la última versión de ChatGPT, GPT-4o (que es la versión de pago), está conectada a internet y puede buscar información en tiempo real a través de navegación web, sigue sin ser fiable como fuente de información, lo que nos lleva a nuestro siguiente punto.
¿Por qué ChatGPT no es fiable?
ChatGPT no es fiable como un buscador de internet ni como fuente de información, porque ChatGPT es un chatbot conversacional, capaz de mantener conversaciones en apariencia muy humanas con sus interlocutores, porque ha sido entrenado para ello.
Es lo que se conoce como un modelo de lenguaje natural, un tipo de inteligencia artificial basada en deep learning (aprendizaje profundo, un subconjunto del machine learning), que ha sido entrenada con millones de datos (entendidos como textos, imágenes, videos, etc.) y que gracias a ello puede predecir las palabras que debe colocar en una frase para responder a su interlocutor humano de manera coherente y natural.
Sin embargo, por muy bien construida que nos parezcan sus frases y por que sea capaz de mantener una conversación, cuando le preguntamos por una información concreta (sea un evento, una persona, un hecho histórico, un tema científico, etc.), responderá en base a la información de que disponga de ello, cómo hemos dicho, extraída de muy diversas fuentes (algunas cuestionables en cuanto a su fiabilidad) y ordenando y redactando la respuesta de una forma que puede alterar la información y presentarla de forma inexacta o con errores.
Cómo hemos señalado, las respuestas de ChatGPT son predicciones sobre cómo debe construir las frases, colocar las palabras, es decir, no contesta porque realmente entienda el sentido de la pregunta y razone su respuesta como hacemos los humanos.
Incluso con acceso a información reciente, ChatGPT puede cometer errores en sus respuestas, porque en internet puede encontrar información de calidad, sí, pero también errónea y falsa. Cómo decíamos más arriba, la fiabilidad de ChatGPT depende de la fiabilidad de sus fuentes.
Cabe señalar, no obstante, que para otras tareas ChatGPT sí puede ser más fiable, por ejemplo, cuando se trata de crear código de programación, de resumir textos, de traducir, de extraer las ideas principales de un artículo o de reescribir con un lenguaje comprensible un contenido técnico. Aunque todas estas tareas siempre deberían ser supervisadas y comprobadas por un profesional especializado en el área, porque también puede cometer errores.
¿Por qué nos parece fiable ChatGPT?
ChatGPT nos parece fiable porque está entrenado para que sus respuestas nos parezcan acertadas. ChatGPT escribe bien y responde de manera natural y coherente, lo que nos puede hacer olvidarnos de que no deja de ser una máquina entrenada para ello, que predice la frase más correcta para responder.
Además, que no sea enteramente fiable y falle, no quiere decir que ChatGPT se equivoque siempre, de hecho, cuando se trata de información de carácter general sobre algún tema o personaje, sus respuestas son relativamente correctas (aunque siempre se deben comprobar los datos y referencias que arroje). Además, cuantas más personas lo usan, a más datos tiene acceso el modelo y más aprende, de manera que se va perfeccionando a base de estas interacciones.
Cabe preguntarse si en un futuro no muy lejano, nuevas versiones de ChatGPT serán completamente fiables, capaces de detectar la información errónea, falsa o sesgada y no seguir reproduciéndola.
¿La falta de fiabilidad de ChatGPT es un riesgo?
En varios aspectos, la falta de fiabilidad de ChatGPT puede suponer un riesgo, especialmente cuando se toman sus respuestas como válidas y no se verifica la información suministrada.
Esto puede conducir, entre otras cosas, a la proliferación de la desinformación y los bulos respecto a determinados temas y personas. Si por internet ya circula información falsa y esta ha sido usada para entrenar el modelo o ChatGPT la toma como válida al buscar por la web, estará contribuyendo a difundirla. La desinformación y la manipulación es uno de los peligros de la inteligencia artificial mal usada.
Si hay personas que confían en las respuestas de ChatGPT y no las cuestionan ni las verifican, podrían surgir otros problemas; pensemos, por ejemplo, en si se usa ChatGPT para preguntar sobre la toma de medicamentos o los síntomas de una enfermedad, o para que de consejos sobre algún tema personal.
Estos problemas y riesgos se unen a los ya presentes en torno a la privacidad en ChatGPT (de ahí la importancia del RGPD aplicado a ChatGPT) y a las vulneraciones de la propiedad intelectual. Por todo ello, si usas ChatGPT como herramienta para tu trabajo o por simple entretenimiento, ten presente que ni es completamente fiable ni completamente seguro.
