El desarrollo y evolución de la inteligencia artificial en los últimos años no solo ha traído adelantos para la humanidad, sino que plantea toda una serie de riesgos y peligros que los propios expertos en la materia han señalado y que requieren tanto conocerlos y reflexionar sobre ellos, como regular este ámbito para prevenir la gran mayoría de ellos. En las siguientes líneas analizamos cuáles son los mayores peligros de la inteligencia artificial y cómo, y si es posible, evitarlos.
¿Cuáles son los peligros de la inteligencia artificial?
Como cualquier desarrollo tecnológico, la inteligencia artificial viene acompañada de diferentes riesgos y peligros que pueden tener un grave impacto para la humanidad, incluso en algunos casos, consecuencias impredecibles.
Algunos de estos peligros derivan del mal uso de la IA por parte de los usuarios, otros están vinculados a la falta de ética y autorregulación en el desarrollo de los diferentes modelos y herramientas de IA, y otros a la falta de un marco legislativo claro que regule los usos de la IA y pueda limitar sus abusos (aunque la Ley de IA de la UE ha abierto ya la puerta a estas regulaciones).
De manera que no solo podemos hablar de un peligro de la inteligencia artificial, sino de varios y diferentes peligros de la inteligencia artificial para el ser humano, la sociedad y el mundo en su conjunto. Algunos de los peligros que describiremos a continuación, todavía pueden sonar a ciencia ficción, pero lo cierto es que la gran mayoría ya se producen y otros pueden estar más cercanos de lo que pensamos, porque el principal peligro de la IA es el rápido desarrollo que está experimentando en estos años, evolucionando a una velocidad que no nos permite prever del todo hacia dónde nos dirigimos con esta tecnología.
Falta de transparencia
La falta de transparencia en la inteligencia artificial es un peligro que ya estamos experimentando; no solo se trata de no saber con qué datos se ha entrenado un modelo de aprendizaje profundo (como ChatGPT), sino de no entender cómo funcionan este tipo de modelos y herramientas basadas en ellos, especialmente cuando se emplean en procesos de toma de decisiones automatizadas.
No entender cómo funciona un modelo de IA, es no entender cómo llega a las conclusiones que llega, ni la lógica detrás de estas y de los modelos, lo que genera desconfianza en los usuarios.
Pero más allá de la desconfianza y la reticencia a adoptar estas nuevas herramientas tecnológicas, la falta de transparencia nos pone a las personas en una situación de desventaja y vulnerabilidad; si no entiendo cómo funciona una herramienta de IA, qué datos emplea y qué lógica sigue para tomar sus decisiones, no podré defenderme adecuadamente frente a decisiones que me afecten o no podré superar, en determinados escenarios, las condiciones de la máquina.
Por ejemplo, esto ya comienza a verse en los procesos de selección de personal que emplean aplicaciones de criba basadas en IA; personas en búsqueda de empleo han visto cómo sus CV eran descartados sin más explicación, quizás, de que no se ajusta a los criterios del puesto. Lo que no te cuentan es cuáles son esos criterios que está empleando la aplicación de IA y, por lo tanto, te abocan a seguir recibiendo rechazos, mientras tu CV no sea revisado por un humano o busques las respuestas por tu cuenta.
Sesgos que conducen a discriminación
Hasta que la IA no tome autoconsciencia de sí misma, todo lo que es y hace depende de su programación y de su entrenamiento, que es realizado por humanos y los humanos tenemos sesgos y prejuicios que se pueden traspasar al modelo de IA cuando este es entrenado con conjuntos de datos sesgados o al propio diseño del algoritmo.
Por lo tanto, otro de los peligros de la IA es la perpetuación de prejuicios que pueden conducir a discriminaciones de grupos o colectivos que ya vienen sufriendo discriminación. Esto, sumado a la falta de transparencia del punto anterior, puede tener un grave impacto en los derechos y libertades fundamentales de las personas.
Que los modelos de IA tienen sesgos también es algo que ya se está produciendo, podemos verlo en algunos generadores de imágenes o en los propios algoritmos que se han empleado para cribar currículums en procesos de selección, cuando estos han sido entrenados con conjuntos de datos poco diversos (por ejemplo, hace unos años Amazon vio como para un puesto técnico, el algoritmo que empleaba para una primera criba, descartaba la mayoría de CV de mujeres; acabaron por descubrir que esto se debía que los datos de entrenamiento eran mayoritariamente de CV masculinos).
Dilemas éticos
El proceso de toma de decisiones de la IA se basa en el análisis y procesamiento de datos, por lo que es necesario implementar directrices éticas en la fase de desarrollo y entrenamiento del modelo, para que sus respuestas y conclusiones se guíen por la ética, lo que implica que la «inculcación» de estos valores éticos depende enteramente de sus creadores y programadores.
Si un modelo de IA es hackeado en alguna parte de su proceso de creación, desarrollo y entrenamiento, estos valores podrían manipularse para que las respuestas del modelo carecieran de guía ética o respondieran a otros valores diferentes.
Así mismo, los valores éticos que se implementan en los modelos de IA pueden ser insuficientes o quedarse cortos al enfrentar situaciones o dilemas éticos para los que no han sido programados o no se han previsto.
Invasión de la privacidad
Para entrenar los modelos de IA, es necesario usar grandes volúmenes de datos, entre los cuales puede haber datos personales, lo que plantea riesgos para la privacidad de las personas (ya ha habido casos en que algunos modelos de lenguaje han dado información personal en sus respuestas).
Pero este no es el único peligro de la IA para la privacidad; dispositivos que usan IA y que usamos en nuestra vida diaria pueden «espiarnos», recabar información sobre nosotros y utilizarla con diferentes fines (comerciales, de investigación de mercado, etc.). Estos y otras aplicaciones también pueden utilizar la información y contenidos que compartimos y creamos para entrenar otros modelos de IA (como ha anunciado que va a hacer Meta en Instagram y Facebook, salvo que el usuario manifieste de forma expresa su oposición).
Esta invasión de la privacidad por parte de la IA nos hace perder el control sobre nuestra propia información personal y nos expone a diferentes riesgos, como la manipulación.
Riesgos para la seguridad y la ciberseguridad
El desarrollo y avance de la IA también presenta peligros para la seguridad y para la ciberseguridad. De la misma forma que se puede emplear la IA para reforzar estos elementos, también puede ser empleada por actores maliciosos para desplegar ciberataques más sofisticados y complejos o para encontrar y explotar vulnerabilidades.
La inteligencia artificial puede emplearse para crear código malicioso y distribuirlo, para llevar a cabo ataques de ingeniería social más sofisticados, por ejemplo, en ataques de phishing que resulten más convincentes o utilizar voces clonadas para engañar y estafar a personas y empleados, haciéndoles creer que hablan con alguien conocido que necesita ayuda o que pide una transferencia de dinero de la empresa.
De estos peligros ya tenemos ejemplos en la actualidad.
Pérdida de creatividad y dependencia de la IA
La inteligencia artificial puede ayudarnos en diferentes campos y sectores, haciéndonos más eficientes y productivos, a predecir escenarios y situaciones gracias al análisis de datos, a hacer proyecciones y prepararnos para determinados futuros. Sin embargo, esto puede hacernos dependientes de la IA, confiar y apoyarnos en ella para tomar todo tipo de decisiones, tanto a nivel empresarial como personal, lo que puede acabar afectando a nuestra propia capacidad de análisis y pensamiento crítico. Si la IA puede hacer las cosas por nosotros, qué necesidad tenemos de hacerlas realmente.
Relacionado con esto también está la pérdida de creatividad, especialmente debidas al uso de IA generativas, que en algunos casos ya se usan para sustituir el trabajo de los artistas y escritores (para ahondar más sobre este tema, podéis leer nuestro artículo sobre inteligencia artificial y derechos de autor).
Si los creadores ven cómo se recurre a la IA para que esta haga su trabajo, podemos correr el peligro de que estos dejen de crear y en el futuro desaparezca cualquier creación artística humana.
Destrucción de empleos
La automatización de determinadas tareas y trabajos impulsada por la IA puede provocar la destrucción de empleos, especialmente aquellos menos cualificados y que son más repetitivos y rutinarios.
Aunque la IA pueda generar otros puestos de trabajo, no todo el mundo que pierda el suyo podrá acceder a ellos, ya que en su mayoría serán trabajos cualificados, que requerirán de tener conocimientos y experiencia suficiente para poder desempeñarlos. Y el reciclaje laboral no será siempre posible, como no lo es que cualquier persona pueda acceder a estudios superiores.
Agravación de la desigualdad
En parte, como consecuencia del peligro de la IA del punto anterior, esta tiene el potencial de contribuir a la agravación de la desigualdad económica, tanto entre las personas como entre los países.
La destrucción de empleos y la dificultad para encontrar un nuevo trabajo cuando el reciclaje no es posible, contribuirá a que sea más difícil la movilidad social y a aumentar la brecha salarial.
Por otro lado, la concentración del desarrollo y patentes de IA en unas pocas manos, grandes empresas tecnológicas y determinados países, conducirá a la concentración de la riqueza y el poder en estos pocos actores, lo que dificultará la existencia y crecimiento de empresas más pequeñas, al no poder competir en igualdad de condiciones.
El verdadero peligro inminente de la inteligencia artificial es acabar en poder de unas pocas entidades privadas con ánimo de lucro y la posibilidad de acrecentar aun más la desigualdad económica en todo el planeta.
Desinformación y manipulación
Otro de los peligros de la inteligencia artificial del que ya estamos siendo testigos es el de la desinformación y la manipulación; la creación deepfakes, cada vez más sofisticados, hace que sea más fácil difundir bulos y que la gente se los crea, manipulando así a la opinión pública.
Fuimos testigos del comienzo de la era de las fake news, con la IA, vamos a experimentar una nueva parte de esta era en la que hacernos dudar de todo cuanto se publica es tan peligroso como publicar bulos.
A esto también contribuyen los bots que replican y difunden los bulos a través de redes sociales, consiguiendo manipular el discurso público a favor de los intereses que haya detrás de quien los controla, sean estos económicos o políticos.
Armas basadas en IA
En un contexto internacional cada vez más tensionado, el desarrollo de armas basadas en IA es un peligro a tener muy presente, porque ya se están usando (el ejército de Israel usa un algoritmo para determinar las posibilidades de que en un objetivo concreto haya miembros de Hamas).
Si las armas inteligentes son las que «deciden» dónde y qué atacar, sin que ningún humano lo cuestione, podemos ser testigos de ataques indiscriminados sobre población civil o errores de cálculo de la IA que se traducen en la pérdida de vidas humanas, en el peor de los casos, incluso en el detonante de un nuevo conflicto armado.
Así mismo, usar armas basadas en IA puede conducir a que quien las usa no se sienta responsable de ello y de sus consecuencias; «fue decisión de la IA, yo solo apreté el botón» es la excusa que podemos no tardar mucho en escuchar.
Riesgos para la humanidad
En este último punto nos adentramos en terreno de especulación y casi ciencia ficción, porque uno de los peligros de la inteligencia artificial es el que puede representar para la humanidad el desarrollo de una inteligencia general artificial (AGI, por sus siglas en inglés) que supere la inteligencia humana.
La AGI sería capaz de comprender, aprender y aplicar conocimientos de manera flexible y autónoma en diferentes tareas y contextos y, yendo un poco más lejos, podría incluso ser consciente de sí misma y pensar por sí misma. Esto podría dar lugar a un escenario completamente imprevisible para el futuro de la humanidad, ya que los valores y prioridades de las AGI podrían no alinearse con los de los humanos (para ver ejemplos de lo que esto podría significar, existe una extensa literatura y filmografía distópica sobre ello).
¿Es la inteligencia artificial un peligro para la humanidad?
Tras el repaso de los principales peligros de la IA, ¿es la inteligencia artificial un peligro para la humanidad?
Lo cierto es que puede llegar a serlo si no se regula y autorregula su uso en base a unas directrices y valores éticos que necesariamente deben aplicarse en el desarrollo de modelos y sistemas de IA.
La IA tiene el potencial de ayudar a la humanidad y hacer de nuestra sociedad y planeta un lugar mejor, pero también tiene el potencial de abocarnos a la catástrofe. Todo depende del desarrollo, uso y regulación que de ella se haga.
Como cualquier tecnología, la IA no es mala ni buena, sino que puede usarse tanto para el bien como para el mal, depende de quién la use y con qué fines.
¿Cómo se pueden evitar los peligros de la inteligencia artificial para el ser humano?
Para evitar los peligros de la inteligencia artificial para el ser humano, es necesario, cómo ya hemos venido señalando, su regulación, es decir, crear un marco jurídico que establezca límites a lo que puede y no puede hacerse con la IA, en qué se puede emplear y con qué salvaguardas, que garantice un uso justo y equitativo de esta tecnología, a la que todos podamos tener acceso, a que sea transparente y que siempre que se requiera, supervisada por un humano, establecer los valores y directrices éticas que deben guiar su desarrollo e implementación, proteger los derechos de particulares y empresas que puedan verse afectados por el uso indebido de la IA, etc. En ese sentido, la Ley de Inteligencia Artificial (que entrará en vigor a lo largo de 2026) ya da significativos pasos para la regulación de la IA.
Pero los gobiernos no son los únicos que pueden regular la IA; otros organismos internacionales pueden crear estándares internacionales (como las normas ISO) para crear y desarrollar modelos y sistemas de IA éticos, transparentes y responsables.
Así mismo, los abogados expertos en inteligencia artificial pueden ayudar a personas y empresas afectadas por el mal uso de la IA a defender sus intereses, pero también promover iniciativas (junto a otros actores) para informar sobre cómo nos afecta la IA y cómo puede impactar en nuestros derechos y libertades.
La inteligencia artificial ha llegado para quedarse, ahora depende de creadores, desarrolladores, gobiernos y otras organizaciones, así como de la propia sociedad, dar un buen uso a esta tecnología disruptiva y prevenir los peligros que trae consigo.
