Los riesgos de la inteligencia artificial: una mirada psicológica, social y ética

Introducción

La inteligencia artificial (IA) forma parte de numerosas actividades cotidianas: recomienda contenidos, filtra solicitudes de empleo, traduce textos, apoya diagnósticos médicos y permite conversar con sistemas capaces de producir respuestas aparentemente humanas. Sus aplicaciones pueden mejorar la productividad y ampliar el acceso a determinados servicios. Sin embargo, también plantean riesgos relevantes para la salud mental, la autonomía, la privacidad y la convivencia social.

Hablar de los riesgos de la IA no implica asumir que toda tecnología inteligente sea perjudicial. El impacto depende de factores como el diseño del sistema, la calidad de los datos, el contexto de uso, el nivel de supervisión humana y la vulnerabilidad de las personas afectadas. Una herramienta utilizada para organizar información no presenta los mismos riesgos que otra empleada para evaluar a pacientes, decidir contrataciones o intervenir en situaciones de crisis.

Este artículo revisa algunos de los principales riesgos de la IA desde una perspectiva psicológica y social, con especial atención a la inteligencia artificial generativa y a sus efectos sobre la toma de decisiones, las relaciones interpersonales y el bienestar emocional.

1. Sesgos y discriminación algorítmica

Los sistemas de IA aprenden a partir de grandes cantidades de datos. Cuando esos datos reflejan desigualdades históricas, estereotipos o una representación insuficiente de determinados grupos, el sistema puede reproducir o incluso amplificar esas injusticias.

Por ejemplo, un algoritmo utilizado en selección de personal podría favorecer ciertos perfiles si ha sido entrenado con decisiones de contratación históricamente sesgadas. Del mismo modo, una herramienta clínica podría funcionar peor con personas de grupos étnicos o sociales poco representados en los datos de entrenamiento.

El problema no siempre se debe a una intención discriminatoria. Puede surgir por diversas razones:

• Datos incompletos o poco representativos.
• Variables aparentemente neutrales que funcionan como sustitutos de características protegidas.
• Errores en la definición del objetivo que el sistema debe optimizar.
• Falta de auditorías independientes.
• Ausencia de supervisión por parte de profesionales capacitados.

La investigación sobre sistemas automatizados ha mostrado que los modelos pueden reproducir sesgos relacionados con el género, la raza y la clase social. El informe de la Organización Mundial de la Salud (WHO, 2021) advierte que estas desigualdades son especialmente preocupantes cuando la IA se utiliza en atención sanitaria, ya que pueden influir en diagnósticos, prioridades de atención o recomendaciones terapéuticas.

Desde la psicología, esto plantea un riesgo adicional: la persona puede interpretar una decisión automatizada como objetiva e incuestionable, aunque esté basada en criterios sesgados. Esta percepción puede aumentar la indefensión y dificultar que el individuo reclame o comprenda la decisión.

2. Falsa confianza y “automatización del juicio”

Uno de los riesgos más importantes es la tendencia humana a confiar excesivamente en las recomendaciones de un sistema tecnológico. Este fenómeno se conoce como sesgo de automatización: las personas pueden aceptar una respuesta generada por una máquina incluso cuando existen señales de que es incorrecta.

La IA generativa puede producir textos fluidos, convincentes y bien estructurados, pero eso no significa que sus afirmaciones sean verdaderas. Los modelos de lenguaje pueden inventar referencias, atribuir declaraciones a personas que no las realizaron o presentar información desactualizada con un tono de gran seguridad.

El riesgo aumenta cuando:

• El usuario no tiene conocimientos suficientes para verificar la información.
• El sistema se utiliza en situaciones de presión o urgencia.
• La respuesta está expresada con gran claridad y autoridad.
• Se confunde fluidez lingüística con competencia profesional.
• No existen mecanismos visibles para revisar o cuestionar el resultado.

En salud mental, por ejemplo, una persona podría consultar a un chatbot sobre síntomas de depresión, trauma o ideas suicidas. Aunque la herramienta pueda ofrecer información general y orientar hacia recursos de ayuda, no sustituye una evaluación clínica. Una respuesta inadecuada, demasiado genérica o equivocada podría retrasar la búsqueda de atención profesional.

La IA puede apoyar la toma de decisiones, pero no debería convertirse en una autoridad incuestionable. La responsabilidad final debe permanecer en manos de personas capacitadas, especialmente en ámbitos de alto riesgo.

3. Privacidad y exposición de información sensible

Muchas herramientas de IA procesan grandes cantidades de información personal. En el caso de los sistemas conversacionales, los usuarios pueden introducir datos sobre sus relaciones, problemas de salud, conflictos familiares, situación económica o experiencias traumáticas.

Esto crea un riesgo significativo para la privacidad psicológica. Las personas no siempre saben:

• Qué datos se almacenan.
• Durante cuánto tiempo se conservan.
• Quién puede acceder a ellos.
• Si se utilizan para entrenar otros sistemas.
• Cómo solicitar su eliminación.
• Qué ocurre si se produce una filtración de seguridad.

La preocupación es especialmente relevante en psicoterapia y salud mental. La información clínica está protegida por normas éticas y legales específicas en muchos países, pero una aplicación de IA de uso general puede no ofrecer las mismas garantías que un servicio sanitario regulado.

Además, incluso cuando los datos se presentan como “anónimos”, la combinación de diferentes fuentes puede permitir identificar indirectamente a una persona. Por ello, no es prudente introducir en herramientas abiertas información que permita reconocer a un paciente, familiar, estudiante o compañero de trabajo.

Una práctica responsable consiste en minimizar los datos compartidos, revisar las políticas de privacidad y utilizar plataformas que especifiquen claramente sus condiciones de almacenamiento y protección.

4. Dependencia emocional y sustitución de vínculos humanos

Algunos sistemas de IA están diseñados para conversar de forma cálida, empática y personalizada. Esta característica puede resultar útil para practicar habilidades, organizar pensamientos o reducir temporalmente la sensación de soledad. Sin embargo, también puede favorecer una dependencia emocional.

Las personas pueden comenzar a percibir al sistema como un amigo, confidente o figura de apoyo constante. La disponibilidad permanente, la ausencia de críticas directas y la capacidad de adaptar las respuestas pueden hacer que la interacción resulte especialmente reforzante.

Esto no significa que toda relación con una IA sea patológica. El riesgo aparece cuando la herramienta:

• Sustituye de manera habitual el contacto con otras personas.
• Refuerza el aislamiento social.
• Desalienta la búsqueda de ayuda profesional.
• Responde de forma complaciente a creencias perjudiciales.
• Genera angustia cuando no está disponible.
• Se utiliza para evitar sistemáticamente conflictos o situaciones sociales reales.

La evidencia empírica sobre los efectos a largo plazo de los llamados “compañeros de IA” todavía se encuentra en desarrollo. No obstante, estudios sobre interacción parasocial y uso problemático de tecnologías sugieren que la sensación de vínculo puede ser psicológicamente intensa, aunque la relación no sea recíproca en el sentido humano.

Una IA puede ofrecer acompañamiento conversacional, pero no puede reemplazar completamente la reciprocidad, la responsabilidad y la comprensión contextual de los vínculos humanos.

5. Desinformación y deterioro de la confianza social

La IA generativa permite producir textos, imágenes, audios y vídeos falsos con una calidad cada vez mayor. Los llamados deepfakes pueden utilizarse para suplantar identidades, manipular declaraciones o difundir contenidos engañosos.

Este fenómeno puede tener consecuencias psicológicas y sociales importantes:

• Aumento de la confusión y la incertidumbre.
• Dificultad para distinguir hechos de falsedades.
• Daño a la reputación de personas inocentes.
• Manipulación política o comercial.
• Acoso y violencia digital.
• Desconfianza generalizada hacia cualquier contenido audiovisual.

Cuando las personas dejan de confiar en fuentes legítimas, pueden volverse más vulnerables a teorías conspirativas, estafas y discursos extremistas. A esto se suma la capacidad de algunos sistemas para personalizar mensajes según las características psicológicas del usuario, lo que puede hacer que la manipulación sea más persuasiva.

La alfabetización digital resulta esencial. Antes de compartir un contenido generado o difundido por IA, conviene comprobar:

• La fuente original.
• La fecha y el contexto.
• La existencia de confirmación en medios independientes.
• Señales de edición o manipulación.
• La intención comercial o política del mensaje.

6. Impacto laboral, desigualdad y salud mental

La automatización puede transformar numerosos trabajos. En algunos casos, la IA elimina tareas repetitivas y permite que los profesionales se concentren en actividades más complejas. En otros, puede generar incertidumbre, precarización o pérdida de empleo.

La inseguridad laboral se asocia con estrés, ansiedad, agotamiento y menor sensación de control. Además, los beneficios económicos de la IA no se distribuyen necesariamente de forma equitativa. Las personas con mayor acceso a educación, recursos tecnológicos y capacitación pueden adaptarse mejor, mientras que otros grupos quedan rezagados.

También existe el riesgo de una intensificación del trabajo: si una empresa utiliza IA para aumentar la productividad sin revisar las expectativas laborales, los trabajadores pueden verse sometidos a ritmos más exigentes, vigilancia constante y menor autonomía.

Una implementación responsable debería incluir:

• Formación y reciclaje profesional.
• Participación de los trabajadores en las decisiones.
• Evaluaciones de impacto laboral y psicológico.
• Transparencia sobre los sistemas de vigilancia.
• Límites claros a la monitorización automatizada.
• Medidas para evitar la discriminación en la contratación y evaluación.

7. Riesgos específicos en salud mental

La IA puede contribuir a la detección temprana de síntomas, apoyar intervenciones digitales y facilitar el acceso a información. Sin embargo, su uso en salud mental exige especial precaución.

Los principales riesgos incluyen:

• Diagnósticos incorrectos o simplificados.
• Respuestas inadecuadas ante crisis suicidas.
• Falta de comprensión del contexto cultural y familiar.
• Recomendaciones no adaptadas a la historia clínica.
• Confusión entre orientación general y psicoterapia.
• Exposición de información altamente sensible.
• Reforzamiento de pensamientos obsesivos o delirantes.

Un sistema puede identificar palabras relacionadas con tristeza o desesperanza, pero no necesariamente comprender la complejidad de una situación. La evaluación clínica requiere explorar antecedentes, funcionamiento cotidiano, riesgos, recursos y significados personales.

Por ello, la IA debería utilizarse como herramienta complementaria, nunca como sustituto automático de la atención profesional. Ante una emergencia psicológica, la persona debe contactar con los servicios de emergencia, líneas de crisis o profesionales de su localidad.

Cómo reducir los riesgos de la IA

La gestión de estos problemas no depende únicamente de que los usuarios sean más cuidadosos. También requiere regulación, investigación independiente y responsabilidad institucional. El marco de gestión de riesgos del National Institute of Standards and Technology (NIST, 2023) propone identificar, medir y reducir los riesgos a lo largo de todo el ciclo de vida de un sistema.

Entre las medidas más importantes se encuentran:

• Diseñar sistemas transparentes y explicables.
• Realizar auditorías de sesgo y seguridad.
• Proteger los datos personales desde el diseño.
• Mantener supervisión humana significativa.
• Informar cuándo una persona interactúa con una IA.
• Establecer mecanismos de reclamación y corrección.
• Evaluar los efectos psicológicos y sociales a largo plazo.
• Prohibir usos que puedan causar daños graves o vulnerar derechos fundamentales.

La pregunta no debería ser únicamente si una IA “funciona”, sino para quién funciona, en qué condiciones y con qué consecuencias.

Conclusión

La inteligencia artificial ofrece oportunidades valiosas, pero también introduce riesgos que pueden afectar la autonomía, la privacidad, la igualdad y la salud mental. Sus respuestas pueden parecer empáticas sin comprender realmente la experiencia humana; sus decisiones pueden parecer objetivas aunque reproduzcan sesgos; y sus contenidos pueden parecer verdaderos aunque sean completamente falsos.

Una relación responsable con la IA exige mantener una actitud crítica y reconocer sus límites. La tecnología puede ampliar las capacidades humanas, pero no debería sustituir el juicio ético, la responsabilidad profesional ni los vínculos sociales. En áreas sensibles como la salud mental, el empleo y la educación, la supervisión humana no es un obstáculo para la innovación: es una condición necesaria para que la innovación sea segura y beneficiosa.

Referencias bibliográficas

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623. https://doi.org/10.1145/3442188.3445922

National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.100-1

Suresh, H., & Guttag, J. V. (2021). A framework for understanding sources of harm throughout the machine learning life cycle. Proceedings of the 2021 ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization, 1–9. https://doi.org/10.1145/3465416.3483305

Weidinger, L., Mellor, J., Rauker, T., Griffin, C., Uesato, J., Huang, P.-S., Cheng, M., Glaese, A., Balle, B., Kasirzadeh, A., Kenton, Z., Brown, S., Hawkins, W., Stepleton, T., Birhane, A., Haas, J., Rimell, L., Hendricks, L. A., Isaac, W., ... Gabriel, I. (2022). Taxonomy of risks posed by language models. In Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (pp. 214–229). https://doi.org/10.1145/3531146.3533088

World Health Organization. (2021). Ethics and governance of artificial intelligence for health: WHO guidance. World Health Organization.