Los riesgos de la inteligencia artificial: impacto psicológico, social y ético
Introducción
La inteligencia artificial (IA) forma parte de numerosas actividades cotidianas: recomienda contenidos, traduce textos, analiza imágenes médicas, automatiza procesos laborales y ofrece herramientas de conversación que pueden parecer cada vez más humanas. Sus aplicaciones pueden mejorar la eficiencia, ampliar el acceso a ciertos servicios y apoyar la investigación científica. Sin embargo, la incorporación acelerada de estas tecnologías también plantea riesgos psicológicos, sociales, laborales y éticos que requieren una evaluación cuidadosa.
Hablar de los riesgos de la IA no implica asumir que toda innovación tecnológica es perjudicial. El problema surge cuando se utilizan sistemas capaces de influir en decisiones importantes sin suficiente transparencia, supervisión humana o protección de las personas afectadas. Además, los riesgos no se distribuyen por igual: suelen afectar con mayor intensidad a quienes tienen menos recursos, menor alfabetización digital o una posición social más vulnerable.
Este artículo examina algunos de los principales riesgos asociados con la IA, con especial atención a sus efectos sobre la salud mental, las relaciones humanas, la autonomía y la confianza social.
La IA no es neutral
Con frecuencia se presenta a la IA como una herramienta objetiva capaz de analizar datos y tomar decisiones sin prejuicios. No obstante, los sistemas de IA son diseñados por personas, entrenados con datos históricos y utilizados dentro de instituciones concretas. Por ello, pueden reproducir o amplificar sesgos sociales preexistentes.
Los sesgos pueden introducirse en diferentes etapas:
- En la selección de los datos utilizados para entrenar el sistema.
- En la forma en que se definen las categorías o variables.
- En los objetivos que el sistema intenta optimizar.
- En la interpretación de los resultados por parte de usuarios o instituciones.
- En la ausencia de representación de ciertos grupos poblacionales.
Un sistema utilizado para seleccionar candidatos laborales, evaluar riesgos financieros o identificar posibles fraudes puede perjudicar a determinados grupos si aprende de decisiones históricamente discriminatorias. En el ámbito sanitario, por ejemplo, un modelo puede presentar un desempeño desigual si sus datos de entrenamiento no representan adecuadamente a personas de distintas edades, géneros, etnias o condiciones socioeconómicas.
La investigación de Buolamwini y Gebru (2018) mostró diferencias significativas en el rendimiento de algunos sistemas de clasificación facial según el género y el tono de piel. Aunque estos resultados corresponden a sistemas concretos y no a toda la IA, ilustran un problema general: la precisión promedio puede ocultar errores graves en grupos específicos.
Riesgos para la salud mental
Ansiedad, incertidumbre y sensación de pérdida de control
La expansión de la IA puede generar preocupación respecto al futuro laboral, la privacidad y la capacidad de las personas para controlar las decisiones que afectan sus vidas. La percepción de que ciertos trabajos podrían desaparecer o transformarse rápidamente puede contribuir a:
- Ansiedad anticipatoria.
- Estrés crónico.
- Inseguridad económica.
- Sensación de obsolescencia personal.
- Disminución de la motivación y del sentido de eficacia.
La literatura sobre automatización y empleo no permite afirmar que la IA vaya a eliminar todos los trabajos. Con frecuencia, las tecnologías transforman tareas más que profesiones completas. Sin embargo, incluso cuando no se produce una pérdida directa de empleo, la vigilancia automatizada, la presión por aumentar la productividad y la necesidad de adquirir nuevas competencias pueden deteriorar el bienestar psicológico de los trabajadores.
El temor tecnológico también puede estar relacionado con la llamada tecnoansiedad, entendida como malestar ante el uso o la posible influencia de las tecnologías. Este fenómeno no depende únicamente de las características individuales: también está condicionado por la falta de formación, el escaso control sobre las herramientas y la ausencia de apoyo organizacional.
Dependencia emocional de sistemas conversacionales
Los sistemas conversacionales pueden ofrecer respuestas disponibles en cualquier momento, con un tono aparentemente empático y personalizado. Para algunas personas, esto puede resultar útil como apoyo informativo o como complemento de determinadas intervenciones. Sin embargo, existe el riesgo de que un usuario confunda la fluidez lingüística con comprensión emocional genuina.
Una IA puede producir expresiones que parecen cálidas o comprensivas, pero no posee experiencia subjetiva ni responsabilidad clínica. Si una persona utiliza un sistema de este tipo como sustituto de sus relaciones sociales o de la atención profesional, podrían aparecer varios problemas:
- Aislamiento social progresivo.
- Mayor evitación de conversaciones difíciles con personas reales.
- Dependencia de la disponibilidad del sistema.
- Refuerzo de interpretaciones erróneas.
- Retraso en la búsqueda de ayuda psicológica o médica.
El riesgo puede ser especialmente relevante en personas que se encuentran solas, deprimidas, ansiosas o en situaciones de crisis. Un sistema conversacional no siempre identifica de manera fiable el riesgo suicida, la violencia, el abuso o la desorganización psicológica. Por este motivo, una herramienta de IA no debe presentarse como sustituto de un profesional de salud mental ni como servicio de emergencia.
Validación automática y mantenimiento de pensamientos problemáticos
Una respuesta generada por IA puede sonar convincente incluso cuando contiene errores. Si el sistema responde de manera excesivamente complaciente, puede validar pensamientos catastróficos, ideas paranoides o conductas perjudiciales. También puede ofrecer recomendaciones genéricas que no consideran antecedentes médicos, contexto cultural, riesgos legales o circunstancias familiares.
En psicoterapia, escuchar y validar no significa confirmar automáticamente toda interpretación del paciente. La intervención clínica requiere evaluación, formulación del caso, consentimiento informado y responsabilidad profesional. La IA puede apoyar tareas específicas, pero no reemplaza el razonamiento clínico ni la relación terapéutica.
Desinformación y pérdida de confianza
Uno de los riesgos más visibles de la IA generativa es la producción de contenido falso o inexacto con apariencia de autoridad. Estos sistemas pueden generar textos, imágenes, audios y vídeos difíciles de distinguir de materiales auténticos. Los llamados deepfakes pueden utilizarse para suplantar identidades, manipular la opinión pública, difamar a personas o interferir en procesos electorales.
La desinformación puede producir efectos psicológicos y sociales importantes:
- Confusión sobre qué fuentes son confiables.
- Incremento de la polarización.
- Desconfianza hacia instituciones y profesionales.
- Sensación de impotencia frente a la manipulación.
- Daño reputacional y humillación pública.
- Aumento del estrés y la vigilancia interpersonal.
La exposición constante a información contradictoria puede favorecer el agotamiento cognitivo. Cuando las personas consideran que cualquier contenido podría ser falso, pueden reaccionar de dos maneras problemáticas: creer información engañosa o desconfiar incluso de evidencia sólida. Esta última posibilidad se relaciona con el fenómeno conocido como “dividendo del mentiroso”: si los contenidos falsos son comunes, una persona puede negar pruebas auténticas alegando que también han sido manipuladas.
La alfabetización mediática, la verificación de fuentes y la identificación clara del contenido generado por IA son medidas esenciales, aunque no suficientes por sí solas. La responsabilidad también corresponde a las empresas tecnológicas, las instituciones educativas y los organismos reguladores.
Privacidad y vigilancia
Los sistemas de IA suelen requerir grandes cantidades de datos. Estos pueden incluir información personal, conversaciones, imágenes, hábitos de consumo, localización, datos biométricos o registros de salud. Aunque los datos se recopilen con fines legítimos, existen riesgos relacionados con su almacenamiento, reutilización, filtración o uso para finalidades distintas de las inicialmente comunicadas.
En el ámbito laboral, algunas organizaciones emplean herramientas para monitorizar la productividad, analizar comunicaciones o predecir el rendimiento. En contextos educativos, se han utilizado sistemas que infieren atención, emociones o riesgo académico. Estas prácticas pueden generar una sensación permanente de vigilancia, reducir la autonomía y modificar la conducta de las personas incluso cuando no existe una evaluación válida.
Las inferencias sobre estados emocionales son particularmente delicadas. Una expresión facial, una pausa en una conversación o un patrón de escritura no permiten determinar de manera fiable si una persona está deprimida, ansiosa o mintiendo. Tratar estas inferencias como hechos objetivos puede conducir a decisiones injustas y a la patologización de comportamientos normales.
La protección de la privacidad debería incluir:
- Consentimiento informado y comprensible.
- Minimización de los datos recopilados.
- Límites claros sobre su conservación y reutilización.
- Posibilidad de corregir o eliminar información.
- Seguridad técnica y auditorías independientes.
- Prohibición de usos desproporcionados o discriminatorios.
Automatización de decisiones importantes
La IA puede utilizarse en procesos relacionados con contratación, concesión de créditos, seguros, justicia, educación y salud. El peligro no reside únicamente en que el sistema se equivoque, sino en que sus resultados se consideren incuestionables.
Un modelo puede generar una recomendación estadísticamente razonable y, aun así, equivocarse en un caso individual. Además, muchos sistemas complejos son difíciles de interpretar. Cuando una persona recibe una decisión negativa sin comprender sus motivos, se limita su capacidad de reclamar o corregir errores. Este problema es especialmente grave cuando la decisión afecta a derechos fundamentales o al acceso a recursos esenciales.
La automatización puede producir una difusión de la responsabilidad. Las instituciones pueden atribuir el resultado al algoritmo, mientras que los desarrolladores señalan a los usuarios y estos últimos confían en la tecnología. Sin embargo, una decisión automatizada no elimina la responsabilidad humana. Las organizaciones deben establecer mecanismos para revisar resultados, explicar criterios y ofrecer vías efectivas de apelación.
Efectos en las relaciones humanas y la autonomía
La IA también puede transformar la manera en que las personas se relacionan entre sí. Los algoritmos de recomendación suelen estar diseñados para maximizar la atención, el tiempo de uso o la interacción. Para lograrlo, pueden mostrar contenidos emocionalmente intensos, polémicos o personalizados, aunque no sean beneficiosos para el usuario.
Esta dinámica puede favorecer:
- Comparación social constante.
- Uso compulsivo de plataformas.
- Exposición repetida a contenido angustiante.
- Reducción de la capacidad de concentración.
- Reforzamiento de prejuicios y comunidades cerradas.
La personalización tiene una doble cara. Puede facilitar que una persona encuentre información relevante, pero también puede limitar su exposición a perspectivas diferentes. En lugar de ampliar la autonomía, un sistema puede orientar silenciosamente las decisiones mediante recomendaciones diseñadas para influir en el comportamiento.
La autonomía no significa tomar decisiones sin ninguna influencia externa; significa poder comprender las alternativas y actuar de acuerdo con los propios valores. Cuando las personas desconocen cómo se seleccionan los contenidos que consumen o las opciones que se les presentan, su capacidad de decisión puede verse debilitada.
Cómo reducir los riesgos
La prevención de los riesgos de la IA requiere una combinación de medidas individuales, profesionales e institucionales. Algunas recomendaciones son:
Para los usuarios
- Verificar información importante en fuentes independientes.
- Evitar introducir datos sensibles en sistemas cuya política de privacidad no se comprenda.
- No utilizar una IA como sustituto de atención médica, psicológica o legal.
- Recordar que una respuesta fluida no garantiza que sea verdadera.
- Limitar el uso cuando interfiera con el sueño, el trabajo o las relaciones.
- Buscar apoyo humano ante situaciones de crisis o sufrimiento intenso.
Para profesionales e instituciones
- Mantener supervisión humana en decisiones de alto impacto.
- Evaluar el rendimiento del sistema en diferentes grupos de población.
- Informar claramente cuándo una persona interactúa con una IA.
- Realizar auditorías de sesgos, seguridad y privacidad.
- Establecer procedimientos de reclamación y corrección.
- Capacitar a trabajadores y usuarios en alfabetización digital.
- Priorizar el bienestar y los derechos humanos sobre la eficiencia económica.
En salud mental, cualquier uso de IA debería basarse en evidencia, consentimiento informado, confidencialidad y supervisión clínica. Las herramientas pueden ayudar a organizar información o apoyar intervenciones validadas, pero no deberían utilizarse para diagnosticar o tratar sin evaluación profesional adecuada.
Conclusión
La inteligencia artificial ofrece oportunidades importantes, pero también puede amplificar desigualdades, difundir desinformación, invadir la privacidad y afectar el bienestar psicológico. Sus riesgos no proceden únicamente de la tecnología en sí, sino de cómo se diseña, quién la controla, con qué datos se entrena y en qué contextos se aplica.
Una actitud responsable no consiste en aceptar la IA sin cuestionamientos ni en rechazarla por completo. Consiste en exigir transparencia, supervisión, evidencia y límites claros, especialmente cuando sus decisiones afectan a la salud, la educación, el empleo o la libertad personal. La innovación tecnológica debería estar al servicio de las personas y no convertirlas en meros datos, perfiles o predicciones.
El desafío central no es crear sistemas cada vez más sofisticados, sino construir condiciones sociales e institucionales que permitan utilizarlos sin sacrificar la dignidad, la autonomía, la privacidad y la salud mental.
Referencias bibliográficas
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 77–91.
European Commission. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
International Labour Organization. (2023). Generative AI and jobs: A global analysis of potential effects on job quantity and quality. International Labour Office.
National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0). U.S. Department of Commerce.
NIST. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile. U.S. Department of Commerce.
Organisation for Economic Co-operation and Development. (2019). OECD principles on artificial intelligence. OECD.
Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886
UNESCO. (2021). Recommendation on the ethics of artificial intelligence. United Nations Educational, Scientific and Cultural Organization.
World Health Organization. (2021). Ethics and governance of artificial intelligence for health: WHO guidance. World Health Organization.