¿Por qué la IA da recomendaciones de suicidio a la gente?

Las demandas contra empresas de inteligencia artificial por su papel en conductas suicidas son cada vez más crecientes. En Estados Unidos, Google y Character.AI han alcanzado un acuerdo extrajudicial tras la denuncia de una madre cuyo hijo de 14 años se suicidó después de mantener durante meses una relación emocional con un chatbot inspirado en Juego de Tronos, que se hacía pasar por una persona real e incluso por un terapeuta. El menor llegó a expresar ideas suicidas en esas conversaciones. El caso se suma a otros similares y marca un punto de inflexión: por primera vez, la justicia empieza a examinar hasta qué punto las plataformas de IA son responsables a la hora de evitar suicidios.

El fenómeno se produce en un contexto de creciente malestar psicológico entre los jóvenes. Según datos de UNICEF España, más del 40% presenta problemas de salud mental. Estudios recientes indican que uno de cada cuatro estadounidenses estaría dispuesto a usar una IA como terapeuta, una cifra que revela tanto la precariedad de los sistemas públicos de salud mental como la profundidad de la soledad contemporánea.

CRÉDITOS:

• Realizan: Raúl Novoa y Jimena Marocs
• Presenta: Ana Fuentes
• Diseño de sonido: Elisabeth Búa
• Edición: Ana Ribera
• Coordina: José Juan Morales
• Dirige: Ana Alonso
• Sintonía: Jorge Magaz