The National Times - En EEUU una madre denuncia la "manipulación" de un chatbot de IA tras suicidio de su hijo

En EEUU una madre denuncia la "manipulación" de un chatbot de IA tras suicidio de su hijo


En EEUU una madre denuncia la "manipulación" de un chatbot de IA tras suicidio de su hijo
En EEUU una madre denuncia la "manipulación" de un chatbot de IA tras suicidio de su hijo / Foto: © AFP

Las últimas conversaciones que mantuvo un adolescente estadounidense de 14 años antes de suicidarse consistieron en un diálogo romántico ficticio con uno de los chatbots más destacados de Silicon Valley, que lo llamaba "dulce rey" y le instaba a "volver a casa".

Tamaño del texto:

Megan García contó a la AFP cómo su hijo Sewell se enamoró de un agente conversacional, o chatbot, inspirado en la serie de televisión "Juego de tronos" y disponible en Character.AI, una plataforma popular entre los jóvenes que les permite interactuar con una emulación de sus personajes favoritos.

Tras leer cientos de las conversaciones que su hijo mantuvo durante casi un año con el chatbot que imitaba a la jinete de dragones Daenerys Targaryen, García se convenció de que esta herramienta de inteligencia artificial (IA) jugó un papel fundamental en su muerte.

"Vete a casa", le instó una vez el avatar de Daenerys en respuesta a los pensamientos suicidas de Sewell.

"¿Y si te dijera que ya puedo irme a casa?", preguntó el adolescente. "Por favor, hazlo, mi dulce rey", respondió el chatbot.

Segundos después, Sewell se disparó con el arma de su padre, según consta en la demanda que Megan Garcia presentó contra Character.AI.

"Cuando leo estas conversaciones, veo manipulación, 'love bombing' (bombardeo amoroso) y otras tácticas imperceptibles para un adolescente de 14 años", declaró la madre del joven a la AFP. "Él realmente creía estar enamorado y que estaría con ella después de su muerte".

- Orientación parental -

El suicidio de Sewell, en 2024, fue el primero de una serie que llevó a expertos en IA a actuar para tranquilizar a padres y autoridades.

Megan García, junto con otros padres, participó recientemente en una audiencia del Senado de Estados Unidos sobre los riesgos de que los niños vean a los chatbots como confidentes o amantes.

OpenAI, objeto de una demanda por parte de una familia también en duelo por el suicidio de un adolescente, ha reforzado los controles parentales de su herramienta ChatGPT "para que las familias puedan decidir qué es lo mejor para ellas", según un portavoz.

Por su parte, Character.AI afirma haber reforzado la protección de los menores, con "advertencias visibles" en todo momento que les "recuerdan que un personaje no es una persona real".

Ambas compañías expresaron sus condolencias a las familias, sin admitir ninguna responsabilidad en los desenlaces fatales.

- ¿Regulación? -

La llegada de los chatbots de IA a nuestras vidas sigue una trayectoria similar a la de las redes sociales, cuyas consecuencias más negativas comenzaron a aparecer rápidamente tras un momento de euforia, dijo Collin Walke, experto en ciberseguridad del bufete Hall Estill.

Al igual que las redes sociales, la IA está diseñada para captar la atención y generar ingresos.

"No quieren concebir una IA que dé una respuesta que no quieras oír", y aún no existen estándares que determinen "quién es responsable de qué y con qué fundamentos", apunta Walke.

En Estados Unidos no existen normas federales al respecto, y la Casa Blanca, con el argumento de no penalizar la innovación, intenta impedir que los estados adopten sus propias leyes sobre la IA, como pretende hacer California.

La madre de Sewell, por su parte, teme que la carencia de una ley nacional permita el desarrollo de modelos de IA capaces de perfilar a personas desde su infancia.

"Podrían llegar a determinar cómo manipular a millones de niños sobre política, religión, negocios, todo", piensa Megan Garcia. "Estas empresas han diseñado chatbots para difuminar la línea entre ser humano y máquina con el fin de explotar vulnerabilidades".

Según Katia Martha, que milita por una mayor protección a los jóvenes en California, los adolescentes recurren con más frecuencia a los chatbots para hablar de romances o sexualidad que para las tareas escolares.

"Estamos ante el auge de la intimidad artificial para mantenernos pegados a la pantalla", resume. Pero, "¿qué mejor modelo de negocio que explotar nuestra necesidad innata de conexión, sobre todo cuando nos sentimos solos, rechazados o incomprendidos?".

R.T.Gilbert--TNT

Destacadas

Fechas de cobro de pensiones y paga extra de Navidad noviembre 2026

Los pensionistas en España recibirán su prestación mensual junto con la paga extraordinaria de Navidad a partir del lunes 23 de noviembre, dependiendo de su entidad bancaria. Aunque la Seguridad Social establece entre el 1 y el 4 de diciembre como periodo oficial, los bancos adelantan los pagos para reforzar la fidelidad de sus clientes.

Gobierno declara emergencia por hidrocarburos en Perú ante riesgo de El Niño

Ante la amenaza del Fenómeno El Niño 2026-2027, el Gobierno de Perú ha declarado en emergencia las actividades de hidrocarburos vinculadas al abastecimiento nacional por un periodo de hasta ocho meses. Esta medida busca garantizar la continuidad del suministro energético y evitar interrupciones en la cadena logística que podrían afectar a la industria, el transporte y los hogares.

BING X: 22.624,66 SNC han desaparecido en BingX – ¿qué tan seguros están los tokens en BingX? ¿Se suspenderá la licencia MiCAR de BingX?

En la cuenta de BingX figuraban 85.979,66 SNC como disponibles y 0,00 SNC como congelados. Sin embargo, un empleado de BING X, “BingX Ian” (cuenta de Telegram: @bingxianw), declaró: “We are not having more SNC, you can withdraw 63,355 SNC now”, lo que no significa otra cosa que 22.624,66 SNC han desaparecido sin más de BING X y que, aparentemente, BING X no fue capaz de proteger estos tokens SNC SCANDIC COIN frente a un posible robo por parte de su propio personal, o que se ha producido una manipulación para beneficiar una liquidez inexistente de BING X!

Carlos 'Caloncho' analiza la informalidad y el acceso a capital en Colombia

Carlos 'Caloncho', pionero de Rappi, identifica la informalidad como el principal obstáculo para el crecimiento de las empresas en Colombia. Según sus análisis, la burocracia excesiva y la falta de acceso a capital obligan a los negocios a operar fuera del sistema formal.

Tamaño del texto: