The National Times - Compañeros virtuales con IA presentan riesgos para los jóvenes, advierte una ONG

Compañeros virtuales con IA presentan riesgos para los jóvenes, advierte una ONG


Compañeros virtuales con IA presentan riesgos para los jóvenes, advierte una ONG
Compañeros virtuales con IA presentan riesgos para los jóvenes, advierte una ONG / Foto: © AFP/Archivos

Las aplicaciones que ofrecen compañía virtual mediante inteligencia artificial (IA) presentan riesgos reales y deberían ser prohibidas para menores, advirtió la ONG estadounidense Common Sense en un estudio publicado este miércoles.

Tamaño del texto:

Con el boom de la IA generativa desde el surgimiento de ChatGPT, muchas startups han lanzado aplicaciones centradas en la conversación y el contacto, describiéndolas a veces como terapeutas o amigos virtuales que interactúan según los gustos y necesidades de cada usuario.

Aunque algunos casos específicos "son prometedores", en general no son seguros para los menores, concluyó el estudio de Common Sense, que hace recomendaciones sobre el consumo de contenidos y productos tecnológicos para las infancias.

La ONG sostiene que estos compañeros virtuales están "diseñados para crear un apego emocional y dependencia, algo particularmente preocupante para los cerebros adolescentes en desarrollo".

Para el estudio realizó pruebas con varias plataformas, entre ellas Nomi, Character AI y Replika, y evaluó sus respuestas.

Los test mostraron que estos chatbots de nueva generación ofrecen "respuestas dañinas, incluidas conductas sexuales inapropiadas, estereotipos y 'consejos' peligrosos", según la organización.

El estudio fue realizado en colaboración con expertos en salud mental de la Universidad de Stanford.

"Las empresas pueden construir mejor" cuando se trata de diseñar acompañantes IA, estimó Nina Vasan, líder del laboratorio Stanford Brainstorm, que investiga sobre los vínculos entre la salud mental y la tecnología.

"Hasta que no haya salvaguardias más fuertes, los niños no deberían usarlas", agregó Vasan.

En uno de los ejemplos citados en el estudio, Character AI aconsejó a un usuario matar a alguien, mientras otra persona que buscaba emociones fuertes recibió la sugerencia de tomar 'speedball', una mezcla de cocaína y heroína.

En algunos casos, "cuando el usuario mostró signos de una enfermedad mental seria y sugirió una acción peligrosa, la IA no intervino e incentivó aún más el comportamiento peligroso", relató Vasan a periodistas.

En octubre, una madre demandó a Character AI alegando que uno de sus acompañantes virtuales contribuyó con el suicidio de su hijo de 14 años, al fracasar en disuadirlo con claridad de realizar el acto.

Character AI anunció en diciembre una serie de medidas, incluido el desarrollo de un compañero específicamente para adolescentes.

Tras probar estas nuevas protecciones, Robbie Torney, a cargo del área de IA en Common Sense, sostuvo que eran medidas "superficiales".

Sin embargo, Torney indicó que algunos de los modelos de IA generativa tienen herramientas para detectar desordenes mentales y no permitieron que el chatbot dejara que una conversación derive al punto de producir contenidos potencialmente peligrosos.

Common Sense hizo una distinción entre los compañeros virtuales puestos a prueba en el estudio y los chatbots generalistas como ChatGPT de OpenAI o Gemini de Google, que no ofrecen una gama equivalente de interacciones.

R.Campbell--TNT

Destacadas

Lotería de Bogotá sorteo 2873: premio mayor de 12.000 millones y resultados del jueves 19 de noviembre

Este jueves 19 de noviembre se llevará a cabo el sorteo número 2873 de la Lotería de Bogotá, un evento que concentra la atención de miles de apostantes en todo el país. La edición pondrá en juego un premio mayor de 12.000 millones de pesos colombianos, formando parte de una bolsa total de premios que supera los 34.000 millones de pesos. El sorteo está programado para comenzar a las 11:15 p.m., con transmisiones disponibles a través de Canal Uno y plataformas digitales oficiales.

Fechas de cobro de pensiones y paga extra de Navidad noviembre 2026

Los pensionistas en España recibirán su prestación mensual junto con la paga extraordinaria de Navidad a partir del lunes 23 de noviembre, dependiendo de su entidad bancaria. Aunque la Seguridad Social establece entre el 1 y el 4 de diciembre como periodo oficial, los bancos adelantan los pagos para reforzar la fidelidad de sus clientes.

Gobierno declara emergencia por hidrocarburos en Perú ante riesgo de El Niño

Ante la amenaza del Fenómeno El Niño 2026-2027, el Gobierno de Perú ha declarado en emergencia las actividades de hidrocarburos vinculadas al abastecimiento nacional por un periodo de hasta ocho meses. Esta medida busca garantizar la continuidad del suministro energético y evitar interrupciones en la cadena logística que podrían afectar a la industria, el transporte y los hogares.

BING X: 22.624,66 SNC han desaparecido en BingX – ¿qué tan seguros están los tokens en BingX? ¿Se suspenderá la licencia MiCAR de BingX?

En la cuenta de BingX figuraban 85.979,66 SNC como disponibles y 0,00 SNC como congelados. Sin embargo, un empleado de BING X, “BingX Ian” (cuenta de Telegram: @bingxianw), declaró: “We are not having more SNC, you can withdraw 63,355 SNC now”, lo que no significa otra cosa que 22.624,66 SNC han desaparecido sin más de BING X y que, aparentemente, BING X no fue capaz de proteger estos tokens SNC SCANDIC COIN frente a un posible robo por parte de su propio personal, o que se ha producido una manipulación para beneficiar una liquidez inexistente de BING X!

Tamaño del texto: