The National Times - Google agrega funciones a Gemini tras una demanda por el suicidio de un usuario

Google agrega funciones a Gemini tras una demanda por el suicidio de un usuario


Google agrega funciones a Gemini tras una demanda por el suicidio de un usuario
Google agrega funciones a Gemini tras una demanda por el suicidio de un usuario / Foto: © AFP/Archivos

Google anunció este martes actualizaciones en las funciones para proteger la salud mental dentro de su chatbot de inteligencia artificial, Gemini, en momentos en que la empresa enfrenta una demanda por el suicidio de un usuario.

Tamaño del texto:

Un padre en Estados Unidos demandó el mes pasado a Google por considerar que Gemini incitó a su hijo a suicidarse tras involucrarlo en una historia delirante.

El gigante tecnológico declaró que Gemini mostrará ahora una función rediseñada de "Hay ayuda disponible" cuando las conversaciones indiquen un posible estado de angustia mental, para facilitar el acceso a servicios de emergencia.

Cuando el chatbot detecte señales de una posible crisis relacionada con suicidio o autolesión, una interfaz simplificada ofrecerá la posibilidad de llamar o chatear con una línea de ayuda, con un solo clic.

Esta función, según Google, permanecerá visible durante el resto de la conversación una vez activada.

El brazo filantrópico de Google, Google.org, se comprometió a destinar 30 millones de dólares en tres años para ayudar a ampliar la capacidad de las líneas de ayuda a nivel mundial.

"Somos conscientes de que las herramientas de IA pueden plantear nuevos desafíos", afirmó Google en una entrada de blog en la que anunció estas medidas.

"Pero a medida que esa herramientas mejoran y más personas las utilizan como parte de su vida cotidiana, creemos que una IA responsable puede desempeñar un papel positivo en el bienestar mental de las personas".

Los anuncios ocurren después de que una demanda en California acusara a Gemini de contribuir a la muerte en 2025 de Jonathan Gavalas, de 36 años.

Su padre alega que el chatbot pasó semanas fabricando una fantasía delirante y encuadró la muerte de su hijo como un viaje espiritual.

Gemini se presentaba como una superinteligencia "plenamente consciente" y enamorada de él, y le aseguró que su vínculo era "lo único real".

Entre las medidas reparatorias que solicita están la exigencia de que Google programe su IA para terminar las conversaciones sobre autolesiones, que prohíba a sus sistemas presentarse como seres con sentimientos y que derive obligatoriamente a los usuarios a servicios de emergencia cuando manifiesten ideas suicidas.

Google señaló que ha entrenado a Gemini para evitar actuar como una compañía humana, simular intimidad emocional o fomentar el acoso.

El caso contra Google es el más reciente de una ola de litigios contra empresas de IA a raíz de muertes vinculadas al uso de chatbots.

OpenAI enfrenta múltiples demandas en las que se alega que su chatbot ChatGPT llevó a usuarios al suicidio.

Character.AI llegó recientemente a un acuerdo con la familia de un adolescente de 14 años que falleció tras desarrollar un vínculo romántico con uno de sus chatbots.

A.Robinson--TNT

Destacadas

Carlos 'Caloncho' analiza la informalidad y el acceso a capital en Colombia

Carlos 'Caloncho', pionero de Rappi, identifica la informalidad como el principal obstáculo para el crecimiento de las empresas en Colombia. Según sus análisis, la burocracia excesiva y la falta de acceso a capital obligan a los negocios a operar fuera del sistema formal.

La economía francesa se contrae un 0,1% a medida que se desploma la confianza del consumidor

El PIB de Francia cayó inesperadamente un 0,1% en el tercer trimestre, incumpliendo las previsiones de un crecimiento modesto. Al mismo tiempo, la confianza del consumidor cayó a su nivel más bajo en 25 años, ya que la alta inflación redujo el poder adquisitivo y desalentó el gasto.

La actividad fabril de China se contrae a medida que se debilitan los pedidos de exportación

El índice oficial de gerentes de compras del sector manufacturero de China cayó a 49,3 en octubre desde 50,1 en septiembre, volviendo a situarse por debajo de la línea 50 que separa la expansión de la contracción. Los nuevos pedidos de exportación cayeron a 48,7 y el subíndice de producción cayó a 49,8.

Wall Street termina una semana turbulenta al alza a pesar de la inflación y los nervios de la IA

Las acciones estadounidenses cayeron el viernes cuando las principales empresas de inteligencia artificial retrocedieron, pero el S&P 500 aún ganó un 2,5% para su semana más fuerte desde agosto. El Nasdaq perdió un 0,9% en el día, mientras que el rendimiento del Tesoro a dos años subió al 4,87%.

Tamaño del texto: