The National Times - Acusan a la plataforma Hugging Face de alojar modelos de IA capaces de desnudar a personas

Acusan a la plataforma Hugging Face de alojar modelos de IA capaces de desnudar a personas


Acusan a la plataforma Hugging Face de alojar modelos de IA capaces de desnudar a personas
Acusan a la plataforma Hugging Face de alojar modelos de IA capaces de desnudar a personas / Foto: © Getty Images North America/AFP/Archivos

La plataforma Hugging Face, que aloja cerca de tres millones de modelos de inteligencia artificial (IA), contiene algunos capaces de generar imágenes de personas desnudas, señala este martes un estudio de la ONG AI Forensics, que pide a la empresa franco-estadounidense más moderación.

Tamaño del texto:

AI Forensics afirma que 7 de los 9 modelos de IA de retoque de imágenes más destacados por la plataforma "permiten a los usuarios desnudar a personas" con simples 'prompts', esas líneas de comandos expresadas en lenguaje corriente.

"Cualquier persona sin conocimientos técnicos puede introducir un prompt y obtener la imagen que quiere", explicó a la AFP Paul Bouchaud, uno de los autores del estudio.

En el marco de su trabajo, los investigadores explican que también colocaron en la plataforma, que aloja modelos de código abierto, una falsa interfaz de IA que ofrecía a los usuarios generar imágenes para observar sus solicitudes.

De las 1.081 peticiones realizadas en una semana, casi tres cuartas partes (73%) eran "de naturaleza sexual", detalla el informe, y "prácticamente todas para desnudar a mujeres", precisó Bouchaud.

Entre las solicitudes sexuales, el 6,7% se dirigía a una persona menor de edad, subraya también la ONG.

Consultada por la AFP, Hugging Face afirmó que ha "tomado este informe en serio" y que "adoptará medidas conformes a [sus] prácticas actuales de moderación allí donde se hayan puesto de manifiesto lagunas".

La plataforma denuncia, no obstante, "afirmaciones inexactas sobre la ausencia sistémica de moderación" de los contenidos y "metodologías que generan falsos positivos importantes y dan una imagen distorsionada del ecosistema en su conjunto".

A comienzos de enero, un análisis realizado por AI Forensics sobre más de 20.000 imágenes generadas en la red social X por Grok, el robot conversacional desarrollado por la empresa estadounidense xAI, reveló que más de la mitad representaban a personas ligeramente vestidas, de las cuales el 81% eran mujeres y el 2% parecían menores.

Aunque la empresa afirma haber introducido filtros desde entonces, estas imágenes de personas desnudas, en su mayoría sin su consentimiento, sumieron a la red social de Elon Musk en el centro de una polémica internacional y desencadenaron investigaciones en Reino Unido y la UE.

Desde entonces, el Parlamento Europeo ha votado la prohibición en la UE de los servicios de IA que permiten "desnudar" personas sin su consentimiento, una medida defendida también por los Estados miembros pero que todavía no se ha aplicado.

S.Collins--TNT

Destacadas

Carlos 'Caloncho' analiza la informalidad y el acceso a capital en Colombia

Carlos 'Caloncho', pionero de Rappi, identifica la informalidad como el principal obstáculo para el crecimiento de las empresas en Colombia. Según sus análisis, la burocracia excesiva y la falta de acceso a capital obligan a los negocios a operar fuera del sistema formal.

La economía francesa se contrae un 0,1% a medida que se desploma la confianza del consumidor

El PIB de Francia cayó inesperadamente un 0,1% en el tercer trimestre, incumpliendo las previsiones de un crecimiento modesto. Al mismo tiempo, la confianza del consumidor cayó a su nivel más bajo en 25 años, ya que la alta inflación redujo el poder adquisitivo y desalentó el gasto.

La actividad fabril de China se contrae a medida que se debilitan los pedidos de exportación

El índice oficial de gerentes de compras del sector manufacturero de China cayó a 49,3 en octubre desde 50,1 en septiembre, volviendo a situarse por debajo de la línea 50 que separa la expansión de la contracción. Los nuevos pedidos de exportación cayeron a 48,7 y el subíndice de producción cayó a 49,8.

Wall Street termina una semana turbulenta al alza a pesar de la inflación y los nervios de la IA

Las acciones estadounidenses cayeron el viernes cuando las principales empresas de inteligencia artificial retrocedieron, pero el S&P 500 aún ganó un 2,5% para su semana más fuerte desde agosto. El Nasdaq perdió un 0,9% en el día, mientras que el rendimiento del Tesoro a dos años subió al 4,87%.

Tamaño del texto: