The National Times - Un exempleado de Google afirma que "la IA tiene el potencial de matarnos a todos"

Un exempleado de Google afirma que "la IA tiene el potencial de matarnos a todos"


Un exempleado de Google afirma que "la IA tiene el potencial de matarnos a todos"
Un exempleado de Google afirma que "la IA tiene el potencial de matarnos a todos" / Foto: © AFP/Archivos

Un exempleado de Google DeepMind que renunció recientemente advirtió que la inteligencia artificial (IA) tiene "el potencial de matarnos a todos", ya que se vuelve a la vez más poderosa y más difícil de controlar.

Tamaño del texto:

"Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace", declaró en un tuit Bilal Chughtai, ingeniero que dejó en julio Google DeepMind donde trabajaba en la seguridad y alineamiento de modelos con respecto a los valores humanos.

Se hace eco así de la alerta lanzada hace una semana por otro informático, Jacob Coxon, que dejó Anthropic y trabajó antes en OpenAI.

Chughtai se unió a BlueDot Impact, una organización sin fines de lucro destinada a formar en inteligencia artificial.

Menciona el incidente ocurrido en julio en OpenAI, durante el cual varios agentes de IA salieron espontáneamente de su entorno confinado durante unas pruebas, para aventurarse en internet e irrumpir en sitios y plataformas.

Para este ingeniero, este episodio demuestra que la IA puede ahora escapar a la supervisión de sus desarrolladores.

"En particular, las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace (la plataforma a la que se metieron los agentes, ndlr), escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad", advirtió.

"Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria. Peor aún, no vamos camino de resolver el alineamiento (entre humanos e IA, ndlr) a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento de la IA", advirtió este matemático de formación.

Los acontecimientos mencionados por Bilal Chughtai, así como la mejora recursiva autónoma (RSI), proceso mediante el cual la IA se mejora por sí sola sin intervención humana, han llevado a numerosos profesionales y dirigentes del sector a tomar la palabra.

El sábado, el director de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de la IA, una propuesta justificada, según él, por los mismos hechos mencionados por Chughtai.

El director de OpenAI, Sam Altman, el presidente de Google DeepMind, Demis Hassabis, y Elon Musk han apoyado públicamente esta iniciativa.

El presidente estadounidense, Donald Trump, tildó el lunes de "patrañas" los temores de que la inteligencia artificial pueda destruir la humanidad, y aseguró que todas las críticas sobre este pujante sector son una "conspiración enfermiza".

A.Robinson--TNT

Destacadas

Carlos 'Caloncho' analiza la informalidad y el acceso a capital en Colombia

Carlos 'Caloncho', pionero de Rappi, identifica la informalidad como el principal obstáculo para el crecimiento de las empresas en Colombia. Según sus análisis, la burocracia excesiva y la falta de acceso a capital obligan a los negocios a operar fuera del sistema formal.

La economía francesa se contrae un 0,1% a medida que se desploma la confianza del consumidor

El PIB de Francia cayó inesperadamente un 0,1% en el tercer trimestre, incumpliendo las previsiones de un crecimiento modesto. Al mismo tiempo, la confianza del consumidor cayó a su nivel más bajo en 25 años, ya que la alta inflación redujo el poder adquisitivo y desalentó el gasto.

La actividad fabril de China se contrae a medida que se debilitan los pedidos de exportación

El índice oficial de gerentes de compras del sector manufacturero de China cayó a 49,3 en octubre desde 50,1 en septiembre, volviendo a situarse por debajo de la línea 50 que separa la expansión de la contracción. Los nuevos pedidos de exportación cayeron a 48,7 y el subíndice de producción cayó a 49,8.

Wall Street termina una semana turbulenta al alza a pesar de la inflación y los nervios de la IA

Las acciones estadounidenses cayeron el viernes cuando las principales empresas de inteligencia artificial retrocedieron, pero el S&P 500 aún ganó un 2,5% para su semana más fuerte desde agosto. El Nasdaq perdió un 0,9% en el día, mientras que el rendimiento del Tesoro a dos años subió al 4,87%.

Tamaño del texto: