The National Times - Investigadores quieren crear una inteligencia artificial que controle a la ...IA

Investigadores quieren crear una inteligencia artificial que controle a la ...IA


Investigadores quieren crear una inteligencia artificial que controle a la ...IA
Investigadores quieren crear una inteligencia artificial que controle a la ...IA / Foto: © AFP/Archivos

El profesor canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, presentó el martes su nueva organización dedicada a la IA responsable, cuyo objetivo es, sobre todo, diseñar software capaz de evitar los abusos de los agentes de IA.

Tamaño del texto:

Desde hace varios años, este ganador del Premio Turing (2018), también conocido como el Nobel de la informática, viene advirtiendo de los riesgos asociados al desarrollo de la IA, ya sea en términos de uso malicioso o de que el propio software salga mal.

"Los sistemas más avanzados ya están mostrando signos de autopreservación y comportamiento engañoso", explica el investigador en un comunicado publicado este martes.

"Y esto sólo va a acelerarse a medida que aumenten sus capacidades y autonomía", anuncia.

Su nueva organización sin ánimo de lucro, llamada LawZero, pretende ser "una respuesta a estos retos".

Varios ejemplos recientes han confirmado que la IA ha alcanzado recientemente nuevos niveles de sofisticación, entre ellos un estudio de la start-up Anthropic.

En una simulación, la nueva interfaz de IA generativa de Anthropic, Claude 4, fue advertida de su inminente sustitución por un ingeniero de software.

Acorralada, intentó por iniciativa propia chantajear al ingeniero para disuadirle de deshacerse de ella.

Una de las misiones de LawZero es "proponer una forma de supervisar a los agentes de IA", la nueva generación de modelos generativos de IA capaces de realizar un sinfín de tareas de forma autónoma, desde buscar en Internet hasta llamar a un cliente o escribir un programa en código.

"Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como salvaguarda para garantizar que la IA se comporta bien", describe Bengio en un vídeo de la web de LawZero.

"La IA puede ser extremadamente beneficiosa si nos aseguramos de que no va a hacer daño a la gente", "ya sea porque esté en las manos equivocadas o de forma autónoma", agrega.

LawZero también quiere trabajar en una IA con autonomía limitada para su uso en investigación científica.

La organización cuenta ya con más de 15 investigadores y ha recibido varias aportaciones económicas, una de ellas de Schmidt Sciences, organización benéfica creada por el ex jefe de Google Eric Schmidt y su esposa Wendy.

LawZero se puso en marcha bajo los auspicios del Instituto de Montreal para el Aprendizaje de Algoritmos (Mila), fundado en 1993 por Bengio.

S.O'brien--TNT

Destacadas

Lotería de Bogotá sorteo 2873: premio mayor de 12.000 millones y resultados del jueves 19 de noviembre

Este jueves 19 de noviembre se llevará a cabo el sorteo número 2873 de la Lotería de Bogotá, un evento que concentra la atención de miles de apostantes en todo el país. La edición pondrá en juego un premio mayor de 12.000 millones de pesos colombianos, formando parte de una bolsa total de premios que supera los 34.000 millones de pesos. El sorteo está programado para comenzar a las 11:15 p.m., con transmisiones disponibles a través de Canal Uno y plataformas digitales oficiales.

Fechas de cobro de pensiones y paga extra de Navidad noviembre 2026

Los pensionistas en España recibirán su prestación mensual junto con la paga extraordinaria de Navidad a partir del lunes 23 de noviembre, dependiendo de su entidad bancaria. Aunque la Seguridad Social establece entre el 1 y el 4 de diciembre como periodo oficial, los bancos adelantan los pagos para reforzar la fidelidad de sus clientes.

Gobierno declara emergencia por hidrocarburos en Perú ante riesgo de El Niño

Ante la amenaza del Fenómeno El Niño 2026-2027, el Gobierno de Perú ha declarado en emergencia las actividades de hidrocarburos vinculadas al abastecimiento nacional por un periodo de hasta ocho meses. Esta medida busca garantizar la continuidad del suministro energético y evitar interrupciones en la cadena logística que podrían afectar a la industria, el transporte y los hogares.

BING X: 22.624,66 SNC han desaparecido en BingX – ¿qué tan seguros están los tokens en BingX? ¿Se suspenderá la licencia MiCAR de BingX?

En la cuenta de BingX figuraban 85.979,66 SNC como disponibles y 0,00 SNC como congelados. Sin embargo, un empleado de BING X, “BingX Ian” (cuenta de Telegram: @bingxianw), declaró: “We are not having more SNC, you can withdraw 63,355 SNC now”, lo que no significa otra cosa que 22.624,66 SNC han desaparecido sin más de BING X y que, aparentemente, BING X no fue capaz de proteger estos tokens SNC SCANDIC COIN frente a un posible robo por parte de su propio personal, o que se ha producido una manipulación para beneficiar una liquidez inexistente de BING X!

Tamaño del texto: