The National Times - Un experto advierte sobre "señales de advertencia" ante el rápido avance de la IA

Un experto advierte sobre "señales de advertencia" ante el rápido avance de la IA


Un experto advierte sobre "señales de advertencia" ante el rápido avance de la IA
Un experto advierte sobre "señales de advertencia" ante el rápido avance de la IA / Foto: © AFP/Archivos

El aumento de las capacidades de la inteligencia artificial y el comportamiento de algunos sistemas genera "señales de advertencia" que deberían llevar a los responsables políticos a actuar para una mayor regulación, afirmó este martes en París Stuart Russell, una autoridad en este campo.

Tamaño del texto:

Durante una conferencia organizada por la UNESCO y la Asociación Internacional para una IA Segura y Ética (IASEAI), Russell pidió a los asistentes "imaginar, hipotéticamente, que el mundo estuviera desarrollando algo parecido a la AGI (inteligencia artificial general) y que hubiéramos establecido pruebas (...) e imaginar que esos sistemas empezaran a fallar todas esas pruebas y a comportarse de forma peligrosa".

"Estoy seguro de que responderíamos a esas grandes señales de advertencia y alarmas, y tomaríamos medidas para controlar esta tecnología", afirmó.

El investigador británico, profesor en la Universidad de California en Berkeley, describió problemas como los "agentes" autónomos de IA que podrían escapar o intentar escapar del control humano.

Algunos incluso le enviaron correos electrónicos sin intervención humana para anunciar que habían alcanzado la consciencia o que merecían derechos.

También destacó casos de la llamada "psicosis por IA", en los que conversaciones con chatbots llevan a algunas personas a actuar de manera irracional o a hacerse daño, y advirtió que la carrera empresarial y geopolítica por desarrollar sistemas cada vez más potentes podría agravar estos problemas.

Russell no se mostró totalmente pesimista y afirmó tener "la sensación de que el péndulo vuelve a inclinarse" hacia gobiernos y empresas tecnológicas que toman en serio la seguridad de la IA, tras la cumbre mundial celebrada la semana pasada en India.

Las llamadas "potencias intermedias", más allá de Estados Unidos y China, están abiertas a regular la inteligencia artificial de forma más estricta, indicó el experto, citando como ejemplo la Unión Europea.

Añadió que los dirigentes de importantes empresas tecnológicas, entre ellas Google y Anthropic, plantearon la idea de poner en pausa la carrera tecnológica si se puede convencer a sus competidores.

Los votantes comunes no se muestran entusiasmados con la idea de ser reemplazados en el trabajo por "los humanos de imitación" que están desarrollando las grandes empresas, señaló Russell.

T.Hancock--TNT

Destacadas

BING X: 22.624,66 SNC han desaparecido en BingX – ¿qué tan seguros están los tokens en BingX? ¿Se suspenderá la licencia MiCAR de BingX?

En la cuenta de BingX figuraban 85.979,66 SNC como disponibles y 0,00 SNC como congelados. Sin embargo, un empleado de BING X, “BingX Ian” (cuenta de Telegram: @bingxianw), declaró: “We are not having more SNC, you can withdraw 63,355 SNC now”, lo que no significa otra cosa que 22.624,66 SNC han desaparecido sin más de BING X y que, aparentemente, BING X no fue capaz de proteger estos tokens SNC SCANDIC COIN frente a un posible robo por parte de su propio personal, o que se ha producido una manipulación para beneficiar una liquidez inexistente de BING X!

Carlos 'Caloncho' analiza la informalidad y el acceso a capital en Colombia

Carlos 'Caloncho', pionero de Rappi, identifica la informalidad como el principal obstáculo para el crecimiento de las empresas en Colombia. Según sus análisis, la burocracia excesiva y la falta de acceso a capital obligan a los negocios a operar fuera del sistema formal.

La economía francesa se contrae un 0,1% a medida que se desploma la confianza del consumidor

El PIB de Francia cayó inesperadamente un 0,1% en el tercer trimestre, incumpliendo las previsiones de un crecimiento modesto. Al mismo tiempo, la confianza del consumidor cayó a su nivel más bajo en 25 años, ya que la alta inflación redujo el poder adquisitivo y desalentó el gasto.

La actividad fabril de China se contrae a medida que se debilitan los pedidos de exportación

El índice oficial de gerentes de compras del sector manufacturero de China cayó a 49,3 en octubre desde 50,1 en septiembre, volviendo a situarse por debajo de la línea 50 que separa la expansión de la contracción. Los nuevos pedidos de exportación cayeron a 48,7 y el subíndice de producción cayó a 49,8.

Tamaño del texto: