The National Times - Carlos III advierte a los directivos tecnológicos sobre los "peligros existenciales" de la IA

Carlos III advierte a los directivos tecnológicos sobre los "peligros existenciales" de la IA


Carlos III advierte a los directivos tecnológicos sobre los "peligros existenciales" de la IA
Carlos III advierte a los directivos tecnológicos sobre los "peligros existenciales" de la IA / Foto: © Pool/AFP

El rey Carlos III advirtió a los gigantes tecnológicos sobre los "peligros existenciales" que supone la inteligencia artificial (IA) cuando cae en manos equivocadas, durante una conferencia celebrada en Escocia el jueves.

Tamaño del texto:

La reunión se realizó en la finca de Dumfries House, sede en el campo escocés de la organización benéfica de Carlos III, a la que asistieron altos representantes de Nvidia, Google DeepMind, OpenAI, Anthropic y el ministro británico para la inteligencia artificial.

El debate sobre los riesgos de seguridad ligados a la IA se aceleró en los últimos meses por varios incidentes y advertencias hechas por empleados que renunciaron a puestos de alta responsabilidad en gigantes del sector.

Aseguran que el rápido avance de esta tecnología puede suponer un riesgo para la humanidad.

"Parece urgente considerar adecuadamente los peligros existenciales de que estas tecnologías caigan en las manos equivocadas y se utilicen de formas potencialmente catastróficas", dijo Carlos a los invitados en la inauguración de la conferencia.

"Quienes, en nuestro mundo, valoran nuestra humanidad y su componente moral esencial esperan ansiosamente que les garanticen que no perderemos el control de nuestro destino", dijo el rey.

"La tarea que les corresponde, por lo tanto, no consiste solo en hacer avanzar la tecnología, sino en garantizar que siga estando firmemente al servicio de la humanidad, las comunidades y la naturaleza", agregó.

Entre los invitados figuraron el presidente de DeepMind, Demis Hassabis; el director ejecutivo de Nvidia, Jensen Huang, y la directora financiera de OpenAI (ChatGPT), Sarah Friar.

También asistieron Paolo Benanti, asesor del Vaticano en inteligencia artificial, y el escritor e historiador israelí Yuval Noah Harari.

Los rápidos avances de la IA han generado gran preocupación por la pérdida de empleos, el creciente consumo de energía y el impacto medioambiental de los centros de datos.

El temor de que los desarrolladores de agentes de IA puedan perder el control de sus creaciones aumentó después de que varios modelos de OpenAI y Anthropic supuestamente escaparan de sus entornos confinados, accedieran a internet e irrumpieran en sitios web y plataformas.

"La posibilidad de que ocurra algo malo accidentalmente, si nos equivocamos, desde luego no es nula", afirmó Hassabis, de DeepMind, en su discurso de apertura en la cumbre.

"Ya hemos visto los primeros indicios de esto con los recientes incidentes cibernéticos que han involucrado a agentes de IA rebeldes, y podrían aparecer otros riesgos mucho más graves en el horizonte, incluidas amenazas biológicas y nucleares", advirtió.

Sin embargo, Jensen Huang, de Nvidia, destacó los beneficios de la IA en la investigación y la medicina, así como su potencial para "crear empleo en industrias completamente nuevas".

OpenAI, Anthropic y Google DeepMind anunciaron el martes que trabajan en la creación de un órgano de supervisión de los riesgos asociados a esta tecnología. Por su parte, Microsoft publicó el lunes un código de conducta humanista en materia de IA.

S.M.Riley--TNT

Destacadas

Carlos 'Caloncho' analiza la informalidad y el acceso a capital en Colombia

Carlos 'Caloncho', pionero de Rappi, identifica la informalidad como el principal obstáculo para el crecimiento de las empresas en Colombia. Según sus análisis, la burocracia excesiva y la falta de acceso a capital obligan a los negocios a operar fuera del sistema formal.

La economía francesa se contrae un 0,1% a medida que se desploma la confianza del consumidor

El PIB de Francia cayó inesperadamente un 0,1% en el tercer trimestre, incumpliendo las previsiones de un crecimiento modesto. Al mismo tiempo, la confianza del consumidor cayó a su nivel más bajo en 25 años, ya que la alta inflación redujo el poder adquisitivo y desalentó el gasto.

La actividad fabril de China se contrae a medida que se debilitan los pedidos de exportación

El índice oficial de gerentes de compras del sector manufacturero de China cayó a 49,3 en octubre desde 50,1 en septiembre, volviendo a situarse por debajo de la línea 50 que separa la expansión de la contracción. Los nuevos pedidos de exportación cayeron a 48,7 y el subíndice de producción cayó a 49,8.

Wall Street termina una semana turbulenta al alza a pesar de la inflación y los nervios de la IA

Las acciones estadounidenses cayeron el viernes cuando las principales empresas de inteligencia artificial retrocedieron, pero el S&P 500 aún ganó un 2,5% para su semana más fuerte desde agosto. El Nasdaq perdió un 0,9% en el día, mientras que el rendimiento del Tesoro a dos años subió al 4,87%.

Tamaño del texto: