El rey Carlos III advirtió sobre los «peligros existenciales» de la inteligencia artificial

El monarca británico reunió a referentes de la industria tecnológica en Escocia para debatir cómo desarrollar la IA de manera segura y al servicio de la sociedad.

El rey Carlos III advirtió sobre los «peligros existenciales» que podría generar la inteligencia artificial si sus capacidades terminan en manos equivocadas.

El monarca hizo estas declaraciones durante una cumbre que convocó en Dumfries House, en Escocia, donde líderes tecnológicos y funcionarios debatieron mecanismos para garantizar un desarrollo seguro de la tecnología.

Entre los participantes estuvieron el ministro británico de Inteligencia Artificial, Kanishka Narayan; representantes de OpenAI, Anthropic y Nvidia; y un asesor del papa, informó la BBC y supo la Agencia Noticias Argentinas.

Carlos III sostuvo que existe una creciente preocupación dentro del propio sector por la evolución de los modelos de IA y pidió que las empresas no se limiten a ampliar sus capacidades, sino que garanticen que estas permanezcan «firmemente al servicio de la humanidad, la comunidad y el mundo natural».

Uno de los asistentes fue Jensen Huang, CEO de Nvidia, quien consideró que la seguridad debe ser una prioridad y planteó que las compañías deberían retrasar el lanzamiento de un producto si no consideran que es suficientemente seguro.

En una línea más cautelosa, Sir Demis Hassabis, cofundador de DeepMind, afirmó que la inteligencia artificial general podría estar a pocos años de distancia y tener un impacto «diez veces mayor que el de la Revolución Industrial», aunque sostuvo que todavía existe margen para abordar sus riesgos.

La cumbre tuvo como objetivo avanzar hacia un conjunto de principios compartidos para orientar el desarrollo de la IA. Sarah Friar, directora financiera de OpenAI, coincidió en que las nuevas capacidades plantean interrogantes sobre seguridad y control, mientras que en los últimos meses crecieron las advertencias de especialistas y ejecutivos del sector.

Según la BBC, el debate también generó críticas de quienes consideran que la atención sobre riesgos futuros puede desplazar otros problemas actuales de la tecnología, como su impacto ambiental.