El rey Carlos abre cumbre sobre IA en la que insta a controlar la tecnología “antes de que sea demasiado tarde”

Por Issy Ronald y Max Foster, CNN

El rey Carlos III del Reino Unido instó este jueves a los líderes del sector a encontrar formas de controlar la inteligencia artificial (IA) “antes de que sea demasiado tarde”, calificando el ritmo de su desarrollo como “fascinante y, a la vez, profundamente preocupante”, al inaugurar una cumbre convocada por él mismo.

“Parece urgente considerar adecuadamente los peligros existenciales de que tales tecnologías caigan en manos equivocadas y se utilicen de formas potencialmente catastróficas”, afirmó. “Sin duda, ¿no necesitamos medios de control suficientes antes de que sea demasiado tarde?”.

Sus comentarios se producen en medio de graves advertencias por parte de denunciantes y algunos líderes del sector sobre los peligros potenciales de la IA, así como de llamamientos para frenar el ritmo de su desarrollo.

Carlos reconoció el inmenso potencial de la IA, especialmente en el ámbito de la medicina, antes de instar a los asistentes a debatir formas en que esta tecnología pueda utilizarse “para el bien”.

Los miembros de la realeza británica actúan con cautela al adentrarse en ámbitos políticos complejos. Obligados constitucionalmente a mantenerse al margen de la política, pueden visibilizar problemas, pero no necesariamente sugerir soluciones para ellos.

Carlos se introduce en el mundo de la IA en calidad de anfitrión y convocante, más que como actor directo, reuniendo en esta cumbre —celebrada en Dumfries House, cerca de Glasgow (Escocia)— a altos cargos de empresas de IA, representantes gubernamentales y miembros de organizaciones benéficas.

Carlos, de 77 años, permaneció en la cumbre apenas 20 minutos antes de retirarse para permitir el desarrollo de lo que esperaba que fueran debates “productivos”.

Al evento asisten varias figuras destacadas del mundo de la IA, entre ellas Jensen Huang, director ejecutivo de Nvidia; Demis Hassabis, fundador de Google DeepMind; y Paolo Benanti, asesor del Vaticano en materia de IA. El Palacio de Buckingham había anunciado que China también estaría representada, aunque sin ofrecer más detalles. Durante la cumbre, Huang declaró a BBC que las empresas de IA deben ser “más rigurosas en las pruebas y en garantizar la seguridad”.

La presencia de Benanti evidencia el papel que han desempeñado los líderes religiosos en esta cuestión. En una encíclica publicada en mayo, el papa afirmó que la IA no debe quedar en manos “de unos pocos”. Las palabras de Carlos estuvieron igualmente impregnadas de simbolismo cristiano: “Nuestra humanidad debe permanecer sagrada”, declaró.

“Aquellos en nuestro mundo que valoran profundamente nuestra humanidad y su componente moral esencial buscan con inquietud la tranquilidad de saber que no perderemos el control de nuestro destino ni de nuestras almas”, afirmó.

El palacio presidencial informó que instará a los asistentes a la cumbre a considerar cómo el mundo puede aprovechar los beneficios de la IA sin descuidar la seguridad, y cómo garantizar la cooperación y el consenso internacionales para que ninguna nación se quede atrás.

“Quienes en nuestro mundo valoran nuestra humanidad y su componente moral vital buscan ansiosamente su garantía de que no perderemos el control de nuestro destino”, dirá.

El monarca rara vez se había pronunciado sobre la IA. Cuando lo hizo, fue con un tono de cautela. La tecnología presenta “desafíos profundos”, afirmó en un discurso grabado para la Cumbre de Seguridad de la IA del Reino Unido en 2023, instando a los asistentes a “proteger la privacidad y el sustento de las personas… a salvaguardar nuestras democracias de cualquier daño y a garantizar que los beneficios de las nuevas tecnologías sean compartidos por todos”.

De manera similar, hizo referencia a la importancia de aprovechar la IA para que “trabaje a favor de nuestras sociedades, no en su contra” en un discurso pronunciado en una reunión de jefes de Gobierno de la Mancomunidad en 2024.

No obstante, la participación del rey en el debate sobre uno de los temas más importantes de la actualidad tal vez no sea sorprendente, ya que ha adquirido la costumbre de referirse a los desafíos existenciales que enfrenta la humanidad, sobre todo en lo que respecta al cambio climático y el medio ambiente.

El Reino Unido se encuentra en una posición un tanto incómoda en lo que respecta a la seguridad de la IA. Cuenta con algunas de las universidades más prestigiosas del mundo y con el respetado Instituto de Seguridad de la IA, pero su influencia es limitada, dado que los modelos de IA más avanzados se desarrollan en China y Estados Unidos. A principios de este mes, por ejemplo, Anthropic —una de las empresas líderes mundiales en IA— no presentó su último modelo al instituto para que lo evaluara, por primera vez, según el Financial Times.

Aunque esta cumbre se habrá planeado con meses de antelación, su momento es oportuno. La seguridad de la IA ha acaparado los titulares en los últimos días, impulsada en primer lugar por la renuncia del investigador de Anthropic, Jacob Coxon, quien afirmó: “Las personas que desarrollan la IA creen sinceramente que podría matarnos a todos para finales de la década”. Posteriormente, el CEO de Anthropic, Dario Amodei, pidió que se redujera “el ritmo al que mejoramos las capacidades de los modelos de IA”.

“(Coxon) estaba señalando que la dinámica de la industria en su conjunto avanza demasiado rápido”, dijo Amodei más tarde a Anderson Cooper de CNN, argumentando que tomar los “caminos correctos” en el desarrollo de la IA reduciría la amenaza existencial que representa para los seres humanos.

Dos de sus competidores directos, el CEO de OpenAI, Sam Altman, y Elon Musk, dijeron estar de acuerdo con Amodei.

“Cuando hablamos de “ritmo”, no nos referimos a “detener””, agregó Altman en una publicación en X el lunes. “El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento de lo que podría ser; las intervenciones como los análisis de seguridad y el monitoreo tienen costos significativos”.

Este raro caso de unidad pública entre tres de las figuras más destacadas de la industria se produce poco después de que OpenAI, Meta y Anthropic informaran que agentes de IA rebeldes se escaparon de su entorno de laboratorio durante las pruebas y se infiltraron en otra organización.

The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.