El rey Carlos III advirtió este jueves 17 de septiembre de 2026 sobre los riesgos existenciales que podría generar la inteligencia artificial si cae en manos equivocadas o se utiliza de manera potencialmente catastrófica. El monarca británico hizo la declaración durante una cumbre celebrada en Dumfries House, Escocia, con líderes de las principales empresas del sector.
El encuentro reunió a representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, además de funcionarios británicos, representantes de China y del Vaticano, y otros líderes vinculados al desarrollo tecnológico. Las conversaciones estuvieron orientadas a explorar principios comunes para que la IA genere beneficios sociales y preserve la dignidad humana.
Una advertencia sobre el control de la tecnología
Durante su discurso inaugural, Carlos III señaló que quienes desarrollan estas tecnologías han comenzado a advertir sobre la aparición de capacidades cada vez más peligrosas. Por ello, sostuvo que la responsabilidad de la industria no consiste únicamente en ampliar el potencial de la inteligencia artificial, sino también en garantizar que permanezca al servicio de la humanidad, las comunidades y el mundo natural.
La cumbre se llevó a cabo en un contexto de preocupación internacional por la velocidad con la que evolucionan los sistemas de IA y por la posibilidad de que los mecanismos de seguridad no avancen al mismo ritmo. La reunión buscó analizar cómo aprovechar la tecnología sin perder de vista sus efectos sociales y sus posibles consecuencias.
Diferencias sobre una posible desaceleración
No todos los participantes coincidieron en la necesidad de reducir el ritmo de desarrollo de la inteligencia artificial. Jensen Huang, director ejecutivo de Nvidia, rechazó que la tecnología sea regulada de la misma forma que las redes sociales y sostuvo que los gobiernos deben intervenir cuando su desarrollo se desvíe o produzca daños.
Huang también planteó que los sistemas de control deben probarse en laboratorios cerrados antes de que los productos lleguen al público. Su postura se distancia de los llamados de otros líderes tecnológicos que han pedido moderar el avance de la IA de frontera ante sus posibles riesgos.
La búsqueda de principios comunes
La cumbre fue organizada con la participación de la Fundación Ditchley y buscó reunir a empresas tecnológicas, gobiernos, instituciones religiosas y representantes de la sociedad civil. Entre los temas centrales estuvo la posibilidad de establecer principios compartidos para orientar el desarrollo y la aplicación de la inteligencia artificial.
El encuentro no implicó la aprobación de una regulación internacional vinculante. Sin embargo, puso de manifiesto la creciente presión para que las empresas y los gobiernos definan salvaguardas capaces de responder a los riesgos de una tecnología cuyo impacto alcanza ámbitos como la economía, la seguridad, la salud y la vida cotidiana.