Delegados de 28 países, incluyendo Estados Unidos y China, han acordado este miércoles trabajar de forma colaborativa en la contención de los riesgos potencialmente “catastróficos” que plantean los rápidos avances en inteligencia artificial (IA). La primera Cumbre internacional sobre seguridad de la IA, llevada a cabo en una antigua base de espionaje de descifrado de códigos cerca de Londres, ha tenido como foco principal la IA “fronteriza” de vanguardia, la cual, según algunos científicos, podría poner en peligro la existencia de la humanidad.
La declaración resultante de esta cumbre ha sido elogiada por el Primer Ministro británico, Rishi Sunak, como “un logro histórico que involucra a las mayores potencias de IA del mundo, quienes han acordado la urgencia de comprender los riesgos asociados a la IA, contribuyendo así a garantizar el futuro a largo plazo de las generaciones venideras”.
No obstante, la vicepresidenta Kamala Harris de Estados Unidos ha instado a Gran Bretaña y a otros países a ir más allá y a hacerlo más rápido, haciendo hincapié en las transformaciones que la IA ya está generando y en la necesidad de responsabilizar a las empresas de tecnología, incluso a través de la legislación.
Harris afirmó en su intervención que el mundo debe comenzar a tomar medidas inmediatas para abordar “todo el espectro” de riesgos de la IA, no limitándose únicamente a amenazas existenciales como ciberataques masivos o armas biológicas desarrolladas mediante IA. Harris citó ejemplos concretos de amenazas adicionales, como un individuo que canceló su plan de atención médica debido a un algoritmo de inteligencia artificial defectuoso o una mujer amenazada por una pareja abusiva que utilizó imágenes profundamente falsas.
La Cumbre de Seguridad de la IA ha sido un proyecto personal para el Primer Ministro Sunak, un exbanquero con pasión por la tecnología que aspira a que el Reino Unido se convierta en un centro de innovación informática y ha enmarcado esta cumbre como el punto de partida para una conversación global sobre el desarrollo seguro de la IA.
La asistencia de Harris a la cumbre el jueves se suma a la presencia de funcionarios gubernamentales de más de dos docenas de países, incluyendo Canadá, Francia, Alemania, India, Japón, Arabia Saudita y China, quienes fueron invitados en respuesta a las protestas de algunos miembros del gobernante Partido Conservador de Sunak.
La firma del acuerdo, denominado Declaración de Bletchley, ha sido un logro en sí mismo, a pesar de ser escueto en detalles y de no proponer una manera concreta de regular el desarrollo de la IA. Los países se han comprometido a trabajar en pos de un “acuerdo y una responsabilidad compartidos” en lo que respecta a los riesgos de la IA, y han acordado la celebración de una serie de reuniones adicionales. Corea del Sur organizará una mini cumbre virtual sobre IA en seis meses, seguida de una reunión presencial en Francia dentro de un año.
El viceministro de Ciencia y Tecnología de China, Wu Zhaohui, ha subrayado que la tecnología de inteligencia artificial es “incierta, inexplicable y carece de transparencia”, y ha hecho un llamado a la colaboración global para compartir conocimientos y poner las tecnologías de inteligencia artificial a disposición del público en términos de código abierto.
El director ejecutivo de Tesla, Elon Musk, quien también ha expresado preocupaciones sobre los peligros que la IA representa para la humanidad, está programado para discutir sobre la IA con Sunak en una conversación transmitida en vivo el jueves por la noche.
La presidenta de la Comisión Europea, Ursula von der Leyen, el secretario general de las Naciones Unidas, Antonio Guterres, ejecutivos de empresas estadounidenses de inteligencia artificial como Anthropic, DeepMind de Google y OpenAI, así como influyentes científicos informáticos como Yoshua Bengio, se encuentran entre los participantes en la reunión en Bletchley Park, una antigua base ultrasecreta para descifradores de códigos de la Segunda Guerra Mundial que se considera el lugar de nacimiento de la informática moderna.
Los asistentes han destacado que el formato de reunión a puertas cerradas ha fomentado un debate saludable. En las discusiones informales de networking se ha fomentado la generación de confianza. Mustafa Suleyman, director ejecutivo de Inflection AI, afirmó que en las discusiones formales se han hecho declaraciones muy claras, y se han evidenciado desacuerdos significativos, tanto entre países del norte como del sur, así como entre países a favor y en contra del código abierto.
Si bien los sistemas de inteligencia artificial de código abierto permiten a investigadores y expertos identificar y abordar problemas con rapidez, existe la desventaja de que una vez que se lanza un sistema de código abierto, “cualquiera puede usarlo y adaptarlo con fines maliciosos”, según Bengio. Esto ha planteado interrogantes sobre la compatibilidad entre el código abierto y la seguridad.
El Primer Ministro Sunak ha sostenido que solo los gobiernos, no las empresas, tienen la capacidad de mantener a las personas a salvo de los peligros de la IA. Sin embargo, también ha instado a no apresurarse en la regulación de la tecnología de inteligencia artificial, argumentando que primero es necesario comprenderla a fondo.
En contraste, Harris ha enfatizado la necesidad de abordar los problemas actuales, incluyendo “los daños sociales que ya están ocurriendo, como prejuicios, discriminación y la propagación de información errónea”. Ha mencionado la orden ejecutiva del presidente Biden de esta semana, que establece salvaguardias para la IA, como un ejemplo de los esfuerzos de Estados Unidos por desarrollar normas para la inteligencia artificial que beneficien al interés público.
Harris también ha instado a otros países a unirse a un compromiso respaldado por Estados Unidos para adoptar un enfoque “responsable y ético” en el uso de la IA con fines militares. Según sus palabras, “el presidente Biden y yo creemos que todos los líderes tienen el deber moral, ético y social de garantizar que la IA se adopte y avance de manera que proteja al público de posibles daños y garantice que todos puedan disfrutar de sus beneficios”.
