Declaración de Bletchley – Primera cumbre sobre seguridad de la IA
Se argumenta que el mayor problema de oportunidades y riesgos potenciales al que se enfrenta la humanidad es la introducción de la «IA de frontera» y, en particular, la gobernanza de su futuro desarrollo, que será muchas veces más potente que el actual.
Los días 1 y 2 de noviembre se celebró la primera Cumbre sobre Seguridad de la IA, organizada por Rishi Sunak y el gobierno del Reino Unido. La conferencia tuvo lugar en Bletchley Park, el lugar que se hizo famoso durante la Segunda Guerra Mundial, donde los descifradores de códigos, entre ellos Alan Turing, padre del ordenador moderno, descifraron el código de la máquina Enigma, acortando así la guerra en dos años. La cumbre concluyó con la publicación de un comunicado (la Declaración de Bletchley) que lleva el nombre del lugar donde se celebró la conferencia.
A la conferencia asistieron delegados de unos 27 gobiernos de todo el mundo, incluidos altos diplomáticos de Estados Unidos y China, junto con algunos de los nombres más importantes de la industria tecnológica y directores ejecutivos de las principales empresas de inteligencia artificial.
No hubo ningún intento de llegar a un acuerdo sobre las directrices aplicables que regirían el desarrollo de la IA. Sin embargo, el Primer Ministro sí anunció que el gobierno británico recibiría acceso anticipado a los modelos para realizar evaluaciones de seguridad. También anunció que Yoshua Bengio, Director Científico del Instituto de Algoritmos de Aprendizaje de Montreal, presidirá un grupo que informará sobre los riesgos científicos y las capacidades de los sistemas de «IA de frontera».
El Primer Ministro también anunció que el Grupo de Trabajo sobre IA del Reino Unido, creado hace unos meses, pasará a ser permanente y se rebautizará como Instituto de Seguridad de la IA del Reino Unido, con la misión de realizar evaluaciones de seguridad.
No cabe duda de que la IA dejará obsoletos algunos puestos de trabajo, pero las estimaciones varían mucho sobre cuál será el efecto global en los próximos años. Uno de los debates más interesantes de la Cumbre es el de las opiniones opuestas de dos gigantes de la tecnología: Elon Musk, jefe de Tesla y Twitter, y Jensen Huang, Presidente y Consejero Delegado de Nvidia. Musk ha descrito la IA como «la fuerza más disruptiva de la historia», y cree que a medida que la inteligencia de la IA supere a la de los humanos, los puestos de trabajo quedarán obsoletos. A Musk también le preocupa que esto lleve a preguntas existenciales sobre el sentido de una vida sin trabajo. En el otro bando está Jensen Huang, cuya visión del futuro de la IA no podría ser más diferente. Afirma que la IA mejorará la productividad, fomentará el crecimiento económico y creará nuevos puestos de trabajo a medida que las empresas se desarrollen en nuevas áreas. En su opinión, la gente seguirá innovando, surgirán nuevas industrias y aumentarán las oportunidades de empleo.
La declaración describe las enormes oportunidades globales que presenta la IA, con «el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad». La declaración subraya la importancia de «alinearse con la intención humana» y afirma la necesidad de comprender mejor todas las capacidades de la tecnología. Describe la posibilidad de «daños graves, incluso catastróficos, ya sean deliberados o involuntarios», pero también señala que «es necesario abordar la protección de los derechos humanos, la transparencia y la explicabilidad, la equidad, la rendición de cuentas, la regulación, la seguridad, la supervisión humana adecuada, la ética, la mitigación de los prejuicios, la privacidad y la protección de datos».
La declaración señala la necesidad de que la sociedad civil participe plenamente en el trabajo sobre la seguridad de la IA. Afirma que la responsabilidad de garantizar la seguridad de estos sistemas de IA recae especialmente en las empresas que construyen sistemas de IA «de vanguardia» y que esto debe incluir un alto nivel de evaluaciones y pruebas de seguridad.
A diferencia de la mayoría de las declaraciones, ésta no incluye obligaciones firmes ni medidas concretas, pero se considera un buen primer paso teniendo en cuenta que no estaba en el radar de ningún gobierno hace un año. Y es un compromiso entre países que tienen puntos de vista y prioridades muy diferentes.
Durante la conferencia, los delegados estadounidenses anunciaron que también van a crear en Estados Unidos un Instituto de Seguridad de la IA similar al del Reino Unido, que, según dicen, colaborará con su homólogo británico. A pesar de las actuales tensiones políticas, la asistencia de China se consideró positiva, y los académicos chinos que estuvieron allí piden medidas más estrictas que las establecidas en la Declaración de Bletchley. Aunque se acogió con satisfacción la asistencia china, Oliver Dowden, Viceprimer Ministro del Reino Unido, dijo que «podría no ser apropiado que China se uniera» a ciertas sesiones «en las que tenemos países con ideas afines trabajando juntos».
A pesar de los avances logrados en la Cumbre, también se ha criticado que varios temas no ocuparan un lugar destacado en la agenda, entre ellos El impacto en el medio ambiente, debido al uso intensivo de energía que utiliza la IA; el aumento de los problemas de seguridad para las mujeres, donde la IA puede utilizarse para crear contenidos pornográficos falsos; y Su uso indebido en la creación de desinformación que puede afectar a las elecciones.
Aunque entre los delegados y los países asistentes hay muchas ideas contrapuestas sobre el rumbo de la IA, es posible que esta cumbre no cambie el rumbo de la IA ni su gobernanza inmediata. Pero se considera un comienzo alentador para la cooperación internacional, que sin duda será necesaria si queremos controlar los riesgos que plantea la «IA fronteriza». Resulta alentador que estas cumbres se conviertan ahora en reuniones periódicas: Corea acogerá la próxima reunión virtual dentro de seis meses, seguida de Francia, que acogerá una cumbre presencial en otoño del año que viene.
