Varios países, entre los que se hallan el Reino Unido, Estados Unidos y los Estados miembros de la Unión Europea (UE), han acordado la aprobación del primer convenio internacional jurídicamente vinculante destinado a garantizar que el uso y desarrollo de sistemas de IA se ajuste a los derechos humanos y los valores democráticos, complementando así los marcos ya existentes, como por ejemplo la Ley de Inteligencia Artificial de la UE y el Acuerdo de Bletchley.

El Consejo de Europa ha anunciado que su Comité de Ministros adoptó dicho convenio en mayo, unos dos años después de que se empezara a trabajar en un borrador, y cinco después de que se estudiara por primera vez la viabilidad de semejante acuerdo.

Los 46 Estados miembros del Consejo de Europa, la propia Unión Europea y 11 Estados no miembros, entre los que se hallan Estados Unidos, Australia, Canadá, Argentina, Japón e Israel, han participado en el proceso de redacción. Por otra parte, el mundo académico, los representantes del sector privado y la sociedad civil “han contribuido como observadores”.

Aparte de Estados Unidos, el Reino Unido y la UE, también han firmado el convenio naciones tales como Andorra, Georgia, Islandia, Noruega, República de Moldavia, San Marino e Israel.
Pero, según el Consejo de Europa, “podrían adherirse países del mundo entero”.

Marija Pejcinovic Buric, secretaria general del Consejo de Europa, ha descrito dicho marco como “un tratado abierto que podría extenderse a todo el planeta”.

Establece evaluaciones de riesgo e impacto “con respecto a repercusiones reales y potenciales sobre los derechos humanos, la democracia y el Estado de Derecho”, así como medidas de mitigación y la posibilidad de que los organismos reguladores impongan prohibiciones o moratorias a determinadas aplicaciones o sistemas de IA.

El tratado entrará en vigor tres meses después de que lo hayan ratificado cinco signatarios, entre ellos “por lo menos tres Estados miembros del Consejo de Europa”.

Peter Kyle, secretario de Estado de Ciencia, Innovación y Tecnología del Reino Unido, afirma que el tratado “reforzará todavía más la protección de los derechos humanos, del Estado de derecho y de la democracia, y fortalecerá el tratamiento de la tecnología que ya es propio de nuestro país, al tiempo que promueve la causa mundial de una IA segura y responsable”.

Por otra parte, Australia presentó el 5 de setiembre una serie de directrices como nuevo estándar de seguridad en materia de IA. Dicho estándar podría prever el recurso a “supervisión humana” en los despliegues y la posibilidad de cuestionar los procesos automatizados de toma de decisiones.