Tomarse en serio las normas sobre IA: La falta de capacidad para hacer cumplir la normativa pone en peligro a la UE
A finales del año que viene, las Unidades A2 y A3 de la Oficina de IA contarán con más de 200 empleados, según Axel Voss.
Axel Voss (PPE, Alemania) opina que la Oficina Europea de la Inteligencia Artificial debe contar con más de 200 empleados el año que viene para aplicar las normas sobre IA, pues de lo contrario la falta de ambición de la Comisión pone en peligro a ciudadanos y empresas.
Axel Voss (PPE, Alemania) es eurodiputado desde 2009. Fue ponente alternativo de la Ley de AI y ponente de la Directiva de Responsabilidad por AI la pasada legislatura. Actualmente es miembro de la Comisión de Asuntos Jurídicos (JURI) y miembro suplente de la Comisión de Mercado Interior y Protección del Consumidor (ITRE) del Parlamento Europeo.
En medio año empezarán a aplicarse normas comunes de la UE a los modelos de IA más avanzados, cruciales para apoyar a la industria derivada y proteger a los ciudadanos contra los riesgos sistémicos.
Sin embargo, la Oficina de Inteligencia Artificial de la Comisión Europea carece de personal suficiente para llevar a cabo esta tarea, ya que hasta ahora sólo cuenta con unos 85 empleados, de los cuales sólo unos 30 se encargan específicamente de la aplicación de la Ley de Inteligencia Artificial.
En cambio, el Reino Unido parece haber ampliado su Instituto de Seguridad de la IA a más de 150 empleados, centrados únicamente en salvaguardar la IA avanzada. Un solo país tiene ya cinco veces más capacidad que la UE para supervisar la IA y ni siquiera tiene una ley que aplicar.
Mientras otros países hacen de la transición a una IA cada vez más potente una prioridad de liderazgo, la Comisión no cumple su promesa a los Estados miembros y al Parlamento Europeo.
Volvamos a diciembre de 2023, cuando concluyeron las negociaciones interinstitucionales. La UE decidió reaccionar rápidamente ante los primeros indicios de una tecnología disruptiva con grandes beneficios y perjuicios potenciales introduciendo normas para los modelos de IA de propósito general, la tecnología subyacente a ChatGPT & Co.
Un elemento clave del acuerdo político entre los parlamentarios y los 27 Estados miembros fue otorgar a la Comisión los poderes de ejecución necesarios, centralizando la experiencia en IA de toda la UE en una fuerte Oficina de IA. Aunque se ha creado, aún no parece estar a la altura de las circunstancias.
Cinco años sin precedentes
La nueva Comisaria europea de Tecnología, Henna Virkkunen, reconoció que los próximos cinco años serán difíciles en lo que respecta a la IA, ya que la tecnología se está desarrollando muy rápidamente, y señaló que Europa depende demasiado de terceros países.
De hecho, impulsadas por inversiones multimillonarias y asociaciones estratégicas entre unos pocos, las empresas más ricas de fuera de la UE están inmersas en una carrera. Empujan los límites de la IA general para igualar o superar las capacidades humanas en la mayoría de las tareas cognitivas.
Impresionados por los primeros avances, millones de usuarios finales utilizan modelos extranjeros de IA general y las empresas europeas los están integrando en todos los sectores.
Europa soporta el coste de esta dinámica. Varios modelos de IA de propósito general no son suficientemente seguros. La falta de transparencia supone una carga para las empresas de la UE que intentan construir de forma responsable sobre modelos de caja negra. La falta de guardarraíles plantea riesgos sistémicos para toda la UE.
Algunos de los expertos más reputados advierten constantemente de graves perjuicios, como la reducción de las barreras para el desarrollo de armas biológicas, la pérdida de control sobre la IA autónoma, accidentes graves en sectores críticos o discriminación y desinformación perjudiciales a escala.
Necesidad de ambiciones serias
Cabría suponer que la Comisión es consciente de la inmensa capacidad necesaria para conducir a Europa a través de avances sin precedentes de la IA. Pero la realidad es la falta de ambición.
Aunque se atribuye a la Oficina de Inteligencia Artificial el mérito de haber establecido una norma mundial para la innovación segura de la IA al detallar las normas en el primer Código de Prácticas de Propósito General para la IA, sólo un pequeño equipo se dedica al proceso.
También se acumulan los retrasos en otras entregas. Las partes interesadas llevan meses esperando una plantilla que describa cómo debe informarse públicamente sobre el contenido de la formación en IA. En relación con casos específicos de uso de la IA que plantean riesgos inaceptables, la Comisión lanzó una consulta pública solo tres meses antes de que se apliquen esas normas.
En diciembre de 2023 se prometieron 80 funcionarios adicionales para la aplicación de la Ley de IA. Aunque sigue siendo insuficiente, habría sido un comienzo.
Sin embargo, el personal parece estar repartido por toda la Oficina de IA, abarcando no solo la Ley de IA, sino también la coordinación internacional, la IA para el bien de la sociedad, etc., tareas importantes que merecen sus propios recursos específicos.
La semana pasada, la Oficina de Inteligencia Artificial publicó la primera convocatoria de contratación de personal jurídico y político, tras la de especialistas en tecnología de marzo. Aún no está claro cuántos puestos se cubrirán.
La dirección de la Comisión al más alto nivel debería tomarse en serio la protección de los ciudadanos de la UE contra daños graves y la creación de un mercado único en el que podamos confiar en lo que la IA puede ofrecer. La Oficina de Inteligencia Artificial debe estar dotada no sólo de competencias legales, sino también de todos los recursos necesarios para aplicar eficazmente las normas.
La Comisaria Henna Virkkunen prometió que el equipo de aplicación de la Ley de Servicios Digitales debería alcanzar los 200 miembros a finales del próximo año.
La Comisión debería demostrar la misma ambición en relación con las tan elogiadas normas de referencia para la IA. A finales del próximo año, las Unidades A2 y A3 de la Oficina de IA deberán contar con más de 200 empleados.
La mayor parte de la capacidad será necesaria para regir los modelos más avanzados. Al fin y al cabo, se necesitan conocimientos especializados sobre todos los riesgos sistémicos, la evolución del mercado y las dimensiones jurídicas, al tiempo que se avanza al mismo ritmo que la tecnología.
