Cinco organizaciones europeas se unen para que las decisiones tomadas con IA puedan explicarse y verificarse

Noticias

Cloud Data Engine, AIT, Fraunhofer FIT, Sopra Steria Belgium y TECNALIA crean la European AI Evidence Alliance para mantener la continuidad de las evidencias sobre la IA de una organización a otra, de modo que los intercambios de datos puedan escalar

Cloud Data Engine (CDE), AIT Austrian Institute of Technology, Fraunhofer FIT, Sopra Steria Belgium y TECNALIA han lanzado hoy la European AI Evidence Alliance. Su objetivo es que las evidencias en las que se basan las decisiones tomadas con IA sean continuas y verificables de una organización a otra, para que se pueda confiar en la IA y los intercambios de datos puedan escalar.

Cuando un banco deniega un préstamo con ayuda de la IA, o un hospital se apoya en un modelo para interpretar una imagen médica, alguien debe poder explicar después qué ocurrió: qué modelo se utilizó, entrenado con qué datos, verificado por quién y conforme a qué norma. Hoy esa historia está dispersa entre el fabricante del modelo, la organización que lo utiliza y el auditor. Cada pieza existe. Juntas, rara vez constituyen evidencias que cualquiera pueda verificar.

A partir de diciembre de 2027 (agosto de 2028 para la IA integrada en productos como los dispositivos médicos), el Reglamento europeo de IA (AI Act) exige que los sistemas de IA de alto riesgo conserven registros de su funcionamiento. Esos registros solo cuentan si otros pueden leerlos y confiar en ellos.

La misma carencia frena el intercambio de datos. Cada organización debe controlar su IA y sus datos dentro de sus propios muros. Quien viene después en la cadena de valor también debe poder saber que esos controles se realizaron, sin repetirlos. Sin ello, los intercambios de datos y modelos, por ejemplo, en los espacios de datos europeos, se limitan a unos pocos socios de confianza y no escalan.

La Alianza definirá una especificación común, redactada por sus miembros, para producir y verificar estas evidencias entre organizaciones, sin que nadie tenga que entregar modelos o datos: en su lugar, las organizaciones intercambian atestaciones verificables. Sus miembros trabajarán en componentes más sencillos y eficientes, fáciles de integrar en los sistemas que las organizaciones ya utilizan. El trabajo se centra primero en las aplicaciones de doble uso (civil y defensa), las finanzas, la industria farmacéutica y la salud, y después en otros sectores.

Los miembros fundadores ya saben trabajar juntos: cooperan en proyectos europeos de investigación y en iniciativas europeas de espacios de datos. La Alianza da a esa cooperación un objetivo común. Las reglas de adhesión se fijarán a principios de 2027 y los miembros se comprometen a contribuir. Proveedores de modelos de IA, operadores de infraestructuras, auditores y organizaciones que utilizan IA pueden manifestar su interés en www.evidencealliance.ai.

Alban Schmutz, President, Cloud Data Engine: “Hoy, las evidencias que respaldan una decisión tomada con IA se rompen en cuanto salen de la organización que las produjo. Cloud Data Engine ya automatiza la verificación del cumplimiento normativo en ecosistemas federados y ha construido un registro descentralizado de modelos de IA cualificados. Aportamos esa experiencia a la Alianza para que las evidencias sobre la IA sean continuas, desde el fabricante del modelo hasta el auditor, con componentes lo bastante ligeros para integrarse en los sistemas que las organizaciones ya utilizan.”

Mario Drobics, Head of Competence Unit Cooperative Digital Technologies, AIT: “Para aprovechar todo el potencial de la IA, necesitamos establecer evidencias y confianza entre los actores. AIT aporta su investigación sobre sistemas digitales seguros y fiables para que cada eslabón de la cadena pueda apoyarse en los controles realizados antes.”

Dr Christoph Lange-Bever, Head of the Data Science and Artificial Intelligence Department, Fraunhofer FIT: “Los espacios de datos han demostrado que las organizaciones pueden compartir datos sin perder el control sobre ellos. La Alianza aplica ese principio a las evidencias sobre la IA, para que puedan compartirse, verificarse y ser fiables a lo largo de toda la cadena.”

Cédric Genin, Consulting Director Defence & Security, Sopra Steria Belgium: “Nuestros clientes de defensa, sector público, servicios financieros, salud e industria nos preguntan cómo demostrar que la IA que utilizan, y la que utilizan sus proveedores, está bajo control. La Alianza convierte esa demanda en una única respuesta que funciona entre organizaciones.”

Joseba Laka, Director of the Digital Operational Unit, TECNALIA: “TECNALIA trabaja para garantizar la trazabilidad de las evidencias de cumplimiento a lo largo de todo el ciclo de vida de los sistemas de IA de alto riesgo y de la IA integrada en producto. El enfoque aborda dos frentes: en primer lugar, establecer marcos sólidos de trazabilidad basados en evidencias en los sectores de la salud y farmacéutico, donde los requisitos regulatorios son especialmente exigentes; en segundo lugar, ofrecer un acompañamiento estructurado a los fabricantes de sistemas de IA de alto riesgo del Anexo I, con especial atención al sector energético. En ambos casos, el objetivo es el mismo: ofrecer componentes de trazabilidad lo bastante sencillos para que los usuarios industriales los adopten e integren en sus flujos de cumplimiento existentes.”

El anuncio se realizó en el marco del Gaia-X Summit 2026 en Viena, organizado por Gaia-X en cooperación con el Gaia-X Hub Austria, gestionado por AIT, en presencia de todos los miembros fundadores.

Calendario

  • Principios de 2027: puesta en marcha de la gobernanza de la Alianza.
  • Antes de finales de 2027: primeros resultados técnicos y pilotos con usuarios industriales.

Compartir

Otras noticias