Ética y gobernanza en inteligencia artificial: requisitos en Horizon Europe

La ética y la gobernanza de la inteligencia artificial han adquirido un papel fundamental en Horizon Europe. Se considera un conjunto de condiciones que impactan de manera directa en la elegibilidad, evaluación y supervisión de los proyectos financiados. Esto afecta directamente a iniciativas que desarrollan o utilizan sistemas de IA con un impacto significativo en personas, derechos fundamentales, servicios públicos o procesos de toma de decisiones. Para empresas, centros de investigación y entidades públicas, la ética debe integrarse desde la fase de diseño inicial del proyecto y debe reflejarse en decisiones técnicas, organizativas y documentales que sean verificables.

Marco normativo y político de referencia en Horizon Europe

Horizon Europe se basa en un marco normativo europeo riguroso que establece la ética de la IA como una obligación legal y política. Todos los proyectos deben cumplir con la Carta de Derechos Fundamentales de la Unión Europea, el Reglamento General de Protección de Datos y los estándares éticos reconocidos por la Comisión. En el ámbito de la inteligencia artificial, este marco se refuerza con las Directrices de IA fiable desarrolladas por el AI High-Level Expert Group, que introducen criterios operativos sobre control humano, prevención de daños, equidad, explicabilidad, bienestar social y rendición de cuentas.

A este conjunto se añade el AI Act, que establece un régimen legal específico para la IA basado en el nivel de riesgo del sistema. Aunque su aplicación completa es progresiva, Horizon Europe actúa como un espacio de anticipación regulatoria. Muchos proyectos financiados desarrollan tecnologías que se clasifican como sistemas de alto riesgo, lo que requiere prever desde la fase de propuesta mecanismos de gestión de riesgos, documentación técnica y supervisión humana alineados con este nuevo marco legal.

Principios éticos aplicados a sistemas de IA

Los principios éticos que rigen la IA en Horizon Europe no están formulados de manera abstracta, sino que se convierten en obligaciones concretas de diseño y uso. El respeto a la inteligencia humana implica que los sistemas no deben reemplazar de manera opaca la capacidad de decisión de las personas ni inducir comportamientos mediante manipulación o desinformación. La privacidad y la gobernanza de datos exigen un uso proporcional y justificado de la información, con trazabilidad y control sobre los conjuntos de datos utilizados.

La equidad cobra especial importancia en proyectos que impactan a grupos diversos, ya que obliga a analizar sesgos potenciales en datos, modelos y resultados. El bienestar individual, social y medioambiental amplía el enfoque más allá del rendimiento técnico, incorporando impactos indirectos y efectos a largo plazo. Finalmente, la transparencia y la responsabilidad requieren que las decisiones automatizadas sean comprensibles, cuestionables y, en su caso, corregibles.

Requisitos éticos específicos en las convocatorias de Horizon Europe

Horizon Europe integra la ética en todo el ciclo de vida del proyecto a través de un proceso formal de evaluación ética. En las propuestas, las entidades deben identificar de manera explícita si utilizan IA, datos personales, técnicas de vigilancia o trabajan con personas o grupos en situación de vulnerabilidad. Según este análisis, la Comisión puede imponer requisitos obligatorios que se incorporan al acuerdo de subvención.

En proyectos que involucran IA, se espera una descripción detallada de la finalidad del sistema, su contexto de uso y los impactos previsibles sobre derechos fundamentales. También se valoran de manera específica los mecanismos de control humano, la gestión de riesgos y las medidas previstas para informar a las personas usuarias o afectadas sobre el funcionamiento y las limitaciones del sistema.

Enfoque ethics by design y ciclo de vida de la IA

La Comisión promueve un enfoque de ethics by design que atraviesa todas las fases del desarrollo y uso de la inteligencia artificial. Esto implica integrar la reflexión ética desde la definición de objetivos hasta la monitorización en producción, evitando soluciones reactivas o meramente formales. La ética se convierte así en un proceso continuo de evaluación y ajuste, no en un ejercicio puntual previo a la firma del contrato.

En la práctica, este enfoque requiere documentar decisiones clave de diseño, justificar la selección de datos y métricas, y establecer mecanismos internos para revisar el impacto del sistema a medida que evoluciona. La participación de perfiles expertos en ética y de partes interesadas externas refuerza la credibilidad de este proceso ante evaluadores y servicios de la Comisión.

Gobernanza interna de la IA en las organizaciones

Horizon Europe evalúa no solo el algoritmo, sino también la capacidad de la organización para gestionar la IA de manera responsable. Se espera que las entidades cuenten con estructuras claras de supervisión, con responsabilidades definidas y canales de rendición de cuentas. Esto incluye políticas internas, procedimientos de gestión de incidentes y mecanismos para detener o modificar sistemas cuando se detectan efectos no deseados.

Una gobernanza sólida facilita la coherencia entre ética, cumplimiento normativo y estrategia de explotación. Además, permite a las organizaciones anticipar obligaciones futuras del AI Act, como la clasificación de sistemas por nivel de riesgo o el mantenimiento de inventarios internos de soluciones basadas en IA.

Gestión de datos, privacidad y protección de las personas

La gestión ética de los datos es un elemento transversal en los proyectos de IA financiados por Horizon Europe. El cumplimiento del RGPD condiciona la arquitectura técnica y los procesos organizativos. En contextos sensibles, como salud o biometría, se requieren evaluaciones de impacto en protección de datos y medidas específicas para reducir riesgos de reidentificación o usos secundarios no autorizados.

La transparencia hacia las personas cuyos datos se utilizan y la garantía de sus derechos forman parte del enfoque ético exigido por la Comisión, incluso cuando la IA actúa como un sistema de apoyo a decisiones humanas.

Robustez técnica, seguridad y explicabilidad

La ética en Horizon Europe está estrechamente relacionada con la calidad técnica de los sistemas de IA. Se espera que los proyectos demuestren cómo aseguran la seguridad, la fiabilidad y la precisión de sus soluciones, incluyendo estrategias para detectar errores, sesgos o comportamientos adversos. La explicabilidad ocupa un lugar central, ya que permite a las personas usuarias y supervisoras comprender los resultados y ejercer un control efectivo.

Los evaluadores valoran positivamente propuestas que integran pruebas de robustez, validaciones continuas y planes claros de actualización, evitando modelos estáticos que puedan degradarse con el tiempo.

Documentación ética y preparación estratégica

La documentación ética en Horizon Europe debe ser específica, coherente y proporcional al riesgo del sistema. Las declaraciones genéricas no son suficientes. Se espera un análisis claro de escenarios de riesgo, colectivos afectados y medidas de mitigación, acompañado de recursos y presupuesto asignados a estas tareas.

Horizon Europe también actúa como un espacio de preparación estratégica para el AI Act. Los proyectos que desde el inicio incorporan requisitos de conformidad, documentación técnica y gobernanza de riesgos no solo mejoran su posición en la evaluación, sino que avanzan en su capacidad de llevar la tecnología al mercado o a la práctica pública en condiciones de seguridad jurídica.

Para las entidades que participan en convocatorias europeas, abordar estos requisitos con profundidad técnica y organizativa es una condición para competir con éxito y para preparar el despliegue futuro de sistemas de IA en un entorno regulado y exigente. Si necesitas integrar la ética y la gobernanza en tus proyectos de inteligencia artificial en cualquier convocatoria de Horizon Europe, contáctanos en este 2026, y resolveremos tus inquietudes.

Contact us!