La inteligencia artificial (IA) se ha consolidado como un campo clave en la transformación tecnológica global, y Europa, a través del Consejo Europeo de Investigación (ERC), ha jugado un papel destacado en el impulso de investigaciones innovadoras mediante sus convocatorias de Advanced Grants (ERC-Adv). Estas subvenciones, dirigidas a investigadores senior con una trayectoria sobresaliente, buscan promover estudios de frontera que generen un impacto significativo. A continuación, exploramos tres proyectos ERC-Adv recientes que están liderando esta revolución tecnológica.
Proyecto XAI: Explicabilidad en sistemas de decisión automatizada
El proyecto XAI aborda los problemas inherentes a los sistemas de IA tipo «caja negra», utilizados ampliamente en la toma de decisiones automatizadas basadas en aprendizaje automático (ML). Aunque estas tecnologías permiten procesar grandes volúmenes de datos rápidamente, suelen carecer de transparencia y pueden perpetuar sesgos derivados de los datos de entrenamiento, lo que puede resultar en decisiones injustas o inexplicables.
El enfoque de XAI se centra en desarrollar un marco metodológico para construir explicaciones significativas de estos sistemas opacos, estructurado en tres líneas principales:
- Lenguaje para explicaciones: Creación de reglas lógicas expresivas con interpretaciones estadísticas y causales para describir las decisiones de los modelos.
- Explicaciones locales: Análisis de decisiones individuales para revelar la lógica subyacente en casos específicos.
- Generalización de explicaciones: Derivación de explicaciones globales simples a partir de múltiples explicaciones locales.
Proyecto Fund2Model: From FUnction-based TO MOdel-based automated probabilistic reasoning for DEep Learning
El proyecto FUN2MODEL se centra en el desarrollo de un marco innovador para garantizar que las decisiones tomadas por sistemas de aprendizaje profundo sean seguras y justas. El aprendizaje profundo (Deep Learning), una rama avanzada del aprendizaje automático, utiliza redes neuronales artificiales que buscan emular el funcionamiento del cerebro humano. Este tipo de tecnología es clave para el avance de actividades autónomas de máquinas y dispositivos, especialmente en el contexto del Internet de las cosas (IoT) y la Industria 4.0.
El objetivo principal del proyecto es asegurar que los sistemas autónomos, al tomar decisiones complejas, prioricen tanto la equidad como la seguridad. Esto se logra mediante la integración de técnicas que permitan una toma de decisiones más transparente y ética, abordando cuestiones relacionadas con sesgos y riesgos inherentes a la automatización creciente.
Proyecto: White-Box Self-Programming Mechanisms
El proyecto WhiteMech tiene como objetivo desarrollar herramientas para una nueva generación de mecanismos de auto-programación de tipo «white-box». Estos sistemas son capaces de adaptar automáticamente su comportamiento para alcanzar objetivos específicos, operar dentro de límites seguros en entornos cambiantes y cumplir con regulaciones y convenciones que evolucionan con el tiempo.
A diferencia de los enfoques tradicionales basados en reglas rígidas programadas manualmente, WhiteMech busca crear sistemas que integren decisiones secuenciales autónomas en inteligencia artificial, métodos formales para la verificación y síntesis de programas, y procesos conscientes de datos en bases de datos. Estas capacidades permitirán dispositivos inteligentes, robots y objetos conectados que no solo sean más adaptativos, sino también más seguros y confiables para su implementación en aplicaciones industriales y sociales.
Impacto y perspectivas futuras
Estos proyectos reflejan la diversidad y el impacto de la IA financiada por ERC-Adv. Al abordar desafíos complejos que no solo amplían el conocimiento científico sino que también generan herramientas prácticas para resolver problemas globales.
El enfoque del ERC en la financiación de proyectos de alta calidad garantiza que Europa mantenga una posición destacada en la carrera global por el liderazgo en IA. Además, el énfasis en la ética y la transparencia asegura que las innovaciones tecnológicas estén alineadas con valores humanos y sociales.
Los proyectos financiados por ERC-Adv en el campo de la inteligencia artificial subrayan el compromiso de Europa con el avance de la tecnología de manera responsable y equitativa. A medida que estos proyectos progresan, continúan estableciendo estándares elevados para la investigación de frontera, asegurando que los beneficios de la IA se extiendan de manera inclusiva y sostenible.
¿Quieres estar informado de todas las novedades y convocatorias europeas de financiación a la I+D+I en 2025? Suscríbete a nuestra newsletter y mantente informado.