La presente edición del AI Congress, el evento de referencia en inteligencia artificial impulsado por el CIDAI y organizado por el centro tecnológico Eurecat, ha subrayado la importancia de alinear las capacidades de automatización de la inteligencia artificial agéntica con criterios humanos, con el fin de dar respuesta a grandes retos vinculados a la seguridad y a la gobernanza de esta tecnología desde el punto de vista empresarial, social y medioambiental.
El congreso, que tiene lugar esta semana en Barcelona, ha apuntado que la próxima evolución en el despliegue de tecnologías de inteligencia artificial se centrará en la personalización de modelos de IA que se utilicen de manera independiente y local sobre infraestructuras de las empresas y organizaciones. Se trata de mantener el control sobre los datos, garantizar la privacidad, reducir la dependencia de proveedores externos y ser más eficientes, como una alternativa competitiva a los servicios en la nube de los modelos de frontera de IA generativa a gran escala que conocemos hoy en día.
De acuerdo con la cofundadora y CEO de Alinia AI, Ariadna Font, “la IA agéntica multiplica no solo la productividad, sino también el volumen y la velocidad de los errores. Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se haya dado cuenta”.
Por todo esto, desde su punto de vista, “lo más urgente e importante es invertir en la creación de marcos y sistemas robustos de control y gobernanza, para poder hacer un uso seguro y responsable de los últimos avances tecnológicos”. A pesar de que, “con los modelos de la IA hay una carrera desenfrenada para ver quién llega antes, para mí no ganará quien tenga más IA, sino quien mantenga el control con criterio humano”, ha dicho.
En este sentido, el director del AI Congress y director científico del Área Digital de Eurecat, Joan Mas, ha puesto de relieve que la “IA agéntica ha eclosionado este último año y presenta unas grandes oportunidades para conseguir unos niveles de automatización realmente importantes, pero también presenta interrogantes respecto a los riesgos y las protecciones que tenemos que incluir en estos agentes, para que no se desalineen del criterio humano en sus decisiones”.
En la bienvenida institucional del AI Congress, el presidente de Eurecat, Daniel Altimiras, ha remarcado que “Cataluña cuenta con conocimiento, talento, capacidades tecnológicas y un tejido empresarial que nos permiten tener un papel relevante en esta nueva etapa de la inteligencia artificial”. El reto, ha especificado, “ya no es solo entender qué puede hacer la IA, sino incorporarla de manera efectiva, segura y responsable a nuestras organizaciones y convertirla en competitividad, productividad y nuevas oportunidades de crecimiento”.
«Desde el Govern de Catalunya, defendemos una inteligencia artificial con propósito, orientada a resolver problemas reales, a generar valor público, a reforzar la competitividad de nuestras empresas y a mejorar los servicios que ofrecemos a la ciudadanía”, ha destacado, por su parte, el secretario de Telecomunicaciones y Transformación Digital de la Generalitat de Catalunya, Albert Tort.
Hacia un modelo de inteligencia artificial que aporte valor
En palabras de la directora científica de IA de Multiverse Computing, Jezabel R. Garcia, “la próxima revolución de la IA no es un modelo más grande, sino un modelo que funciona allá donde aporta valor, en un dispositivo, en una empresa, dentro de un hospital o en una administración pública. La compresión nos permite mantener la capacidad de un modelo mientras reducimos la medida y el consumo energético en más de un 50 por ciento, y esto es lo que hace posible una IA soberana, eficiente y sostenible en Europa”.
El AI Congress, que este año ha llegado a su duodécima edición, ha señalado también la importancia de que el proceso de adopción de la inteligencia artificial ponga el foco en la necesidad real de definir de forma clara qué tipo de soluciones se quieren conseguir. En este sentido, la experta internacional en transformación digital Pooja Munshi ha destacado el concepto de IA intencional, como aquella inteligencia artificial que se alinea con objetivos concretos y con las necesidades de las personas, las organizaciones y el medioambiente.
Basándose en su trabajo más reciente como responsable del Programa de las Naciones Unidas para el Medio Ambiente, Pooja Munshi ha explorado cómo los líderes pueden desarrollar productos de IA intencionales que transformen la capacidad tecnológica en un impacto significativo y duradero y ha invitado a los líderes a formular mejores preguntas y a escuchar atentamente a las personas, las evidencias y el mundo al cual afecta su tecnología.
Por su parte, la directora de la Autoridad Catalana de Protección de Datos (APDCAT), Meritxell Borràs, ha hablado de los retos que plantea la IA agéntica en cuanto a la protección de datos cuando los agentes trabajan con datos de cariz personal y de la estructuración de una supervisión humana efectiva en su ejecución.
Durante el evento, se han dado a conocer, además, ejemplos de agentes y sistemas multiagente aplicados a varios sectores y se han compartido recomendaciones en su aplicación para garantizar la seguridad técnica ante las amenazas y riesgos a los cuales están expuestos, así como para cumplir con el Reglamento de Inteligencia Artificial (AI Act).
Alineado con la Estrategia Cataluña IA 2030 impulsada por el Govern de Catalunya, el AI Congress ha contado con el apoyo de CaixaBank Tech, Conversia, Forvis-Mazars-Infini, Orange Empresas, Raona y Softeng, ha reunido más de medio centenar de ponentes y ha superado los 2.200 inscritos.
