El passat divendres 22 de novembre, el Clúster  Digital de Catalunya, en col·laboració amb ACCIÓ i la Universitat  Pompeu Fabra (UPF), va organitzar un esdeveniment clau per entendre el nou reglament europeu d’intel·ligència artificial (AI Act). L’acte, que va tenir lloc a l’Auditorium Campus Poblenou de la UPF a Barcelona, va reunir més d’una centena de professionals, estudiants, acadèmics i acadèmiques i empreses  interessades en entendre com aquesta normativa, en vigor des del passat 1 d’agost, marcarà el futur de la IA a Europa.

Benvinguda i context institucional

La sessió, conduïda per la periodista Aurora Massip, va començar amb la benvinguda de la vicerectora  de Transferència del Coneixement de la UPF, Vanesa Daza, i de la presidenta  del Clúster Digital, Joana Barbany i Freixa, que van destacar la importància de situar Catalunya com un referent en la implementació d’una IA segura i ètica. Tot seguit, la secretària de Polítiques Digitals de la  Generalitat de Catalunya, Maria Galindo Garcia-Delgado, va emfatitzar el paper del govern en la creació d’un ecosistema que promogui la confiança i l’excel·lència en el desenvolupament d’aquestes tecnologies.

La keynote d’Ignasi Belda: una síntesi clau del reglament  europeu Un dels moments més esperats de la jornada va ser la ponència d’Ignasi Belda, director de l’Agència Espanyola de  Supervisió de la Intel·ligència Artificial (AESIA), que va aconseguir condensar en pocs minuts els elements essencials del nou reglament europeu d’intel·ligència artificial Belda va iniciar el seu parlament amb una reflexió contundent: "Un humà només podrà ser jutjat per un altre humà", subratllant l’ètica com a eix central del reglament. Tanmateix, va posar èmfasi en el caràcter de producte del reglament, destacant que no regula la tecnologia en si, sinó les aplicacions que la incorporen, classificant-les segons el risc que poden comportar per a la societat. Aquesta classificació es divideix en quatre nivells:

1. Risc inacceptable: inclou vuit aplicacions estrictament prohibides, com ara el reconeixement biomètric en temps real en espais públics o la manipulació subliminal de ciutadans.
2. Risc alt: productes que poden afectar drets fonamentals, com diagnòstics clínics, vehicles autònoms o processos de selecció laboral. Aquí és imprescindible un certificat de conformitat.
3. Risc mig i mig alt: amb requeriments menors, però sota supervisió.
4. Risc nul: com electrodomèstics intel·ligents.

La primera tipologia és l’única que no és acceptable a Europa i la resta si poden ser acceptades sempre que compleixin els estàndards. Això significa que les aplicacions de tipologia 2 i 3 (risc alt i mig alt) han de ser certificades, de fet, auto certificades, garantint d’aquesta forma agilitat i compromís per part de les empreses desenvolupadores.

Un dels punts destacats de la intervenció va ser la importància de garantir la traçabilitat, evitar biaixos en les dades i assegurar que els sistemes compleixen els estàndards mitjançant certificacions.

Debats amb perspectives acadèmiques i industrials L’acte va continuar amb dues taules rodones. La primera, moderada per Vladimir Estivill-Castro de la UPF, va oferir una visió policy  i acadèmica sobre l’AI Act, amb experts com Andreas Theodorou (UPC), Carlos Castillo (ICREA-UPF) i Albert Sabater (Observatori d’Ètica i IA). Els ponents van reflexionar sobre els reptes en la implementació del reglament i la necessitat d’una cooperació estreta entre institucions públiques, privades, i l’àmbit acadèmic.

La segona taula, liderada per Xavier Serra (UPF), va abordar la perspectiva de la indústria, amb participació de representants d’empreses líders: Paul Berenguer (Bové Montero, empresa associada al Clúster Digital de Catalunya), Silvia Poyato (Schneider Electric), Laura Perea (Nestlé ITHub) i Mayte Hidalgo (Grup Mediapro). Aquest debat va posar en relleu com les grans corporacions estan adaptant les seves estratègies per garantir el compliment del nou marc normatiu sense comprometre la innovació.

Després d’un matí ple d’aprenentatges i intercanvi d’idees, l’acte es va tancar amb un aperitiu que va permetre als assistents continuar discutint sobre el futur de la IA a Europa i fer networking.