Aportació andorrana perquè el futur amb Intel·ligència Artificial contempli els territoris petits

Andorra participant en el comitè sobre intel·ligència artificial
Andorra participant en el Comitè d’Ètica sobre Intel·ligència Artificial (AR+I)

Seria preocupant que, en un futur proper, un servei d’Intel·ligència Artificial (IA) que s’encarregués de, per exemple, oferir informació automatitzada i personalitzada per a donar beques-menjador, no inclogués el català perquè es tracta d’un idioma minoritari. No poder interactuar en allò que afecti els drets més bàsics, com serveis d’administració pública, administració de justícia, serveis de salut i de benestar, representació pública, etc., en l’idioma oficial d’Andorra suposaria, doncs, patir una discriminació per raó de llengua.

Un altre exemple associat a les dimensions d’Andorra i lligat als biaixos que se’n deriven en sistemes que funcionen per IA pel fet de no tenir una dimensió important: els agregadors de notícies que utilitzen IA estan entrenats amb dades massives i, per tant, obvien sistemàticament qualsevol informació que no tingui un pes relatiu gran i les notícies de petites comunitats, com l’andorrana, poden ser ràpidament negligides. Per tant, si s’utilitza un agregador amb IA i en el seu disseny no s’ha tingut en compte aquest aspecte, l’usuari mai rebrà informacions de la seva petita comunitat degut a l’aquest filtratge.

Per a mirar de col·laborar en una Intel·ligència Artificial més ètica, inclusiva i amb menys biaixos, una delegació andorrana que compta amb responsables del ministeri d’Afers Exteriors i del coordinador de l’àrea de tecnologia d’Andorra Recerca i Innovació, Jordi Ascensi, ha participat aquesta setmana a la darrera reunió del Comitè d’Ètica de la Intel·ligència Artificial – CAI del Consell d’Europa celebrada a Estrasburg.

És la segona reunió de treball que se celebra per tal de definir un instrument legal que elabori el desenvolupament, disseny i aplicació dels sistemes d’intel·ligència artificial basant-se en els estàndards del Consell d’Europa sobre el respecte a la democràcia, els drets humans i l’estat de dret, i amb una orientació cap a la innovació. Durant part del 2020 i del 2021 es va treballar un document de base sobre aquest instrument legal que va ser aprovat a finals del 2021 pel Comitè de Ministres del Consell d’Europa i que és la llavor del conveni vinculant que s’està treballant dins del CAI.

Des d’Andorra hi participen Olimpia Torres, tercera secretària del Ministeri d’Afers Exteriors (de servei a la Representació Permanent d’Andorra a Estrasburg) i Jordi Ascensi, d’Andorra R+I, que treballen coordinadament per a esmenar els documents tenint en compte els aspectes jurídics i tecnològics de la proposta i tenint en compte les particularitats i interessos d’Andorra.

Les aportacions i comentaris andorrans estan orientats a definir les implicacions de les eines d’IA en el context de les petites comunitats, com l’andorrana, la necessària coordinació entre els aspectes normatius i de regulació i les particularitats d’aquesta tecnologia, i l’establiment de mecanismes de control i auditoria dels sistemes d’IA que puguin comportar un risc per a la democràcia, els drets humans i l’estat de dret.

Aquest treball ha tingut en compte la redacció de la recomanació sobre l’ètica de la IA de l’Unesco, que és un document més ampli però amb menys vinculació i que es va aprovar a l’Assemblea General de l’organisme a finals del 2021. Andorra Recerca i Innovació ja va participar-hi activament i també va donar suport a la redacció d’una guia sobre IA responsable (+info aquí).

Els propers passos a Estrasburg són seguir treballant per a tancar el document de proposta de conveni amb la voluntat d’aprovar-lo per part del Comitè de Ministres de cara a final del 2023.

TOTES LES NOTÍCIES