La intel·ligència artificial (IA) ja està transformant la manera de treballar de moltes organitzacions. Per al tercer sector, aquestes eines poden contribuir a agilitzar processos i millorar l’eficiència, però la seva implantació també planteja interrogants jurídics, ètics i organitzatius.
Per abordar aquests reptes, Suport Tercer Sector de Fundesplai ha organitzat aquest 6 d’octubre al Palau Robert de Barcelona la jornada ‘Intel·ligència Artificial i compliment normatiu al Tercer Sector’, amb la participació de més de 100 representants d’entitats socials, educatives, ambientals i culturals.
La trobada ha comptat amb persones expertes dels àmbits de la intel·ligència artificial, la protecció de dades i el dret de les tecnologies, que han analitzat alguns dels aspectes que les organitzacions hauran de tenir en compte a l’hora d’incorporar aquestes eines.
Una IA que posi les persones al centre
Un dels missatges centrals de la jornada ha estat que la incorporació de noves tecnologies no es pot desvincular dels seus possibles efectes socials.
Karina Gibert, catedràtica d’Intel·ligència Artificial i Ciència de Dades de la Universitat Politècnica de Catalunya (UPC), ha advertit que “tot allò que embolcalla la intel·ligència artificial pot ser causa de desigualtat social si no es dissenya bé”.
Gibert ha situat la irrupció de la IA com un canvi d’era que permet abordar processos de gran complexitat, però també ha defensat la necessitat d’acompanyar el desenvolupament tecnològic d’un marc ètic i regulador.
«Estem en un moment respecte a la IA on cal més deontologia que tecnologia».
Durant la seva intervenció també ha presentat experiències d’aplicació de la intel·ligència artificial amb finalitats socials i ambientals, com el projecte Gavius, pensat per facilitar la tramitació d’ajuts socials mitjançant una aplicació, o l’ús d’aquesta tecnologia per afavorir la regeneració de les aigües del Besòs.
Especial precaució amb les dades personals
La protecció de dades és una qüestió especialment rellevant per al tercer sector. Moltes entitats treballen amb informació personal i, en determinats casos, amb dades especialment sensibles.
La delegada de Protecció de Dades i responsable de Projectes Estratègics de l’Autoritat Catalana de Protecció de Dades (APDCAT), Joana Marí Cardona, ha posat l’accent en la necessitat d’actuar amb prudència.
«Si hi ha dades de caràcter personal, la IA pot incorporar beneficis però també riscos molt importants. Per això les entitats cal que tinguin el principi de precaució quan la facin servir».
També Arantxa Casanovas, responsable de Coordinació de Protecció de Dades de la Direcció General d’Intel·ligència Artificial, Eficiència i Dades de la Generalitat de Catalunya, ha remarcat que els riscos no depenen únicament de la tecnologia, sinó també de la finalitat amb què s’utilitza i de qui n’assumeix la responsabilitat.
Per a les entitats, això implica valorar amb cura quines dades s’introdueixen en les eines d’IA, amb quina finalitat s’utilitzen i quines garanties ofereixen els sistemes.
Per què les entitats necessiten criteris interns sobre l’ús de la IA?
L’ús d’eines d’intel·ligència artificial pot començar de manera individual: una persona de l’equip utilitza una aplicació per redactar un document, resumir informació o agilitzar una determinada tasca.
Precisament per aquest motiu, un dels reptes és passar de l’ús individual a una política organitzativa compartida.
Júlia Bacaria, presidenta de la Secció de Dret de les Tecnologies de la Informació i la Comunicació de l’Il·lustre Col·legi de l’Advocacia de Barcelona (ICAB), ho ha resumit durant la jornada: “Sovint fer ús de la IA és una decisió individual, però cal saber quins són els riscos d’aquest ús. Cal tenir garanties i per això ens ajudarà un protocol organitzatiu”.
Disposar d’un protocol pot ajudar les entitats a establir criteris comuns sobre l’ús d’aquestes tecnologies i facilitar que la seva incorporació sigui coherent amb les obligacions normatives i amb els valors de l’organització.
Digitalitzar-se amb garanties
La transformació digital també representa una oportunitat per al tercer sector. Víctor Garcia, director de Compliment Normatiu i Tercer Sector de Fundesplai, ha destacat durant l’obertura de la jornada que aquest procés comporta reptes relacionats amb la regulació i la seguretat de les dades, però també pot ajudar les entitats a contribuir a la transformació social de manera més eficient.
Per la seva banda, Montse Agudo, responsable del Servei Jurídic de Fundesplai Suport Tercer Sector, ha remarcat la importància que les organitzacions incorporin aquestes eines coneixent i respectant el marc normatiu.
El debat amb les entitats participants també ha posat sobre la taula qüestions com la sobirania tecnològica europea, la dependència de grans empreses en serveis com el núvol i els riscos derivats d’introduir dades personals en eines generatives sense conèixer prou bé què passa amb aquesta informació.
La incorporació de la intel·ligència artificial al tercer sector, per tant, no consisteix només a escollir una nova eina. També implica decidir per a què s’utilitza, amb quines dades, sota quines garanties i amb quins criteris compartits dins de l’organització.
