La inteligencia artificial (IA) ya está transformando la manera de trabajar de muchas organizaciones. Para el tercer sector, estas herramientas pueden contribuir a agilizar procesos y mejorar la eficiencia, pero su implantación también plantea interrogantes jurídicos, éticos y organizativos.
Para abordar estos retos, Suport Tercer Sector de Fundesplai ha organizado este 6 de octubre en el Palau Robert de Barcelona la jornada ‘Inteligencia Artificial y cumplimiento normativo en el Tercer Sector’, con la participación de más de 100 representantes de entidades sociales, educativas, ambientales y culturales.
El encuentro ha contado con personas expertas de los ámbitos de la inteligencia artificial, la protección de datos y el derecho de las tecnologías, que han analizado algunos de los aspectos que las organizaciones deberán tener en cuenta a la hora de incorporar estas herramientas.
Una IA que ponga a las personas en el centro
Uno de los mensajes centrales de la jornada ha sido que la incorporación de nuevas tecnologías no se puede desvincular de sus posibles efectos sociales.
Karina Gibert, catedrática de Inteligencia Artificial y Ciencia de Datos de la Universidad Politécnica de Cataluña (UPC), ha advertido que “todo aquello que envuelve a la inteligencia artificial puede ser causa de desigualdad social si no se diseña bien”.
Gibert ha situado la irrupción de la IA como un cambio de era que permite abordar procesos de gran complejidad, pero también ha defendido la necesidad de acompañar el desarrollo tecnológico de un marco ético y regulador.
«Estamos en un momento respecto a la IA donde hace falta más deontología que tecnología».
Durante su intervención también ha presentado experiencias de aplicación de la inteligencia artificial con fines sociales y ambientales, como el proyecto Gavius, pensado para facilitar la tramitación de ayudas sociales mediante una aplicación, o el uso de esta tecnología para favorecer la regeneración de las aguas del Besòs.
Especial precaución con los datos personales
La protección de datos es una cuestión especialmente relevante para el tercer sector. Muchas entidades trabajan con información personal y, en determinados casos, con datos especialmente sensibles.
La delegada de Protección de Datos y responsable de Proyectos Estratégicos de la Autoridad Catalana de Protección de Datos (APDCAT), Joana Marí Cardona, ha hecho hincapié en la necesidad de actuar con prudencia.
«Si hay datos de carácter personal, la IA puede incorporar beneficios pero también riesgos muy importantes. Por eso es necesario que las entidades tengan el principio de precaución cuando la utilicen».
También Arantxa Casanovas, responsable de Coordinación de Protección de Datos de la Dirección General de Inteligencia Artificial, Eficiencia y Datos de la Generalitat de Catalunya, ha remarcado que los riesgos no dependen únicamente de la tecnología, sino también de la finalidad con la que se utiliza y de quién asume la responsabilidad.
Para las entidades, esto implica valorar con cuidado qué datos se introducen en las herramientas de IA, con qué finalidad se utilizan y qué garantías ofrecen los sistemas.
¿Por qué las entidades necesitan criterios internos sobre el uso de la IA?
El uso de herramientas de inteligencia artificial puede empezar de manera individual: una persona del equipo utiliza una aplicación para redactar un documento, resumir información o agilizar una determinada tarea.
Precisamente por este motivo, uno de los retos es pasar del uso individual a una política organizativa compartida.
Júlia Bacaria, presidenta de la Sección de Derecho de las Tecnologías de la Información y la Comunicación del Ilustre Colegio de la Abogacía de Barcelona (ICAB), lo ha resumido durante la jornada: “A menudo hacer uso de la IA es una decisión individual, pero hay que saber cuáles son los riesgos de este uso. Hay que tener garantías y para ello nos ayudará un protocolo organizativo”.
Disponer de un protocolo puede ayudar a las entidades a establecer criterios comunes sobre el uso de estas tecnologías y facilitar que su incorporación sea coherente con las obligaciones normativas y con los valores de la organización.
Digitalizarse con garantías
La transformación digital también representa una oportunidad para el tercer sector. Víctor Garcia, director de Cumplimiento Normativo y Tercer Sector de Fundesplai, ha destacado durante la apertura de la jornada que este proceso conlleva retos relacionados con la regulación y la seguridad de los datos, pero también puede ayudar a las entidades a contribuir a la transformación social de manera más eficiente.
Por su parte, Montse Agudo, responsable del Servicio Jurídico de Fundesplai Suport Tercer Sector, ha remarcado la importancia de que las organizaciones incorporen estas herramientas conociendo y respetando el marco normativo.
El debate con las entidades participantes también ha puesto sobre la mesa cuestiones como la soberanía tecnológica europea, la dependencia de grandes empresas en servicios como la nube y los riesgos derivados de introducir datos personales en herramientas generativas sin conocer suficientemente bien qué pasa con esta información.
La incorporación de la inteligencia artificial al tercer sector, por lo tanto, no consiste solo en escoger una nueva herramienta. También implica decidir para qué se utiliza, con qué datos, bajo qué garantías y con qué criterios compartidos dentro de la organización.
