L'organisme incorpora nous perfils i reforça la formació
BARCELONA, 21 març (EUROPA PRESS) -
L'ús de la Intel·ligència Artificial (IA) ha fet augmentar el volum de denúncies i reclamacions que rep l'Autoritat Catalana de Protecció de Dades (Apdcat) i ha elevat la complexitat de les mateixes, amb especial afectació en sectors com la seguretat i la videovigilància.
Ho explica la directora d'Apdcat, Meritxell Borràs, en una entrevista a Europa Press, en la qual destaca que les denúncies a l'organisme han augmentat un 40% anualment en els últims exercicis, i encara que és difícil comptabilitzar l'evolució d'aquelles relacionades amb la IA "per la falta d'un gran històric", la seva presència és cada vegada més comuna.
"La IA està tenint tant èxit perquè ens facilita la vida, però això hem de combinar-ho, i des d'Europa ho han dit molt clar, amb que aquesta millora no acabi trepitjant els drets fonamentals dels ciutadans europeus", explica Borràs.
ACOMPANYAMENT
Tots els sistemes d'IA, detalla la directora de l'entitat, es mouen a través de dades, en moltes ocasions personals, la qual cosa pot contravenir el reglament oficial de protecció de dades dels ciutadans: "Aquesta protecció és igual de competent en documents per escrit que en IA".
Encara que l'Apdcat té capacitat sancionadora en casos d'incompliment del reglament de protecció de dades, Borràs explica que una de les prioritats de l'organisme és l'acompanyament d'empreses, entitats i organismes per evitar que això succeeixi i garantir alhora els drets fonamentals.
MODEL FRIA
L'Apdcat ha desenvolupat "el primer model a nivell europeu" en aquest àmbit, el model Fria, una metodologia destinada a fer una avaluació d'impacte sobre els drets fonamentals durant l'aplicació de la IA, i que preveu evitar fallades o biaixos en el seu ús.
Un exemple, relata Borràs, seria un estudi mèdic en el qual s'utilitzi IA per analitzar imatges i comparar resultats, evitant que s'usin únicament imatges de mostres d'homes o que tingui en compte fenotips racials.
IA ACT
La competència de l'Apdcat deriva del reglament europeu de IA, que atorga competències a les autoritats de protecció de dades en els Estats membre i estableix, entre altres, que abans de desplegar un sistema de IA d'alguna cosa risc es realitzarà "una avaluació de l'impacte sobre els drets fonamentals que la utilització d'aquest sistema pugui produir".
Així, i encara que la normativa comunitària sobre IA és sobre productes explica la directora d'Apdcat, els drets dels ciutadans europeus estan garantits a través d'altres normatives, en aquest cas de dret.
En ser un reglament europeu --i un una directiva-- "la seva aplicació és directa com a llei en els Estats membre", mentre que a nivell estatal existeix un avantprojecte de llei per al bon ús i la governança de la IA, encara sense desenvolupar.
DICTÀMENS
A més d'un major nombre de denúncies i reclamacions, l'organisme també ha vist augmentar en major mesura les sol·licituds de dictàmens per confirmar si és correcte utilitzar sistemes de IA en alguns àmbits, la qual cosa reflecteix "que existeix una prudència per part de qui l'està utilitzant".
Com a exemples de peticions de dictamen sobre l'ús de IA esmenta el desenvolupament d'un model matemàtic per evitar la propagació d'epidèmies o l'ús de càmeres amb biometria en instal·lacions esportives.
El major ús en general de la IA i les competències derivades a l'Apdcat han motivat també canvis interns en l'organisme, tant amb un augment, encara lleuger, de la plantilla per incorporar a experts com amb el reforç de la formació de la mateixa: "És una realitat que tenim davant i hem d'apostar per l'adaptació", defensa Borràs.
