Cada cop més empreses valoren utilitzar eines d’intel·ligència artificial (IA) per classificar currículums, puntuar candidats o prioritzar perfils.
L’Agències Espanyola de Protecció de Dades (AEPD) recorda que aquestes solucions poden ser útils, però s’han d’implantar amb garanties des del començament.
Cada cop és més habitual que les empreses es plantegin utilitzar IA per analitzar currículums, ordenar candidatures o assignar puntuacions en processos de selecció. L’AEPD ha advertit a la seva web recentment sobre les precaucions que cal adoptar quan aquest tipus d’eines poden influir en l’accés a un lloc de treball o en una promoció interna.
L’advertiment fa referència a un sistema que encara no s’havia implantat, però que estava previst utilitzar per avaluar candidatures i prioritzar perfils.
Atenció. El compliment en protecció de dades s’ha d’estudiar abans de posar en marxa l’eina, no pas quan el sistema ja funcioni.
La protecció de dades s’ha d’incorporar des del principi
L’AEPD reconeix que la IA pot millorar l’eficiència i la qualitat dels processos de selecció. Ara bé, això no vol dir que es pugui implantar sense una revisió prèvia.
L’empresa ha d’aplicar el principi de protecció de dades des del disseny i per defecte, cosa que implica analitzar des de les primeres fases quines dades es faran servir, per a què s’utilitzaran i quins riscos pot generar el sistema per a candidats i treballadors. També s’han d’adoptar les mesures tècniques i organitzatives adequades a aquests riscos.
Atenció. Triar primer l’eina i revisar-ne després les implicacions jurídiques pot ser un error. La privadesa ha de formar part del disseny del projecte des de l’inici.
Avaluació dimpacte
Quan el tractament previst pugui suposar un alt risc per als drets i les llibertats de les persones, l’empresa haurà de realitzar prèviament una avaluació d’impacte en protecció de dades.
La rellevància d‟aquesta qüestió augmenta quan l‟eina no es limita a ordenar informació administrativa, sinó que analitza perfils, assigna puntuacions o influeix en decisions laborals.
Atenció. Com més gran sigui la influència de l’eina sobre la contractació, promoció o descart d’una persona, més important serà analitzar-ne prèviament els riscos.
Els candidats han de saber com es fa servir l’eina
La transparència és un altre dels punts que destaca l’Agència. Les persones candidates i treballadores han de rebre informació clara, accessible i comprensible sobre el tractament de les dades personals i sobre el paper que exerceix l’eina d’IA en l’avaluació.
No es tracta simplement d’incloure una referència genèrica a la intel·ligència artificial en una política de privadesa.
La persona afectada ha de poder entendre que les seves dades seran analitzades mitjançant aquest tipus de tecnologia i quina funció té aquesta anàlisi dins del procés.
Atenció. Si la IA puntua, classifica o prioritza candidats, convé explicar clarament quin paper té aquesta puntuació en el procés de selecció.
Intervenció humana
Un dels aspectes més importants és el control humà. En el cas analitzat per l‟AEPD, l‟empresa indicava que la decisió final correspondria a una persona. Però això, per si mateix, no garanteix que hi hagi una intervenció humana efectiva. Qui pren la decisió ha de poder revisar críticament la informació generada per l’eina, apartar-se de la seva recomanació quan calgui i adoptar la seva pròpia decisió. No n’hi hauria prou amb limitar-se a acceptar automàticament la puntuació oferta pel sistema.
Atenció. Que una persona premeu el botó final no converteix automàticament una decisió en humana. Hi ha d’haver capacitat real de revisió i criteri propi.
Cal vigilar les decisions automatitzades
El Reglament General de Protecció de Dades (RGPD) reconeix el dret de les persones a no ser objecte de determinades decisions basades únicament en tractaments automatitzats quan aquestes produeixin efectes jurídics o els afectin de manera significativa.
En els processos de selecció, l’aplicació d’aquesta garantia dependrà de com funcioni realment l’eina i fins a quin punt hi ha una intervenció humana efectiva.
Per això és especialment important conèixer què fa el sistema, com utilitza les puntuacions i quin pes tenen aquestes a la decisió final.
Atenció. No n’hi ha prou de saber que hi ha una eina d’IA. Cal conèixer fins on arriba la seva influència real a la decisió sobre el candidat.
L’advertiment de l’AEPD és preventiu
L’actuació de l’Agència no implica que l’empresa ja hagi comès una infracció. L’RGPD permet a l’autoritat de control emetre un advertiment preventiu quan considera que un tractament previst podria infringir la normativa. La seva finalitat és precisament permetre que l’empresa revisi el projecte i adopti les mesures necessàries abans de posar-lo en funcionament.
Atenció. Un advertiment preventiu no equival a una sanció, però sí que constitueix un senyal clar per revisar el sistema abans d’implantar-lo.
Què cal revisar abans d’utilitzar IA en selecció
Abans d’utilitzar una eina que analitzi currículums o puntuï candidats, convé revisar quines dades tractarà, quins criteris emprarà, com s’informarà els interessats i quina capacitat tindrà una persona per revisar-ne els resultats.
També caldrà valorar els riscos del tractament i comprovar si cal una avaluació d’impacte.
La tecnologia pot servir de suport, però no s’hauria de convertir en una caixa negra que determini qui continua en un procés de selecció sense una supervisió suficient.
La idea pràctica és senzilla. La IA pot ajudar a decidir, però no hauria de substituir sense més ni més el criteri de la persona que adopta la decisió.
Si tens alguna consulta sobre aquest tema, no dubtis a posar-te en contacte amb aquest despatx professional.
