L’Agència Espanyola de Protecció de Dades (AEPD) ha publicat un decàleg de recomanacions per utilitzar assistents i agents d’intel·ligència artifici (IA) amb més garanties de privadesa. El document adverteix dels riscos associats a laccés a correus electrònics, documents, comptes personals i serveis digitals, especialment quan aquestes eines poden executar operacions sense intervenció directa de lusuari.
La utilització d’assistents i agents d’intel·ligència artificial (IA) s’està estenent tant a nivell particular com professional. Aquestes eines ja no es limiten a respondre consultes o elaborar documents, sinó que poden gestionar agendes, accedir al correu electrònic, fer reserves, tramitar compres i fins i tot executar determinades operacions seguint instruccions generals.
La seva capacitat per desenvolupar tasques de manera autònoma ofereix avantatges evidents, però també planteja riscos relacionats amb la privadesa, la seguretat de la informació i el tractament de dades personals.
Conscient d’aquesta situació, l’Agència Espanyola de Protecció de Dades (AEPD) va publicar el 27 d’octubre del 2026 un decàleg dirigit als usuaris d’assistents i agents d’intel·ligència artificial, on recull diverses mesures per utilitzar aquestes tecnologies sense perdre el control sobre la informació i les decisions que es deleguen.
L’Agència recomana valorar cinc qüestions fonamentals abans de començar a fer servir aquests serveis. Cal conèixer quina informació poden consultar, quines dades conserven, quines operacions estan autoritzades a fer, on es transmet la informació i si les seves actuacions poden afectar altres persones.
A continuació, es recullen les principals recomanacions, amb especial atenció a aquelles situacions que es poden presentar a l’activitat diària d’empreses, professionals i particulars.
Comprovar qui és darrere de l’assistent d’intel·ligència artificial
Abans de fer servir un assistent o agent d’IA convé identificar l’empresa que presta el servei i conèixer les condicions sota les quals tractarà la informació facilitada.
El fet que una aplicació sigui coneguda, gratuïta o aparentment senzilla de fer servir no significa que les seves condicions de privadesa resultin adequades per a qualsevol finalitat.
L’AEPD aconsella seleccionar proveïdors clarament identificats, que expliquin on es processen les dades, per a què es fan servir i quins mecanismes ofereixen per exercir els drets reconeguts per la normativa europea.
També és convenient comprovar si la informació introduïda es pot fer servir per desenvolupar models d’intel·ligència artificial o per a finalitats comercials diferents de les inicialment previstes.
Quan hi hagi la possibilitat de realitzar el tractament directament al dispositiu, sense remetre les dades a servidors externs, aquesta alternativa pot proporcionar una protecció addicional.
Atenció. No s’han de facilitar documents personals, informació empresarial o dades confidencials a eines el proveïdor de les quals, condicions de privadesa o destinació de la informació es desconeguin. És important comprovar les opcions relatives a l’entrenament de models abans de fer servir el servei.
Limitar els permisos d’accés a aplicacions i documents
Un dels principals riscos apareix quan un assistent sol·licita autorització per consultar el correu electrònic, els contactes, les carpetes de fitxers, el calendari o determinades aplicacions.
Concedir accés a un compte complet pot resultar desproporcionat si la tasca encomanada només requereix consultar una carpeta o determinats documents.
A més, cal distingir entre permetre que una eina llegeixi informació i autoritzar-la per modificar-la, eliminar-la o compartir-la amb tercers.
L’AEPD recomana aplicar un criteri restrictiu en concedir permisos i revisar periòdicament les connexions actives. Una autorització que inicialment semblava raonable pot deixar de ser-ho quan l’aplicació incorpora noves funcions o es comença a utilitzar per a altres finalitats.
Atenció. Cal evitar l’acceptació automàtica d’opcions com ara «permetre sempre». Una autorització permanent pot facilitar que l’assistent accedeixi a informació o executi operacions sense sol·licitar una confirmació nova.
Evitar la comunicació de contrasenyes i dades especialment delicades
La informació que rep un assistent condiciona tant la utilitat com els possibles danys derivats d’un error, un accés indegut o una utilització no prevista.
Per aquest motiu, l‟Agència recomana reduir al mínim les dades personals que s‟introdueixen en aquestes eines, especialment quan contenen informació econòmica, sanitària, identificativa o de caràcter confidencial.
Les contrasenyes, els codis de verificació i els números de targetes bancàries no s’han d’incorporar directament a les converses. Quan sigui nec per identificar-se o efectuar un pagament, l’usuari ha d’introduir personalment aquestes dades a l’entorn segur corresponent.
En el cas de documents que continguin informació de tercers, convé valorar prèviament si es poden eliminar noms, referències personals o altres elements que no siguin necessaris per desenvolupar la tasca.
Aquesta precaució adquireix una importància particular quan s’utilitzen eines d’IA per revisar contractes, analitzar documentació administrativa o preparar informes a partir d’arxius que contenen dades identificatives.
Atenció. Abans d’incorporar contractes, nòmines, informes mèdics, declaracions tributàries o altres documents a l’assistent, cal comprovar si contenen informació que es pot ometre, anonimitzar o substituir per dades ficticies. La documentació professional no s’ha d’introduir a serveis no autoritzats per l’organització.
Controlar quina informació recorda i conserva la intel·ligència artificial
Alguns assistents incorporen funcions de memòria que permeten recordar converses anteriors, preferències, relacions personals i altres dades per oferir respostes adaptades a l’usuari.
Tot i això, l’acumulació d’informació aparentment poc rellevant pot acabar generant un perfil detallat sobre els seus hàbits, interessos, situació econòmica o circumstàncies personals.
L’AEPD recorda que esborrar una conversa no implica necessàriament que desapareguin totes les dades relacionades. Els serveis poden conservar informació addicional en historials, memòries, registres tècnics o sistemes utilitzats per a altres finalitats.
Tampoc no s’ha de confondre l’eliminació d’informació dins de l’assistent amb la desaparició de les aplicacions externes que hagi utilitzat.
Per exemple, si un agent efectua una reserva a través d’una pàgina web, la informació proporcionada a aquest establiment pot romandre emmagatzemada en els seus propis sistemes, independentment del que posteriorment s’elimini de l’assistent.
Per això, és recomanable revisar les opcions de memòria i historial, utilitzar converses temporals quan sigui procedent i mantenir separats els entorns personals i professionals.
Atenció. Esborrar un xat, desactivar la memòria o desconnectar una aplicació no garanteix per si sol la supressió de tota la informació. Quan correspongui, es poden exercir els drets daccés i supressió davant del responsable del tractament.
Establir instruccions precises i límits a les tasques delegades
A diferència dels sistemes que només generen respostes, determinats agents d’intel·ligència artificial poden organitzar una activitat en diverses fases i decidir quines actuacions realitzar per assolir el resultat sol·licitat.
Una indicació tan àmplia com «organitza tots els meus correus pendents» pot provocar que l’eina interpreti que està autoritzada per respondre missatges, modificar informació o fer gestions que l’usuari no pretenia delegar.
La recomanació de l’AEPD consisteix a concretar no només allò que es vol aconseguir, sinó també les accions que han de quedar excloses.
Convé establir límits sobre les persones amb qui pot contactar l’agent, els documents que pot utilitzar, els imports que pot comprometre i les situacions en què s’haurà d’aturar per sol·licitar autorització.
Inicialment, resulta preferible delegar operacions senzilles, d’abast limitat i les conseqüències del qual es puguin revertir sense dificultats.
En qualsevol cas, les instruccions escrites no substitueixen els mecanismes tècnics de control, especialment quan l’assistent disposa de permisos per actuar sobre comptes o serveis externs.
Atenció. No és aconsellable encomanar la gestió íntegra d’un compte o una activitat sense determinar prèviament quines operacions queden autoritzades. Com més gran sigui l’autonomia de l’agent, més important és establir controls efectius.
Exigir confirmació abans de fer operacions rellevants
La diferència entre rebre una resposta equivocada i permetre una actuació incorrecta és considerable. Mentre que un error en una consulta es pot corregir abans d’utilitzar la informació, una operació executada automàticament pot produir efectes immediats. És el que passa quan un agent envia un correu, comparteix un fitxer, realitza una compra o accepta determinades condicions contractuals.
L’AEPD aconsella mantenir la confirmació prèvia per a aquelles actuacions que puguin tenir conseqüències econòmiques, jurídiques o afectar tercers.
Abans d’autoritzar una operació, cal revisar-ne els elements essencials, inclosos el destinatari, l’import, la documentació adjunta i les condicions aplicables.
Els resums generats pel mateix assistent poden ometre detalls importants, per la qual cosa no convé utilitzar-los com a únic element de comprovació.
També cal tenir present que les persones s poden assumir responsabilitats per les actuacions que hagin permès executar aquests sistemes.
Atenció. La signatura o l’acceptació de contractes, els pagaments, la publicació d’informació i les decisions amb conseqüències jurídiques o econòmiques no s’haurien d’executar sense una revisió humana prèvia. La confirmació ha de referir-se a loperació concreta i no limitar-se a una autorització genèrica.
Tenir precaució amb les instruccions ocultes a correus i documents
Un dels riscos menys coneguts dels agents d’intel·ligència artificial està relacionat amb les instruccions que es poden trobar incorporades en continguts procedents de tercers.
Un correu electrònic, una pàgina web, un document PDF o una invitació de calendari poden incloure missatges dissenyats per alterar el comportament de l’assistent.
De vegades, aquestes instruccions poden aparèixer ocultes per a l’usuari, per exemple mitjançant text blanc sobre fons blanc, encara que siguin accessibles per a l’eina que processa el document.
Aquest tipus de manipulació, conegut com a injecció d’instruccions o prompt injection, pot intentar que l’agent ignori les indicacions originals, faciliti informació privada o faci operacions no autoritzades.
El risc augmenta quan una mateixa eina té accés a documentació desconeguda, pot consultar informació confidencial i disposa de capacitat per actuar en nom de l’usuari.
L’AEPD assenyala que cap mesura no elimina completament aquesta amenaça. Per això, recomana limitar els permisos i exigir autorització abans d’efectuar accions externes.
Atenció. Si l’assistent sol·licita contrasenyes, proposa visitar pàgines desconegudes, intenta enviar informació a un destinatari no previst o demana aprovar una actuació aliena a la tasca encomanada, cal interrompre l’operació i comprovar-ne l’origen.
Respectar la privadesa d’altres persones
L’accés a un compte de correu, una agenda o una carpeta compartida no afecta exclusivament el vostre titular. En aquests entorns se sol conservar informació pertanyent a clients, treballadors, proveïdors, familiars o altres persones que no han decidit fer servir l’assistent d’intel·ligència artificial. Per tant, autoritzar una connexió pot implicar el tractament de dades personals de tercers, circumstància que exigeix valorar la legitimitat del tractament i les garanties aplicables.
L’AEPD recorda que disposar d’accés a una informació no vol dir que hi hagi autorització per utilitzar-la lliurement.
En l’àmbit empresarial i professional, aquesta qüestió adquireix una rellevància especial quan els documents inclouen informació sobre relacions laborals, situacions econòmiques o circumstàncies personals protegides.
També cal extremar les precaucions quan l’assistent es comunica amb altres persones utilitzant el nom, la identitat, la veu o la imatge de l’usuari.
Atenció. La informació de tercers no s’ha d’incorporar indiscriminadament a les aplicacions d’intel·ligència artificial. Les empreses i els professionals han de comprovar que el tractament compta amb una base jurídica adequada i respecta les obligacions de confidencialitat i protecció de dades que resultin exigibles.
Reforçar la seguretat dels comptes i dispositius connectats
Quan un assistent disposa d’accés a diverses aplicacions, el vostre compte es pot convertir en una via d’entrada a bona part de la informació digital de l’usuari. Una persona que aconsegueixi accedir indegudament a aquest compte podria aprofitar les connexions existents per consultar documents, enviar comunicacions o fer determinades operacions. Per reduir aquesta exposició, l’AEPD recomana utilitzar contrasenyes segures i exclusives, activar l’autenticació en dos passos o sistemes equivalents i revisar les sessions obertes.
També cal prestar atenció als complements i connectors que s’instal·len per ampliar les funcions de l’assistent, ja que poden sol·licitar nous permisos d’accés.
Quan un agent controla un navegador, fins i tot podria interactuar amb pàgines on l’usuari ja tingui sessió iniciada. Per això, per a determinades activitats pot resultar convenient utilitzar perfils separats i eliminar posteriorment els accessos innecessaris.
La informació especialment sensible s’ha de protegir mitjançant mesures addicionals, com ara el xifratge i la limitació de la seva disponibilitat mentre l’agent estigui actiu.
Atenció. No s’han d’instal·lar extensions de procedència desconeguda ni connectar comptes empresarials sense comprovar els permisos sol·licitats. Un únic compte compromès pot facilitar l’accés a diversos serveis vinculats.
Supervisar les actuacions i saber com aturar l’agent
Delegar una tasca no vol dir renunciar a comprovar com s’ha executat. L’AEPD insisteix en la conveniència de conèixer, abans de començar a utilitzar el servei, els mecanismes disponibles per aturar el funcionament i retirar els permisos concedits. Així mateix, aconsella revisar els historials d’activitat i comprovar les operacions realitzades a les aplicacions connectades.
Aquest seguiment ha de ser especialment curós quan hi ha tasques programades, processos periòdics o activitats que continuen executant-se sense la presència de l’usuari.
Les actualitzacions de les eines també requereixen atenció, ja que poden modificar funcions o introduir noves possibilitats de connexió i tractament dinformació.
Si es detecta un comportament anòmal, cal interrompre l’activitat, desconnectar els serveis afectats, revisar les credencials i comprovar si s’han enviat o compartit dades indegudament.
En l’àmbit professional, qualsevol incident que pugui comprometre informació personal s’ha de comunicar als responsables corresponents per valorar les mesures de resposta i, quan sigui procedent legalment, les obligacions de notificació.
Atenció. Els processos que funcionen de manera periòdica o sense supervisió directa s’han de revisar amb una atenció especial. És recomanable limitar-ne la durada, comprovar-ne els resultats i desactivar aquells que hagin deixat de ser necessaris.
Recomanacions addicionals per a empreses i professionals
Tot i que el decàleg s’adreça principalment als usuaris d’assistents i agents d’intel·ligència artificial, l’AEPD dedica una consideració específica a la seva utilització a l’entorn laboral.
El document recorda que una aplicació adequada per a ús particular no ha d’oferir les garanties necessàries per tractar informació professional. Per aquest motiu, els treballadors han d’utilitzar únicament les eines autoritzades per la seva organització i connectar exclusivament els comptes, les aplicacions i els documents permesos.
No és aconsellable instal·lar agents per iniciativa pròpia en equips corporatius ni vincular el correu professional o els arxius de treball a comptes personals d’intel·ligència artificial.
Aquestes precaucions són especialment rellevants per a empreses que gestionen informació econòmica, laboral, tributària o jurídica dels clients.
També convé que les organitzacions estableixin criteris interns sobre l’ús d’aquestes tecnologies, determinin quines eines es poden utilitzar i facilitin instruccions als empleats per evitar tractaments inadequats d’informació.
Des d’una perspectiva de compliment normatiu, s’han de valorar les obligacions que corresponguin d’acord amb el Reglament General de Protecció de Dades i amb la normativa espanyola aplicable, atenent a la finalitat, les dades tractades i les característiques de cada servei.
Atenció. La utilització d’eines d’intel·ligència artificial per part dels empleats no elimina les responsabilitats de l’organització sobre les dades personals que tracten. Davant de qualsevol dubte sobre una aplicació o una connexió, cal consultar-ho amb la persona responsable i, quan n’hi hagi, amb el delegat de protecció de dades.
Quines garanties convé exigir als proveïdors de IA
La responsabilitat d’un ús segur d’aquestes tecnologies no s’ha de traslladar exclusivament als que les utilitzen. La mateixa AEPD assenyala que els proveïdors haurien de facilitar mecanismes que permetin comprendre quina informació consulta l’assistent, quines decisions pot adoptar i com controlar-ne les actuacions. Entre les garanties especialment rellevants hi ha la possibilitat de configurar permisos diferenciats, exigir autoritzacions per a operacions importants, consultar l’historial d’activitat i aturar immediatament l’agent. També cal disposar d’informació comprensible sobre la conservació de les dades, la seva utilització eventual per desenvolupar models d’intel·ligència artificial i els procediments disponibles per exercir els drets de protecció de dades.
Si una eina no ofereix prou controls, convé reconsiderar quina informació se li proporciona i quin nivell d’autonomia resulta prudent concedir-li.
Pots posar-te en contacte amb aquest despatx professional per a qualsevol dubte o aclariment.
