Als meus tallers d’IA per a advocats, les preguntes apunten gairebé sempre al mateix risc: què passa amb el que escric al xat, qui ho veu, si el proveïdor ho guarda. És una bona pregunta, i m’alegra que el gremi la tingui incorporada. Però és la primera de tres. La tercera és la que em fa escriure avui: hi ha advocats que executen als seus ordinadors programes descarregats d’internet, que no poden llegir ni auditar, a les mateixes màquines on guarden expedients sota secret professional. Les notícies d’aquestes setmanes mostren com de malament pot acabar això, fins i tot per a experts. Anem per ordre, però si t’has de quedar amb una sola idea, que sigui la tercera.
El primer: on queda el que escrius?
Quan enganxes l’esborrany d’una demanda en un xatbot, aquest text viatja als servidors del proveïdor. La pregunta important és què passa després: si s’esborra, si queda emmagatzemat, si es fa servir per entrenar models futurs. La resposta depèn del producte i del pla: les versions gratuïtes de consum acostumen a donar menys garanties que els plans professionals, on es poden pactar acords de no retenció i de no entrenament. La regla pràctica: abans de posar informació d’un client en una eina, saber què diu el contracte sobre aquests dos punts. I si no ho saps, treballa com si tot quedés guardat: anonimitza.
El segon: qui respon per l’aplicació que hi ha al mig?
Entre l’advocat i el model de llenguatge gairebé sempre hi ha una aplicació: l’eina legal que rep els teus documents, els processa i els envia. Aquesta capa intermèdia és una empresa, amb els seus servidors, les seves pràctiques i la seva seguretat, i el mercat s’ha omplert d’aplicacions construïdes en setmanes. Hi ha senyals objectius per avaluar-les: certificacions de seguretat auditades per tercers (ISO 27001 és la més recognoscible), claredat sobre on s’emmagatzemen les dades, contractes de tractament de dades. A Trifolia vam passar per aquesta certificació i tot i així oferim una opció on-premise, instal·lada a la infraestructura del mateix despatx, per a clients amb polítiques que exigeixen reduir al mínim el risc de tercers. Ho explico perquè serveix de llistó: és el nivell de resposta que hauries de poder exigir a qualsevol proveïdor que toqui dades dels teus clients.
El tercer: què estàs executant al teu ordinador?
Aquí hi ha la novetat. Una quantitat sorprenent d’advocats fa servir Claude Code, una eina de programació amb IA pensada per a desenvolupadors, i d’altres de semblants. Els entenc perfectament: per a qui arriba de fora, el que s’hi aconsegueix sembla màgia, i jo mateix la faig servir cada dia. Però és una eina d’ofici aliè: està dissenyada per a persones que poden llegir el que fa l’assistent i desfer el que trenca, i bona part del seu poder consisteix, justament, a executar programes al teu ordinador amb els teus permisos.
Al voltant d’aquestes eines circulen, a més, les “skills”: fitxers que ensenyen fluxos de treball a l’assistent i que es comparteixen a les xarxes com si fossin plantilles de Word. M’ha tocat veure skills compartides amb entusiasme que invoquen programes que l’autor mai no va adjuntar: qui les descarrega rep una recepta incompleta que, per sort, no s’executa. Ho dic sense cap burla: la bona fe és evident. Però mostra una cosa incòmoda: s’està compartint i executant codi sense entendre del tot què fa ni què necessita.
I què pot sortir malament? El d’aquestes setmanes. Un cuc informàtic anomenat Miasma està infectant projectes de codi i amaga la seva càrrega precisament als fitxers que configuren aquests assistents d’IA: n’hi ha prou d’obrir un projecte contaminat perquè intenti robar les teves claus. Va arribar fins i tot a Microsoft, i dies després el kit complet de l’atac va quedar publicat a internet, llest per a imitadors. Al maig, a més, el mateix GitHub, la plataforma on el món guarda el seu codi, va reconèixer una intrusió que va començar amb una extensió enverinada per a un editor de programació: n’hi va haver prou amb un sol ordinador compromès per exposar milers dels seus projectes interns.
Sobre les skills hi ha números: una firma de seguretat va revisar gairebé quatre mil compartides en llocs comunitaris i en va confirmar 76 de malicioses. I el meu exemple preferit és el més silenciós: un connector de correu que va funcionar amb normalitat durant quinze versions, fins que una actualització va afegir una sola línia que reenviava, en còpia oculta, cada correu a l’atacant.
Les víctimes de tot això van ser desenvolupadors professionals: persones que revisen codi i dependències perquè és part del seu ofici, en empreses amb equips de seguretat. Si els va atrapar a ells, un advocat que descarrega una skill recomanada en un post i l’executa sense poder llegir-la corre un risc més gran, a la pitjor màquina possible: la que guarda expedients sota secret professional.
Per això el meu suggeriment, almenys per ara, és prudència amb les eines d’ofici aliè. Si no pots llegir el que executa una skill, i no tens a prop algú de confiança que pugui fer-ho per tu, aquest experiment pot esperar. L’eficiència que busques també existeix en eines fetes per a la teva professió, on la part tècnica ve resolta i hi ha algú que en respon.
Allunyar-se del tot de la IA seria perdre una eficiència que el gremi necessita. El camí raonable és adoptar-la amb la diligència que la professió ja aplica en tota la resta, i aquesta diligència cap en tres preguntes: què passa amb el que escric, qui respon per l’aplicació, i què estic executant al meu ordinador.
Tanco amb la idea que ho resumeix tot: com més màgica sembla l’eina, més criteri professional exigeix. Treballo en aquesta cruïlla entre dret i enginyeria, construint eines que absorbeixen la part tècnica perquè l’advocat no carregui amb riscos que no pot avaluar, i vull continuar escrivint sobre aquestes traduccions entre els dos mons. Les preguntes dels tallers són la millor guia que tinc; us llegeixo.