Jordi

Quan utilitzeu qualsevol LLM o chatbot que no s'executi al vostre propi ordinador, heu de donar per fet que tot el que escriviu, pengeu o envieu és recopilat, emmagatzemat i analitzat. Això inclou, de manera molt especial, les dades personals. Cada cop que introduïu un nom, una adreça electrònica, un número d'identificació, una fotografia, un document amb dades de salut o qualsevol informació que pugui identificar una persona, esteu lliurant i compartint aquesta informació a un sistema que pot retenir-la indefinidament. I compte amb les fotografies! No només contenen la imatge en si, sinó que incorporen metadades com ara la data, l'hora, les coordenades GPS i el dispositiu utilitzat, que també es poden extreure i emmagatzemar, a més de dades biomètriques si surten persones. Tècnicament, aquestes dades poden acabar en els conjunts d'entrenament dels models, de manera que el que avui lliureu i compartiu pot ser reproduït o inferit en futures interaccions amb la IA, fins i tot per altres usuaris. Cal tenir en compte que cada consulta, cada arxiu adjunt i cada conversa es registra als servidors dels proveïdors, i les empreses tenen polítiques de retenció de la informació obtinguda a través de la interacció amb els usuaris que poden allargar-se durant mesos o anys. En molts casos, aquestes interaccions s'utilitzen per entrenar les noves versions dels models, la qual cosa significa que allò que compartiu pot acabar formant part del coneixement intern de la IA i que, és clar, que va molt més enllà de la personalització dels serveis. Per això, cal ser especialment rigorosos amb les dades personals: noms complets, adreces, números d'expedient, fotografies, identificadors o matrícules, informes personals, currículums i qualsevol dada que pugui vincular-se a una persona física. Si una eina no s'executa localment al nostre equip o dins d'un entorn privat i controlat, hem de tractar-la com un espai públic. Fins i tot en entorns privats, hem de ser conscients que la seguretat no depèn només de la ubicació i, entre altres, cal avaluar si les dades es xifren en trànsit, si els accessos estan autentificats, o si el proveïdor té compromisos contractuals que impedeixin l'ús de les dades per a finalitats diferents de les previstes. En definitiva, si no tenim clar si l'eina és segura, encara que sigui local o dins d'un entorn privat i controlat, la nostra resposta ha de ser de màxima precaució i no utilitzar-la per compartir aquest tipus de dades. Per això, la millor pràctica és ben senzilla: per a dades internes i/o personals no feu servir LLMs o chatbos, i si ho feu, que siguin locals i aprovats en termes de seguretat i privacitat després d'una avaluació rigorosa. Feu servir el nostres Models PIO per saber-ne més sobre aquests i altres temes relacionats 👉 oeiac.cat/