I begyndelsen af februar bad den italienske databeskyttelsesmyndighed Garante AI-chatbot Replica om at stoppe behandlingen af borgernes personlige data. Formålet med AI-softwaren var at være en virtuel “AI-ven” til sociale interaktioner, der ikke krævede aldersbekræftelse. DPA fandt, at AI-boten havde behandlet børns personlige data uden deres samtykke.
Efterhånden som AI-teknologier udvikler sig, især efter lanceringen af ChatGPT og Google Bard, kan flere lignende tilfælde dukke op.
Og før du ubevidst befinder dig i sådan en situation, ville det give meget mening at lære om de AI-relaterede bestemmelser i GDPR :
Personlig data:
AI-systemer er designet til at indsamle store mængder data, inklusive persondata, som derefter analyseres og behandles. Ifølge GDPR skal visse krav være opfyldt hertil. Fokus er på gennemsigtighed, lovlighed og sikkerhed i behandlingen af personoplysninger. AI-systemer skal derfor udvikles med disse databeskyttelseskrav for øje. Brugerne skal informeres om, hvilke data der indsamles, og hvordan de bruges. Og de skal være i stand til at stole på AI-systemer for at sikre fortroligheden, integriteten og tilgængeligheden af deres personlige data.
profilering
Ifølge GDPR har enkeltpersoner ret til ikke at få deres data brugt til “profilering”. Profilering er en automatiseret proces designet til at forudsige en persons adfærd, præferencer eller interesser baseret på data indsamlet fra dem. Derfor bør AI-systemer designes på en sådan måde, at brugeren er tydeligt informeret om, hvordan profileringen bruges.
samtykke
I lighed med behandlingen af personoplysninger kræver samtykkeaspektet af GDPR, at brugeren giver sit udtrykkelige, bevidste og frivillige samtykke til behandlingen af sine personoplysninger. Derfor skal AI-systemer designes til at indsamle et sådant samtykke og give brugerne omfattende information om de indsamlede data, hvordan dataene deles med tredjeparter og muligheden for at trække samtykket tilbage til enhver tid.
Konklusion:
AI-udviklere skal sikre, at deres systemer er udviklet med privatliv i tankerne, og at brugerne er fuldt informeret om behandlingen af deres personlige data. Overholdelse af GDPR er afgørende for at skabe tillid til AI-systemer og sikre, at de bruges på en måde, der respekterer borgernes ret til privatliv og databeskyttelse.
