Voorkom het profileren van kinderen

Beginsel 7

Voorkom het profileren van kinderen

Terug naar overzicht

Toelichting

“Ik vind een app schadelijk als het schadelijk tegen minderheden is” – een jongere die deelnam aan een sessie voor het opstellen van de Code. 

Het profileren van gebruikers wordt gezien als een verwerking met een hoog risico waarvoor bijvoorbeeld een PIA (zie beginsel 5) vereist is. Bovendien gelden er beperkingen bij het profileren van kinderen. Zij genieten extra bescherming bij het opstellen van gebruikersprofielen en persoonlijkheidsprofielen. Profilering gebeurt voor uiteenlopende doeleinden. Je kan het bijvoorbeeld gebruiken om op de persoon gerichte marketing en diensten aan te bieden of om interessante klanten te onderscheiden van klanten die een risico vormen voor een bedrijf.

Profielen kunnen worden gemaakt op basis van over personen of groepen personen verzamelde gegevens. Vaak gaat het dan om online of offline gedragsgegevens. Uit die gegevens of op basis van associaties met andere gebruikers kunnen voorkeuren of kenmerken van personen worden afgeleid. Het plaatje dat zo ontstaat van een gebruiker kan heel indringend en privacygevoelig zijn. Bovendien is het niet per se een beeld dat overeenkomt met de werkelijkheid als het is gebaseerd op correlaties. Daarin schuilt dan het gevaar dat iemand onterecht een bepaald etiket opgeplakt krijgt. Dat kan schadelijk zijn als het leidt tot stereotypering, stigmatisering en ongewenste of oneerlijke bejegening (bijvoorbeeld vooroordelen of onterechte uitsluiting van diensten) of zelfs discriminatie van personen. 

Kinderen worden als kwetsbaar gezien als het gaat om profilering.  Profielen van gebruikers worden nauwkeuriger wanneer zij veel tijd steken in een digitale dienst dan wel daar steeds weer terugkeren, zodat zoveel mogelijk gedragsgegevens kunnen worden verzameld. Dat kan leiden tot obsessief gebruik, waardoor kinderen bijvoorbeeld minder tijd aan schoolwerk besteden of tijdens het leren continu worden gestoord en hun schoolresultaten onder druk komen te staan. Bovendien zijn kinderen mogelijk gemakkelijker te beïnvloeden. Kwetsbaarheden kunnen gericht worden benut voor marketingdoeleinden op een manier die indruist tegen hun vrijheid van informatie, hun vrijheid van gedachtevorming of hun recht op een plek om te spelen en te ontspannen vrij van commerciële boodschappen. Tenslotte zijn de lange termijn-effecten van profilering op kinderen vaak nog onvoldoende bekend.

Implementatie

Zorg ervoor dat functies voor profilering standaard uitstaan, tenzij er vanuit het belang van het kind een dwingende reden voor profilering is . 

  • Een dwingende reden is bijvoorbeeld dat profileren nodig is, omdat je ten behoeve van het welzijn van kinderen aan bepaalde wet- en regelgeving moet voldoen (om bijvoorbeeld seksuele uitbuiting en misbruik te voorkomen).

Wanneer je toch genoodzaakt bent te profileren, neem dan de volgende maatregelen:

  • Geef aantoonbaar aan waarom het profileren in het belang van het kind is (zie beginsel 1)
  • Maak duidelijk welk type profilering voor welk doeleinde wordt gebruikt. Waar passend moeten er afzonderlijke privacyinstellingen zijn voor iedere vorm van profilering. Verschillende vormen van profilering mogen niet gebundeld worden onder een en dezelfde privacyinstelling.
  • Op het punt dat profilering wordt aangezet moet voor passende interventies gezorgd worden (denk aan leeftijdsrelevante informatie over wat er met de persoonsgegevens van het kind gebeurt, eventuele aansporing een volwassene erbij te halen al naar gelang leeftijd van het kind)
  • Neem passende maatregelen om te waarborgen dat dit niet resulteert in eventuele psychische of fysieke schade voor het kind. Test daarbij de effecten van de wijze van profileren aan de hand van (menselijke) moderatie en meldprocedures. 

Evalueer of profilering geen effecten heeft die afdoen aan het belang van het kind en hun rechten. Zorg voor specifieke waarborgen om het belang en de rechten van het kind te beschermen (zie beginsel 1 en beginsel 5).

Wet- en regelgeving

Kinderrechtenperspectief

Zowel de Raad van Europa als het Kinderrechtencomité roepen op tot grote terughoudendheid door online profilering van kinderen te verbieden, tenzij dat in het belang van het kind is. De keuze voor zo’n benadering is begrijpelijk, omdat de (lange termijn-)impact van online profilering op kinderen, ook voor marketingdoeleinden, nog onbekend is. Profilering van kinderen zou dan ook niet moeten gebeuren, tenzij het in hun belang is doordat het bijdraagt aan hun welzijn en de gebruikte middelen proportioneel zijn en niet onnodig inbreuk maken op de (privacy-)rechten van kinderen. Bijzondere aandacht moet er zijn voor het recht van kinderen op non-discriminatie (artikel 2 IVRK). Besluitvorming op basis van profilering kan leiden tot vooringenomenheid, stereotypering en discriminatie van (groepen) mensen, waaronder kinderen. Discriminatie kan leiden tot materiële en immateriële schade en is verboden. Overigens kan ook discriminatie van ouders als gevolg van profilering een impact hebben op hun kinderen. 

Gegevensbeschermingsrecht

Profilering behelst iedere vorm van geautomatiseerde verwerking van persoonsgegevens ter beoordeling van persoonlijke aspecten van een gebruiker, met name kenmerken als beroepsprestaties, economische situatie, gezondheid, persoonlijke voorkeuren of interesses, betrouwbaarheid of gedrag, locatie of verplaatsingen van de betrokkene te analyseren of te voorspellen (overweging 71 AVG). Profilering kan voor uiteenlopende doeleinden worden gebruikt, zoals het aanbieden van op de persoon gerichte content of marketing of het personaliseren van digitale diensten.

Kinderen verdienen extra bescherming, omdat zij de risico’s van gegevensverwerkingen minder goed kunnen inschatten. Dat wordt in het bijzonder onderkend ten aanzien van het opstellen van persoonlijkheids- en gebruikersprofielen (overweging 38 AVG). De AVG overweegt dan ook dat profilering geen betrekking mag hebben op een kind wanneer deze rechtsgevolgen heeft of kinderen in aanmerkelijke mate treft (overweging 71 AVG). Ook op basis van de grondbeginselen van rechtmatigheid, behoorlijkheid en transparantie (artikel 5 AVG) moet een aanbieder van digitale diensten terughoudend zijn met profilering. Profilering is doorgaans niet direct zichtbaar voor de gebruiker, waardoor het lastig is om te begrijpen wat er eigenlijk gebeurt en welke consequenties dat heeft. Voor kinderen is dat zo mogelijk nog bezwaarlijker. Niet alleen omdat voldoende begrip van de situatie ontbreekt, maar ook omdat zij minder goed in staat zijn om de (lange termijn-)consequenties te overzien.

Profilering is niet toegestaan, wanneer daaraan voor iemand rechtsgevolgen zijn verbonden of deze hem of haar anderszins in aanmerkelijke mate treft (artikel 22 AVG). Een gebruiker heeft namelijk het recht om niet te worden onderworpen aan een geautomatiseerd besluit, waaronder profilering, zonder menselijke tussenkomst. Zonder menselijke tussenkomst betekent dat een besluit uit de computer komt rollen en er geen betekenisvolle controle meer plaatsvindt door een mens om te toetsen of het besluit wel terecht is. 

De kans dat profilering iemand in aanmerkelijke mate treft, kan bij kinderen groter zijn vanwege hun kwetsbaarheid. Van ‘in aanmerkelijke mate treffen’ is sprake als profilering schadelijk is voor de ontwikkeling van kinderen. Dit kan het geval zijn bij op de persoon gerichte marketing. Profilering van kinderen voor marketingdoeleinden wordt dan ook afgeraden. Overigens hoeft een daadwerkelijk effect niet te worden aangetoond om te kunnen spreken van een aanmerkelijke impact. 

Er zijn ook uitzonderingen op het profileringsverbod in artikel 22 AVG. Een uitzondering kan bijvoorbeeld zijn dat de gebruiker van een dienst expliciet heeft ingestemd met profilering of het noodzakelijk is voor de uitvoering van een overeenkomst (artikel 22 (2) AVG). Aangenomen wordt dat deze uitzonderingsgronden ten aanzien van kinderen restrictief moeten worden uitgelegd en profilering alleen moet worden toegestaan als dit in het belang van het kind is. Zo’n belang kan er zijn als profilering bijdraagt aan de gezondheid of de educatie van kinderen. Ook in dat geval moeten er wel voor kinderen passende waarborgen ter bescherming van hun rechten worden gegeven.