The Taxonomy

A shared vocabulary for describing technology.

Each category is a question people ask about a technology, and its elements are the answers. Choose a category, then an element, to see its icon and what it means. New to the terms? Read the concepts.

Nederlands: machine reviewed translation.It has not been checked by a fluent reviewer.Translation status

Risico's en maatregelen

Elements 11

Wat zijn de risico's en hoe worden ze beperkt?

De risico's die dit systeem kan veroorzaken en wat eraan wordt gedaan.

About this category

Risico's en maatregelen

Wat zijn de risico's en hoe worden ze beperkt?

De risico's die dit systeem kan veroorzaken en wat eraan wordt gedaan.

Datachain

Answer: Not every system carries a risk worth naming. Answer it whenever a risk is known.
Icon shape: Guardrails: what could go wrong and what you can do about it.

Variables

Beschrijving van het risico Required
Beschrijving van de maatregel Optional

Sources

A Collaborative, Human-Centred Taxonomy of AI, Algorithmic, and Automation HarmsAbercrombie et al. (2024). arXiv:2407.01294. CC BY-SA 4.0.

Verlies van autonomieHet risico dat dit systeem iemand beperkt in het nemen van eigen beslissingen, in de zeggenschap over de eigen identiteit of in het maken van vrije keuzes. Hieronder vallen risico's zoals beperkte toegang tot alternatieven, misleidend ontwerp dat beslissingen naar een bepaalde uitkomst stuurt, en het ontbreken van echte toestemming. Mogelijke maatregelen zijn manieren om je af te melden, transparante aanbevelingen, standaardinstellingen die de eigen regie beschermen en menselijke beoordeling van ingrijpende beslissingen.

Aantasting van burgerlijke vrijhedenHet risico dat dit systeem fundamentele mensenrechten en burgerlijke vrijheden aantast: vrijheid van meningsuiting en vergadering, bewegingsvrijheid, een eerlijke rechtsgang of bescherming tegen willekeurige surveillance. Hieronder vallen risico's door gezichtsherkenning op grote schaal, voorspellend politiewerk, censuur van wettige uitingen en een afschrikkende werking op protest. Mogelijke maatregelen zijn strikte beperking van het doel, toezicht door een rechter of onafhankelijke instantie, een korte bewaartermijn en een mensenrechtentoets vóór de inzet.

MilieuschadeHet risico dat dit systeem het milieu aantast door energieverbruik, waterverbruik, elektronisch afval, CO2-uitstoot of de winning van grondstoffen voor hardware. Hieronder vallen risico's door de rekenkracht die nodig is voor het trainen, systemen die altijd aanstaan, de koeling van datacenters en hardware die snel wordt vervangen. Mogelijke maatregelen zijn doelen voor zuinig energie- en waterverbruik, open rapportage over de gebruikte rekenkracht, planning van de levensduur van hardware en de inkoop van hernieuwbare energie voor datacenters.

Financiële en zakelijke schadeHet risico dat dit systeem mensen geld kost of organisaties schade toebrengt door verkeerde prijzen, geweigerde diensten, fraude of marktmanipulatie. Hieronder vallen risico's door geautomatiseerde kredietbeslissingen, oneerlijke dynamische prijzen, oplichting met behulp van AI en verstoring van toeleveringsketens door misbruik. Mogelijke maatregelen zijn waarborgen voor betaalbaarheid, eerlijkheidsaudits van prijsmodellen, extra lagen voor fraudedetectie en duidelijke procedures om schade te herstellen.

Fysieke schadeHet risico dat de uitvoer van dit systeem leidt tot lichamelijk letsel bij mensen of schade aan eigendommen. Hieronder vallen risico's door zelfrijdende voertuigen, bewegende robots, foute navigatieaanwijzingen of fouten in vitale infrastructuur die mensen of eigendommen in gevaar brengen. Mogelijke maatregelen zijn strenge veiligheidstests, veilige standaardinstellingen bij storingen, het digitaal afbakenen van gebieden (geofencing) tegen gevaarlijk gedrag en menselijk toezicht op fysieke acties met grote gevolgen.

Politieke en economische schadeHet risico dat dit systeem het politieke debat manipuleert, verkiezingen beïnvloedt, marktmacht concentreert of publieke instellingen schaadt. Hieronder vallen risico's door kunstmatig gemaakte media gericht op kiezers, ondoorzichtige gerichte advertenties, oneerlijke concurrentie door een monopolie op toegang tot gegevens en rekenkracht, en afnemend vertrouwen in instellingen. Mogelijke maatregelen zijn het melden van kunstmatig gemaakte content, aandacht van mededingingstoezicht voor AI-markten, toegang voor toezichthouders om audits te doen en transparantie-eisen voor politieke advertenties.

Verlies van privacyHet risico dat dit systeem meer over mensen vastlegt, afleidt of onthult dan ze verwachten of waarmee ze hebben ingestemd. Hieronder vallen risico's zoals het volgen van de verplaatsingen van mensen over langere tijd, het opnieuw herleiden tot personen van gegevens die anoniem moesten zijn, het koppelen van gegevens uit verschillende systemen om profielen op te bouwen, en het hergebruiken van gegevens voor andere doelen dan het genoemde doel. Mogelijke maatregelen zijn alleen verzamelen wat nodig is, verwerking op het apparaat zelf, anonimiseren op het moment van vastleggen, korte bewaartermijnen en een privacytoets vóór de inzet.

Psychische schadeHet risico dat dit systeem direct of indirect emotionele schade of schade aan de geestelijke gezondheid veroorzaakt. Hieronder vallen risico's door verslavende feedbacklussen, stress door surveillance, intimidatie via gegenereerde content en angst door geautomatiseerde afwijzingen. Mogelijke maatregelen zijn waarschuwingen bij content, waarborgen voor welzijn, ontwerp dat past bij de leeftijd, toegankelijke hulpkanalen en grenzen aan gedrag dat is gericht op zo veel mogelijk gebruik.

ReputatieschadeHet risico dat dit systeem de reputatie van personen, groepen of organisaties schaadt door een verkeerde identificatie, een onjuiste indeling of stigmatiserende labels. Hieronder vallen risico's door onnauwkeurige gezichtsherkenning, lasterlijke gegenereerde content en oneerlijke openbare scores die mensen overal blijven achtervolgen. Mogelijke maatregelen zijn drempels voor nauwkeurigheid voordat labels openbaar worden gebruikt, menselijke beoordeling van identificaties met grote gevolgen, procedures om content te laten verwijderen en duidelijke rechten op correctie.

Beveiligingsincident en datalekHet risico dat iemand die dat niet mag, dit systeem of de gegevens die het bewaart kan inzien, stelen, veranderen of overnemen. Hieronder vallen risico's door gehackte camera's of sensoren, gelekte databases, onderschepte gegevensoverdracht, misbruik door mensen van binnenuit en manipulatie waardoor een systeem verkeerde informatie doorgeeft of verkeerd handelt. Mogelijke maatregelen zijn versleuteling bij opslag en tijdens verzending, strikte toegangscontrole, regelmatige beveiligingstests, snelle software-updates en het informeren van getroffen mensen bij een datalek.

Maatschappelijke en culturele schadeHet risico dat dit systeem gemeenschappen of cultuur schaadt door afnemend vertrouwen, verlies van taal- en cultuurdiversiteit of ongezonde afhankelijkheid van ondoorzichtige systemen. Hieronder vallen risico's door misinformatie op grote schaal, culturele uitingen die steeds meer op elkaar gaan lijken, het verdringen van lokale kennis en de verslechtering van de publieke informatievoorziening. Mogelijke maatregelen zijn ondersteuning van meerdere talen, samenwerking met de gemeenschappen die het raakt, herkomstinformatie bij gegenereerde content en investeringen in modellen voor lokale talen en de lokale context.

Psychische schade

Het risico dat dit systeem direct of indirect emotionele schade of schade aan de geestelijke gezondheid veroorzaakt. Hieronder vallen risico's door verslavende feedbacklussen, stress door surveillance, intimidatie via gegenereerde content en angst door geautomatiseerde afwijzingen. Mogelijke maatregelen zijn waarschuwingen bij content, waarborgen voor welzijn, ontwerp dat past bij de leeftijd, toegankelijke hulpkanalen en grenzen aan gedrag dat is gericht op zo veel mogelijk gebruik.

Variables

Beschrijving van het risico Required
Beschrijving van de maatregel Optional