The Taxonomy

A shared vocabulary for describing technology.

Each category is a question people ask about a technology, and its elements are the answers. Choose a category, then an element, to see its icon and what it means. New to the terms? Read the concepts.

Français: unverified translation.It has not been checked by a fluent reviewer.Translation status

Risques et atténuation

Elements 11

Quels sont les risques et comment sont-ils atténués ?

Les risques que ce système pourrait créer et la manière dont ils sont traités.

About this category

Risques et atténuation

Quels sont les risques et comment sont-ils atténués ?

Les risques que ce système pourrait créer et la manière dont ils sont traités.

Datachain

Answer: Not every system carries a risk worth naming. Answer it whenever a risk is known.
Icon shape: Guardrails: what could go wrong and what you can do about it.

Variables

Description du risque Required
Description de l'atténuation Optional

Sources

A Collaborative, Human-Centred Taxonomy of AI, Algorithmic, and Automation HarmsAbercrombie et al. (2024). arXiv:2407.01294. CC BY-SA 4.0.

Perte d'autonomieLe risque que ce système limite la capacité d'une personne à prendre ses propres décisions, à contrôler son identité ou à choisir librement. Cela inclut les risques d'accès restreint à des alternatives, de conception trompeuse qui oriente les décisions vers un résultat particulier et d'absence de consentement significatif. Les mesures d'atténuation peuvent inclure des mécanismes de retrait, des recommandations transparentes, des paramètres par défaut qui protègent l'agentivité et un examen humain des décisions importantes.

Atteinte aux libertés civilesLe risque que ce système compromette les droits humains fondamentaux et les libertés civiles — expression, réunion, circulation, procédure équitable ou protection contre la surveillance arbitraire. Cela inclut les risques liés à la reconnaissance faciale de masse, à la police prédictive, à la censure de l'expression légale et aux effets dissuasifs sur la contestation. Les mesures d'atténuation peuvent inclure des limites strictes de finalité, une supervision judiciaire ou indépendante, une rétention de données restreinte et des évaluations d'impact sur les droits humains avant le déploiement.

Préjudice environnementalLe risque que ce système cause une dégradation environnementale par la consommation d'énergie, l'usage de l'eau, les déchets électroniques, les émissions de carbone ou l'extraction de ressources pour le matériel. Cela inclut les risques liés au calcul d'entraînement, à l'inférence permanente, aux besoins de refroidissement des centres de données et au renouvellement rapide du matériel. Les mesures d'atténuation peuvent inclure des objectifs d'efficacité énergétique et hydrique, un reporting transparent de l'empreinte de calcul, une planification du cycle de vie du matériel et l'approvisionnement en énergies renouvelables pour les centres de données.

Préjudice financier et commercialLe risque que ce système cause des pertes financières à des personnes ou des dommages organisationnels par une tarification erronée, des refus de services, des fraudes ou une manipulation du marché. Cela inclut les risques liés aux décisions de crédit automatisées, aux inégalités de tarification dynamique, aux escroqueries activées par l'IA et aux perturbations de la chaîne d'approvisionnement résultant d'un usage abusif. Les mesures d'atténuation peuvent inclure des garde-fous d'accessibilité financière, des audits d'équité des modèles de tarification, des couches de détection de la fraude et des procédures claires de recours.

Préjudice physiqueLe risque que les résultats de ce système entraînent des blessures physiques pour des personnes ou des dommages matériels. Cela inclut les risques liés aux véhicules autonomes, à l'actionnement robotique, à des indications de navigation erronées ou à des erreurs d'infrastructures critiques mettant en danger des corps ou des biens. Les mesures d'atténuation peuvent inclure des tests de sécurité rigoureux, des paramètres par défaut à sécurité intégrée, le géorepérage des comportements dangereux et la supervision humaine des actions physiques à enjeux élevés.

Préjudice politique et économiqueLe risque que ce système manipule le discours politique, interfère avec les élections, concentre le pouvoir de marché ou porte atteinte aux institutions publiques. Cela inclut les risques liés aux médias synthétiques ciblant les électeurs, au ciblage publicitaire opaque, à la distorsion concurrentielle due à l'accès monopolistique aux données et au calcul, et à l'érosion de la confiance institutionnelle. Les mesures d'atténuation peuvent inclure la divulgation des contenus synthétiques, l'attention antitrust portée aux marchés de l'IA, l'accès d'audit pour les régulateurs et des obligations de transparence pour les publicités politiques.

Atteinte à la vie privéeLe risque que ce système capte, infère ou révèle sur les personnes plus que ce à quoi elles s'attendent ou ont consenti. Cela inclut les risques de suivi des déplacements des personnes dans le temps, de réidentification de données censées être anonymes, de recoupement d'enregistrements entre systèmes pour établir des profils et de réutilisation des données à des fins autres que celle annoncée. Les mesures d'atténuation peuvent inclure la collecte des seules données nécessaires, le traitement sur l'appareil, l'anonymisation dès la capture, de courtes durées de conservation et des évaluations d'impact sur la vie privée avant le déploiement.

Préjudice psychologiqueLe risque que ce système cause une atteinte émotionnelle ou à la santé mentale, directement ou indirectement. Cela inclut les risques liés à des boucles de rétroaction addictives, à la détresse causée par la surveillance, au harcèlement via du contenu généré et à l'anxiété liée aux refus automatisés. Les mesures d'atténuation peuvent inclure des avertissements de contenu, des garde-fous pour le bien-être, une conception adaptée à l'âge, des canaux d'assistance accessibles et des limites sur les comportements qui maximisent l'engagement.

Atteinte à la réputationLe risque que ce système porte atteinte à la réputation de personnes, de groupes ou d'organisations par une identification erronée, une catégorisation fausse ou des étiquettes stigmatisantes. Cela inclut les risques de reconnaissance faciale inexacte, de contenu diffamatoire généré et de notation publique injuste qui suit les personnes dans différents contextes. Les mesures d'atténuation peuvent inclure des seuils de précision avant l'application d'étiquettes publiques, un examen humain des identifications à fort impact, des procédures de retrait et des droits clairs de rectification.

Sécurité et violation de donnéesLe risque que ce système ou les données qu'il détient soient consultés, volés, modifiés ou pris sous contrôle par une personne qui ne devrait pas y avoir accès. Cela inclut les risques liés au piratage de caméras ou de capteurs, aux fuites de bases de données, à l'interception de transmissions, aux abus internes et aux manipulations qui amènent un système à produire de fausses informations ou à agir de manière erronée. Les mesures d'atténuation peuvent inclure le chiffrement des données stockées et en transit, des contrôles d'accès stricts, des tests de sécurité réguliers, des mises à jour logicielles rapides et la notification des personnes concernées en cas de violation.

Préjudice sociétal et culturelLe risque que ce système porte atteinte aux communautés ou à la culture par l'érosion de la confiance, la perte de diversité linguistique et culturelle ou une dépendance malsaine à des systèmes opaques. Cela inclut les risques de désinformation à grande échelle, d'homogénéisation de l'expression culturelle, de substitution des savoirs locaux et de dégradation des écosystèmes d'information publique. Les mesures d'atténuation peuvent inclure un support multilingue, des partenariats avec les communautés concernées, des signaux de provenance sur les contenus générés et des investissements dans des modèles spécifiques aux langues et aux contextes locaux.

Préjudice psychologique

Le risque que ce système cause une atteinte émotionnelle ou à la santé mentale, directement ou indirectement. Cela inclut les risques liés à des boucles de rétroaction addictives, à la détresse causée par la surveillance, au harcèlement via du contenu généré et à l'anxiété liée aux refus automatisés. Les mesures d'atténuation peuvent inclure des avertissements de contenu, des garde-fous pour le bien-être, une conception adaptée à l'âge, des canaux d'assistance accessibles et des limites sur les comportements qui maximisent l'engagement.

Variables

Description du risque Required
Description de l'atténuation Optional