The Taxonomy

A shared vocabulary for describing technology.

Each category is a question people ask about a technology, and its elements are the answers. Choose a category, then an element, to see its icon and what it means. New to the terms? Read the concepts.

Español: machine reviewed translation.It has not been checked by a fluent reviewer.Translation status

Riesgos y mitigación

Elements 11

¿Cuáles son los riesgos y cómo se mitigan?

Los riesgos que este sistema podría generar y cómo se están atendiendo.

About this category

Riesgos y mitigación

¿Cuáles son los riesgos y cómo se mitigan?

Los riesgos que este sistema podría generar y cómo se están atendiendo.

Datachain

Answer: Not every system carries a risk worth naming. Answer it whenever a risk is known.
Icon shape: Guardrails: what could go wrong and what you can do about it.

Variables

Descripción del riesgo Required
Descripción de la mitigación Optional

Sources

A Collaborative, Human-Centred Taxonomy of AI, Algorithmic, and Automation HarmsAbercrombie et al. (2024). arXiv:2407.01294. CC BY-SA 4.0.

Pérdida de autonomíaEl riesgo de que este sistema limite la capacidad de una persona para tomar sus propias decisiones, controlar su identidad o elegir libremente. Esto incluye riesgos de acceso restringido a alternativas, diseño engañoso que empuja las decisiones hacia un resultado particular y falta de consentimiento real. Las medidas de mitigación pueden incluir mecanismos de exclusión voluntaria, recomendaciones transparentes, opciones predeterminadas que protejan la capacidad de decidir y revisión humana de las decisiones con consecuencias importantes.

Daño a las libertades civilesEl riesgo de que este sistema comprometa derechos humanos fundamentales y libertades civiles — expresión, reunión, libre circulación, debido proceso o la protección contra la vigilancia arbitraria. Esto incluye riesgos derivados del reconocimiento facial masivo, la vigilancia policial predictiva, la censura de expresiones lícitas y los efectos inhibidores sobre la protesta. Las medidas de mitigación pueden incluir límites estrictos de propósito, supervisión judicial o independiente, una conservación de datos acotada y evaluaciones de impacto en los derechos humanos antes de la implementación.

Daño ambientalEl riesgo de que este sistema cause deterioro ambiental por su consumo de energía, uso de agua, residuos electrónicos, emisiones de carbono o extracción de recursos para fabricar equipos. Esto incluye riesgos derivados del cómputo para el entrenamiento, de la inferencia siempre activa, de las necesidades de enfriamiento de los centros de datos y del reemplazo acelerado de equipos. Las medidas de mitigación pueden incluir metas de eficiencia energética y de agua, informes transparentes sobre la huella de cómputo, planificación del ciclo de vida de los equipos y compra de energía renovable para la operación de los centros de datos.

Daño financiero y comercialEl riesgo de que este sistema cause pérdidas financieras a las personas o daños a las organizaciones por precios erróneos, servicios negados, fraude o manipulación del mercado. Esto incluye riesgos derivados de decisiones de crédito automatizadas, desigualdades en los precios dinámicos, estafas facilitadas por IA y alteraciones de la cadena de suministro por uso indebido. Las medidas de mitigación pueden incluir protecciones de asequibilidad, auditorías de equidad de los modelos de precios, capas de detección de fraude y procedimientos claros de reparación.

Daño físicoEl riesgo de que los resultados de este sistema provoquen lesiones físicas a personas o daños a la propiedad. Esto incluye riesgos derivados de vehículos autónomos, movimientos de robots, indicaciones de navegación defectuosas o errores en infraestructura crítica que pongan en peligro a personas o bienes. Las medidas de mitigación pueden incluir pruebas de seguridad rigurosas, configuraciones predeterminadas a prueba de fallas, geocercas que limiten comportamientos peligrosos y supervisión humana de las acciones físicas de alto riesgo.

Daño político y económicoEl riesgo de que este sistema manipule el debate político, interfiera en elecciones, concentre poder de mercado o dañe a las instituciones públicas. Esto incluye riesgos de contenido sintético dirigido a votantes, publicidad dirigida de forma opaca, distorsión de la competencia por el acceso monopólico a datos y capacidad de cómputo, y erosión de la confianza en las instituciones. Las medidas de mitigación pueden incluir la divulgación del contenido sintético, la vigilancia antimonopolio de los mercados de IA, el acceso de los organismos reguladores para auditar y requisitos de transparencia para la publicidad política.

Pérdida de privacidadEl riesgo de que este sistema capte, infiera o revele sobre las personas más de lo que ellas esperan o aceptaron. Esto incluye riesgos de rastreo de los movimientos de las personas a lo largo del tiempo, reidentificación de datos que debían ser anónimos, vinculación de registros entre sistemas para crear perfiles y reutilización de los datos para propósitos distintos del declarado. Las medidas de mitigación pueden incluir recopilar solo lo necesario, procesar los datos en el dispositivo, anonimizarlos en el momento de la captura, periodos de conservación cortos y evaluaciones de impacto en la privacidad antes de la implementación.

Daño psicológicoEl riesgo de que este sistema cause, directa o indirectamente, un deterioro emocional o de la salud mental. Esto incluye riesgos derivados de ciclos de retroalimentación adictivos, la angustia causada por la vigilancia, el acoso mediante contenido generado y la ansiedad por rechazos automatizados. Las medidas de mitigación pueden incluir advertencias de contenido, protecciones del bienestar, un diseño adecuado para cada edad, canales de apoyo accesibles y límites a los comportamientos que buscan maximizar la interacción.

Daño a la reputaciónEl riesgo de que este sistema dañe la reputación de personas, grupos u organizaciones mediante identificaciones erróneas, categorizaciones falsas o etiquetas estigmatizantes. Esto incluye riesgos de reconocimiento facial inexacto, contenido generado difamatorio y puntajes públicos injustos que siguen a las personas de un contexto a otro. Las medidas de mitigación pueden incluir umbrales de precisión antes de aplicar etiquetas visibles al público, revisión humana de las identificaciones de alto impacto, procedimientos de retiro de contenido y derechos claros de corrección.

Brecha de seguridad y de datosEl riesgo de que alguien que no debería tenerlos acceda a este sistema o a los datos que guarda, los robe, los altere o tome su control. Esto incluye riesgos derivados de cámaras o sensores hackeados, bases de datos filtradas, transmisiones interceptadas, uso indebido por parte de personal interno y manipulaciones que hacen que un sistema informe o actúe de manera falsa. Las medidas de mitigación pueden incluir cifrado de los datos almacenados y en tránsito, controles de acceso estrictos, pruebas de seguridad periódicas, actualizaciones de software oportunas y notificación a las personas afectadas cuando ocurre una brecha.

Daño social y culturalEl riesgo de que este sistema dañe a las comunidades o a la cultura por la erosión de la confianza, la pérdida de diversidad lingüística y cultural o una dependencia poco saludable de sistemas opacos. Esto incluye riesgos de desinformación a gran escala, homogeneización de la expresión cultural, reemplazo del conocimiento local y deterioro de los ecosistemas de información pública. Las medidas de mitigación pueden incluir soporte multilingüe, alianzas con las comunidades afectadas, señales de procedencia en el contenido generado e inversión en modelos adaptados a los idiomas y contextos locales.

Pérdida de autonomía

El riesgo de que este sistema limite la capacidad de una persona para tomar sus propias decisiones, controlar su identidad o elegir libremente. Esto incluye riesgos de acceso restringido a alternativas, diseño engañoso que empuja las decisiones hacia un resultado particular y falta de consentimiento real. Las medidas de mitigación pueden incluir mecanismos de exclusión voluntaria, recomendaciones transparentes, opciones predeterminadas que protejan la capacidad de decidir y revisión humana de las decisiones con consecuencias importantes.

Variables

Descripción del riesgo Required
Descripción de la mitigación Optional