The Taxonomy

A shared vocabulary for describing technology.

Each category is a question people ask about a technology, and its elements are the answers. Choose a category, then an element, to see its icon and what it means. New to the terms? Read the concepts.

Tiếng Việt: machine reviewed translation.It has not been checked by a fluent reviewer.Translation status

Rủi ro và biện pháp giảm thiểu

Elements 11

Có những rủi ro nào và chúng được giảm thiểu ra sao?

Những rủi ro mà hệ thống này có thể gây ra và cách chúng đang được xử lý.

About this category

Rủi ro và biện pháp giảm thiểu

Có những rủi ro nào và chúng được giảm thiểu ra sao?

Những rủi ro mà hệ thống này có thể gây ra và cách chúng đang được xử lý.

Datachain

Answer: Not every system carries a risk worth naming. Answer it whenever a risk is known.
Icon shape: Guardrails: what could go wrong and what you can do about it.

Variables

Mô tả rủi ro Required
Mô tả biện pháp giảm thiểu Optional

Sources

A Collaborative, Human-Centred Taxonomy of AI, Algorithmic, and Automation HarmsAbercrombie et al. (2024). arXiv:2407.01294. CC BY-SA 4.0.

Mất quyền tự chủRủi ro hệ thống này hạn chế khả năng của một người trong việc tự đưa ra quyết định, kiểm soát danh tính của mình hoặc tự do lựa chọn. Điều này bao gồm rủi ro bị hạn chế tiếp cận các lựa chọn thay thế, thiết kế đánh lừa nhằm lái quyết định về một kết quả nhất định, và thiếu sự đồng ý thực chất. Biện pháp giảm thiểu có thể gồm cơ chế từ chối tham gia, đề xuất minh bạch, thiết lập mặc định bảo vệ quyền tự quyết, và việc con người xem xét các quyết định hệ trọng.

Xâm phạm quyền tự do dân sựRủi ro hệ thống này làm tổn hại các quyền con người cơ bản và quyền tự do dân sự — ngôn luận, hội họp, đi lại, thủ tục pháp lý công bằng, hoặc quyền không bị theo dõi tùy tiện. Điều này bao gồm rủi ro từ việc nhận diện khuôn mặt hàng loạt, hoạt động cảnh sát dựa trên dự đoán, kiểm duyệt phát ngôn hợp pháp, và tác động khiến người dân e ngại biểu tình. Biện pháp giảm thiểu có thể gồm giới hạn mục đích chặt chẽ, sự giám sát của tòa án hoặc cơ quan độc lập, lưu giữ dữ liệu ở mức tối thiểu, và đánh giá tác động đến quyền con người trước khi triển khai.

Tổn hại môi trườngRủi ro hệ thống này làm suy thoái môi trường qua việc tiêu thụ năng lượng, sử dụng nước, rác thải điện tử, khí thải carbon, hoặc khai thác tài nguyên để làm phần cứng. Điều này bao gồm rủi ro từ lượng tính toán khi huấn luyện, việc chạy mô hình liên tục không nghỉ, nhu cầu làm mát của trung tâm dữ liệu, và việc thay phần cứng quá nhanh. Biện pháp giảm thiểu có thể gồm mục tiêu tiết kiệm năng lượng và nước, báo cáo minh bạch về lượng tài nguyên tính toán đã dùng, lập kế hoạch vòng đời phần cứng, và mua năng lượng tái tạo cho hoạt động của trung tâm dữ liệu.

Tổn hại tài chính và kinh doanhRủi ro hệ thống này gây thiệt hại tài chính cho cá nhân hoặc gây tổn thất cho tổ chức qua việc định giá sai, từ chối dịch vụ, gian lận hoặc thao túng thị trường. Điều này bao gồm rủi ro từ các quyết định tín dụng tự động, bất công trong việc định giá linh hoạt, lừa đảo có AI tiếp tay, và gián đoạn chuỗi cung ứng do sử dụng sai mục đích. Biện pháp giảm thiểu có thể gồm cơ chế bảo vệ khả năng chi trả, kiểm tra tính công bằng của mô hình định giá, các lớp phát hiện gian lận, và thủ tục khắc phục rõ ràng.

Tổn hại thể chấtRủi ro kết quả đầu ra của hệ thống này dẫn đến thương tích thân thể cho cá nhân hoặc thiệt hại về tài sản. Điều này bao gồm rủi ro từ xe tự lái, chuyển động của robot, chỉ dẫn đường đi bị sai, hoặc lỗi ở hạ tầng trọng yếu khiến con người hoặc tài sản gặp nguy hiểm. Biện pháp giảm thiểu có thể gồm kiểm tra an toàn nghiêm ngặt, thiết lập mặc định an toàn khi có sự cố, dùng hàng rào địa lý để ngăn hành vi nguy hiểm, và việc con người giám sát các hành động vật lý có hệ quả lớn.

Tổn hại chính trị và kinh tếRủi ro hệ thống này thao túng thảo luận chính trị, can thiệp vào bầu cử, tập trung quyền lực thị trường hoặc làm tổn hại các thể chế công. Điều này bao gồm rủi ro từ nội dung do AI tạo ra nhắm vào cử tri, quảng cáo nhắm mục tiêu thiếu minh bạch, cạnh tranh bị bóp méo do độc quyền tiếp cận dữ liệu và năng lực tính toán, và sự xói mòn lòng tin vào các thể chế. Biện pháp giảm thiểu có thể gồm công bố rõ nội dung do AI tạo ra, giám sát chống độc quyền đối với thị trường AI, quyền kiểm tra dành cho cơ quan quản lý, và yêu cầu minh bạch đối với quảng cáo chính trị.

Mất quyền riêng tưRủi ro hệ thống này ghi lại, suy đoán hoặc tiết lộ về con người nhiều hơn mức họ nghĩ hoặc đã đồng ý. Điều này bao gồm rủi ro theo dõi việc đi lại của con người theo thời gian, nhận diện lại dữ liệu lẽ ra phải ẩn danh, liên kết các bản ghi giữa các hệ thống để lập hồ sơ về từng người, và dùng lại dữ liệu cho những mục đích ngoài mục đích đã nêu. Biện pháp giảm thiểu có thể gồm chỉ thu thập những gì cần thiết, xử lý ngay trên thiết bị, ẩn danh hóa ngay tại thời điểm ghi nhận, thời hạn lưu giữ ngắn, và đánh giá tác động đến quyền riêng tư trước khi triển khai.

Tổn hại tâm lýRủi ro hệ thống này gây tổn thương về cảm xúc hoặc sức khỏe tâm thần, một cách trực tiếp hoặc gián tiếp. Điều này bao gồm rủi ro từ các vòng lặp phản hồi gây nghiện, sự căng thẳng do bị theo dõi, quấy rối bằng nội dung do AI tạo ra, và lo âu vì bị từ chối tự động. Biện pháp giảm thiểu có thể gồm cảnh báo về nội dung, cơ chế bảo vệ sức khỏe tinh thần, thiết kế phù hợp với lứa tuổi, kênh hỗ trợ dễ tiếp cận, và giới hạn đối với hành vi nhằm tối đa hóa mức độ tương tác.

Tổn hại danh tiếngRủi ro hệ thống này làm tổn hại danh tiếng của cá nhân, nhóm hoặc tổ chức qua việc nhận diện nhầm, phân loại sai hoặc gán nhãn gây kỳ thị. Điều này bao gồm rủi ro từ việc nhận diện khuôn mặt không chính xác, nội dung phỉ báng do AI tạo ra, và việc chấm điểm công khai thiếu công bằng đeo bám con người qua nhiều hoàn cảnh. Biện pháp giảm thiểu có thể gồm ngưỡng chính xác phải đạt trước khi gán nhãn công khai, việc con người xem xét các lần nhận diện có tác động lớn, thủ tục gỡ bỏ, và quyền được sửa sai rõ ràng.

Sự cố bảo mật và rò rỉ dữ liệuRủi ro hệ thống này hoặc dữ liệu mà nó lưu giữ bị người không có quyền truy cập, đánh cắp, sửa đổi hoặc chiếm quyền kiểm soát. Điều này bao gồm rủi ro từ camera hoặc cảm biến bị xâm nhập, cơ sở dữ liệu bị rò rỉ, đường truyền bị chặn thu, người trong nội bộ lạm dụng quyền, và hành vi can thiệp khiến hệ thống báo cáo hoặc hoạt động sai lệch. Biện pháp giảm thiểu có thể gồm mã hóa khi lưu trữ và khi truyền, kiểm soát truy cập chặt chẽ, kiểm tra bảo mật định kỳ, cập nhật phần mềm kịp thời, và thông báo cho những người bị ảnh hưởng khi xảy ra sự cố rò rỉ.

Tổn hại xã hội và văn hóaRủi ro hệ thống này gây hại cho cộng đồng hoặc văn hóa qua sự xói mòn lòng tin, mất đi sự đa dạng về ngôn ngữ và văn hóa, hoặc sự phụ thuộc không lành mạnh vào các hệ thống thiếu minh bạch. Điều này bao gồm rủi ro thông tin sai lệch trên diện rộng, sự đồng nhất hóa trong biểu đạt văn hóa, tri thức địa phương bị thay thế, và sự xuống cấp của hệ sinh thái thông tin công. Biện pháp giảm thiểu có thể gồm hỗ trợ đa ngôn ngữ, hợp tác với các cộng đồng bị ảnh hưởng, dấu hiệu cho biết nguồn gốc trên nội dung do AI tạo ra, và đầu tư vào các mô hình dành cho ngôn ngữ và bối cảnh địa phương.

Tổn hại tâm lý

Rủi ro hệ thống này gây tổn thương về cảm xúc hoặc sức khỏe tâm thần, một cách trực tiếp hoặc gián tiếp. Điều này bao gồm rủi ro từ các vòng lặp phản hồi gây nghiện, sự căng thẳng do bị theo dõi, quấy rối bằng nội dung do AI tạo ra, và lo âu vì bị từ chối tự động. Biện pháp giảm thiểu có thể gồm cảnh báo về nội dung, cơ chế bảo vệ sức khỏe tinh thần, thiết kế phù hợp với lứa tuổi, kênh hỗ trợ dễ tiếp cận, và giới hạn đối với hành vi nhằm tối đa hóa mức độ tương tác.

Variables

Mô tả rủi ro Required
Mô tả biện pháp giảm thiểu Optional