Each category is a question people ask about a technology, and its elements are the answers. Choose a category, then an element, to see its icon and what it means. New to the terms? Read the concepts.
有哪些風險？如何因應？
這個系統可能帶來的風險，以及目前的因應方式。
有哪些風險？如何因應？
這個系統可能帶來的風險，以及目前的因應方式。
喪失自主權這個系統限制個人自行做決定、掌控自身身分或自由選擇之能力的風險。包括難以取得替代選項、以欺瞞式設計將決定引導至特定結果，以及缺乏有意義的同意等風險。因應措施可包括選擇退出機制、透明的建議、保障自主的預設值，以及對重大決定進行人工審查。
公民自由受損這個系統損及基本人權與公民自由的風險，包括言論、集會、遷徙、正當程序，或免於任意監控的自由。包括大規模臉部辨識、預測性警務、審查合法言論，以及對抗議活動造成寒蟬效應等風險。因應措施可包括嚴格的目的限制、司法或獨立監督、限縮資料保留，以及在部署前進行人權影響評估。
環境損害這個系統因能源消耗、用水、電子廢棄物、碳排放或為製造硬體而開採資源，造成環境惡化的風險。包括訓練階段的運算、全天候運作的推論、資料中心的冷卻需求，以及硬體快速汰換所帶來的風險。因應措施可包括能源與用水效率目標、透明公開運算足跡、硬體生命週期規劃，以及為資料中心營運採購再生能源。
財務與商業損害這個系統因錯誤定價、拒絕提供服務、詐欺或操縱市場，造成個人財務損失或組織受損的風險。包括自動化信用決定、動態定價不公、利用AI進行的詐騙，以及濫用導致供應鏈中斷等風險。因應措施可包括可負擔性防護機制、定價模型的公平性稽核、多層詐欺偵測，以及明確的救濟程序。
人身傷害這個系統的輸出結果導致人身傷害或財物損壞的風險。包括自動駕駛車輛、機器人動作、錯誤的導航指引，或使人身或財物陷入危險的關鍵基礎設施錯誤所帶來的風險。因應措施可包括嚴謹的安全測試、失效安全的預設值、以地理圍欄限制危險行為，以及對高風險的實體動作進行人為監督。
政治與經濟損害這個系統操縱政治論述、干預選舉、集中市場力量或損害公共機構的風險。包括針對選民的合成媒體、不透明的廣告投放、因獨占資料與運算資源而扭曲競爭，以及侵蝕對機構的信任等風險。因應措施可包括揭露合成內容、對AI市場進行反托拉斯監督、讓主管機關得以稽核，以及政治廣告透明度規定。
喪失隱私這個系統擷取、推斷或揭露的個人資訊，超出人們預期或同意範圍的風險。包括長期追蹤人們的行蹤、重新識別原本應為匿名的資料、串連不同系統的紀錄以建立個人檔案，以及將資料用於所述目的以外的用途等風險。因應措施可包括只收集必要的資料、在裝置上處理、在擷取當下即匿名化、縮短保存期限，以及在部署前進行隱私影響評估。
心理傷害這個系統直接或間接造成情緒或心理健康受損的風險。包括令人成癮的回饋循環、監控造成的困擾、利用生成內容進行的騷擾，以及遭自動化系統拒絕所引發的焦慮等風險。因應措施可包括內容警示、身心健康保護機制、適齡設計、容易取得的支援管道，以及對追求最高使用黏著度的行為設限。
名譽損害這個系統因誤認身分、錯誤分類或貼上汙名化標籤，損害個人、群體或組織名譽的風險。包括不準確的臉部辨識、具誹謗性的生成內容，以及在不同情境中如影隨形的不公平公開評分等風險。因應措施可包括在套用對外公開的標籤前設定準確度門檻、對影響重大的身分識別進行人工審查、下架程序，以及明確的更正權利。
資安與資料外洩這個系統或其持有的資料遭不應取得的人存取、竊取、竄改或掌控的風險。包括攝影機或感測器遭駭、資料庫外洩、傳輸遭攔截、內部人員濫用，以及使系統回報不實資訊或做出錯誤動作的竄改等風險。因應措施可包括儲存與傳輸時加密、嚴格的存取控管、定期安全測試、即時更新軟體，以及在發生外洩時通知受影響的人。
社會與文化損害這個系統因侵蝕信任、使語言與文化多樣性流失，或造成對不透明系統的不健康依賴，而損害社群或文化的風險。包括大規模的錯誤資訊、文化表達趨於同質、在地知識遭到取代，以及公共資訊生態惡化等風險。因應措施可包括多語言支援、與受影響的社群合作、為生成內容加上來源標示，以及投資開發在地語言與在地脈絡的模型。這個系統直接或間接造成情緒或心理健康受損的風險。包括令人成癮的回饋循環、監控造成的困擾、利用生成內容進行的騷擾，以及遭自動化系統拒絕所引發的焦慮等風險。因應措施可包括內容警示、身心健康保護機制、適齡設計、容易取得的支援管道，以及對追求最高使用黏著度的行為設限。