The Taxonomy

A shared vocabulary for describing technology.

Each category is a question people ask about a technology, and its elements are the answers. Choose a category, then an element, to see its icon and what it means. New to the terms? Read the concepts.

Filipino: machine reviewed translation.It has not been checked by a fluent reviewer.Translation status

Mga panganib at pagbabawas nito

Elements 11

Ano ang mga panganib at paano binabawasan ang mga ito?

Ang mga panganib na maaaring idulot ng sistemang ito at kung paano tinutugunan ang mga ito.

About this category

Mga panganib at pagbabawas nito

Ano ang mga panganib at paano binabawasan ang mga ito?

Ang mga panganib na maaaring idulot ng sistemang ito at kung paano tinutugunan ang mga ito.

Datachain

Answer: Not every system carries a risk worth naming. Answer it whenever a risk is known.
Icon shape: Guardrails: what could go wrong and what you can do about it.

Variables

Paglalarawan ng panganib Required
Paglalarawan ng pagbabawas ng panganib Optional

Sources

A Collaborative, Human-Centred Taxonomy of AI, Algorithmic, and Automation HarmsAbercrombie et al. (2024). arXiv:2407.01294. CC BY-SA 4.0.

Pagkawala ng sariling pagpapasyaAng panganib na limitahan ng sistemang ito ang kakayahan ng isang tao na gumawa ng sariling desisyon, kontrolin ang sariling pagkakakilanlan, o malayang pumili. Kasama rito ang mga panganib ng limitadong access sa ibang mapagpipilian, mapanlinlang na disenyong nagtutulak ng mga desisyon tungo sa isang partikular na resulta, at kawalan ng makabuluhang pahintulot. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mga paraan para tumangging mapasama, malilinaw na rekomendasyon, mga default na nagpoprotekta sa kalayaang pumili, at pagsusuri ng tao sa mga desisyong may mabigat na epekto.

Pinsala sa mga kalayaang sibilAng panganib na malagay sa alanganin ng sistemang ito ang mga batayang karapatang pantao at kalayaang sibil — pananalita, pagtitipon, paggalaw, tamang proseso ng batas, o kalayaan mula sa di-makatwirang pagmamanman. Kasama rito ang mga panganib mula sa malawakang pagkilala ng mukha, predictive policing, pagsensura sa legal na pagpapahayag, at pagkatakot ng mga tao na magprotesta. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mahihigpit na limitasyon sa layunin, pagbabantay ng hukuman o ng independiyenteng lupon, limitadong pagpapanatili ng data, at pagtatasa ng epekto sa karapatang pantao bago ang pagpapatupad.

Pinsala sa kapaligiranAng panganib na masira ng sistemang ito ang kapaligiran dahil sa konsumo ng enerhiya, paggamit ng tubig, e-waste, carbon emission, o pagkuha ng likas-yaman para sa hardware. Kasama rito ang mga panganib mula sa computing na kailangan sa pagsasanay, sa walang-tigil na pagpapatakbo ng modelo, sa pangangailangan ng mga data center sa pagpapalamig, at sa mabilis na pagpapalit ng hardware. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mga target sa pagtitipid ng enerhiya at tubig, hayagang pag-uulat ng computing footprint, pagpaplano sa buong buhay ng hardware, at pagkuha ng renewable energy para sa operasyon ng mga data center.

Pinsalang pinansiyal at pangnegosyoAng panganib na magdulot ang sistemang ito ng pagkalugi sa pera ng mga indibidwal o ng pinsala sa organisasyon dahil sa maling pagpepresyo, pagkakait ng serbisyo, panloloko, o manipulasyon ng merkado. Kasama rito ang mga panganib mula sa awtomatikong desisyon sa pautang, di-pantay na pabago-bagong presyo, mga scam na gumagamit ng AI, at pagkagambala sa supply chain dahil sa maling paggamit. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mga pananggalang para manatiling abot-kaya, audit sa pagiging patas ng mga modelo ng pagpepresyo, mga sistemang tumutuklas ng panloloko, at malilinaw na proseso para sa reklamo at remedyo.

Pisikal na pinsalaAng panganib na humantong ang mga output ng sistemang ito sa pisikal na pinsala sa mga indibidwal o sa pagkasira ng ari-arian. Kasama rito ang mga panganib mula sa mga sasakyang kusang umaandar, pagpapagalaw ng mga robot, maling gabay sa nabigasyon, o mga pagkakamali sa kritikal na imprastruktura na naglalagay sa mga tao o ari-arian sa kapahamakan. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mahigpit na pagsubok sa kaligtasan, mga default na ligtas kahit pumalya, geofencing ng mapanganib na kilos, at pagbabantay ng tao sa mga pisikal na aksiyong malaki ang nakataya.

Pinsalang pampolitika at pang-ekonomiyaAng panganib na manipulahin ng sistemang ito ang talakayang pampolitika, makialam sa halalan, magtipon ng kapangyarihan sa merkado sa iilan, o makasira sa mga pampublikong institusyon. Kasama rito ang mga panganib ng synthetic media na nakatuon sa mga botante, di-malinaw na pagtutuon ng ad, pagkabaluktot ng kompetisyon dahil sa monopolyo sa access sa data at computing, at paghina ng tiwala sa mga institusyon. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang paglalantad kung sintetiko ang nilalaman, pagtutok ng mga awtoridad laban sa monopolyo sa mga merkado ng AI, access ng mga regulator para sa audit, at mga rekisito sa transparency ng mga political ad.

Pagkawala ng privacyAng panganib na makuha, mahinuha, o mailantad ng sistemang ito ang mas maraming impormasyon tungkol sa mga tao kaysa sa inaasahan o sinang-ayunan nila. Kasama rito ang mga panganib ng pagsubaybay sa galaw ng mga tao sa paglipas ng panahon, muling pagtukoy sa mga tao mula sa data na dapat sana ay walang pagkakakilanlan, pag-uugnay ng mga rekord mula sa iba't ibang sistema para makabuo ng mga profile, at muling paggamit ng data para sa mga layuning lampas sa ipinahayag. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang pangongolekta lang ng kailangan, pagproseso sa mismong device, pag-aalis ng pagkakakilanlan sa mismong sandali ng pagkuha, maiikling panahon ng pagpapanatili, at pagtatasa ng epekto sa privacy bago ang pagpapatupad.

Sikolohikal na pinsalaAng panganib na magdulot ang sistemang ito ng pinsala sa damdamin o sa kalusugan ng isip, direkta man o hindi. Kasama rito ang mga panganib mula sa nakaaadik na feedback loop, pagkabagabag dahil sa pagmamanman, panliligalig gamit ang nilikhang nilalaman, at pagkabalisa dahil sa awtomatikong pagtanggi. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mga babala sa nilalaman, pananggalang para sa kapakanan ng tao, disenyong angkop sa edad, madaling maabot na mapaghihingan ng tulong, at limitasyon sa mga kilos ng sistema na nilalayong pahabain nang husto ang paggamit ng tao.

Pinsala sa reputasyonAng panganib na masira ng sistemang ito ang reputasyon ng mga indibidwal, grupo, o organisasyon dahil sa maling pagkilala, maling pag-uuri, o mga tatak na nagdudulot ng stigma. Kasama rito ang mga panganib ng di-tumpak na pagkilala ng mukha, mapanirang-puring nilikhang nilalaman, at di-patas na pampublikong pag-iskor na sumusunod sa tao saan man sila pumunta. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang mga takdang antas ng katumpakan bago maglagay ng tatak na makikita ng publiko, pagsusuri ng tao sa mga pagkilalang malaki ang epekto, mga proseso ng pagpapaalis ng nilalaman, at malilinaw na karapatan sa pagtatama.

Paglabag sa seguridad at dataAng panganib na ang sistemang ito o ang data na hawak nito ay ma-access, manakaw, mabago, o makontrol ng sinumang hindi dapat magkaroon nito. Kasama rito ang mga panganib mula sa mga na-hack na kamera o sensor, mga na-leak na database, mga naharang na transmisyon, maling paggamit ng mga tagaloob, at pakikialam na nagiging dahilan para mag-ulat o kumilos nang mali ang isang sistema. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang encryption habang nakaimbak at habang ipinapadala, mahihigpit na kontrol sa access, regular na pagsubok sa seguridad, agarang pag-update ng software, at pag-abiso sa mga apektadong tao kapag may nangyaring paglabag.

Pinsala sa lipunan at kulturaAng panganib na mapinsala ng sistemang ito ang mga komunidad o kultura dahil sa paghina ng tiwala, pagkawala ng pagkakaiba-iba ng wika at kultura, o di-malusog na pagdepende sa mga sistemang hindi malinaw kung paano gumagana. Kasama rito ang mga panganib ng malawakang maling impormasyon, pagkakapare-pareho ng pangkulturang pagpapahayag, pagpapalit sa lokal na kaalaman, at pagkasira ng mga pinagkukunan ng pampublikong impormasyon. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang suporta sa maraming wika, pakikipagtulungan sa mga apektadong komunidad, mga palatandaan ng pinagmulan sa nilikhang nilalaman, at pamumuhunan sa mga modelong para sa lokal na wika at lokal na konteksto.

Pinsalang pampolitika at pang-ekonomiya

Ang panganib na manipulahin ng sistemang ito ang talakayang pampolitika, makialam sa halalan, magtipon ng kapangyarihan sa merkado sa iilan, o makasira sa mga pampublikong institusyon. Kasama rito ang mga panganib ng synthetic media na nakatuon sa mga botante, di-malinaw na pagtutuon ng ad, pagkabaluktot ng kompetisyon dahil sa monopolyo sa access sa data at computing, at paghina ng tiwala sa mga institusyon. Maaaring kabilang sa mga hakbang para mabawasan ang panganib ang paglalantad kung sintetiko ang nilalaman, pagtutok ng mga awtoridad laban sa monopolyo sa mga merkado ng AI, access ng mga regulator para sa audit, at mga rekisito sa transparency ng mga political ad.

Variables

Paglalarawan ng panganib Required
Paglalarawan ng pagbabawas ng panganib Optional