Maanta AI-ga xukumidiisa (governance) ayaa lagu sifeeyaa oo lagu iibiyaa waxa ugu fudud in la sawiro halkii ay ka noqon lahayd waxa ugu muhiimsan in la falanqeeyo.
Wadahadalka waxaa ku badan alaabo la arki karo: dashboards siyaasadeed, jaantusyo xakameyn oo lakab-lakab ah, guardrails la calaamadeeyay, iyo socod-fulin tallaabo-tallaabo ah oo muujinaya in codsi si dhab ah loo qiimeynayo ka hor inta aan wax dhaqan la gelin. Muujinaadan waxay abuuraan aragti xakameyn ah maadaama ay la mid yihiin kormeerka nidaamyada dhaqameed. Si kastaba ha ahaatee, waxay qariyaan su'aasha ugu saamaynta badan ee ah nooca farsamada ee runtii ka dhex qiimeynaysa lakabyadaas.
Qaabdhismeedyada inta badan la isticmaalo hadda, nidaam AI ah wuxuu soo saaraa tallaabo la soo jeediyay, taasoo markaas la mariyo silsilad hubinno ah oo ku dhamaanta in model kale go'aamiyo in tallaabadu ay socoto iyo in kale. Lakabkan qiimeynta waxaa lagu sifayn karaa siyaabo kala duwan iyadoo ku xiran iibiyaha ama qaabdhismeedka la isticmaalayo. Waxaa loo soo bandhigi karaa sidii mishiin siyaasadeed, nidaam qiimeeyaya khataraha, ama nidaam derejeeya kalsoonida oo lagu daray xeerar. In kasta oo erayadu kala duwanaadaan, qaab-dhismeedka hoose wuxuu ahaan doonaa mid isku mid ah. Model dhacdo-saadaal ah (probabilistic) ayaa loo xilsaaray inuu qiimeeyo ku habboonaanta wax-soo-saarka uu abuuray model kale oo dhacdo-saadaal ah.
Doorashadan naqshadeynta waxay leedahay saamayn weyn marka lagu falanqeeyo aragti khatar iyo kalsooni ah. Nidaamyada dhacdo-saadaalka ah, sida qeexanshahoodu yahay, ma soo saaraan natiijooyin go'an oo la soo celin karo marka xaaladaha isku mid ahi jiraan. Wax-soo-saarkoodu waxaa qaabeeya qaababka istaatistigga ee ka soo baxa xogta tababarka, qiimeyntoodana sidoo kale waxaa saameeya fikirid dhacdo-saadaal ah halkii ay ka noqon lahayd shuruudo go'an. Marka nidaam noocan ah loo isticmaalo in lagu xukumo nidaam kale oo isku nooc ah, howsha xukunku ma keento nooc gebi ahaanba ka duwan oo kalsooni ah. Taa beddelkeeda, waxay ku soo celisaa qaab-hubaalka hal-abuurka hoose isla mid oo lakab garaad sare ah.
Marka laga eego aragtida xukumida, tani waxay abuuraa qaab-dhismeed wareega ah. Nidaamka loogu talagalay in uu qabsado xakameynta ayaa hoos yimaada isla kala duwanaanshaha, xaaladaha aan caadiga ahayn, iyo xasaasiyadda xaaladda oo la mid ah kan nidaamka uu kormeerayo. Sidaas darteed, jiritaanka lakabyo dheeraad ah, hubino, ama daboolo (wrappers) ma noqdo mid dhab ahaan yareeya khatarta si macno leh. Waxay kordhin kartaa kakanaanta, waxayna abuuri kartaa muuqaal dadaal, laakiin ma bedesho dhaqanka hoose ee nidaamka si loo helo xad xakameyn oo kala duwan.
Waxay soo bandhigaysaa noqoshaha (recursion) halkii ay ka noqon lahayd xakameyn.
Farqigani wuxuu si cad u muuqdaa marka lala barbardhigo sida xukumidu u shaqeyso qaybaha kale ee khatarta sarreeya. Tusaale ahaan, nidaamyada maaliyadeed, hababka ansixinta macaamalada waxay ku tiirsan yihiin xeerar horay loo qeexay, diiwaanno sahamin, iyo shuruudo ay qoreen dad, kuwaas oo la raadin karo oo dib loo dhisi karo. Marar kale, kuwa hawlaha nabadgelyada u nugul, nidaamyada xakameynta waxaa loogu talagalay inay ku shaqeeyaan sifooyin kalsooni oo ka duwan kuwa ay kormeerayaan. Farsamada xukumidu waxay si ula kac ah uga soocan tahay labadaba howlaha iyo dhaqanka si ay u bixiso barta xasilan ee tixraaca marka hubaalku ama fashilku dhaco.
Qaababka hadda jira ee xukumida AI badanaa ma dhisin kala soocidaas. Taa beddelkeeda, waxay lakabaan xukun dhacdo-saadaal ah oo dul saaran soo-saarid dhacdo-saadaal ah, waxayna qaab-dhismeedka dhasha ku sifeeyaan nidaam xakameyn. Habkani wuxuu u fikiraa in lagu daro tallaabooyin qiimeyn dheeraad ah oo ku dhex jira isla fasalka kalsoonida ay soo saari doonaan natiijooyin xukun. Dhab ahaan, waxay soo bandhigaysaa noqoshaha halkii ay ka noqon lahayd xakameynta, sababtoo ah lakab kastaa wuxuu ku tiirsan yahay isla nooca fikirka, wuxuuna u nugul yahay isla noocyada fashilka.
Cawaaqibku maaha mid fikir keliya ah. Marka nidaam uu soo saaro natiijo dhib keenta, su'aasha xigta ma aha in lakabyo badan ay ku lug lahaayeen go'aanka. Su'aashu waa in mid ka mid ah lakabyadaas u shaqeeyay sidii xakameyn dhab ah, taasoo macnaheedu yahay in uu ku shaqeeyay heer ka duwan go'aaminaad, la raadinaad, iyo xisaabtan bixin marka loo eego nidaamka uu xukumayay. Haddii lakab kastaa uu wadaago aasaas isku mid ah oo dhacdo-saadaal ah, markaas nidaamku wuxuu ka maqan yahay barta cad ee xisaabta lagu saldhigi karo ama go'aannada si isku mid ah loogu dhisi karo.
Aragtida ka dhalata falanqaynta waa mid toos ah. Xukumidu kama qeexna tirada xakameynta ee nidaamka ku jira, mana qeexna kakanaanta muuqaalka ee qaab-dhismeedkiisa. Xukumidu waxaa qeexaya soo bandhigidda farsamo ku shaqeysa heer kalsooni oo ka duwan kan nidaamka la xukumayo. La'aanta kala soocidaas, lakabyada dheeraadka ah ma noqdaan xakameyn. Waxay ku faafiyaan isla hubaalka qaybo badan.
Marka lakab xakameyn ku dhaqmo si la mid ah nidaamka uu qorsheynayo inuu xakameeyo, qaab-dhismeedku ma gaadhsiiyo xukun macno leh. Wuxuu soo saaraa qaab-dhismeed noqosho ah oo hubaalku ku qiimeeyo hubaal, xadka u dhaxeeya falka iyo kormeerkuna uu ku burburo. Burburkaasi waa halka khatarta dhabta ahi ku taal, iyadoon loo eegin sida u qaabaysan yahay nidaamku dushiisa.