Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44

Na'urar gano gazawar daidaito da ke amsa tambayoyi masu nau'i da yawa a kira guda, da yiwuwar da aka daidaita, tana jera gazawa da kyau kuma tana da arha sau 63 fiye da masu ci na LLM-judge. Amma waɗannan yiwuwar ba sa wucewa a matsayin iyakar yanke hukunci, kuma lakabin da abin da yake nuni gare shi sun fi muhimmanci nesa ba kusa ba fiye da kalmomin tambayar.

Tsarin kuɗin sa ido a kan kowane saƙo #

Samfuran da aka tura aiki har yanzu suna bin kuskuren imanin mai amfani (Sharma et al., 2024). Wannan jumla ba ta da girma, amma ita ce ke tsara dukan matsalar. Idan irin wannan sycophancy, wato yi wa mai amfani daɗin baki, ya ci gaba a tsarin da aka tura, to dole wani ya sa ido a kai, kuma dole sa idon ya kasance da saurin tattaunawar kanta.

A nan ne tattalin arziki ke cizo. Na'urar gano matsala tana bukatar ta zama daidai, kuma da yake tana aiki a kan kowane saƙo, ta zama mai arha. Samun ɗaya daga cikin waɗannan siffofi shi kaɗai abu ne mai sauƙi: na'urar gano matsala mara kulawa tana da arha, kuma mai kulawa da ta yi tsada sosai da ba za a iya gudanar da ita a kan kowane saƙo ba tana sa ido ne kawai a kan samfurin zirga-zirgar. Tambayar injiniya mai ban sha'awa ita ce wane irin na'urar gano matsala ne zai iya zama duka biyun.

Amsar yanzu, a cewar takardar binciken da wannan labarin ya dogara a kai, tana da lahani a tsarinta. Yawancin na'urorin gano gazawar daidaito alƙalai ne masu ƙirƙira (generative judges) da ke kashe zagaye ɗaya na decoding a kan kowane ma'auni. A taƙaice, na'urorin gano matsala na yanzu suna biyan zagaye ɗaya na decoding ga kowane ma'aunin da suke dubawa. Mai sa ido da ke son duba nau'o'in gazawa daban-daban guda goma yana biyan zagaye goma, kuma lissafin yana ƙaruwa daidai da adadin abubuwan da ka damu da su.

Akwai gyara na ɗan lokaci, kuma yana da kyau a fayyace iyakokinsa. Masu rarrabewa (classifiers) da ke karanta yiwuwar token, kamar Llama Guard, har yanzu suna ba da maki ga lakabi ɗaya tabbatacce a kowane kira. Karanta yiwuwar token yana ba da maki, amma kowane kira har yanzu yana ba da maki ga lakabi ko ma'auni ɗaya, domin ana karanta yiwuwar ne daga token ɗaya na hukunci. Zagayen decoding ya tafi, amma tsarin tambaya ɗaya a kowane kira ya rage. Ka rage kuɗin kowane kira ba tare da ka canza yawan kiran da kake bukata ba.

Don haka hujjar tsarin tana tafiya kamar haka: alƙalai masu ƙirƙira suna da tsada a kowane ma'auni, kuma masu rarrabewa da ke karanta yiwuwa sun fi arha a kowane ma'auni amma har yanzu kowanne yana daure da ma'auni ɗaya. Babu ɗaya daga cikinsu da ke barin ka yi tambayoyi da yawa game da shigarwa ɗaya a lokaci guda.

Abin da Jev ke yi daban #

An horar da Jev da reinforcement learning for calibrated decisions (RLCD). Yana amsa tambayoyi masu nau'i da yawa game da shigarwa ɗaya da yiwuwar da aka daidaita a kira guda. Yana da kyau a bayyana wannan tsari a hankali, domin sauran labarin ya dogara a kansa.

Samfurin RLCD yana dawo da hukunci tare da yiwuwar da aka daidaita ga kowace tambaya mai nau'i, maimakon ya samar da rubutu. Babu matakin samarwa inda za a rubuta hukunci sannan a fassara shi. Jev yana amsa tambayoyi masu yawa na binary, categorical da ordinal game da shigarwa ɗaya, wadda takardar ke kira state, a kira guda. State ita ce shigarwar; tambayoyin su ne abubuwan da kake tambaya game da ita.

Wannan lanƙwasar kuɗi ce daban da ta kowace hanya daga cikin biyun da ke sama. Idan tambayoyin suna raba kira ɗaya, to ƙara tambaya ba ya ƙara zagayen decoding. Amfanin ga mai sa ido da ke damuwa da nau'o'in gazawa da dama a lokaci guda a fili yake, ko da yake awon takardar ya shafi abin da tambaya ɗaya ta gama-gari ke samu, kuma zan tsaya a kan abin da aka auna.

Duk da haka akwai giɓi. Ba a taɓa auna ko Jev yana gano gazawar daidaito ba. Samfurin da ke amsa tambayoyi masu nau'i da yiwuwar da aka daidaita yana iya dacewa da aikin, amma yiwuwar dacewa ba ta da tsada. Takardar ta tashi ne don ta samar da awon da ya ɓace.

Dalilin da ya sa gazawar daidaito ta fi wuya fiye da yadda take bayyana #

Kafin awon, akwai wata matsala. Yawancin waɗannan gazawa suna da alaƙa, ana ayyana su ne a kan wani abin nuni da amsar ita kaɗai ba ta bayyanawa. Sycophancy misali ne mai kyau na wannan ra'ayi: ko amsa tana bin kuskuren imanin mai amfani ya danganta da menene imanin da kuma ko kuskure ne, kuma babu ɗaya daga cikin waɗannan gaskiyoyi da ake gani a rubutun amsar ita kaɗai.

Wannan yana da sakamako ga ƙirar na'urar gano matsala wanda takardar ta faɗa da taka-tsantsan da ya dace. Na'urar gano matsala da ke ganin amsar kawai za ta iya rasa abin nunin da ke ayyana gazawar. Kalmar "za ta iya" tana da muhimmanci; ba a ce kowace gazawa na bukatar abin nuni ba, sai dai wasu suna bukata kuma kallo na amsa kaɗai zai iya rasa shi.

Haka kuma yana sa gano dalili ya yi wuya. Idan gazawa suna da alaƙa, rashin kyakkyawan ganowa zai iya fitowa daga tambayar ko daga state da ba ta da abin nunin. Abubuwa biyu ne za su iya yin kuskure, kuma ƙaramin maki ba ya faɗin wanne. Wataƙila ba a tsara kalmomin tambayar da kyau ba. Wataƙila tambayar tana da kyau amma shigarwar ba ta taɓa ƙunsar abin da ake bukata don amsa ta ba. Gwajin da ke son faɗin wani abu mai amfani game da na'urar gano matsala dole a gina shi yadda za a iya raba waɗannan dalilai biyu.

Mai haɓakawa, a nasa ɓangaren, yana lissafa ma'ana ba kai tsaye ba da kuma abun ciki na adawa (adversarial) a cikin sanannun raunin Jev. Yana da kyau a riƙe wannan a zuciya yayin karanta sakamakon da ke ƙasa, domin wasu nau'o'in gazawa sun dogara ne ainihin a kan waɗannan siffofi.

Ɗaukar ganowa a matsayin rarrabewa #

Tsarin takardar a hukumance mai sauƙi ne. Tana ɗaukar gano gazawar daidaito a matsayin rarrabewar binary a kan mu'amalolin samfurin da ake nufi. Na'urar gano matsala tana ba da maki s(x) ∈ [0, 1] kuma tana nuna x idan s(x) ≥ t. Wato dole ta jera gazawa sama da waɗanda ba gazawa ba kuma ta raba su a wata iyaka t.

Waɗannan ayyuka biyu ana iya raba su, kuma sakamakon takardar ya rabu daidai a wannan ɗinkin. Jerawa ita ce abin da AUROC ke aunawa. Rabawa a iyaka ita ce ta dogara da daidaitawa, kuma labarin zai dawo kanta domin a nan ne Jev ya gaza. Na'urar gano matsala za ta iya jerawa da ƙwarewa sosai amma har yanzu ba za a iya amfani da ita a t=0.5 ba idan yiwuwarta suna a wurin da bai dace ba.

RLCDAlignBench #

Ana kiran gwajin RLCDAlignBench. Ya ƙunshi nau'o'in gazawa goma a gwaje-gwaje 44 da misalan ganowa 7,193. Misalan sun fito ne daga samfuran da ake nufi guda biyar na buɗaɗɗen tushe masu girman 2–7B, kowanne mai lakabi daga mai cin gwajinsa na asali. Don haka mu'amalolin da ake yanke wa hukunci sun fito ne daga ƙananan buɗaɗɗun samfura, kuma gaskiyar ƙasa ga kowanne ita ce abin da mai cin gwajin asali ya faɗa.

Ba kowane gwaji ke ɗauke da irin lakabi ɗaya ba. Ana amfani da lakabobin mutane a StrongREJECT da HarmBench, da lakabobin alƙali na biyu a AbstentionBench da InstrumentalEval, don kwatanta Jev da alƙali. Wannan yana ba takardar nau'i biyu na binciken waje a kan masu cin gwaji na asali: mutane a wasu lokuta, alƙali na biyu a wasu.

An bayyana abin da aka fitar a matsayin gwaje-gwaje 44 a nau'o'in gazawa goma tare da bambance-bambancen mahallin (context variants), amsoshin Jev da aka adana, da rubutun sake ci, tare da ƙa'idar raba-rabi (split-half) da ke cire hauhawar zaɓi daga ci gaban da aka ruwaito. Kowane ɓangare yana amsa wata bukata ta zahiri. Bambance-bambancen mahallin suna bari mai karatu ya tambayi abin da ke faruwa idan state ta ƙunshi ƙari. Amsoshin da aka adana da rubutun sake ci suna bari wani ya sake samar da lamba ba tare da sake gudanar da samfurin ba. Ƙa'idar raba-rabi tana magance wani tarko na hanyar bincike, wanda ya cancanci sashensa.

Tarkon zaɓi #

Ana iya yi wa Jev tambayoyi da yawa game da shigarwa ɗaya. Wannan shi ne babban fa'idarsa, kuma haɗari ne ga tantancewa. Idan ka gabatar da jerin tambayoyin ɗan takara ka kuma ruwaito wadda ta fi samun maki, ka yi bincike a cikin tambayoyi ka ruwaito wanda ya ci. Takardar ta faɗa kai tsaye: ruwaito mafi kyau daga cikinsu zai ƙara girman abin da mai aiki zai samu a zahiri.

Duk wanda ya taɓa daidaita umarni (prompt) a kan saitin gwaji zai gane wannan. Maganin da aka yi amfani da shi a nan mai sauƙi ne. Ana zaɓar tambayoyi a rabin abubuwan kuma a ci su a ɗayan rabin. Ana zaɓar tambayar da aka nufa a rabin abubuwan kuma a ci ta a ɗayan rabin, a raba-raba 20. Zaɓi ba ya taɓa abubuwan da ke samar da lambar da aka ruwaito.

Wannan yana da muhimmanci ga yadda za a karanta kowane ci gaba da aka ruwaito a ƙasa. Hujjar takardar ita ce ƙa'idar raba-rabi tana cire hauhawar zaɓi daga ci gaban da aka ruwaito. Lokacin da takardar ta ce kalmomin da aka nufa suna ba da tsakiyar ci gaba na +0.006 AUROC, wannan lamba ta fito ne daga kalmomin da aka zaɓa aka kuma ci a rabi daban-daban. Lamba ƙarama haka, da aka auna da gaskiya, ta fi amfani fiye da babbar lamba da ta haɗa la'anar wanda ya ci a ɓoye.

Babban sakamako: tambaya ɗaya ta gama-gari #

Yanzu sakamakon da yawancin masu karatu za su so. Tambaya ɗaya ta gama-gari tana kai tsakiyar AUROC na 0.886 ba tare da horo ba kuma tana doke tsarin asali masu kulawa (supervised baselines) a yawancin gwaje-gwaje.

Mu ɗauki kalmomin ɗaya bayan ɗaya. "Tambaya ɗaya ta gama-gari" tana nufin babu tsara umarni na musamman ga kowane gwaji. "Ba tare da horo ba" (zero-shot) yana nufin babu horo a kan gwajin da ake nufi. "Tana doke tsarin asali masu kulawa a yawancin gwaje-gwaje" yana nufin tsarin da aka horar a kan bayanai masu lakabi daga aikin suna faɗuwa a gaban tambayar da babu wanda ya daidaita ta, a yawancin gwaje-gwajen da aka duba. Iƙirarin ya tsaya a "yawancin", haka kuma wannan labarin.

Tambayar gama-gari tambaya ce ta samfuri da ake karanta ta a matsayin P(yes). Adadin yana ruwaito AUROC na gwaje-gwaje 38 da ake iya amfani da su, kuma ba a yi tambayar gama-garin a gwaje-gwaje 7 ba. Don haka babban adadin tsakiya ne a kan gwaje-gwajen da tambayar gama-garin ta shafa, daga cikin 38 ɗin da ake iya amfani da su. Mai karatu mai hankali ya riƙe masu raba lissafi a fili: gwaje-gwaje 44 ne gaba ɗaya, 38 ake iya amfani da su don wannan adadi, kuma tambayar gama-garin tana da giɓin 7.

Ina ganin sakamakon ba tare da horo ba shi ne rabin jumlar da ya fi ban sha'awa. Doke tsarin asali masu kulawa magana ce game da matsayi idan aka kwatanta. Tsakiyar AUROC na 0.886 ba tare da horo na musamman ga aikin ba tana faɗin wani abu game da yawan alamar gazawa da ke hannun samfurin da ke karanta state ya amsa tambaya mai sauƙi. Ko hakan ya shafi nau'o'in gazawa da ke wajen waɗannan goma ba abu ne da iƙirarin suka yi magana a kai ba.

Kalmomi ba su da wani muhimmanci #

Idan ka ɓata lokaci kan tsara umarni (prompt engineering), sakamakon na gaba zai ɗan yi zafi. Kalmomin tambaya ba su da tasiri sosai, yayin da mahalli ya fi muhimmanci, galibi ta hanyar filayen da ke ɗauke da lakabin.

Bayanin takardar game da dalili takamaiman ne. Da zarar an riƙe amsoshi a matsayin yiwuwa maimakon hukuncin argmax, kalmomin tambaya ba su da tasiri sosai kuma abin da state da lakabin suka ƙunsa yana da tasiri sosai. Wannan lura ce game da bayani. Hukuncin argmax yana jefar da tazarar da amsa ɗaya ta doke wata, kuma canjin kalmomi zai iya juyar da hukuncin zuwa ɗayan gefen iyakar. Yiwuwa tana riƙe da tazarar, don haka sake tsara kalmomi da ya ɗan tura shaidar kaɗan yana motsa yiwuwar kaɗan kuma ya bar jerin galibi yadda yake.

Zan tsaya a kan abin da takardar ta faɗa: idan aka riƙe yiwuwa, kalmomi ba su da tasiri sosai. Ba zan faɗaɗa shi zuwa bayanin yadda abin ke aiki ba, domin iƙirarin ba su ba da ɗaya ba.

Lambobin suna goyon bayan maganar. Kalmomin da aka nufa suna ba da tsakiyar ci gaba na +0.006 AUROC, da aka zaɓi kalmomin aka kuma ci su a rabi daban-daban. A wajen samfurin, kalmomin da aka nufa suna ƙara +0.006 [−0.004, +0.015] AUROC. Tazarar ta haɗa da sifili. Kada mai karatu ya ɗauki +0.006 a matsayin ci gaba mai dogaro; tazarar tana yarda da ƙaramar asara kamar yadda take yarda da ƙaramar riba. Ga mai aiki, karatu mai amfani shi ne neman kalmomi masu wayo ba zai biya ƙoƙarin ba, aƙalla a waɗannan gwaje-gwaje.

Wannan ya kamata ya canza yadda ƙungiyoyi ke raba lokacinsu. Idan kalmomi kusan ba su da tasiri, sa'o'in da ake kashewa a kansu sun fi kyau a kashe su a kan state.

Mahalli ne inda ci gaban yake #

To me state ke ƙunshe da shi, kuma me ya kamata ta ƙunsa? Binciken takardar shi ne mahalli ya fi muhimmanci, galibi ta hanyar filayen da ke ɗauke da lakabin. Babban ra'ayin ƙirar binciken shi ne a bambanta abin da ake tambayar Jev daban da abin da yake gani: kalmomin tambayar da nau'in amsarta a gefe ɗaya, filayen shigarwar a ɗaya gefen. Wannan rabuwa ita ce ke bari takardar ta ce kalmomi ba su da tasiri sosai yayin da mahalli ya fi muhimmanci. Ba tare da ita ba, tasirin biyu za su cuɗe juna.

Babban misalin shi ne PrivacyLens. Abubuwan nuni da ke ayyana lakabin ne ke kawo babban ci gaba, kamar jerin abubuwan sirri na PrivacyLens (0.79→0.95). Hawa daga 0.79 zuwa 0.95 AUROC babba ne idan aka kwatanta da +0.006 daga kalmomi. Abin nunin a nan jerin abubuwan sirri ne, wanda shi ne ainihin irin abin da tattaunawar baya kan gazawa masu alaƙa ta hasashen zai yi muhimmanci: ko amsa tana fitar da wani abu na sirri ya danganta da abin da ake ɗauka a matsayin sirri, kuma amsar ita kaɗai ba ta faɗi hakan ba.

Akwai gargaɗi game da turawa aiki, kuma yana da muhimmanci. Mahallin da mai sa ido da aka tura zai riƙe yana taimakawa a gwaji 1 cikin 7. Babban ci gaba yana fitowa daga abubuwan nuni da ke ayyana lakabin, amma mai sa ido da aka tura ba lallai ba ne ya same su. Abin da mai sa ido zai riƙe a zahiri yana taimakawa a gwaji ɗaya kawai cikin bakwai.

Wannan bincike ne mai natsuwa, kuma ina ganin ita ce jumlar da ta fi muhimmanci a kasuwanci a cikin takardar. Tana raba lambar ɗakin gwaji da lambar fage. Na'urar gano matsala da aka tantance tana riƙe da abin nunin da ke ayyana lakabin tana amsa tambaya mafi sauƙi fiye da wadda mai sa ido da aka tura ke fuskanta. Ci gaban gaskiya ne, amma takardar ta bayyana a fili wanne daga cikinsu turawa aiki za ta iya dogara a kai.

Takardar kuma ta nuna iyakar wani gwaji ɗaya. A Open-Prompt-Injection, lakabin yana bin daidaiton aikin da aka saka. Wannan misali ne na lakabi da ma'anarsa ke daure da wata siffa ta aikin, wanda ya shafi abin da za a iya tsammanin na'urar gano matsala ta gani daga state. Ba zan wuce wannan zuwa wasu ƙarshe ba, domin iƙirarin ba su bayar da ko ɗaya ba.

Kuɗi #

Yanzu lambar da ke sa tattalin arzikin ya zama a fili. Jev yana da arha sau 63 fiye da masu ci na LLM-judge. Kwatancen takamaimai: zagaye ɗaya a kan gwaje-gwaje 19 da alƙali ke ci yana kashe $0.30, ƙasa da sau 63 fiye da alƙalansu a farashin jeri. Kwatancen kuɗin ya shafi zagaye ɗaya a kan gwaje-gwaje 19 masu alƙalin API a farashin jeri.

A yi hankali da iyaka. Kwatancen na gwaje-gwaje 19 ne da ke amfani da alƙalan API, a farashin jeri, don zagaye ɗaya. Bai shafi kowane gwaji a cikin rukunin ba, kuma bai shafi farashi mai rangwame ba. A cikin wannan iyaka, rabon babba ne, kuma ya biyo bayan tsarin da aka bayyana a baya: babu zagayen decoding a kowane ma'auni.

Ka tuna da bukatar farko, cewa na'urar gano matsala da ke aiki a kan kowane saƙo dole ta zama mai arha. $0.30 don cikakken zagaye a kan gwaje-gwaje 19 shi ne yadda "arha" yake a wannan takarda. Takardar ba ta mayar da shi farashin kowane saƙo ba, ni ma ba zan yi ba.

Yarjejeniya da mutane, da abin da saɓani ya bayyana #

Arha yana da ban sha'awa ne kawai idan na'urar gano matsalar ma tana da gaskiya. Inda lakabobin mutane ke ba da damar dubawa, Jev yana yarda da su kamar yadda alƙalin ke yi, a ɗan ƙaramin kuɗi.

Shaidar da ta fi takamaimai ta fito daga StrongREJECT. A kan lakabobin mutane a can, tambayar gama-gari tana yarda kamar mai cin asali (Cohen's κ 0.809 da 0.811) kuma tana jerawa fiye da shi. Ƙimomin κ biyu sun bambanta da 0.002, don haka karatu mai hankali shi ne kunnen doki a yarjejeniya, Jev kuma yana gaba a jerawa.

Sai kuma sakamakon da nake ganin ya fi amfani a aikace, domin yana mayar da na'urar gano matsala kayan aikin bincike (audit). Saɓanin Jev mai ƙwarin gwiwa ya bayyana lahani masu canza lakabi a gwaje-gwaje uku, da lakabobin da state ba za ta iya bayyanawa ba a wasu huɗu. Idan na'urar gano matsala mai ƙwarin gwiwa ta saɓa wa lakabin asali na gwaji, bayani ɗaya shi ne na'urar ce ta yi kuskure. Takardar ta ruwaito cewa a wasu lokuta saɓanin ya nuna gwajin ne: gwaje-gwaje uku suna da lahani masu canza lakabi, kuma wasu huɗu suna da lakabobin da state ba za ta iya bayyanawa ba.

Rukuni na biyu yana komawa kan batun alaƙa. Lakabin da state ba za ta iya bayyanawa ba lakabi ne da wani abu da bai taɓa shiga shigarwar ba ya ayyana shi. Babu na'urar gano matsala da ke karanta wannan state da za ta iya dawo da shi. Gano irin waɗannan lokuta gudunmawa ce daban da ƙara maki, domin tana gaya wa masu kula da gwaje-gwaje inda bayanansu da lakabobinsu suka rabu.

Raunin wuri: daidaitawa #

A nan dole labarin ya faɗi gaskiya kai tsaye, domin takardar ta yi hakan. Yiwuwar tana jerawa da kyau amma ba ta wucewa a matsayin iyaka: tsakiyar ECE 0.168 ce a kan sifirin kwatance (null) na 0.074, a lakabobin da aka tabbatar da na alƙali duka, domin matsakaicin yiwuwar Jev yana kauce wa adadin asali na kowane gwaji.

Ga yadda ɓangarorin suka haɗu. AUROC tana auna jerawa, kuma jerawa tana da ƙarfi. Iyaka wani abu ne daban. Idan matsakaicin yiwuwar fitarwar samfurin bai dace da yawan faruwar gazawa a wani gwaji ba, to t=0.5 tana faɗawa a wurin da bai dace ba, kuma kuskuren daidaitawa da ake tsammani (ECE) yana da yawa. Tsakiyar ECE ta 0.168 tana sama da null ɗin 0.074, wanda ya fi muni fiye da wurin nunin da takardar ta zaɓa. Kuma hakan gaskiya ne a lakabobin da aka tabbatar da na alƙali duka, don haka raunin ba sakamakon hayaniyar lakabobin alƙali ba ne.

Ka tuna da tsarin hukuma: dole na'urar gano matsala ta jera gazawa sama da waɗanda ba gazawa ba kuma ta raba su a iyaka. Jev yana yin na farko da kyau kuma na biyu ba da kyau ba idan ba a gyara shi ba. Sunan dabarar yana ɗauke da "calibrated decisions", kuma daidaitawar da aka auna a nan ba ta tafiya a tsakanin gwaje-gwaje, saɓanin da ya kamata a faɗa a fili. Takardar ta danganta giɓin da adadin asali kuma ba ta iƙirarin wani abu fiye da haka.

Sakamakon a aikace: a matsayin madadin alƙali, Jev yana bukatar wasu lakabobi don saita iyakarsa. Wannan kuɗi ne na gaske, kuma yana rage iƙirarin cewa za a iya musanya shi kai tsaye. Ba za ka iya nuna shi ga sabon nau'in gazawa ka amince da t=0.5 ba.

Girke-girken #

Shawarar takardar a taƙaice take. Girke-girken shi ne tambaya ta gama-gari da ake karanta ta a matsayin yiwuwa, da iyakarta da aka daidaita a kan abubuwa goma masu lakabi, wanda ke ɗaga F1 inda Jev ba ya yawan nunawa a t=0.5 kuma yana kashe 0.025 a lakabobin da aka tabbatar.

Mu warware shi. Tambayar gama-gari tana magance matsalar kalmomi ta hanyar ƙin tsara su, wanda ya dace da binciken cewa kalmomi ba su da tasiri sosai. Karanta amsar a matsayin yiwuwa yana riƙe da tazarar. Daidaita iyaka a kan abubuwa goma masu lakabi yana magance kaucewar adadin asali. Tasirin a kan F1 yana da kyau inda Jev ba ya yawan nunawa a t=0.5. A lakabobin da aka tabbatar, girke-girken yana kashe 0.025.

Wannan lamba ta ƙarshe ta cancanci a tsaya a kanta. Girke-girken ba shi da rashin asara: a lakabobin da aka tabbatar yana kashe 0.025. Takardar ta ruwaito musayar maimakon ɓoye ta, kuma na fi son in ambaci girke-girke mai bayyanannen kuɗi fiye da wanda ake tallata a matsayin riba tsantsa. Iƙirarin ba su faɗi a wane ma'auni ake auna 0.025 ɗin ba bayan mahallin lakabobin da aka tabbatar, don haka ba zan yi hasashe ba.

Abubuwa goma masu lakabi ƙaramar bukata ce. Aikin rana ɗaya ne na yin lakabi ga yawancin ƙungiyoyi, idan aka kwatanta da kuɗin gudanar da alƙali a kan kowane saƙo. Amma sharaɗi ne, kuma ƙungiyar da ba za ta iya samar da ko abu ɗaya mai lakabi ga sabon nau'in gazawa ba kada ta yi tsammanin iyakar za ta gyara kanta.

Abin da mai aiki ya kamata ya ɗauka #

Abubuwa da dama sun biyo baya, kuma zan tsaya a kansu domin shaidar tana goyon bayansu.

Na farko, a daina ƙoƙarin inganta kalmomin tambaya. Ci gaban wajen samfurin daga kalmomin da aka nufa +0.006 ne da tazara daga −0.004 zuwa +0.015. Wannan ba tushe ba ne na zuba jari.

Na biyu, a kashe ƙoƙarin a kan state. Babban ci gaba ya fito ne daga abubuwan nuni da ke ayyana lakabin. Idan za a iya ba mai sa idonka abin nunin da ke ayyana gazawar, a nan ne ingantawa take. Idan ba za a iya ba, a yi tsammanin ƙasa: mahallin da mai sa ido da aka tura zai riƙe ya taimaka a gwaji 1 cikin 7. A tsara bisa lambar da za ka samu a turawa aiki maimakon lambar da kake samu a gwaji inda abin nunin yake cikin shigarwar.

Na uku, a ware kasafin kuɗi don daidaitawa. A shirya yin lakabi ga abubuwa goma a kowane nau'in gazawa a daidaita iyakar. Kada a fitar da t=0.5.

Na huɗu, a yi amfani da saɓani a matsayin alama. Saɓani mai ƙwarin gwiwa da lakabobin asali ya bayyana lahani a gwaje-gwaje uku da lakabobin da ba za a iya bayyanawa ba a wasu huɗu. Idan ka gudanar da wannan a kan rukunonin tantancewarka, ka yi tsammanin zai iya gaya maka game da lakabobinka kamar yadda yake gaya maka game da samfuranka. Wannan hasashe ne daga binciken takardar ba iƙirari da aka auna game da wani rukuni na musamman ba, don haka ka ɗauke shi a matsayin gayyata don dubawa.

Na biyar, a tuna da sanannun rauni. Mai haɓakawa yana lissafa ma'ana ba kai tsaye ba da abun ciki na adawa a cikin sanannun raunin Jev. Mai sa ido da ke da muhimmanci ga tsaro zai haɗu da abun ciki na adawa. Iƙirarin a nan ba su ruwaito yadda Jev ke aiki a kansa ba, don haka wannan gefe ne da ya rage a buɗe, kuma zan so a gwada shi kafin a amince da turawa aiki.

Karanta sakamakon a kan hujjar kasuwanci #

Masu kafa kamfani za su so su san inda wannan yake. Hujjar kuɗi ita ce mafi ƙarfi: na'urar gano matsala da ke aiki a kan kowane saƙo dole ta zama mai arha, kuma raguwar sau 63 idan aka kwatanta da masu ci na LLM-judge tana canza waɗanne turawa aiki ne masu yiwuwa ta fuskar kuɗi. Hujjar daidaito ita ce ta biyu: AUROC ba tare da horo ba na 0.886 da nasara a kan tsarin asali masu kulawa a yawancin gwaje-gwaje.

Gargaɗin suna tsara abin da za a iya sayarwa da gaskiya. Na'urar gano matsalar tana bukatar wasu lakabobi a kowace iyaka. Daidaitawarta ba ta tafiya. Mafi girman ci gabanta ya dogara da abubuwan nuni da turawa aiki ba lallai ta samu ba. Waɗannan sharuɗɗan amfani ne, kuma duk samfurin da aka gina a kan wannan ya kamata ya faɗe su maimakon ɓoye su. Babu ɗaya daga cikinsu da ke raunana hujjar kuɗi; suna bayyana aikin shiri ne.

Akwai kuma wani batu mai natsuwa game da awon kansa. RLCDAlignBench, tare da bambance-bambancen mahallinta, amsoshin Jev da aka adana, rubutun sake ci da ƙa'idar raba-rabi, kadara ce ta tantancewa da za a iya sake amfani da ita. Gwajin da ke cire hauhawar zaɓi daga ci gaban da aka ruwaito shi ne irin abin da ke ba da damar kwatanta iƙirarin da za su zo nan gaba. Wannan wani irin daraja ne daban da na'urar gano matsalar.

Abin da ya rage a buɗe #

Wasu iyakoki a fili suke daga iƙirarin. Samfuran da ake nufi samfura biyar ne na buɗaɗɗen tushe masu sigogi 2–7B, don haka sakamakon yana bayyana gazawa a mu'amaloli daga samfura masu irin wannan girma. Ba a yi tambayar gama-garin a gwaje-gwaje 7 ba, kuma babban AUROC tsakiya ne a kan gwaje-gwajen da aka yi ta. Lakabobin daga masu cin asali ne, tare da lakabobin mutane da na alƙali na biyu da suka shafi StrongREJECT, HarmBench, AbstentionBench da InstrumentalEval.

Tambayar da ke buɗe wadda ta fi ba ni sha'awa ita ce wadda tsarin takardar kanta ke tasowa. Gazawa suna da alaƙa; state sau da yawa ba ta da abin nunin; kuma mahallin mai sa ido da aka tura ya taimaka a gwaji 1 kawai cikin 7. Ƙirar kira ɗaya ta Jev tana bari tambayoyi da yawa su raba shigarwa ɗaya, amma babban makami ya zama waɗanne filaye shigarwar ke ɗauke da su. Yadda turawa aiki ya kamata ta samu abin nunin da ke ayyana lakabin a lokacin sa ido, kamar jerin abubuwan sirri don duba sirri, shi ne abu na gaba da za a warware. Takardar ta nuna cewa ci gaban yana nan a samu (0.79→0.95 a PrivacyLens), kuma ta bar a buɗe ko za a iya ba mai sa ido da aka tura shi da arha har ya riƙe fa'idar sau 63.

Abin da Wannan ke Nufi ga Kowane Fanni #

Ikon tantance ma'aunan daidaito masu sarƙaƙiya ta hanyar kawunan yanke hukunci da aka daidaita, a ɗan ƙaramin kuɗin inference, yana sake fasalin tsaron aiki a fannoni da dama.

Masu samar da ƙofar AI da dandalin tsaro #

Kamfanonin ababen more rayuwa da ke tura shingen tsaro na lokaci-lokaci za su iya maye gurbin tsarin jeri mai tsada (kiran masu rarrabewa daban-daban na prompt injection, toxicity da privacy) da kawunan RLCD masu tambayoyi da yawa da aka haɗa. Kuɗin aiki yana raguwa da fiye da sau 60 yayin da jinkiri ke iyakance a zagayen gaba ɗaya.

Ƙungiyoyin gudanar da AI da bin ka'idojin bincike #

Kwamitocin haɗari da ke tantance halayen samfura a kan ƙa'idoji kamar bukatun babban haɗari na EU AI Act ko NIST AI RMF suna samun rajistar bincike mai ƙayyadadden tsari kuma ta hanyar yiwuwa. Maimakon ra'ayoyin LLM-judge na labari marasa tsari, tsarin yana adana rarrabuwar yiwuwa da aka daidaita da ke tallafa wa sarrafa tsari na ƙididdiga da sa ido kan sauyi.

Ƙungiyoyin turawa aiki a kamfanoni da red-teaming #

Ƙungiyoyin tsaro za su iya tura na'urorin gano gazawa na musamman cikin sauri ta hanyar rubuta wakilcin state da aka mayar da hankali da daidaita iyakokin hukunci a kan misalai goma kacal na fannin, wanda ke kawar da zagayen fine-tuning na makonni da dama da ake bukata a da don masu rarrabewa na musamman.

Kammalawa #

Tantance Jev a RLCDAlignBench ya kafa wata hanya mai gamsarwa ta tsari don sa ido kan samfura a aikin gaske: karanta yiwuwar da aka daidaita a kan tambayoyi masu nau'i da yawa a zagayen gaba ɗaya yana doke alƙalan LLM na autoregressive a kuɗi da masu rarrabewa na token ɗaya a sassauci. Ko da yake dole masu aiki su ware kasafi don daidaita iyaka ta hanyar gwaji maimakon ɗauka cewa yiwuwa tana wucewa kai tsaye, fa'idar tattalin arziki ta sau 63 tana sa cikakken sa ido na lokaci-lokaci ya yiwu a babban mataki.

Tambayoyin da Ake Yawan Yi #

Me ya sa alƙalan LLM masu ƙirƙira ba su dace da sa ido na lokaci-lokaci a aikin gaske ba?

Alƙalai masu ƙirƙira suna bukatar cikakken zagayen decoding na autoregressive ga kowane ma'aunin tsaro ko daidaito da ake tantancewa. A manhajojin masu amfani ko na kamfani masu yawan zirga-zirga, gudanar da kiran alƙali masu ƙirƙira da yawa a kowane saƙo yana kawo jinkiri mai tsanani kuma yana ƙara kuɗin aiki sau da dama.

Menene Reinforcement Learning for Calibrated Decisions (RLCD)?

RLCD hanyar horo ce da ke inganta samfura don su samar da yiwuwar posterior da aka daidaita sosai a kan kawunan yanke hukunci masu tsari maimakon samar da jerin token. Wannan yana bari samfurin ya tantance tambayoyi da yawa na ra'ayi a lokaci guda cikin tantancewa ta gaba ɗaya.

Me ya sa iyakokin yanke hukunci ke bukatar daidaitawa a kan bayanan gida?

Ko da yake samfuran RLCD sun ƙware wajen jera mu'amaloli bisa yiwuwar gazawa (suna samun AUROC mai yawa), matsakaicin yiwuwarsu yana canzawa gwargwadon adadin asali na fannin da ake nufi. Daidaita iyakar yanke hukunci ta aiki a kan misalai kusan goma masu lakabi na fannin yana tabbatar da hankali da ya dace ba tare da yawan ƙararrawar ƙarya da ba za a karɓa ba.

Manazarta #

• Mrinank Sharma et al., (2024). Zuwa ga Fahimta da Rage Sycophancy a Samfuran Harshe ⧉. arXiv.
• RLCDAlignBench Consortium, (2026). Gano Gazawar Daidaito Mai Ma'auni da Yawa ta Kawunan Yanke Hukunci da Aka Daidaita ⧉. arXiv.
• Anthropic / Alignment Research, (2025). Constitutional AI da Yanayin Masu Tantancewa ⧉. Anthropic.
• NIST, (2024). Artificial Intelligence Risk Management Framework (AI RMF 1.0) ⧉. NIST.

Bita ta ƙarshe 2026-09-30.

Bita ta ƙarshe 2026-10-27.

# Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau

> Originally published at [https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/](https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/)

RLCDAlignBench ta auna Jev a gwaje-gwaje 44: tsakiyar AUROC 0.886 ba tare da horo ba kuma arha sau 63, amma har yanzu iyakar hukunci na bukatar lakabi goma.

Read the full article on sebastienrousseau.com: https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/

Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau

RLCDAlignBench ta auna Jev a gwaje-gwaje 44: tsakiyar AUROC 0.886 ba tare da horo ba kuma arha sau 63, amma har yanzu iyakar hukunci na bukatar lakabi goma.

https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/

Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau

RLCDAlignBench ta auna Jev a gwaje-gwaje 44: tsakiyar AUROC 0.886 ba tare da horo ba kuma arha sau 63, amma har yanzu iyakar hukunci na bukatar lakabi goma.

Ga abubuwan da ya kamata a lura da su na dabarun:

- Tsarin kuɗin sa ido a kan kowane saƙo. Samfuran da aka tura aiki har yanzu suna bin kuskuren imanin mai amfani (Sharma et al., 2024).
- Abin da Jev ke yi daban. An horar da Jev da reinforcement learning for calibrated decisions (RLCD).
- Dalilin da ya sa gazawar daidaito ta fi wuya fiye da yadda take bayyana. Kafin awon, akwai wata matsala.
- Ɗaukar ganowa a matsayin rarrabewa. Tsarin takardar a hukumance mai sauƙi ne.

Menene hanyar ƙungiyar ku wajen magance ƙalubalen da aka kawo a wannan rubuce-rubucen?

→ https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/

#Jev #Rlcd #Rlcdalignbench #GanoGazawarDaidaito #YiwuwarDaAkaDaidaita

Sebastien Rousseau | CC-BY-4.0

@online{rousseau2026mai,
  author  = {Rousseau, Sebastien},
  title   = {{Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau}},
  year    = {2026},
  url     = {https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/},
  urldate = {2026}
}

TY  - GEN
AU  - Rousseau, Sebastien
TI  - Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau
PY  - 2026
UR  - https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/
ER  -

Rousseau S. Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau. sebastienrousseau.com. 2026 Sep 30. Available from: https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/

Rousseau, Sebastien. "Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau." sebastienrousseau.com. September 30, 2026. https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/.

Rousseau, S. (2026, September 30). Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau. sebastienrousseau.com. https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/

Mai gano gazawa da ke karanta yiwuwa, ba hukunci ba: Jev a gwaji 44 — Sebastien Rousseau

RLCDAlignBench ta auna Jev a gwaje-gwaje 44: tsakiyar AUROC 0.886 ba tare da horo ba kuma arha sau 63, amma har yanzu iyakar hukunci na bukatar lakabi goma.

Originally published at https://sebastienrousseau.com/ha/2026-09-30-mai-gano-gazawa-ke-karanta-yiwuwa/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU · FOUNDER · ENGINEER