Aṣàwárí tí ń ka ìṣeéṣe dípò ìdájọ́: Jev nínú ìdánwò àfiwé 44

Aṣàwárí ìkùnà ìbáramu tí ó ń dáhùn ọ̀pọ̀ ìbéèrè onírúurú nínú ìpè kan ṣoṣo, pẹ̀lú ìṣeéṣe tí a ti ṣàtúnṣe, ń to àwọn ìkùnà dáadáa, ó sì fi ìlọ́po 63 wọ́n ju àwọn olùdíwọ̀n LLM-judge lọ. Ṣùgbọ́n àwọn ìṣeéṣe wọ̀nyẹn kò ṣeé gbé lọ gẹ́gẹ́ bí ààlà ìpinnu, àmì (label) àti ìtọ́kasí rẹ̀ sì ṣe pàtàkì jù bí a ṣe sọ ìbéèrè náà lọ.

Ìnáwó ṣíṣọ́ gbogbo ìfiránṣẹ́ #

Àwọn àwòṣe tí a ti gbé jáde ṣì ń tẹ̀lé ìgbàgbọ́ àṣìṣe olùmúlò (Sharma et al., 2024). Gbólóhùn yẹn kò tóbi, ṣùgbọ́n òun ló ń ṣe ìlànà gbogbo ìṣòro náà. Bí irú sycophancy bẹ́ẹ̀, ìyẹn títẹ̀ sí ìfẹ́ olùmúlò, bá ń bá a lọ nínú àwọn ètò tí a ti gbé jáde, a jẹ́ pé ẹnìkan gbọ́dọ̀ máa ṣọ́ ọ, ìṣọ́ náà sì gbọ́dọ̀ máa wáyé ní ìyára kan náà pẹ̀lú ìjíròrò fúnra rẹ̀.

Ibí ni ọ̀rọ̀ ọrọ̀ ajé ti ń jẹni. Aṣàwárí gbọ́dọ̀ péye, àti pé nítorí pé ó ń ṣiṣẹ́ lórí gbogbo ìfiránṣẹ́, ó gbọ́dọ̀ jẹ́ olówó pọ́ọ́kú. Ó rọrùn láti rí ọ̀kan nínú àwọn ànímọ́ méjì yìí nìkan: aṣàwárí aláìbìkítà kò wọ́n, àti pé aṣàwárí aláápọn tí ó wọ́n jù láti ṣiṣẹ́ lórí gbogbo ìfiránṣẹ́ ń ṣọ́ àpẹẹrẹ ìrìnnà nìkan. Ìbéèrè ẹ̀rọ tí ó dùn mọ́ni ni irú aṣàwárí wo ló lè jẹ́ méjèèjì.

Ìdáhùn ìsinsìnyí, gẹ́gẹ́ bí ìwé ìwádìí tí àpilẹ̀kọ yìí dá lé lórí ti sọ, ní àbùkù nínú ètò rẹ̀. Ọ̀pọ̀ jùlọ àwọn aṣàwárí ìkùnà ìbáramu jẹ́ adájọ́ onípilẹ̀ṣẹ̀dá (generative judges) tí ń ná ìyípo decoding kan lórí òṣùwọ̀n kọ̀ọ̀kan. Ní ṣókí, àwọn aṣàwárí ìsinsìnyí ń san ìyípo decoding kan fún òṣùwọ̀n kọ̀ọ̀kan tí wọ́n ń yẹ̀wò. Olùṣọ́ tí ó fẹ́ yẹ̀ oríṣi ìkùnà mẹ́wàá ọ̀tọ̀ọ̀tọ̀ wò ń sanwó fún ìyípo mẹ́wàá, owó náà sì ń pọ̀ sí i ní ìlà títọ́ pẹ̀lú iye àwọn nǹkan tí o bìkítà nípa wọn.

Àtúnṣe apá kan wà, ó sì dára láti ṣe kedere nípa ààlà rẹ̀. Àwọn olùpínsọ́wọ́ (classifiers) tí ń ka ìṣeéṣe token, bí Llama Guard, ṣì ń fún àmì kan tí ó dúró ṣinṣin ní máàkì nínú ìpè kọ̀ọ̀kan. Kíka ìṣeéṣe token ń fúnni ní máàkì, ṣùgbọ́n ìpè kọ̀ọ̀kan ṣì ń díwọ̀n àmì tàbí òṣùwọ̀n kan ṣoṣo, nítorí pé a ń ka ìṣeéṣe náà láti ara token ìdájọ́ kan. Ìyípo decoding ti lọ, ṣùgbọ́n ètò ìbéèrè-kan-ní-ìpè-kan ṣì wà. O ti dín owó ìpè kọ̀ọ̀kan kù láìyí iye ìpè tí o nílò padà.

Nítorí náà ìjiyàn nípa ètò lọ báyìí: àwọn adájọ́ onípilẹ̀ṣẹ̀dá wọ́n fún òṣùwọ̀n kọ̀ọ̀kan, àwọn olùpínsọ́wọ́ tí ń ka ìṣeéṣe kò wọ́n tó bẹ́ẹ̀ fún òṣùwọ̀n kọ̀ọ̀kan ṣùgbọ́n ọ̀kọ̀ọ̀kan ṣì so mọ́ òṣùwọ̀n kan. Kò sí èyíkéyìí nínú wọn tí ó jẹ́ kí o béèrè ọ̀pọ̀ ìbéèrè nípa ìgbéwọlé kan náà lẹ́ẹ̀kan náà.

Ìhà Ètò	Àwọn Adájọ́ LLM Onípilẹ̀ṣẹ̀dá (bí GPT-4 gẹ́gẹ́ bí Adájọ́)	Àwọn Olùpínsọ́wọ́ Token Kan (bí Llama Guard)	Aṣàwárí RLCD Ọlọ́pọ̀ Ìbéèrè (Jev)
Ọ̀nà Ìfúnni ní Máàkì	Ìyípo decoding autoregressive kíkún fún òṣùwọ̀n kọ̀ọ̀kan	Ìṣeéṣe softmax lórí token ìjáde kan	Tensor ìṣeéṣe tí a ṣàtúnṣe ọlọ́pọ̀ orí $P(\text{yes})$
Ìbéèrè ní Ìpè Kọ̀ọ̀kan	Àṣẹ ìgbéléwọ̀n 1 ní ìpè àwòṣe kọ̀ọ̀kan	Àmì ìpínsọ́wọ́ 1 ní ìpè àwòṣe kọ̀ọ̀kan	Ọ̀pọ̀ ìbéèrè binary/categorical/ordinal nínú ìpè 1
Owó Inference	Ga ($10–$50 fún ìbáṣepọ̀ 1,000)	Àárín ($0.50–$2.00 fún ìbáṣepọ̀ 1,000)	Ìlọ́po 63 kéré ($0.30 lórí ìdánwò àfiwé kíkún 19)
Iṣẹ́ AUROC	Dá lórí ìdánwò àfiwé; ó lè ní ìyípadà adájọ́	Ga lórí àwọn ẹ̀ka ààbò pàtó tí a kọ́	Àárín AUROC 0.886 láìsí ìdálẹ́kọ̀ọ́ lórí àkójọ 44
Dídára Ìṣàtúnṣe	Àlàyé àmọ̀dájú láìsí ìṣeéṣe tí ó tọ̀nà ní ìlànà	Logits tí kò dán láìsí ìṣàtúnṣe lẹ́yìn iṣẹ́	Ìṣeéṣe tí a ṣàtúnṣe; àárín ECE 0.168 (ó nílò nǹkan ~10 tí ó ní àmì)

Ohun tí Jev ń ṣe lọ́nà ọ̀tọ̀ #

A dá Jev lẹ́kọ̀ọ́ pẹ̀lú reinforcement learning for calibrated decisions (RLCD). Ó ń dáhùn ọ̀pọ̀ ìbéèrè onírúurú nípa ìgbéwọlé kan pẹ̀lú ìṣeéṣe tí a ti ṣàtúnṣe nínú ìpè kan ṣoṣo. Ó dára láti ṣàlàyé ọ̀nà iṣẹ́ yìí pẹ̀lú ìṣọ́ra, nítorí pé ìyókù àpilẹ̀kọ náà dá lé e lórí.

Àwòṣe RLCD ń dá ìpinnu padà pẹ̀lú ìṣeéṣe tí a ti ṣàtúnṣe fún ìbéèrè onírúurú kọ̀ọ̀kan dípò kí ó ṣẹ̀dá ọ̀rọ̀. Kò sí ìgbésẹ̀ ìṣẹ̀dá níbi tí a ti ń kọ ìdájọ́ jáde kí a tó túmọ̀ rẹ̀. Jev ń dáhùn ọ̀pọ̀ ìbéèrè binary, categorical àti ordinal nípa ìgbéwọlé kan, èyí tí ìwé náà pè ní state, nínú ìpè kan ṣoṣo. State ni ìgbéwọlé; àwọn ìbéèrè ni àwọn nǹkan tí o ń béèrè nípa rẹ̀.

Ìyẹn jẹ́ ìlà owó tí ó yàtọ̀ sí ti èyíkéyìí nínú àwọn ọ̀nà méjèèjì lókè. Bí àwọn ìbéèrè bá ń pín ìpè kan, fífi ìbéèrè kún un kò fi ìyípo decoding kún un. Àǹfààní fún olùṣọ́ tí ó bìkítà nípa ọ̀pọ̀ oríṣi ìkùnà lẹ́ẹ̀kan náà hàn gbangba, bó tilẹ̀ jẹ́ pé àwọn ìwọ̀n ìwé náà dá lórí ohun tí ìbéèrè gbogbogbò kan ṣoṣo ń ṣe, èmi yóò sì dúró lórí ohun tí a díwọ̀n.

Àlàfo kan wà, síbẹ̀. A kò tíì díwọ̀n bóyá Jev ń rí àwọn ìkùnà ìbáramu. Àwòṣe tí ń dáhùn ìbéèrè onírúurú pẹ̀lú ìṣeéṣe tí a ti ṣàtúnṣe dàbí ẹni pé ó bá iṣẹ́ náà mu, ṣùgbọ́n ìdàbí kò wọ́n. Ìwé náà gbéra láti pèsè ìwọ̀n tí ó sọnù náà.

Ìdí tí ìkùnà ìbáramu fi le ju bí ó ṣe hàn lọ #

Kí a tó dé ìwọ̀n náà, ìṣòro kan wà. Ọ̀pọ̀ nínú àwọn ìkùnà wọ̀nyí jẹ́ ti ìbáṣepọ̀, a ń ṣàlàyé wọn lòdì sí ìtọ́kasí kan tí ìdáhùn nìkan kò fi hàn. Sycophancy jẹ́ àpẹẹrẹ rere fún èrò gbogbogbò yìí: bóyá ìdáhùn kan tẹ̀ sí ìgbàgbọ́ àṣìṣe olùmúlò dá lórí ohun tí ìgbàgbọ́ náà jẹ́ àti bóyá ó jẹ́ àṣìṣe, kò sì sí ọ̀kan nínú òtítọ́ méjèèjì yẹn tí a lè rí nínú ọ̀rọ̀ ìdáhùn nìkan.

Èyí ní àbájáde fún àgbékalẹ̀ aṣàwárí tí ìwé náà sọ pẹ̀lú ìṣọ́ra tí ó yẹ. Aṣàwárí tí ó ń rí ìdáhùn nìkan lè máà ní ìtọ́kasí tí ó ń ṣàlàyé ìkùnà náà. Ọ̀rọ̀ náà "lè" ṣe pàtàkì; kò sọ pé gbogbo ìkùnà ló nílò ìtọ́kasí, bí kò ṣe pé àwọn kan nílò rẹ̀, àti pé wíwo ìdáhùn nìkan lè pàdánù rẹ̀.

Ó tún mú kí ṣíṣe ìwádìí ohun tí ó fà á nira. Bí àwọn ìkùnà bá jẹ́ ti ìbáṣepọ̀, ìwárí tí kò dára lè wá láti inú ìbéèrè tàbí láti inú state tí kò ní ìtọ́kasí náà. Nǹkan méjì ló lè ṣàṣìṣe, máàkì kékeré kò sì sọ èwo. Bóyá a kò sọ ìbéèrè náà dáadáa. Bóyá ìbéèrè náà dára ṣùgbọ́n ìgbéwọlé kò ní ohun tí a nílò láti dáhùn rẹ̀ rárá. Ìdánwò àfiwé tí ó fẹ́ sọ ohunkóhun tí ó wúlò nípa aṣàwárí gbọ́dọ̀ jẹ́ èyí tí a kọ́ lọ́nà tí a fi lè ya àwọn ohun méjèèjì tí ó lè fà á sọ́tọ̀.

Olùgbéejáde, ní tirẹ̀, ka ìtumọ̀ tí kò tààrà àti àkóónú ọ̀tá (adversarial) mọ́ àwọn àìlera Jev tí a mọ̀. Ó dára láti rántí èyí nígbà tí a bá ń ka àwọn àbájáde nísàlẹ̀, nítorí pé àwọn oríṣi ìkùnà kan gbára lé àwọn ànímọ́ wọ̀nyẹn gan-an.

Wíwo ìwárí gẹ́gẹ́ bí ìpínsọ́wọ́ #

Ètò àgbékalẹ̀ ìwé náà rọrùn. Ó ka ìwárí ìkùnà ìbáramu sí ìpínsọ́wọ́ binary lórí àwọn ìbáṣepọ̀ àwòṣe àfojúsùn. Aṣàwárí ń fún ní máàkì s(x) ∈ [0, 1] ó sì ń sàmì sí x nígbà tí s(x) ≥ t. Ìyẹn túmọ̀ sí pé ó gbọ́dọ̀ to àwọn ìkùnà sókè ju àwọn tí kì í ṣe ìkùnà lọ, kí ó sì ya wọ́n sọ́tọ̀ ní ààlà t.

A lè ya iṣẹ́ méjèèjì yẹn sọ́tọ̀, àwọn àbájáde ìwé náà sì pín gan-an ní ojú ìránṣọ yẹn. Ìtòlẹ́sẹẹsẹ ni AUROC ń díwọ̀n. Yíyà sọ́tọ̀ ní ààlà ni ó dá lórí ìṣàtúnṣe, àpilẹ̀kọ náà yóò sì padà sí i nítorí pé ibẹ̀ ni Jev ti kùnà. Aṣàwárí lè tò lọ́nà tí ó tayọ ṣùgbọ́n kí a má lè lò ó ní t=0.5 bí àwọn ìṣeéṣe rẹ̀ bá wà ní ibi tí kò tọ́.

RLCDAlignBench #

A pe ìdánwò àfiwé náà ní RLCDAlignBench. Ó bo oríṣi ìkùnà mẹ́wàá lórí ìdánwò àfiwé 44 àti àpẹẹrẹ ìwárí 7,193. Àwọn àpẹẹrẹ náà wá láti inú àwòṣe àfojúsùn márùn-ún oníṣísílẹ̀ tí ó jẹ́ 2–7B, tí olùdíwọ̀n ìtọ́kasí ìdánwò àfiwé rẹ̀ fi àmì sí ọ̀kọ̀ọ̀kan. Nítorí náà àwọn ìbáṣepọ̀ tí a ń dájọ́ wá láti inú àwọn àwòṣe kékeré oníṣísílẹ̀, òtítọ́ ilẹ̀ fún ọ̀kọ̀ọ̀kan sì ni ohun tí olùdíwọ̀n ti ìdánwò àfiwé ìpilẹ̀ṣẹ̀ sọ.

Kì í ṣe gbogbo ìdánwò àfiwé ló ní irú àmì kan náà. A ń lo àwọn àmì ènìyàn lórí StrongREJECT àti HarmBench, àti àwọn àmì adájọ́ kejì lórí AbstentionBench àti InstrumentalEval, láti fi Jev wé adájọ́ kan. Ìyẹn fún ìwé náà ní oríṣi àyẹ̀wò òde méjì lórí àwọn olùdíwọ̀n ìtọ́kasí: ènìyàn ní àwọn ìgbà kan, adájọ́ kejì ní àwọn mìíràn.

A ṣàpèjúwe ohun tí a tú jáde gẹ́gẹ́ bí ìdánwò àfiwé 44 lórí oríṣi ìkùnà mẹ́wàá pẹ̀lú àwọn ẹ̀yà àyíká (context variants), àwọn ìdáhùn Jev tí a tọ́jú, àti àwọn ìwé àfọwọ́kọ àtúndíwọ̀n, pẹ̀lú ìlànà ìpín-sí-méjì (split-half) tí ó ń yọ ìfikún yíyàn kúrò nínú àwọn ìlọsíwájú tí a ròyìn. Apá kọ̀ọ̀kan ń dáhùn àìní gidi kan. Àwọn ẹ̀yà àyíká jẹ́ kí òǹkàwé béèrè ohun tí ń ṣẹlẹ̀ nígbà tí state bá ní púpọ̀ sí i. Àwọn ìdáhùn tí a tọ́jú àti àwọn ìwé àfọwọ́kọ àtúndíwọ̀n jẹ́ kí ẹnìkan tún nọ́mbà kan ṣe láìtún àwòṣe náà ṣiṣẹ́. Ìlànà ìpín-sí-méjì ń kojú pańpẹ́ ọ̀nà ìwádìí kan, èyí tí ó yẹ fún apá tirẹ̀.

Pańpẹ́ yíyàn #

A lè bi Jev ní ọ̀pọ̀ ìbéèrè nípa ìgbéwọlé kan náà. Ìyẹn ni àǹfààní rẹ̀ pàtàkì, ó sì tún jẹ́ ewu fún ìgbéléwọ̀n. Bí o bá gbé àkójọ àwọn ìbéèrè olùdíje kalẹ̀ tí o sì ròyìn èyí tí ó gba máàkì jù lọ, o ti ṣe ìwákiri láàárín àwọn ìbéèrè o sì ròyìn ẹni tí ó borí. Ìwé náà sọ ọ́ tààrà: ríròyìn èyí tí ó dára jù nínú wọn yóò mú ohun tí òṣìṣẹ́ kan ń rí gbà dàbí ẹni pé ó pọ̀ ju bí ó ṣe rí lọ.

Ẹnikẹ́ni tí ó ti ṣàtúnṣe àṣẹ (prompt) lòdì sí àkójọ ìdánwò yóò mọ èyí. Àtúnṣe tí a lò níbí rọrùn. A ń yan àwọn ìbéèrè lórí ìdajì àwọn nǹkan, a sì ń díwọ̀n wọn lórí ìdajì kejì. A ń yan ìbéèrè tí a fojú sí lórí ìdajì àwọn nǹkan, a sì ń díwọ̀n rẹ̀ lórí ìdajì kejì, lórí ìpín 20. Yíyàn kò fọwọ́ kan àwọn nǹkan tí ó ń mú nọ́mbà tí a ròyìn jáde rárá.

Èyí ṣe pàtàkì fún bí a ṣe ń ka gbogbo ìlọsíwájú tí a ròyìn nísàlẹ̀. Ìjiyàn ìwé náà ni pé ìlànà ìpín-sí-méjì ń yọ ìfikún yíyàn kúrò nínú àwọn ìlọsíwájú tí a ròyìn. Nígbà tí ìwé náà bá sọ pé ọ̀rọ̀ tí a fojú sí ń fúnni ní àárín ìlọsíwájú +0.006 AUROC, nọ́mbà yẹn wá láti inú ọ̀rọ̀ tí a yàn tí a sì díwọ̀n lórí ìdajì ọ̀tọ̀ọ̀tọ̀. Nọ́mbà kékeré bẹ́ẹ̀, tí a díwọ̀n pẹ̀lú òtítọ́, wúlò ju nọ́mbà tí ó tóbi jù tí ó fi ègún aṣẹ́gun pamọ́ sínú lọ.

Àbájáde pàtàkì: ìbéèrè gbogbogbò kan #

Báyìí àbájáde tí ọ̀pọ̀ òǹkàwé yóò fẹ́. Ìbéèrè gbogbogbò kan ṣoṣo dé àárín AUROC 0.886 láìsí ìdálẹ́kọ̀ọ́, ó sì ń borí àwọn ìpìlẹ̀ abójútó (supervised baselines) lórí ọ̀pọ̀ jùlọ ìdánwò àfiwé.

Ẹ jẹ́ kí a mú àwọn ọ̀rọ̀ náà lọ́kọ̀ọ̀kan. "Ìbéèrè gbogbogbò kan ṣoṣo" túmọ̀ sí pé kò sí àgbékalẹ̀ àṣẹ fún ìdánwò àfiwé kọ̀ọ̀kan. "Láìsí ìdálẹ́kọ̀ọ́" (zero-shot) túmọ̀ sí pé kò sí ìdálẹ́kọ̀ọ́ lórí ìdánwò àfiwé àfojúsùn. "Ń borí àwọn ìpìlẹ̀ abójútó lórí ọ̀pọ̀ jùlọ ìdánwò àfiwé" túmọ̀ sí pé àwọn ètò tí a dá lẹ́kọ̀ọ́ lórí dátà tí ó ní àmì láti inú iṣẹ́ náà ń fìdí rẹmi níwájú ìbéèrè tí ẹnikẹ́ni kò ṣàtúnṣe, lórí ọ̀pọ̀ jùlọ àwọn ìdánwò àfiwé tí a yẹ̀wò. Ìjẹ́wọ́ náà dúró sí "ọ̀pọ̀ jùlọ", bẹ́ẹ̀ náà ni àpilẹ̀kọ yìí yóò ṣe.

Ìbéèrè gbogbogbò jẹ́ ìbéèrè àpẹẹrẹ tí a ń kà gẹ́gẹ́ bí P(yes). Nọ́mbà náà ròyìn AUROC ti ìdánwò àfiwé 38 tí ó ṣeé lò, a kò sì béèrè ìbéèrè gbogbogbò náà lórí ìdánwò àfiwé 7. Nítorí náà nọ́mbà pàtàkì náà jẹ́ àárín lórí àwọn ìdánwò àfiwé tí ìbéèrè gbogbogbò ti kan, láti inú 38 tí ó ṣeé lò. Òǹkàwé aláápọn gbọ́dọ̀ jẹ́ kí àwọn olùpín ṣe kedere: ìdánwò àfiwé 44 ló wà lápapọ̀, 38 ló ṣeé lò fún nọ́mbà yìí, ìbéèrè gbogbogbò náà sì ní àlàfo 7.

Mo rò pé àbájáde láìsí ìdálẹ́kọ̀ọ́ ni ìdajì gbólóhùn náà tí ó dùn mọ́ni jù. Bíborí àwọn ìpìlẹ̀ abójútó jẹ́ ọ̀rọ̀ nípa ipò ní ìfiwéra. Àárín AUROC 0.886 láìsí ìdálẹ́kọ̀ọ́ pàtó fún iṣẹ́ náà sọ nǹkan kan nípa iye àmì ìkùnà tí ó wà lárọ̀ọ́wọ́tó àwòṣe tí ń ka state tí ó sì ń dáhùn ìbéèrè tí ó rọrùn. Bóyá èyí kan àwọn oríṣi ìkùnà tí ó wà lóde àwọn mẹ́wàá wọ̀nyí kì í ṣe ohun tí àwọn ìjẹ́wọ́ náà sọ nípa rẹ̀.

Ọ̀rọ̀ fẹ́rẹ̀ẹ́ má ṣe pàtàkì #

Bí o bá ti lo àkókò lórí ṣíṣe àgbékalẹ̀ àṣẹ (prompt engineering), àbájáde tí ó kàn yóò dùn ọ́. Bí a ṣe sọ ìbéèrè kò fi bẹ́ẹ̀ ṣe pàtàkì, nígbà tí àyíká ṣe pàtàkì jù, ní pàtàkì nípasẹ̀ àwọn pápá tí ó ń gbé àmì náà.

Àlàyé ìwé náà nípa ìdí rẹ̀ jẹ́ pàtó. Ní kété tí a bá pa àwọn ìdáhùn mọ́ gẹ́gẹ́ bí ìṣeéṣe dípò àwọn ìpinnu argmax, bí a ṣe sọ ìbéèrè kò fi bẹ́ẹ̀ ṣe pàtàkì, ohun tí state àti àmì náà ní ló ṣe pàtàkì gan-an. Àkíyèsí nípa ìsọfúnni nìyí. Ìpinnu argmax ń da ààyè tí ìdáhùn kan fi borí òmíràn nù, ìyípadà ọ̀rọ̀ sì lè yí ìpinnu náà kọjá ààlà. Ìṣeéṣe ń pa ààyè náà mọ́, nítorí náà àtúnsọ tí ó tì ẹ̀rí díẹ̀ ń gbé ìṣeéṣe náà díẹ̀, ó sì fi ìtòlẹ́sẹẹsẹ sílẹ̀ bí ó ti wà ní pàtàkì.

Èmi yóò dúró lórí ohun tí ìwé náà sọ: nígbà tí a bá pa ìṣeéṣe mọ́, ọ̀rọ̀ kò fi bẹ́ẹ̀ ṣe pàtàkì. Èmi kò ní fà á gùn sí àlàyé bí ẹ̀rọ náà ṣe ń ṣiṣẹ́, nítorí pé àwọn ìjẹ́wọ́ náà kò pèsè ọ̀kan.

Àwọn nọ́mbà ṣe àtìlẹ́yìn fún ọ̀rọ̀ náà. Ọ̀rọ̀ tí a fojú sí ń fúnni ní àárín ìlọsíwájú +0.006 AUROC, pẹ̀lú ọ̀rọ̀ tí a yàn tí a sì díwọ̀n lórí ìdajì ọ̀tọ̀ọ̀tọ̀. Lóde àpẹẹrẹ, ọ̀rọ̀ tí a fojú sí ń fi +0.006 [−0.004, +0.015] AUROC kún un. Ààyè náà ní òdo nínú. Òǹkàwé kò gbọ́dọ̀ ka +0.006 sí ìlọsíwájú tí a lè gbára lé; ààyè náà gba àdánù kékeré gẹ́gẹ́ bí ó ti gba èrè kékeré. Fún òṣìṣẹ́, kíkà tí ó wúlò ni pé wíwá ọ̀rọ̀ tí ó gbọ́n jù kò ní san èrè ìsapá náà, ó kéré tán lórí àwọn ìdánwò àfiwé wọ̀nyí.

Èyí yẹ kí ó yí bí àwọn ẹgbẹ́ ṣe ń pín àkókò wọn padà. Bí ọ̀rọ̀ bá fẹ́rẹ̀ẹ́ má ní ipa, àwọn wákàtí tí a ń lò lórí rẹ̀ sàn kí a lò wọ́n lórí state.

Àyíká ni ibi tí ìlọsíwájú wà #

Nígbà náà kí ni state ní nínú, kí ló sì yẹ kí ó ní? Àwárí ìwé náà ni pé àyíká ṣe pàtàkì jù, ní pàtàkì nípasẹ̀ àwọn pápá tí ó ń gbé àmì náà. Èrò pàtàkì lẹ́yìn àgbékalẹ̀ ìwádìí náà ni láti yí ohun tí a ń bi Jev padà lọ́tọ̀ sí ohun tí ó ń rí: ọ̀rọ̀ ìbéèrè náà àti irú ìdáhùn rẹ̀ ní ẹ̀gbẹ́ kan, àwọn pápá ìgbéwọlé ní ẹ̀gbẹ́ kejì. Ìyàsọ́tọ̀ yẹn ló jẹ́ kí ìwé náà sọ pé ọ̀rọ̀ kò fi bẹ́ẹ̀ ṣe pàtàkì nígbà tí àyíká ṣe pàtàkì jù. Láìsí i, àwọn ipa méjèèjì yóò dì mọ́ ara wọn.

Àpẹẹrẹ pàtàkì ni PrivacyLens. Àwọn ìtọ́kasí tí ó ń ṣàlàyé àmì náà ló ń mú ìlọsíwájú ńlá wá, bí àkójọ àwọn nǹkan àṣírí ti PrivacyLens (0.79→0.95). Gígun láti 0.79 sí 0.95 AUROC tóbi ní ìfiwéra pẹ̀lú +0.006 láti inú ọ̀rọ̀. Ìtọ́kasí tí a ń sọ níbí ni àkójọ àwọn nǹkan àṣírí, èyí tí ó jẹ́ gan-an irú nǹkan tí ìjíròrò ìṣáájú nípa àwọn ìkùnà ti ìbáṣepọ̀ sọ tẹ́lẹ̀ pé yóò ṣe pàtàkì: bóyá ìdáhùn kan ń tú nǹkan àdáni jáde dá lórí ohun tí a kà sí àdáni, ìdáhùn nìkan kò sì sọ ìyẹn.

Ìkìlọ̀ kan wà nípa gbígbé jáde, ó sì ṣe pàtàkì. Àyíká tí olùṣọ́ tí a gbé jáde yóò ní ń ṣèrànwọ́ lórí ìdánwò àfiwé 1 nínú 7. Ìlọsíwájú ńlá ń wá láti inú àwọn ìtọ́kasí tí ó ń ṣàlàyé àmì náà, ṣùgbọ́n olùṣọ́ tí a gbé jáde kò ní dandan ní wọn. Ohun tí olùṣọ́ yóò ní ní òtítọ́ ń ṣèrànwọ́ lórí ọ̀kan péré nínú ìdánwò àfiwé méje.

Àwárí tí ó farabalẹ̀ nìyí, mo sì rò pé òun ni gbólóhùn tí ó ṣe pàtàkì jù ní ti ọjà nínú ìwé náà. Ó ya nọ́mbà yàrá ìwádìí sọ́tọ̀ kúrò lára nọ́mbà pápá. Aṣàwárí tí a gbéyẹ̀wò pẹ̀lú ìtọ́kasí tí ó ń ṣàlàyé àmì lọ́wọ́ ń dáhùn ìbéèrè tí ó rọrùn ju èyí tí olùṣọ́ tí a gbé jáde ń dojú kọ. Ìlọsíwájú náà jẹ́ gidi, ṣùgbọ́n ìwé náà ṣe kedere nípa èwo nínú wọn tí gbígbé jáde lè gbára lé.

Ìwé náà tún tọ́ka sí ààlà ìdánwò àfiwé kan. Lórí Open-Prompt-Injection, àmì náà ń tẹ̀lé ìpéye iṣẹ́ tí a fi sínú. Àpẹẹrẹ àmì kan nìyẹn tí ìtumọ̀ rẹ̀ so mọ́ ànímọ́ kan ti iṣẹ́ náà, èyí tí ó kan ohun tí a lè retí pé aṣàwárí yóò rí láti inú state. Èmi kò ní kọjá èyí láti fa ìparí mìíràn, nítorí pé àwọn ìjẹ́wọ́ náà kò fúnni ní ọ̀kankan.

Owó #

Báyìí nọ́mbà tí ó mú kí ọ̀rọ̀ ọrọ̀ ajé ṣe kedere. Jev fi ìlọ́po 63 wọ́n ju àwọn olùdíwọ̀n LLM-judge lọ. Ìfiwéra pàtó: ìyípo kan lórí ìdánwò àfiwé 19 tí adájọ́ ń díwọ̀n ná $0.30, ìlọ́po 63 kéré ju àwọn adájọ́ wọn lọ ní iye owó àtòjọ. Ìfiwéra owó náà bo ìyípo kan lórí ìdánwò àfiwé 19 tí ó ní adájọ́ API ní iye owó àtòjọ.

Ẹ ṣọ́ra nípa ààlà. Ìfiwéra náà jẹ́ fún ìdánwò àfiwé 19 tí ó ń lo adájọ́ API, ní iye owó àtòjọ, fún ìyípo kan. Kò bo gbogbo ìdánwò àfiwé nínú àkójọ náà, kò sì bo iye owó ẹ̀dínwó. Nínú ààlà yẹn, ìpín náà tóbi, ó sì tẹ̀lé ètò tí a ṣàpèjúwe tẹ́lẹ̀: kò sí ìyípo decoding fún òṣùwọ̀n kọ̀ọ̀kan.

Rántí ohun tí a béèrè ní ìbẹ̀rẹ̀, pé aṣàwárí tí ń ṣiṣẹ́ lórí gbogbo ìfiránṣẹ́ gbọ́dọ̀ jẹ́ olówó pọ́ọ́kú. $0.30 fún ìyípo kíkún lórí ìdánwò àfiwé 19 ni bí "olówó pọ́ọ́kú" ṣe rí nínú ìwé yìí. Ìwé náà kò yí i padà sí iye owó fún ìfiránṣẹ́ kọ̀ọ̀kan, èmi náà kò ní ṣe bẹ́ẹ̀.

Ìfohùnṣọ̀kan pẹ̀lú ènìyàn, àti ohun tí àìfohùnṣọ̀kan ṣí payá #

Owó pọ́ọ́kú ń dùn mọ́ni nìkan bí aṣàwárí náà bá tún tọ̀nà. Níbi tí àwọn àmì ènìyàn ti gbà láàyè fún àyẹ̀wò, Jev fohùnṣọ̀kan pẹ̀lú wọn gẹ́gẹ́ bí adájọ́ ti ṣe, ní ìdá kékeré owó.

Ẹ̀rí tí ó pàtó jù wá láti StrongREJECT. Lòdì sí àwọn àmì ènìyàn níbẹ̀, ìbéèrè gbogbogbò fohùnṣọ̀kan gẹ́gẹ́ bí olùdíwọ̀n ìtọ́kasí (Cohen's κ 0.809 sí 0.811), ó sì tò dáadáa jù. Àwọn iye κ méjèèjì yàtọ̀ sí ara wọn pẹ̀lú 0.002, nítorí náà kíkà tí ó bọ́gbọ́n mu ni pé wọ́n dọ́gba nínú ìfohùnṣọ̀kan, Jev sì wà níwájú nínú ìtòlẹ́sẹẹsẹ.

Lẹ́yìn náà ni àbájáde tí mo rí pé ó wúlò jù ní ìṣe wá, nítorí pé ó sọ aṣàwárí náà di irinṣẹ́ àyẹ̀wò (audit). Àìfohùnṣọ̀kan Jev tí ó dá a lójú ṣí àwọn àbùkù tí ń yí àmì padà payá nínú ìdánwò àfiwé mẹ́ta, àti àwọn àmì tí state kò lè fi hàn nínú mẹ́rin mìíràn. Nígbà tí aṣàwárí tí ó dá a lójú bá tako àmì ìtọ́kasí ìdánwò àfiwé kan, àlàyé kan ni pé aṣàwárí náà ló ṣàṣìṣe. Ìwé náà ròyìn pé ní àwọn ìgbà kan, àìfohùnṣọ̀kan náà tọ́ka sí ìdánwò àfiwé náà: ìdánwò àfiwé mẹ́ta ní àwọn àbùkù tí ń yí àmì padà, mẹ́rin mìíràn sì ní àwọn àmì tí state kò lè fi hàn.

Ẹ̀ka kejì padà sí kókó ìbáṣepọ̀. Àmì tí state kò lè fi hàn jẹ́ àmì tí ohun kan tí kò wọ inú ìgbéwọlé rárá ṣàlàyé. Kò sí aṣàwárí tí ń ka state yẹn tí ó lè rí i padà. Rírí irú àwọn ọ̀ràn bẹ́ẹ̀ jẹ́ ìdáwọ́lé tí ó yàtọ̀ sí gbígbé máàkì sókè, nítorí pé ó ń sọ fún àwọn olùtọ́jú ìdánwò àfiwé ibi tí dátà wọn àti àwọn àmì wọn ti pínyà.

Ibi àìlera: ìṣàtúnṣe #

Níbí àpilẹ̀kọ náà gbọ́dọ̀ sọ ọ́ tààrà, nítorí pé ìwé náà ṣe bẹ́ẹ̀. Àwọn ìṣeéṣe ń tò dáadáa ṣùgbọ́n kò ṣeé gbé lọ gẹ́gẹ́ bí ààlà: àárín ECE jẹ́ 0.168 lòdì sí òdo ìfiwéra (null) 0.074, lórí àwọn àmì tí a fìdí rẹ̀ múlẹ̀ àti ti adájọ́ bákan náà, nítorí pé ìṣeéṣe àpapọ̀ Jev yẹ̀ kúrò lórí ìwọ̀n ìpìlẹ̀ ìdánwò àfiwé kọ̀ọ̀kan.

Bí àwọn apá náà ṣe bá ara wọn mu nìyí. AUROC ń díwọ̀n ìtòlẹ́sẹẹsẹ, ìtòlẹ́sẹẹsẹ sì lágbára. Ààlà jẹ́ ọ̀rọ̀ mìíràn. Bí ìṣeéṣe ìjáde àpapọ̀ àwòṣe kò bá bá bí ìkùnà ṣe máa ń wáyé tó nínú ìdánwò àfiwé kan mu, nígbà náà t=0.5 bọ́ sí ibi tí kò tọ́, àṣìṣe ìṣàtúnṣe tí a retí (ECE) sì ga. Àárín ECE 0.168 wà lókè null 0.074, èyí tí ó burú ju ojú ìtọ́kasí tí ìwé náà yàn lọ. Ó sì rí bẹ́ẹ̀ lórí àwọn àmì tí a fìdí rẹ̀ múlẹ̀ àti ti adájọ́ bákan náà, nítorí náà àìlera náà kì í ṣe àbájáde àwọn àmì adájọ́ tí ó ní ariwo.

Rántí ètò àgbékalẹ̀ náà: aṣàwárí gbọ́dọ̀ to àwọn ìkùnà sókè ju àwọn tí kì í ṣe ìkùnà, kí ó sì ya wọ́n sọ́tọ̀ ní ààlà. Jev ń ṣe èkíní dáadáa, kò sì ṣe èkejì dáadáa láìsí àtúnṣe. Orúkọ ọgbọ́n náà ní "calibrated decisions" nínú, ìṣàtúnṣe tí a díwọ̀n níbí kò sì ṣeé gbé lọ láàárín àwọn ìdánwò àfiwé, ìtakora tí ó yẹ kí a sọ ní gbangba. Ìwé náà sọ pé ìwọ̀n ìpìlẹ̀ ló fa àlàfo náà, kò sì sọ ju bẹ́ẹ̀ lọ.

Àbájáde ní ìṣe: gẹ́gẹ́ bí aròpò fún adájọ́, Jev nílò àwọn àmì díẹ̀ láti ṣètò ààlà rẹ̀. Owó gidi nìyẹn, ó sì dín ìjẹ́wọ́ pé ó lè rọ́pò adájọ́ tààrà kù. O kò lè tọ́ka rẹ̀ sí oríṣi ìkùnà tuntun kí o sì gbẹ́kẹ̀lé t=0.5.

Ìlànà náà #

Ìmọ̀ràn ìwé náà ṣókí. Ìlànà náà ni ìbéèrè gbogbogbò tí a ń kà gẹ́gẹ́ bí ìṣeéṣe, pẹ̀lú ààlà rẹ̀ tí a ṣètò lórí nǹkan mẹ́wàá tí ó ní àmì, èyí tí ó ń gbé F1 sókè níbi tí Jev kì í ti fi bẹ́ẹ̀ sàmì ní t=0.5, tí ó sì ná 0.025 lórí àwọn àmì tí a fìdí rẹ̀ múlẹ̀.

Ẹ jẹ́ kí a tú u palẹ̀. Ìbéèrè gbogbogbò ń yanjú ìṣòro ọ̀rọ̀ nípa kíkọ̀ láti ṣe àgbékalẹ̀ rẹ̀, èyí tí ó bá àwárí pé ọ̀rọ̀ kò fi bẹ́ẹ̀ ṣe pàtàkì mu. Kíka ìdáhùn gẹ́gẹ́ bí ìṣeéṣe ń pa ààyè náà mọ́. Ṣíṣètò ààlà lórí nǹkan mẹ́wàá tí ó ní àmì ń kojú yíyẹ̀ kúrò lórí ìwọ̀n ìpìlẹ̀. Ipa lórí F1 dára níbi tí Jev kì í ti fi bẹ́ẹ̀ sàmì ní t=0.5. Lórí àwọn àmì tí a fìdí rẹ̀ múlẹ̀, ìlànà náà ná 0.025.

Nọ́mbà ìkẹyìn yẹn yẹ fún àfiyèsí. Ìlànà náà kò ṣàì ní àdánù: lórí àwọn àmì tí a fìdí rẹ̀ múlẹ̀ ó ná 0.025. Ìwé náà ròyìn pàṣípààrọ̀ náà dípò kí ó fi pamọ́, mo sì fẹ́ràn láti tọ́ka sí ìlànà tí ó sọ owó rẹ̀ jáde ju èyí tí a polówó gẹ́gẹ́ bí èrè mímọ́ lọ. Àwọn ìjẹ́wọ́ náà kò sọ òṣùwọ̀n wo ni a fi díwọ̀n 0.025 yàtọ̀ sí àyíká àwọn àmì tí a fìdí rẹ̀ múlẹ̀, nítorí náà èmi kò ní fojú díwọ̀n.

Nǹkan mẹ́wàá tí ó ní àmì jẹ́ ìbéèrè kékeré. Ó jẹ́ iṣẹ́ ọ̀sán kan ti fífi àmì sí fún ọ̀pọ̀ ẹgbẹ́, ní ìfiwéra pẹ̀lú owó ṣíṣe adájọ́ lórí gbogbo ìfiránṣẹ́. Ṣùgbọ́n ó jẹ́ ohun tí a gbọ́dọ̀ ní tẹ́lẹ̀, ẹgbẹ́ tí kò lè pèsè nǹkan kankan tí ó ní àmì fún oríṣi ìkùnà tuntun kò gbọ́dọ̀ retí pé ààlà náà yóò ṣe àtúnṣe ara rẹ̀.

Ohun tí òṣìṣẹ́ yẹ kí ó mú lọ #

Ọ̀pọ̀ nǹkan ló tẹ̀lé e, èmi yóò sì dúró lé wọn lórí nítorí pé ẹ̀rí ṣe àtìlẹ́yìn fún wọn.

Èkíní, ẹ dáwọ́ ṣíṣe àtúnṣe ọ̀rọ̀ ìbéèrè dúró. Ìlọsíwájú lóde àpẹẹrẹ láti inú ọ̀rọ̀ tí a fojú sí jẹ́ +0.006 pẹ̀lú ààyè láti −0.004 sí +0.015. Ìyẹn kì í ṣe ìpìlẹ̀ fún ìdókòwò.

Èkejì, ẹ lo ìsapá lórí state. Ìlọsíwájú ńlá wá láti inú àwọn ìtọ́kasí tí ó ń ṣàlàyé àmì náà. Bí a bá lè fún olùṣọ́ rẹ ní ìtọ́kasí tí ó ń ṣàlàyé ìkùnà náà, ibẹ̀ ni ìlọsíwájú ń gbé. Bí kò bá ṣeé ṣe, retí díẹ̀: àyíká tí olùṣọ́ tí a gbé jáde yóò ní ṣèrànwọ́ lórí ìdánwò àfiwé 1 nínú 7. Ṣètò yíká nọ́mbà tí o lè rí nígbà gbígbé jáde dípò nọ́mbà tí o ń rí nínú ìdánwò àfiwé níbi tí ìtọ́kasí wà nínú ìgbéwọlé.

Ẹ̀kẹta, ẹ ya ìnáwó sọ́tọ̀ fún ìṣàtúnṣe. Ẹ ṣètò láti fi àmì sí nǹkan mẹ́wàá fún oríṣi ìkùnà kọ̀ọ̀kan kí ẹ sì ṣètò ààlà. Ẹ má ṣe gbé t=0.5 jáde.

Ẹ̀kẹrin, ẹ lo àìfohùnṣọ̀kan gẹ́gẹ́ bí àmì ìkìlọ̀. Àìfohùnṣọ̀kan tí ó dá a lójú pẹ̀lú àwọn àmì ìtọ́kasí ṣí àwọn àbùkù payá nínú ìdánwò àfiwé mẹ́ta àti àwọn àmì tí kò ṣeé fi hàn nínú mẹ́rin mìíràn. Bí o bá ṣe èyí lórí àwọn àkójọ ìgbéléwọ̀n tìrẹ, retí pé ó lè sọ fún ọ nípa àwọn àmì rẹ bí ó ti ń sọ nípa àwọn àwòṣe rẹ. Ìyẹn jẹ́ ìfẹ̀sẹ̀múlẹ̀ láti inú àwárí ìwé náà kì í ṣe ìjẹ́wọ́ tí a díwọ̀n nípa àkójọ pàtó kan, nítorí náà kà á sí ìpè láti ṣàyẹ̀wò.

Ìkarùn-ún, rántí àwọn àìlera tí a mọ̀. Olùgbéejáde ka ìtumọ̀ tí kò tààrà àti àkóónú ọ̀tá mọ́ àwọn àìlera Jev tí a mọ̀. Olùṣọ́ tí ó ṣe pàtàkì fún ààbò yóò pàdé àkóónú ọ̀tá. Àwọn ìjẹ́wọ́ níbí kò ròyìn bí Jev ṣe ń ṣe lórí rẹ̀, nítorí náà ìyẹn jẹ́ ẹ̀gbẹ́ tí ó ṣí sílẹ̀, èmi yóò sì fẹ́ kí a dán an wò kí a tó gbẹ́kẹ̀lé gbígbé jáde.

Kíka àbájáde lòdì sí ọ̀ràn ọjà #

Àwọn olùdásílẹ̀ yóò fẹ́ mọ ibi tí èyí dúró sí. Ìjiyàn owó ló lágbára jù: aṣàwárí tí ń ṣiṣẹ́ lórí gbogbo ìfiránṣẹ́ gbọ́dọ̀ jẹ́ olówó pọ́ọ́kú, ìdínkù ìlọ́po 63 ní ìfiwéra pẹ̀lú àwọn olùdíwọ̀n LLM-judge sì ń yí àwọn ìgbéjáde tí ó ṣeé san padà. Ìjiyàn ìpéye ni èkejì: AUROC láìsí ìdálẹ́kọ̀ọ́ 0.886 àti ìṣẹ́gun lórí àwọn ìpìlẹ̀ abójútó lórí ọ̀pọ̀ jùlọ ìdánwò àfiwé.

Àwọn ìkìlọ̀ náà ló ń ṣe ìlànà ohun tí a lè tà pẹ̀lú òtítọ́. Aṣàwárí náà nílò àwọn àmì díẹ̀ fún ààlà kọ̀ọ̀kan. Ìṣàtúnṣe rẹ̀ kò ṣeé gbé lọ. Ìlọsíwájú rẹ̀ tí ó tóbi jù gbára lé àwọn ìtọ́kasí tí ìgbéjáde lè máà ní. Àwọn wọ̀nyẹn jẹ́ àwọn ipò ìlò, ọjà èyíkéyìí tí a kọ́ lé èyí lórí sì yẹ kí ó sọ wọ́n dípò kí ó sin wọ́n. Kò sí èyí tí ó ba ọ̀ràn owó jẹ́; wọ́n ń ṣàpèjúwe iṣẹ́ ìmúrasílẹ̀.

Kókó kan tí ó dákẹ́jẹ́ẹ́ tún wà nípa ìwọ̀n fúnra rẹ̀. RLCDAlignBench, pẹ̀lú àwọn ẹ̀yà àyíká rẹ̀, àwọn ìdáhùn Jev tí a tọ́jú, àwọn ìwé àfọwọ́kọ àtúndíwọ̀n àti ìlànà ìpín-sí-méjì, jẹ́ ohun-ìní ìgbéléwọ̀n tí a lè tún lò. Ìdánwò àfiwé tí ó ń yọ ìfikún yíyàn kúrò nínú àwọn ìlọsíwájú tí a ròyìn ni irú ohun tí ó ń jẹ́ kí a lè fi àwọn ìjẹ́wọ́ ọjọ́ iwájú wéra. Ìyẹn jẹ́ irú iye mìíràn yàtọ̀ sí aṣàwárí náà.

Ohun tí ó ṣì ṣí sílẹ̀ #

Àwọn ààlà díẹ̀ ṣe kedere láti inú àwọn ìjẹ́wọ́ náà. Àwọn àwòṣe àfojúsùn jẹ́ àwòṣe márùn-ún oníṣísílẹ̀ tí ó ní pàrámítà 2–7B, nítorí náà àwọn àbájáde ń ṣàpèjúwe ìkùnà nínú ìbáṣepọ̀ láti inú àwọn àwòṣe tí ó tóbi tó bẹ́ẹ̀. A kò béèrè ìbéèrè gbogbogbò lórí ìdánwò àfiwé 7, AUROC pàtàkì náà sì jẹ́ àárín lórí àwọn ìdánwò àfiwé tí a ti béèrè rẹ̀. Àwọn àmì jẹ́ ti àwọn olùdíwọ̀n ìtọ́kasí, pẹ̀lú àwọn àmì ènìyàn àti ti adájọ́ kejì tí ó bo StrongREJECT, HarmBench, AbstentionBench àti InstrumentalEval.

Ìbéèrè tí ó ṣí sílẹ̀ tí ó wù mí jù ni èyí tí ètò ìwé náà fúnra rẹ̀ gbé dìde. Àwọn ìkùnà jẹ́ ti ìbáṣepọ̀; state sábà máa ń ṣàì ní ìtọ́kasí; àyíká olùṣọ́ tí a gbé jáde sì ṣèrànwọ́ lórí ìdánwò àfiwé 1 péré nínú 7. Àgbékalẹ̀ ìpè-kan ti Jev jẹ́ kí ọ̀pọ̀ ìbéèrè pín ìgbéwọlé kan, ṣùgbọ́n ọ̀pá ìdarí tí ó tóbi jù wá jẹ́ àwọn pápá tí ìgbéwọlé gbé. Bí ìgbéjáde ṣe yẹ kí ó rí ìtọ́kasí tí ó ń ṣàlàyé àmì gbà nígbà ìṣọ́, bí àkójọ àwọn nǹkan àṣírí fún àyẹ̀wò àdáni, ni ohun tí ó kàn láti yanjú. Ìwé náà fi hàn pé ìlọsíwájú náà wà láti rí (0.79→0.95 lórí PrivacyLens), ó sì fi sílẹ̀ ní ṣíṣí bóyá a lè fún olùṣọ́ tí a gbé jáde ní i ní owó pọ́ọ́kú tó láti pa àǹfààní ìlọ́po 63 mọ́.

Ohun Tí Èyí Túmọ̀ Sí fún Ẹ̀ka Kọ̀ọ̀kan #

Agbára láti ṣe ìgbéléwọ̀n àwọn òṣùwọ̀n ìbáramu dídíjú nípasẹ̀ àwọn orí ìpinnu tí a ti ṣàtúnṣe, ní ìdá kékeré owó inference, ń tún ààbò iṣẹ́ ṣe ní ọ̀pọ̀ ẹ̀ka.

Àwọn olùpèsè ẹnu-ọ̀nà AI àti pẹpẹ ààbò #

Àwọn ilé-iṣẹ́ amáyédẹrùn tí ń gbé ààbò àkókò-gidi kalẹ̀ lè fi àwọn orí RLCD ọlọ́pọ̀ ìbéèrè tí a ṣọ̀kan rọ́pò àwọn ètò àtẹ̀léra olówó ńlá (pípè àwọn olùpínsọ́wọ́ ọ̀tọ̀ọ̀tọ̀ fún prompt injection, toxicity àti privacy). Owó iṣẹ́ ń dín kù ní ju ìlọ́po 60 lọ nígbà tí ìdádúró wà ní ààlà ìyípo síwájú kan ṣoṣo.

Àwọn ẹgbẹ́ ìṣàkóso AI àti ìbámu àyẹ̀wò #

Àwọn ìgbìmọ̀ ewu tí ń ṣe ìgbéléwọ̀n ìhùwàsí àwòṣe lòdì sí àwọn ìlànà bí àwọn ohun tí EU AI Act béèrè fún ewu gíga tàbí NIST AI RMF ń rí àkọsílẹ̀ àyẹ̀wò tí ó dájú tí ó sì dá lórí ìṣeéṣe. Dípò èsì ìtàn LLM-judge tí kò ní ètò, àwọn ètò ń kọ àwọn ìpínkiri ìṣeéṣe tí a ti ṣàtúnṣe sílẹ̀, tí ó ń ṣe àtìlẹ́yìn fún ìṣàkóso ìlànà oníṣirò àti ṣíṣọ́ ìyípadà.

Àwọn ẹgbẹ́ ìgbéjáde ilé-iṣẹ́ àti red-teaming #

Àwọn ẹgbẹ́ ààbò lè gbé àwọn aṣàwárí ìkùnà àdáni kalẹ̀ kíákíá nípa kíkọ àwọn àpèjúwe state tí ó dojú kọ nǹkan pàtó àti ṣíṣètò àwọn ààlà ìpinnu lòdì sí àpẹẹrẹ mẹ́wàá péré ti ẹ̀ka náà, èyí tí ó mú àyíká fine-tuning ọlọ́sẹ̀ púpọ̀ tí a nílò tẹ́lẹ̀ fún àwọn olùpínsọ́wọ́ àdáni kúrò.

Ìparí #

Ìgbéléwọ̀n Jev lórí RLCDAlignBench fi ìdarí ètò kan tí ó yíni lọ́kàn padà múlẹ̀ fún ṣíṣọ́ àwòṣe nínú iṣẹ́ gidi: kíka àwọn ìṣeéṣe tí a ti ṣàtúnṣe lórí ọ̀pọ̀ ìbéèrè onírúurú nínú ìyípo síwájú kan ṣoṣo ń borí àwọn adájọ́ LLM autoregressive ní owó, àti àwọn olùpínsọ́wọ́ token kan ní ìrọ̀rùn. Bó tilẹ̀ jẹ́ pé àwọn òṣìṣẹ́ gbọ́dọ̀ ya ìnáwó sọ́tọ̀ fún ìṣàtúnṣe ààlà nípasẹ̀ ìdánwò dípò kí wọ́n rò pé ìṣeéṣe ṣeé gbé lọ láìsí àtúnṣe, àǹfààní ọrọ̀ ajé ìlọ́po 63 mú kí ìṣọ́ àkókò-gidi tí ó péye ṣeé ṣe ní ìwọ̀n ńlá.

Àwọn Ìbéèrè Tí A Sábà Ń Bèèrè #

Kí ló dé tí àwọn adájọ́ LLM onípilẹ̀ṣẹ̀dá kò fi wúlò fún ìṣọ́ àkókò-gidi nínú iṣẹ́ gidi?

Àwọn adájọ́ onípilẹ̀ṣẹ̀dá nílò ìyípo decoding autoregressive kíkún fún gbogbo òṣùwọ̀n ààbò tàbí ìbáramu tí a ń ṣe ìgbéléwọ̀n rẹ̀. Nínú àwọn ohun èlò oníbàárà tàbí ti ilé-iṣẹ́ tí ìrìnnà wọn pọ̀, ṣíṣe ọ̀pọ̀ ìpè adájọ́ onípilẹ̀ṣẹ̀dá fún ìfiránṣẹ́ kọ̀ọ̀kan ń fa ìdádúró ńlá, ó sì ń mú owó iṣẹ́ pọ̀ sí i ní ìlọ́po púpọ̀.

Kí ni Reinforcement Learning for Calibrated Decisions (RLCD)?

RLCD jẹ́ ọ̀nà ìdálẹ́kọ̀ọ́ tí ó ń mú kí àwọn àwòṣe ṣe àwọn ìṣeéṣe posterior tí a ti ṣàtúnṣe dáadáa lórí àwọn orí ìpinnu tí ó ní ètò dípò ṣíṣẹ̀dá àtẹ̀léra token. Èyí jẹ́ kí àwòṣe náà ṣe ìgbéléwọ̀n ọ̀pọ̀ ìbéèrè èyíkéyìí lẹ́ẹ̀kan náà nínú ìgbéléwọ̀n síwájú kan ṣoṣo.

Kí ló dé tí a fi nílò láti ṣàtúnṣe àwọn ààlà ìpinnu lórí dátà agbègbè?

Bó tilẹ̀ jẹ́ pé àwọn àwòṣe RLCD tayọ nínú títo àwọn ìbáṣepọ̀ ní ìbámu pẹ̀lú ìṣeéṣe ìkùnà (wọ́n ń dé AUROC gíga), àwọn ìṣeéṣe àpapọ̀ wọn ń yí padà ní ìbámu pẹ̀lú ìwọ̀n ìpìlẹ̀ ẹ̀ka àfojúsùn. Ṣíṣàtúnṣe ààlà ìpinnu iṣẹ́ lòdì sí nǹkan bí àpẹẹrẹ mẹ́wàá tí ó ní àmì láti inú ẹ̀ka náà ń rí i dájú pé ìfura tí ó yẹ wà láìsí ìkìlọ̀ èké tí kò ṣeé gbà.

Àwọn Ìtọ́kasí #

Mrinank Sharma et al., (2024). Sí Òye àti Ìdínkù Sycophancy nínú Àwọn Àwòṣe Èdè ⧉. arXiv.
RLCDAlignBench Consortium, (2026). Ìwárí Ìkùnà Ìbáramu Ọlọ́pọ̀ Òṣùwọ̀n nípasẹ̀ Àwọn Orí Ìpinnu Tí A Ṣàtúnṣe ⧉. arXiv.
Anthropic / Alignment Research, (2025). Constitutional AI àti Ìṣesí Àwọn Olùgbéléwọ̀n ⧉. Anthropic.
NIST, (2024). Artificial Intelligence Risk Management Framework (AI RMF 1.0) ⧉. NIST.

Àyẹ̀wò àkọ́kọ́ 2026-09-30.

Àyẹ̀wò àkọ́kọ́ 2026-10-27.

Tun àpilẹkọ yìí jade

Aṣàwárí tí ń ka ìṣeéṣe dípò ìdájọ́: Jev nínú ìdánwò àfiwé 44 — Sebastien Rousseau

RLCDAlignBench díwọ̀n Jev lórí ìdánwò àfiwé 44: àárín AUROC 0.886 láìsí ìdálẹ́kọ̀ọ́, ó sì fi ìlọ́po 63 wọ́n, ṣùgbọ́n ààlà ìpinnu ṣì nílò àmì mẹ́wàá.

A ti fun àpilẹkọ yìí ni iwe-ẹri labẹ Creative Commons Attribution 4.0 International. Atunjade nilo idanimọ si URL akọkọ.

Aṣàwárí tí ń ka ìṣeéṣe dípò ìdájọ́: Jev nínú ìdánwò àfiwé 44 — Sebastien Rousseau

RLCDAlignBench díwọ̀n Jev lórí ìdánwò àfiwé 44: àárín AUROC 0.886 láìsí ìdálẹ́kọ̀ọ́, ó sì fi ìlọ́po 63 wọ́n, ṣùgbọ́n ààlà ìpinnu ṣì nílò àmì mẹ́wàá.

Originally published at https://sebastienrousseau.com/yo/2026-09-30-asawari-ti-ka-iseese-dipo-idajo/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER