Að greina merki frá suði í kóðunarmati

Nákvæm mæling á getu líkana okkar er mikilvæg fyrir vandaðar ákvarðanir um innleiðingu og öryggi, þar á meðal ákvarðanir samkvæmt undirbúningsramma⁠(opnast í nýjum glugga) OpenAI. Með hverri útgáfu líkans birtum við niðurstöður úr fjölbreyttum ytri og innri viðmiðunarprófum til að fylgjast með framförum líkansins. Þegar mat hefur galla sem hafa áhrif á niðurstöður getur það gefið ranga mynd af getu, rangfært öryggisrökstuðning og haft áhrif á rannsóknaráherslur.

Við rannsökuðum nýlega hvernig eitt mest notaða forritunarviðmiðið, SWE-bench Verified, var með grundvallarvandamál í hönnun og vandamál tengd mengun, og komumst að því að matið veitti ekki lengur marktækar vísbendingar um getu til hugbúnaðarþróunar. Á þeim tíma hvöttum við víðara samfélagið til að skipta yfir í SWE-Bench Pro.

SWE-Bench Pro⁠(opnast í nýjum glugga) var hannað til að bæta SWE-bench Verified með því að prófa líkön yfir lengri tíma og á raunsærri kóðunarverkefnum til að fylgjast betur með fulltrúakóðun. Eins og í SWE-bench Verified eru verkefni sótt með forritunaraðferðum úr ferli breytinga á eiginleikum í safni opinberra og einkarekinna geymslna. Líkön þurfa að útfæra lausn sem stenst ný próf fyrir eiginleika, án þess að skerða núverandi virkni. Á opinbera hlutmenginu með 731 verkefni bættu framarleg líkön hlutfall verkefna sem standast úr 23,3% í 80,3% á átta mánuðum.

Síðan þá höfum við framkvæmt sambærilega úttekt á SWE-Bench Pro og farið yfir gagnasafnið með greiningarferli fyrir gagnapunkta. Vinnslukeðjan fór yfir tilraunir líkana við verkefnið, lýsigögn verkefnisins og rakningar bilana til að merkja líklega ágalla í matinu. Hvert flaggað verkefni var síðan metið með mörgum yfirferðum rannsóknarfulltrúa og rýnt sjálfstætt af fimm reyndum hugbúnaðarverkfræðingum, og ágreiningsmálum var vísað áfram til frekari rannsóknar.

Vandamálin skiptust aðallega í fjóra flokka:

• Of ströng próf¹ knýja fram tiltekin útfærsluatriði sem ekki eru tilgreind í kvaðningunni og gera þar með margar innsendingar sem eru réttar hvað virkni varðar ógildar.
• Vanskilgreindar kvaðningar² sleppa kröfum sem falin próf krefjast og sem ekki er hægt að álykta með sanngjörnum hætti.
• Prófanir með litla þekju kanna ekki umbeðinn eiginleika nægilega vel, svo ófullkomnar lagfæringar geta farið í gegn.
• Villandi kvaðning beinir líkani að rangri hegðun eða stangast á við það sem prófanir krefjast.

Niðurstöður okkar benda til þess hve erfitt er að útbúa krefjandi en sanngjörn viðmiðunarpróf og hversu gagnlegir fulltrúar eru sífellt meira fyrir skalanlegar gæðaskoðanir gagna. Í ljósi þessara niðurstaðna áætlum við að um 30% verkefna í SWE-bench Pro séu gölluð og ráðleggjum líkanahönnuðum að skoða niðurstöðurnar vandlega.

Markmið okkar er að tryggja að mistök í verkefnum endurspegli raunverulegar takmarkanir líkansins og að árangur verkefna endurspegli fullkomnar og gildar lausnir við kröfum kvaðningarinnar. Til að kanna gæði gagnanna sem notuð voru í matinu bjuggum við til gæðatryggingarferli til að meta hvort hver gagnapunktur endurspegli getu líkansins á nákvæman hátt.

Upphafleg sjálfvirk sía fer yfir leiðbeiningarnar sem líkaninu eru gefnar, tilraunir líkansins til að leysa verkefnið og prófin sem notuð eru til að meta þessar tilraunir, til að merkja dæmi sem eru líklega gölluð eða vandasöm. Þessi sía merkti 286 verkefni sem hugsanlega eru biluð. Við gerðum síðan ítarlegri yfirferð á þessu hlutmengi með tvennum hætti: mannstýrðu mati fulltrúa, sem felur í sér umfangsmiklar athuganir með rannsakendafulltrúum og lokamat manna; og gagnamerkingarátaki manna í samstarfi við reynda hugbúnaðarforritara.

Hvert merkt vandamál er yfirfarið af rannsóknarfulltrúum sem byggja á Codex og höfðu aðgang að verkefnisgeymslunni og umhverfinu. Þetta hjálpar þeim að greina eðlilegan óskýrleika í verkefninu, sem oft má leysa með því að skoða nærliggjandi kóða og venjur geymslunnar, frá raunverulegri vanskilgreiningu. Fulltrúinn getur keyrt prófanir, skoðað skrár í geymslunni og rannsakað tilraunir líkana og algengar bilunaraðstæður í verkefninu. Eftir nokkrar óháðar endurtekningar á þessum ítarlegri úttektum fór rannsakandi yfir samantektirnar, lagði fram lokamat og merkti líkleg vandamál.

Samhliða stóðum við fyrir handvirku merkingarátaki á flaggaða hlutmenginu. Við unnum með reyndum hugbúnaðarverkfræðingum sem höfðu fengið þjálfun í markmiðum viðmiðunarprófsins, flokkunarkerfi vandamála og jaðartilvikum áður en þeir fóru yfir verkefni. Hvert verkefni var yfirfarið af fimm verkfræðingum.

Yfirfarendur mynduðu sér sjálfstætt mat út frá sýnilegri verkefnislýsingu, prófunartilvikum og viðmiðunarlausninni (þekktri sem „gold patch“) áður en þeir nýttu pipeline-greiningu eða afritið sem stuðningssamhengi. Yfirfarendur úthlutuðu síðan merkingu og alvarleikaflokkun á grundvelli áþreifanlegra sönnunargagna, og vísuðu ágreiningi eða tilvikum með lítið öryggi áfram til frekari yfirferðar.

Mannlegir yfirfarendur voru líklegri en rannsóknarfulltrúar til að merkja verkefni sem bilað. Einnig var nokkur ágreiningur um flokka milli yfirferðarleiðanna tveggja, en í engu verkefni sem var merkt var „ekki bilað“ algengasta merkingin frá mönnum. Af þeim flokkum sem vinnslulínan merkti sköruðust mat yfirfarenda saman í 74% tilvika.

Í samanburði við fulltrúakeðjuna voru mannlegu yfirfarendurnir einnig líklegri til að velja marga merkimiða fyrir verkefni, sem gefur til kynna að þeim hafi fundist verkefnin vera gölluð á fleiri en einn hátt eða að þau féllu ekki skýrt undir einn tiltekinn flokk. Þetta bendir til þess að verkferlið með fulltrúa og yfirfarenda hafi leitt til varfærinnar merkingar: það náði yfir sömu megintegundir mistaka og mannlegir yfirferðaraðilar greindu, en vanmetið voru tilvik þar sem yfirfarendur sáu viðbótarvandamál eða vandamál sem skarast. Mesti munurinn var í prófunum með litla þekju, sem menn völdu sem algengasta vandamálið í 9,4% tilvika í viðmiðunarsafninu, samanborið við 4,1% í niðurstöðum fulltrúakeðjunnar.

Vandamálin sem við höfum greint, ásamt svipuðum tilvikum í SWE-bench Verified, undirstrika mikilvægi þess að yfirfara viðmiðunarpróf af mikilli nákvæmni. Vandamál og pull requests úr opnum geymslum voru upphaflega búin til fyrir samvinnu fólks, oft í gegnum löng samskipti fram og til baka milli umsjónaraðila og framlagsaðila. Afleiðingin er sú að vandamálalýsingar, sameinaður kóði og einingapróf samræmast ekki alltaf þannig að þau myndi hrein og afmörkuð verkefni til að meta líkön áreiðanlega. Sérstaklega geta próf sem eru innifalin í pull request verið of ströng, vegna þess að þau eru skrifuð til að sannreyna tiltekna breytingu fremur en til að skilgreina útfærsluóháðan staðal fyrir lausn verkefnisins.

Á sama tíma er nú auðveldara að greina galla í mati en það hefði verið jafnvel fyrir skömmu. Eftir því sem geta líkana batnar getum við notað þessi líkön til að skoða kvaðningar, prófanir, plástra, rakningar og jaðartilvik með meiri dýpt og samkvæmni sem hjálpar til við að draga fram vandamál í viðmiðum sem áður var kostnaðarsamt eða óraunhæft að finna í stórum mæli.

Við vonum að hið víðara matsamfélag muni þróa ný viðmiðunarpróf, gerð af reyndum hugbúnaðarþróunaraðilum sérstaklega til að prófa getu líkana. Sú nálgun getur viðhaldið þeim hátt og því raunsæi sem við viljum hafa til að mæla getu líkana, og gerir jafnframt betra mannlegt eftirlit mögulegt í öllu ferlinu. Í ljósi þeirra vandamála sem komu í ljós í þessari greiningu drögum við til baka fyrri ráðleggingu okkar um að innleiða SWE-Bench Pro.

Þegar öllu er á botninn hvolft ætti mat að veita marktækar vísbendingar með viðmiðunarprófum sem erfitt er að hagræða, auðvelt er að treysta og sem endurspegla raunverulega getu líkans eða markmiðssamræmi þess. Þar sem þessar niðurstöður liggja til grundvallar ákvörðunum OpenAI um innleiðingu og öryggi þurfa mötin sem við fylgjumst með að vera réttmæt og upplýsandi.