நிஜ உலகப் பணிகளில் எங்கள் மாதிரிகளின் செயல்திறனை அளவிடுதல்
நாங்கள் GDPval -ஐ அறிமுகப்படுத்துகிறோம். இது 44 தொழில்களில் உள்ள, பொருளாதார ரீதியாக மதிப்புமிக்க, நிஜ உலகப் பணிகளில் மாதிரி செயல்திறனை அளவிடும் ஒரு புதிய மதிப்பீடாகும்
பொதுவான செயற்கை நுண்ணறிவு மனிதகுலம் முழுமைக்கும் பயனளிப்பதை உறுதி செய்வதே எங்கள் நோக்கம் ஆகும். எங்கள் நோக்கத்தில் ஒரு பகுதியாக, நிஜ உலகில் AI மாதிரிகள் மக்களுக்கு எவ்வாறு உதவ முடியும் என்பது குறித்த முன்னேற்றத்தை வெளிப்படையாகத் தெரிவிக்க விரும்புகிறோம். அதனால்தான் நாங்கள் GDPval-ஐ அறிமுகப்படுத்துகிறோம்: இது எங்கள் மாதிரிகளும் மற்றவையும் பொருளாதார ரீதியாக மதிப்புமிக்க, நிஜ உலகப் பணிகளில் எவ்வளவு சிறப்பாகச் செயல்படுகின்றன என்பதைக் கண்காணிக்க உதவும் ஒரு புதிய மதிப்பீடாகும். நாங்கள் இந்த மதிப்பீட்டிற்கு GDPval என்று பெயரிட்டோம். ஏனெனில், மொத்த உள்நாட்டு உற்பத்தி என்ற கருத்தை ஒரு முக்கிய பொருளாதாரக் குறிகாட்டியாக எடுத்துக்கொண்டோம். மேலும், (GDP-க்கு) அதிகப் பங்களிக்கும் தொழில்துறைகளில் உள்ள முக்கியத் தொழில்களில் இருந்து பணிகளைப் பெற்றோம்.
AI-இன் பரந்த சமூகத் தாக்கம் குறித்து மக்கள் அடிக்கடி ஊகிக்கிறார்கள். ஆனால், அதன் திறனைப் புரிந்துகொள்வதற்கான மிகத் தெளிவான வழி, மாதிரிகள் ஏற்கெனவே என்ன செய்ய முடியும் என்று பார்ப்பதே ஆகும். இணையம் முதல் ஸ்மார்ட்போன்கள் வரை—முக்கிய தொழில்நுட்பங்கள் கண்டுபிடிப்பிலிருந்து பரவலான பயன்பாட்டிற்கு வர —ஒரு தசாப்தத்திற்கும் மேலாக ஆனது என்று வரலாறு காட்டுகிறது. GDPval போன்ற மதிப்பீடுகள், எதிர்கால AI மேம்பாடுகள் குறித்த உரையாடல்களை ஊகத்தின் அடிப்படையில் இல்லாமல், ஆதாரங்களின் அடிப்படையில் நிலைநிறுத்த உதவுகின்றன. மேலும், காலப்போக்கில் மாதிரி மேம்பாட்டைக் கண்காணிக்கவும் அவை உதவ முடியும்.
சவால் நிறைந்த கல்விசார் சோதனைகள் மற்றும் போட்டி குறியீட்டு சவால்கள் போன்ற முந்தைய AI மதிப்பீடுகள், மாதிரிகளின் பகுத்தறிவுத் திறன்களின் எல்லைகளைத் முன்னோக்கித் தள்ளுவதில் முக்கியத்துவம் வாய்ந்தவை. ஆனால், பலர் தங்கள் அன்றாட வேலையில் மேற்கொள்ளும் பணிகளின் வகையை அவை பெரும்பாலும் முழுமையாக பிரதிபலிக்க முடியாமல் விடுகின்றன.
இந்த இடைவெளியை நிரப்புவதற்காக, நாங்கள் மேலும் நிஜத்தன்மை கொண்ட மற்றும் பொருளாதார ரீதியாக முக்கியத்துவமான திறன்களை அளவிடும் மதிப்பீட்டு முறைகளை உருவாக்கி வருகிறோம். இந்த முன்னேற்றம் பாரம்பரிய கல்விசார் அளவுகோல்களான MMLU (பல டஜன் பாடங்களில் பரீட்சை பாணி கேள்விகள்) முதல், மேலும் பயன்பாட்டு மதிப்பீடுகளான SWE-Bench (மென்பொருள் பொறியியல் பிழை திருத்தும் பணிகள்), MLE-Bench (மாடல் பயிற்சி மற்றும் பகுப்பாய்வு போன்ற இயந்திர கற்றல் பொறியியல் பணிகள்), மற்றும் Paper-Bench (ஆராய்ச்சி கட்டுரைகளில் அறிவியல் பகுத்தறிவு மற்றும் விமர்சனம்) வரை நகர்ந்துள்ளது. மேலும், சமீபத்தில் SWE-Lancer (உண்மையான பணம் செலுத்தலை அடிப்படையாகக் கொண்ட ஃப்ரீலான்ஸ் மென்பொருள் பொறியியல் திட்டங்கள்) போன்ற சந்தை அடிப்படையிலான மதிப்பீடுகள் வரை நகர்ந்துள்ளது.
GDPval ஆனது அந்த முன்னேற்றத்தின் அடுத்த படியாகும். இது அனுபவம் வாய்ந்த நிபுணர்களின் நிஜ உலக அறிவார்ந்த பணிகளில் இருந்து நேரடியாக எடுக்கப்பட்ட பணிகளில் மாதிரி செயல்திறனை அளவிடுகிறது. இது பரந்த அளவிலான தொழில்கள் மற்றும் துறைகளில் இருந்து எடுக்கப்பட்ட பணிகளாகும். இதன் மூலம், பொருளாதார ரீதியாக மதிப்புமிக்க பணிகளில் மாதிரிகள் எவ்வாறு செயல்படுகின்றன என்பது குறித்த தெளிவான படத்தை வழங்குகிறது. நடைமுறை தொழில்பணி பணிகளில் மாதிரிகளை மதிப்பீடு செய்வது, அவை ஆய்வகத்தில் எவ்வளவு சிறப்பாக செயல்படுகின்றன என்பதையே அல்லாமல், அவை மக்கள் தினசரி செய்யும் பணிகளில் எவ்வாறு ஆதரவளிக்கின்றன என்பதையும் புரிந்துகொள்ள உதவுகிறது.
GDPval, இந்த மதிப்பீட்டின் முதல் பதிப்பாகும். இது அமெரிக்க மொத்த உள்நாட்டு உற்பத்திக்குப் பங்களிக்கும் முதல் 9 தொழில்துறைகளிலிருந்து தேர்ந்தெடுக்கப்பட்ட 44 தொழில்களை உள்ளடக்கியது. GDPval முழுத் தொகுப்பானது 1,320 சிறப்புப் பணிகளை (தங்கத் திறந்த மூலத் தொகுப்பில் 220 பணிகள்) உள்ளடக்கியது. இந்த ஒவ்வொரு பணியும் அந்தத் துறைகளிலிருந்து சராசரியாக 14 ஆண்டுகளுக்கும் மேலான அனுபவம் கொண்ட அனுபவம் வாய்ந்த நிபுணர்களால் நுணுக்கமாக உருவாக்கப்பட்டு சரிபார்க்கப்பட்டவை. ஒவ்வொரு பணியும் நிஜமான பணித் தயாரிப்புகளை அடிப்படையாகக் கொண்டது. உதாரணமாக, ஒரு சட்டச் சுருக்கம், ஒரு பொறியியல் வரைபடம், ஒரு வாடிக்கையாளர் ஆதரவு உரையாடல், அல்லது ஒரு செவிலியப் பராமரிப்புத் திட்டம் போன்றவை.
GDPval ஆனது அது மதிப்பீடு செய்யும் பணிகளின் யதார்த்தவாதம் மற்றும் பல்வகைத்தன்மை ஆகியவற்றில் தனித்துவமானது. பொருளாதார மதிப்புடன் இணைக்கப்பட்ட பிற மதிப்பீடுகள் குறிப்பிட்ட களங்களில் (எ.கா., SWE-Lancer) மட்டுமே கவனம் செலுத்தும் வேளையில், GDPval பல பணிகளையும் தொழில்களையும் உள்ளடக்கியது. மேலும், கல்விப் பரீட்சை அல்லது சோதனை பாணியில் செயற்கையாகப் பணிகளை உருவாக்கும் அளவுகோல்களைப் (எ.கா., Humanity’s Last Exam அல்லது MMLU) போலன்றி, GDPval, இன்று இருக்கும் ஒரு உண்மையான பணி அல்லது தயாரிப்பு அல்லது அதேபோல் கட்டமைக்கப்பட்ட ஒரு பணி தயாரிப்பு ஆகியவற்றின் விநியோகங்களை அடிப்படையாகக் கொண்ட பணிகளில் கவனம் செலுத்துகிறது.
பாரம்பரிய அளவுகோல்களைப் போலன்றி, GDPval பணிகள் வெறும் எளிய உரைத் தூண்டல்கள் அல்ல. அவை குறிப்பு கோப்புகள் மற்றும் சூழலுடன் வருகின்றன. மேலும், எதிர்பார்க்கப்படும் விநியோகங்கள் ஆவணங்கள், ஸ்லைடுகள், வரைபடங்கள், விரிதாள்கள் மற்றும் மல்டிமீடியா ஆகியவற்றை உள்ளடக்கியுள்ளன. இந்த உண்மைத் தன்மை GDPval -ஐ, மாதிரிகள் நிபுணர்களுக்கு எவ்வாறு துணையாக இருக்கலாம் என்பதற்கான ஒரு மிகவும் உண்மையான சோதனையாக ஆக்குகிறது.
GDPval ஒரு ஆரம்ப நிலையே. இது பல பொருளாதாரப் பணிகளின் முழுமையான நுண்ணிய வேறுபாடுகளை பிரதிபலிக்கவில்லை. இது 44 தொழில்கள் மற்றும் நூற்றுக்கணக்கான அறிவார்ந்த பணிகளை உள்ளடக்கியிருந்தாலும், இது ஒரு-முறை மதிப்பீடுகளுக்கு மட்டுமே வரையறுக்கப்பட்டுள்ளது. எனவே, ஒரு மாதிரி சூழலை உருவாக்க வேண்டிய அல்லது பல வரைவுகளின் மூலம் மேம்படுத்த வேண்டிய நிகழ்வுகளை இது கைப்பற்றுவதில்லை. நிஜ உலக அறிவார்ந்த பணியின் சிக்கல்தன்மையைச் சிறப்பாகப் பிரதிபலிப்பதற்காக, எதிர்காலப் பதிப்புகள் மேலும் ஊடாடும் பணிப்பாய்வுகள் மற்றும் சூழல் நிறைந்த பணிகளுக்கு நீட்டிக்கப்படும் (கீழே உள்ள எங்கள் வரம்புகள் பிரிவில் மேலும் காண்க).
GDPval 9 தொழில்துறைகள் மற்றும் 44 தொழில்களில் உள்ள பணிகளை உள்ளடக்கியது. மேலும், எதிர்காலப் பதிப்புகள் தொடர்ந்து இந்தப் பரப்பை விரிவாக்கும். செயின்ட் லூயிஸ் ஃபெடரல் ரிசர்வ் வங்கியின் தரவுகளால் தீர்மானிக்கப்பட்டபடி, அமெரிக்காவின் மொத்த உள்நாட்டு உற்பத்திக்கு 5% க்கும் அதிகமாகப் பங்களிக்கும் தொழில்துறைகளின் அடிப்படையில், ஆரம்பத்தில் 9 தொழில்துறைகள் தேர்ந்தெடுக்கப்பட்டன. பின்னர், மே 2024 அமெரிக்க தொழிலாளர் புள்ளிவிவர பணியகத்தின் (BLS) தொழில்சார் வேலைவாய்ப்பு அறிக்கையிலிருந்து(புதிய சாளரத்தில் திறக்கும்) பெறப்பட்ட ஊதியம் மற்றும் வேலைவாய்ப்புத் தரவுகளைப் பயன்படுத்தி, ஒவ்வொரு தொழில்துறையிலும் மொத்த ஊதியம் மற்றும் இழப்பீட்டிற்கு அதிகப் பங்களிக்கும் மற்றும் முதன்மையாக அறிவார்ந்த பணித் தொழில்களாக இருக்கும் 5 தொழில்களைத் தேர்ந்தெடுத்தோம். அந்தத் தொழில்கள் முதன்மையாக அறிவார்ந்த பணிகளைக் கொண்டவையா என்பதைத் தீர்மானிக்க, அமெரிக்கத் தொழிலாளர் துறையின் ஆதரவைப் பெற்ற அமெரிக்கத் தொழில்சார் தகவல் தரவுத்தளமான O*NET(புதிய சாளரத்தில் திறக்கும்)-இன் பணித் தரவுகளைப் பயன்படுத்தினோம். O*NET-இல் உள்ள ஒவ்வொரு தொழிலுக்குமான ஒவ்வொரு பணியும் அறிவுசார் வேலை எனவா அல்லது உடல் சார்ந்த வேலை/கைநுணுக்க உழைப்பு (அதாவது நிஜ உலகில் உடல் செயல்பாடுகள் தேவைப்படும் வேலை) எனவா என்பதை நாங்கள் வகைப்படுத்தினோம். ஒரு தொழிலின் கூறுபணிகளில் குறைந்தது 60% பணிகள் உடல் சார்ந்த வேலை அல்லது கைநுணுக்க உழைப்பு இல்லாததாக வகைப்படுத்தப்பட்டிருந்தால், அந்த தொழில் முழுமையாக "முக்கியமாக அறிவுசார் வேலை" என தகுதி பெற்றதாக கருதப்பட்டது. GDPval -இன் முதல் பதிப்பிற்கான தொடக்கப் புள்ளியாக இந்த 60% வரம்பைத் தேர்ந்தெடுத்தோம். நிஜ உலக உற்பத்தித்திறனில் AI அதிக தாக்கத்தை ஏற்படுத்தக்கூடிய தொழில்களில் கவனம் செலுத்தவே இம்முடிவு.
இந்த செயல்முறை 44 தொழில்களை சேர்ப்பதற்கு வழிவகுத்தது.
மனை வணிகம் மற்றும் வாடகை மற்றும் குத்தகை
வரவேற்பாளர்
சொத்து, மனை வணிகம் மற்றும் சமூக சங்க மேலாளர்கள்
மனை வணிக விற்பனை ஏஜன்ட்கள்
மனை வணிகத் தரகர்கள்
கவுண்டர் மற்றும் வாடகை எழுத்தர்கள்
அரசு
பொழுதுபோக்குப் பணியாளர்கள்
இணக்க அதிகாரிகள்
காவல்துறை மற்றும் துப்பறியும் நபர்களின் முதன்மை மேற்பார்வையாளர்கள்
நிர்வாகச் சேவை மேலாளர்கள்
குழந்தைகள், குடும்பம் மற்றும் பள்ளி சமூகப் பணியாளர்கள்
உற்பத்தி
இயந்திரப் பொறியாளர்கள்
தொழில்துறைப் பொறியாளர்கள்
வாங்குபவர்கள் மற்றும் கொள்முதல் ஏஜன்ட்கள்
கப்பல் போக்குவரத்து, பெறுதல் மற்றும் சரக்கு எழுத்தர்கள்
உற்பத்தி மற்றும் செயல்பாட்டுப் பணியாளர்களின் முதன்மை மேற்பார்வையாளர்கள்
தொழில்முறை, அறிவியல் மற்றும் தொழில்நுட்பச் சேவைகள்
மென்பொருள் உருவாக்குபவர்கள்
வழக்கறிஞர்கள்
கணக்காளர்கள் மற்றும் தணிக்கையாளர்கள்
கணினி மற்றும் தகவல் அமைப்பு மேலாளர்கள்
திட்டம் மேலாண்மை நிபுணர்கள்
சுகாதார பராமரிப்பு மற்றும் சமூக உதவி
பதிவுசெய்யப்பட்ட செவிலியர்கள்
செவிலிய சிறப்பு வல்லுநர்கள்
மருத்துவ மற்றும் சுகாதார சேவை மேலாளர்கள்
அலுவலகம் மற்றும் நிர்வாக ஆதரவுப் பணியாளர்களின் முதன்மை மேற்பார்வையாளர்கள்
மருத்துவ செயலாளர்கள் மற்றும் நிர்வாக உதவியாளர்கள்
நிதி மற்றும் காப்பீடு
வாடிக்கையாளர் சேவை பிரதிநிதிகள்
நிதி மற்றும் முதலீட்டு ஆய்வாளர்கள்
நிதி மேலாளர்கள்
தனிப்பட்ட நிதி ஆலோசர்கள்
பத்திரங்கள், பொருட்கள் மற்றும் நிதி சேவைகள் விற்பனை ஏஜன்ட்கள்
சில்லறை விற்பனை
மருந்தாளர்கள்
சில்லறை விற்பனை பணியாளர்களின் முதல் நிலை மேற்பார்வையாளர்கள்
பொது மற்றும் செயல்பாட்டு மேலாளர்கள்
தனியார் துப்பறிவாளர்கள் மற்றும் ஆய்வாளர்கள்
மொத்த வர்த்தகம்
விற்பனை மேலாளர்கள்
ஆணை எழுத்தர்கள்
சில்லறை அல்லாத விற்பனை பணியாளர்களின் முதல் நிலை மேற்பார்வையாளர்கள்
விற்பனைப் பிரதிநிதிகள், மொத்த விற்பனை மற்றும் உற்பத்தி, தொழில்நுட்ப மற்றும் அறிவியல் பொருட்கள் தவிர
விற்பனைப் பிரதிநிதிகள், மொத்த விற்பனை மற்றும் உற்பத்தி, தொழில்நுட்ப மற்றும் அறிவியல் தயாரிப்புகள்
தகவல்
ஆடியோ மற்றும் வீடியோ தொழில்நுட்ப வல்லுநர்கள்
தயாரிப்பாளர்கள் மற்றும் இயக்குநர்கள்
செய்தி பகுப்பாய்வாளர்கள், செய்தியாளர்கள் மற்றும் பத்திரிக்கையாளர்கள்
திரைப்பட மற்றும் வீடியோ பதிப்பாசிரியர்கள்
பதிப்பாசிரியர்கள்
ஒவ்வொரு தொழிலுக்காகவும், அனுபவம் வாய்ந்த நிபுணர்களுடன் இணைந்து பணியாற்றினோம். அவர்கள் அன்றாடச் செய்யும் வேலையைப் பிரதிபலிக்கும் விதமாக, அந்தத் தொழிலுக்கான பிரதிநிதித்துவப் பணிகளை உருவாக்கினோம். இந்த நிபுணர்கள் சராசரியாக 14 ஆண்டுகள் அனுபவம் கொண்டவர்களாக இருந்தனர், மேலும் உயர்ந்த முன்னேற்ற சாதனைகளையும் பெற்றிருந்தனர். பிரதிநிதித்துவத்தை அதிகரிக்க— வெவ்வேறு நடைமுறைப் பகுதிகளைச் சேர்ந்த வழக்கறிஞர்கள் மற்றும் வெவ்வேறு அளவிலான நிறுவனங்களைச் சேர்ந்தவர்கள் போன்ற —பல்வேறுபட்ட நிபுணர்களை நாங்கள் திட்டமிட்டு திரட்டினோம்.
உண்மையான வேலையைப் பிரதிநிதித்துவப்படுத்துவதாகவும், மற்றொரு நிபுணர் முடிக்கக்கூடியதாகவும், மதிப்பீட்டிற்குத் தெளிவாகவும் இருப்பதை உறுதிசெய்ய ஒவ்வொரு பணியும் பல-படி மீளாய்வு செயல்முறைக்கு உட்படுத்தப்பட்டன. சராசரியாக, ஒவ்வொரு பணியும் 5 சுற்று நிபுணர் மீளாய்வைப் பெற்றது, இதில் மற்ற பணி எழுத்தாளர்கள், கூடுதல் தொழில் மதிப்பாய்வாளர்கள் சரிபார்ப்பு மற்றும் மாதிரி அடிப்படையிலான சரிபார்ப்பு ஆகியவையும் இதில் அடங்கும்.
எங்கள் திறந்த மூல தங்கத் தொகுப்பில், ஒரு தொழிலுக்கு 5 பணிகளுடன், ஒரு தொழிலுக்கு 30 முழுமையாக மதிப்பாய்வு செய்யப்பட்ட பணிகள் (முழு-தொகுப்பு) ஆகியை இதன் விளைவாகக் கிடைக்கும் தரவுத்தொகுப்பில் அடங்கும், இது நிஜ உலக அறிவுப் பணியில் மாதிரியின் செயல்திறனை மதிப்பிடுவதற்கான வலுவான அடித்தளத்தை வழங்குகிறது.
GDPval பணிகளின் உதாரணங்கள்
தூண்டி + பணி சூழல்
அனுபவம் வாய்ந்த மனிதர் வழங்கக்கூடியது

GDPval பணிகளில் மாதிரியின் செயல்திறனை மதிப்பிடுவதற்கு, தரவுத்தொகுப்பில் குறிப்பிடப்பட்டுள்ள அதே தொழில்களைச் சேர்ந்த அனுபவம்மிக்க நிபுணர்களின் குழுவான நிபுணர் "கிரேடர்களை" நாங்கள் நம்பியுள்ளோம். மாதிரி உருவாக்கிய விநியோகங்களை பணி எழுத்தாளர்களால் உருவாக்கப்பட்டவற்றுடன் இந்த தரப்படுத்துபவர்கள் (அது AI அல்லது மனிதனால் உருவாக்கப்பட்டது என்று தெரியாமல்) கண்மூடித்தனமாக ஒப்பிட்டுப் பார்க்கிறார்கள், மேலும் விமர்சனங்களையும் தரவரிசைகளையும் வழங்குகிறார்கள். அதன் பிறகு தரப்படுத்துபவர்கள் மனித மற்றும் AI விநியோகங்களை தரவரிசைப்படுத்தி, ஒவ்வொரு AI விநியோகத்தையும் "சிறந்தது", "அவ்வளவு நல்லது" அல்லது "மோசமானது" என வகைப்படுத்துகிறார்கள்.
பணி எழுத்தாளர்கள் தங்கள் தொழில்களுக்கான விரிவான மதிப்பெண் வழிகாட்டிகளையும் உருவாக்கினர். இது தர நிர்ணயச் செயல்முறைக்கு நிலைத்தன்மையையும் வெளிப்படைத்தன்மையையும் சேர்க்கிறது. மேலும், கொடுக்கப்பட்ட ஒரு விநியோகத்தை மனித நிபுணர்கள் எவ்வாறு மதிப்பிடுவார்கள் என்பதைக் கணக்கிடப் பயிற்சி அளிக்கப்பட்ட ஒரு AI அமைப்பான, "தானியங்கி தர நிர்ணயம் செய்பவர்" ஒன்றையும் நாங்கள் உருவாக்கினோம். மற்றொரு விதமாகச் சொன்னால், ஒவ்வொரு முறையும் முழு நிபுணர் மதிப்பாய்வை நடத்துவதற்குப் பதிலாக, இந்த தானியங்கி தர நிர்ணயம் செய்பவர், எந்த வெளியீட்டை மக்கள் விரும்புவார்கள் என்பதை விரைவாகக் கணிக்க முடியும். இந்தக் கருவியை evals.openai.com என்ற தளத்தில் ஓர் ஆய்வுக் கருவியாக வெளியிடுகிறோம். ஆனால், இது இன்னும் நிபுணத்துவத் தர நிர்ணயம் செய்பவர்களைப் போல நம்பகமானது அல்ல. எனவே, அவர்களுக்குப் பதிலாக இதை நாங்கள் பயன்படுத்துவதில்லை.
இன்றைய சிறந்த முன்னனி மாதிரிகள் ஏற்கெனவே, தொழில் துறை நிபுணர்களால் உருவாக்கப்படும் பணியின் தரத்தை நெருங்கிக் கொண்டிருக்கின்றன என்பதைக் கண்டறிந்தோம். இதைச் சோதிக்க, பல முன்னணி மாதிரிகளான—GPT‑4o, o4-mini, OpenAI o3, GPT‑5, Claude Opus 4.1, Gemini 2.5 Pro, மற்றும் Grok 4— ஆகியவற்றின் விநியோகங்களை மனிதர்களால் உருவாக்கப்பட்டப் பணிகளுடன் ஒப்பிட்டுப் பார்க்க, தொழில் துறை நிபுணர்களைக் கொண்டு கண்ணுக்குத் தெரியாத மதிப்பீடுகளை நடத்தினோம். GDPval தங்கத் தொகுப்பில் உள்ள 220 பணிகளில், மாதிரி வெளியீடுகள் தொழில் துறை நிபுணர்களின் விநியோகங்களை விடச் சிறந்ததாக ("வெற்றிகள்") அல்லது சமமானதாக ("சமநிலை") மதிப்பிடப்பட்ட தருணங்களைப் பதிவு செய்தோம். இது கீழே உள்ள பட்டை விளக்கப்படத்தில் காட்டப்பட்டுள்ளது. Claude Opus 4.1, இந்தத் தொகுப்பில் மிகச் சிறப்பாகச் செயல்படும் மாதிரியாக இருந்தது. இது அழகியல் (எ.கா., ஆவண வடிவமைப்பு, ஸ்லைடு தளவமைப்பு) ஆகியவற்றில் குறிப்பாகச் சிறந்து விளங்கியது. மேலும், GPT‑5 துல்லியத்தில் (எ.கா., களம் சார்ந்த அறிவைக் கண்டறிதல்) குறிப்பாகச் சிறந்து விளங்கியது. இந்தத் பணிகளில் காலப்போக்கில் தெளிவான முன்னேற்றத்தையும் நாம் காண்கிறோம். GPT‑4o (வசந்த காலம் 2024 இல் வெளியிடப்பட்டது) முதல் GPT‑5 (கோடை காலம் 2025 இல் வெளியிடப்பட்டது) வரை, செயல்திறன் ஒரு தெளிவான நேரியல் போக்கைப் பின்பற்றி, இரண்டு மடங்குக்கும் அதிகமாக அதிகரித்துள்ளது.
கூடுதலாக, முன்னனிமாதிரிகள் தொழில் துறை நிபுணர்களை விட சுமார் 100 மடங்கு வேகமாகவும் மற்றும் 100 மடங்கு குறைந்த செலவிலும் GDPval பணிகளை முடிக்க முடியும் என்பதைக் கண்டறிந்தோம். இருப்பினும், இந்த புள்ளிவிவரங்கள் வெறும் மாதிரி ஊக நேரம் மற்றும் API கட்டண விகிதங்களை மட்டுமே பிரதிபலிக்கின்றன. எனவே, எங்கள் மாதிரிகளை நிஜ உலகப் பணியிடச் சூழல்களில் பயன்படுத்துவதற்குத் தேவைப்படும் மனித மேற்பார்வை, மீண்டும் மீண்டும் செயல்படுத்துதல், மற்றும் ஒருங்கிணைப்பு படிகள் ஆகியவற்றை இவை காட்டுவதில்லை. ஆயினும்கூட, குறிப்பாக மாதிரிகள் மிகவும் வலுவாக இருக்கும் பணிகளின் துணைத் தொகுப்பில், ஒரு மனிதரைப் பணியில் ஈடுபடுத்துவதற்கு முன் அந்தப் பணியை ஒரு மாதிரிக்குக் கொடுப்பது நேரத்தையும் பணத்தையும் மிச்சப்படுத்தும் என்று நாங்கள் எதிர்பார்க்கிறோம்.
தலைமைப் புலனாய்வாளர்கள்-இன் விநியோகங்களை மனித நிபுணர்களுடன் ஒப்பிட்டு நிபுணத்துவத் தர நிர்ணயம் செய்பவர்கள் ஆய்வு செய்தனர். இன்றைய முன்னணி மாதிரிகள் ஏற்கெனவே, தொழில் துறை நிபுணர்களால் உருவாக்கப்படும் பணியின் தரத்தை நெருங்கிக் கொண்டிருக்கின்றன. Claude Opus 4.1, பாதிக்கு குறைவான பணிகளில் மனிதர்களுக்கு இணையான அல்லது மனிதர்களை விடச் சிறந்ததாக மதிப்பிடப்பட்ட வெளியீடுகளை உருவாக்கியுள்ளது.
GPT‑4o முதல் GPT‑5 வரை, GDPval பணிகளில் செயல்திறன் ஓராண்டில் மூன்று மடங்குக்கும் அதிகமாக அதிகரித்துள்ளது.
இறுதியாக, GDPval -இன் செயல்திறனை மேம்படுத்த முடியுமா என்பதை மதிப்பிடுவதற்காக, GPT‑5 இன் உள் மற்றும் சோதனைப் பதிப்பிற்கு படிப்படியாகப் பயிற்சி அளித்தோம். இந்தச் செயல்முறை செயல்திறனை மேம்படுத்துகிறது என்பதைக் கண்டறிந்தோம். மேலும், இது எதிர்கால சாத்தியமான முன்னேற்றத்திற்கான ஒரு பாதையை உருவாக்குகிறது. பிற கட்டுப்பாட்டு சோதனைகளும் இதை உறுதிப்படுத்துகின்றன: மாதிரி அளவை அதிகரித்தல், அதிக பகுத்தறிவு படிகளை ஊக்குவித்தல், மற்றும் செறிவான பணிச் சூழலை வழங்குதல் ஆகிய ஒவ்வொன்றும் அளவிடக்கூடிய ஆதாயங்களுக்கு வழிவகுத்தன.
முழு முடிவுகளையும் எங்கள் ஆய்வுக் கட்டுரையில் நீங்கள் படிக்கலாம். நாங்கள் GDPval பணிகளின் ஒரு முக்கிய துணைத்தொகுதியையும், மற்ற ஆய்வாளர்கள் இந்த பணியை மேம்படுத்திக் கொள்ளக்கூடிய வகையில் ஒரு பொதுப் மதிப்பீட்டு சேவையையும் வெளியிடுகிறோம்.
AI அதிகத் திறன்கொண்டதாக மாறும்போது, அது வேலைவாய்ப்புச் சந்தையில் மாற்றங்களை ஏற்படுத்தும் வாய்ப்புள்ளது. ஆரம்ப GDPval முடிவுகள் என்னவென்றால், மாதிரிகள் ஏற்கெனவே சில திரும்பத் திரும்பச் செய்யக்கூடிய, நன்கு குறிப்பிடப்பட்ட பணிகளை நிபுணர்களை விடவும் வேகமாகவும் மற்றும் குறைந்த செலவிலும் மேற்கொள்ள முடியும் என்பதைக் காட்டுகின்றன. இருப்பினும், பெரும்பாலான வேலைகள், வெறுமனே எழுதி வைக்கக்கூடிய பணிகளின் தொகுப்பை விட மேலானவை. AI ஆனது வழக்கமான பணிகளைக் கையாளக்கூடிய இடங்களை GDPval எடுத்துக்காட்டுகிறது. இதன் மூலம் மக்கள், வேலையின் படைப்பு சார்ந்த மற்றும் தீர்ப்பு வழங்க வேண்டிய பகுதிகளில் அதிக நேரம் செலவிட முடியும். AI இந்த வழியில் தொழிலாளர்களுக்குத் துணையாக இருக்கும்போது, அது குறிப்பிடத்தக்க பொருளாதார வளர்ச்சியாக மாற முடியும். இந்தக் கருவிகளைப் பயன்படுத்துவதற்கான அணுகலை ஜனநாயகப்படுத்துதல், மாற்றம் ஏற்படும்போது தொழிலாளர்களுக்கு ஆதரவளித்தல், மற்றும் பரந்த பங்களிப்பிற்குப் பலனளிக்கும் அமைப்புகளை உருவாக்குதல் ஆகியவற்றின் மூலம் AI-இன் "மேல் உயர்த்தியில்" அனைவரையும் வைத்திருக்க வேண்டும் என்பதே எங்கள் இலக்கு.
GDPval என்பது ஒரு ஆரம்ப கட்டமாகும். இது 44 தொழில்கள் மற்றும் நூற்றுக்கணக்கான பணிகளை உள்ளடக்கியிருந்தாலும், எங்கள் சோதனையின் வரம்பை விரிவுபடுத்தவும் மற்றும் முடிவுகளை இன்னும் அர்த்தமுள்ளதாக மாற்றவும் நாங்கள் தொடர்ந்து எங்கள் அணுகுமுறையைச் செம்மைப்படுத்தி வருகிறோம் . இந்த மதிப்பீட்டின் தற்போதைய பதிப்பு ஒரு-முறை முறையில் மட்டுமே உள்ளது. எனவே, ஒரு மாதிரிக்கு சூழலை உருவாக்க வேண்டிய அல்லது பல வரைவுகளின் மூலம் மேம்படுத்த வேண்டிய நிகழ்வுகளை இது கைப்பற்றுவதில்லை—எடுத்துக்காட்டாக, வாடிக்கையாளரின் பின்னூட்டத்திற்குப் பிறகு ஒரு சட்டச் சுருக்கத்தைத் திருத்துவது அல்லது ஒரு முரண்பாட்டைக் கண்டறிந்த பிறகு தரவுப் பகுப்பாய்வைத் திரும்பத் திரும்பச் செயல்படுத்துவது போன்ற நிகழ்வுகளை இது பதிவு செய்வதில்லை. கூடுதலாக, நிஜ உலகில், பணிகள் எப்போதும் ஒரு தூண்டுதலுடனோ அல்லது குறிப்பு கோப்புகளுடனோ தெளிவாக வரையறுக்கப்படுவதில்லை; எடுத்துக்காட்டாக, ஒரு வழக்கறிஞர், ஒரு சட்டச் சுருக்கத்தை உருவாக்குவதுதான் தங்கள் கட்சிக்காரருக்கு உதவ சரியான அணுகுமுறை என்று தீர்மானிக்கும் முன், தெளிவின்மையைக் கையாண்டு அவர்களுடன் பேச வேண்டியிருக்கும். அதிகரித்த ஊடாடுதன்மை மற்றும் தெளிவின்மையைக் கையாளும் அதிகப் பணிகளுடன், மேலும் பல தொழில்கள், துறைகள் மற்றும் பணி வகைகளை உள்ளடக்கும் வகையில் GDPval -ஐ விரிவுபடுத்த நாங்கள் திட்டமிட்டுள்ளோம். இதன் நீண்ட கால நோக்கம், பல்வேறு அறிவுசார் பணிகளில் உள்ள முன்னேற்றத்தை சிறப்பாக அளவிடுவதாகும்.
- நீங்கள் GDPval -க்கு பங்களிக்க விரும்பும் ஒரு தொழில் துறை நிபுணராக இருந்தால், தயவுசெய்து இங்கே உங்கள் விருப்பத்தைத் தெரிவிக்கவும்.
- நீங்கள் OpenAI உடன் பணிபுரியும் வாடிக்கையாளராக இருந்தால் மற்றும் GDPval -இன் எதிர்கால சுற்றில் பங்களிக்க விரும்பினால், தயவுசெய்து இங்கே உங்கள் ஆர்வத்தைத் தெரிவிக்கவும்.
சமூகப் பங்களிப்பு இன்றியமையாதது—வேலை செய்யும் மக்களுக்காக AGI-ஐ இன்னும் பயனுள்ளதாக மாற்றுவது என்ற எங்கள் இலக்கைப் பகிர்ந்துகொள்ளும் ஆராய்ச்சியாளர்கள், பயிற்சியாளர்கள் மற்றும் அமைப்புகளுடன் இணைந்து GDPval-ஐ உருவாக்குவதில் நாங்கள் மகிழ்ச்சி அடைகிறோம்.


