GPT‑6.1 Sol மூலம் மாடல் செலவை 76 மடங்கு குறைத்த Asana

Codex-இல் GPT‑6 Astra சோதனைகளை நடத்தியதன் உதவியுடன், GPT‑6.1 Sol-இல் இயங்கும் தனது உலாவி ஏஜென்ட்டின் பணிப்பாய்வை Asana மேம்படுத்தியது. இதனால் அது 76 மடங்கு குறைந்த செலவில், 5 மடங்கு வேகமாக இயங்கியது.

Asana, தான் கையகப்படுத்திய⁠(புதிய சாளரத்தில் திறக்கும்) StackAI⁠(புதிய சாளரத்தில் திறக்கும்) தளத்தின் மூலம், வணிகச் செயலிகளுக்கு இடையிலான பணிகளைத் தானியக்கமாக்க வாடிக்கையாளர்களுக்கு உதவுகிறது. StackAI மூலம், நிரல் எழுதாமலேயே இணையதளங்களில் உலாவவும், படிவங்களை நிரப்பவும், தகவல்களைச் சேகரிக்கவும் வாடிக்கையாளர்கள் பணிப்பாய்வுகளை உருவாக்கலாம். Asana செயல்படும் அளவில், இந்தப் பணிப்பாய்வுகளின் சிறிய செயல்திறன் குறைபாடுகள்கூட ஒன்றுசேர்ந்து பெரும் தாக்கத்தை ஏற்படுத்துகின்றன.

Asana-வின் StackAI தலைமைத் தொழில்நுட்ப அதிகாரியான முனைவர் ஃபிராங்க் ஹிடால்கோ, உலாவி ஏஜென்ட்டை வேகமாகவும் குறைந்த செலவிலும் இயக்கும் முயற்சியில் இறங்கினார். ஏஜென்ட்டை ஆராயவும், மேம்பாடுகளைச் சோதிக்கவும், முடிவுகளை ஒப்பிடவும் Codex-இல் உள்ள GPT‑6 Astra-வுக்கு அவர் அறிவுறுத்தினார். தானே செய்திருந்தால் ஒன்று முதல் இரண்டு மாதங்கள் எடுத்திருக்கும் என அவர் மதிப்பிட்ட வேலை, சுமார் ஒரு வாரத்தில் முடிந்தது.

144 இயக்கங்களைக் கொண்ட Asana-வின் ஆய்வில்⁠(புதிய சாளரத்தில் திறக்கும்) GPT‑6.1 Sol மற்றும் இங்கே மாடல்கள் A, B, C எனக் குறிப்பிடப்படும் மூன்று அதிநவீன மாடல்கள் சோதிக்கப்பட்டன. இதன் விளைவாக உருவான, GPT‑6.1 Sol-இல் இயங்கும் மேம்படுத்தப்பட்ட பணிப்பாய்வுக்கு, ஓர் இயக்கத்திற்கான மதிப்பிடப்பட்ட மாடல் செலவு சராசரியாக $0.47 ஆகவும், இயக்க நேரம் சுமார் நான்கு நிமிடங்களாகவும் இருந்தன. இது மாடல் B-இல் இருந்த ஆரம்ப நேரடிப் பயன்பாட்டு அமைப்பைவிட 76 மடங்கு குறைந்த செலவும் 5 மடங்கு அதிக வேகமும் கொண்டது.

விரைவாக முன்னேறுவதற்காக, நிரல்தொகுப்பின் அமைப்பை அறியவும், ஒவ்வொரு மாடல் கோரிக்கையையும் ஏஜென்ட் எவ்வாறு உருவாக்குகிறது என்பதை விளக்கவும் Codex-இல் GPT‑6 Astra-வைப் பயன்படுத்தி ஹிடால்கோ தொடங்கினார். ஏஜென்ட் தனது நிலையான அறிவுறுத்தல்களையும் கருவி வரையறைகளையும் இடைநினைவகத்தில் சேமித்தாலும், தான் சேகரித்த பக்க உரை மற்றும் திரைப்பிடிப்புகளின் வளர்ந்துகொண்டே செல்லும் வரலாற்றைச் சேமிக்கவில்லை என்பதை GPT‑6 Astra கண்டறிந்தது. இதனால் ஒவ்வொரு கோரிக்கையும் அந்த வரலாற்றை முழுக் கட்டணத்தில் மீண்டும் அனுப்பியது.

மேலும், கிட்டத்தட்ட ஒவ்வொரு படியிலும் பழைய திரைப்பிடிப்புகளை ஏஜென்ட் நீக்கியதோடு, உரையையும் குறைத்தது. ஒவ்வொரு திருத்தமும் வரலாற்றை மாற்றியதால், வரலாற்றை மட்டும் இடைநினைவகத்தில் சேமிப்பது உதவியிருக்காது. மேலும், அந்தத் தகவல்களை இழப்பதால், ஏற்கெனவே படித்த பக்கங்களை ஏஜென்ட் மீண்டும் பார்வையிட வேண்டியிருக்கலாம்.

GPT‑6 Astra முன்மொழிந்த தீர்வுகளை ஹிடால்கோ ஆராய்ந்து, சோதிப்பதற்காக மூன்றைத் தேர்ந்தெடுத்தார்:

• ஏஜென்ட்டின் உலாவல் வரலாற்றையும் இடைநினைவகத்தில் சேமித்தல்

• அது தக்கவைக்கக்கூடிய உரையின் அளவை அதிகரித்தல்

• திரைப்பிடிப்புகளை ஒவ்வொரு படியிலும் நீக்குவதற்குப் பதிலாகத் தொகுதிகளாக நீக்குதல்

எந்த மாறிகள் முக்கியமானவை என்பதைக் கண்டறிய, GPT‑6 Astra விரைவான சோதனைகளுடன் தொடங்கியது. கட்டுப்படுத்தப்பட்ட சோதனைகளுக்கு ஏற்ப நிரல் வடிவமைக்கப்படாததால், அதை மறுசீரமைத்தது. இதனால் ஒரே முன்பகுதியும் பின்பகுதியும், தனித்தனி அமைப்புகளைக் கொண்ட பல பணிப்பாய்வுகளை இணையாக இயக்க முடிந்தது.

முழு ஆய்வையும் Astra நடத்தியது: வரலாற்றுக்கு 120,000 மற்றும் 480,000 எழுத்துகள் என்ற இரு அளவு வரம்புகளும், இடைநினைவகச் சேமிப்பு மற்றும் திரைப்பிடிப்புகளுக்கான ஆறு விதிமுறைகளும் பயன்படுத்தப்பட்டன. ஒவ்வொரு சேர்க்கையும் நான்கு மாடல்கள் ஒவ்வொன்றிலும் மூன்று முறை சோதிக்கப்பட்டது (கீழே உள்ள அட்டவணையைப் பார்க்கவும்). சிறப்பாகச் செயல்பட்ட விதிமுறை, திரைப்பிடிப்புகள் 20 வரை சேர அனுமதித்தது; பின்னர் மிக அண்மைய ஒன்றை மட்டும் வைத்துக்கொண்டு மற்றவற்றை நீக்கியது. இதனால், நீக்கங்களுக்கு இடையில் முந்தைய வரலாறு நீண்ட நேரம் மாற்றமின்றி இருந்தது. அதிகரிக்கப்பட்ட வரலாற்று அளவு வரம்புடன் இது இணைந்து, மேம்படுத்தப்பட்ட பணிப்பாய்வாக உருவானது. ஒவ்வொரு உள்ளமைவும் ஒரே பணியைச் செய்தது: பொதுவாக அணுகக்கூடிய செயல்விளக்கப் பட்டியலில் உள்ள 32 புத்தகங்கள் ஒவ்வொன்றிற்கும் ஆறு தகவல் புலங்களைச் சேகரித்தது. இது சில Asana வாடிக்கையாளர்கள் StackAI-இல் செய்யும் பணிகளைப் பிரதிபலித்தது.

GPT‑6 Astra பணிப்பாய்வுகளை இயக்கி, கோரிக்கைகள், பயன்பாட்டுப் பதிவுகள் மற்றும் வெளியீடுகளை ஆராய்ந்தது. தனித்தனி மாடல் அமர்வுகள் அந்த வேலையை மதிப்பாய்வு செய்தன. ஒவ்வொரு அமர்வின் கோரிக்கைகள், தரவுத் தடங்கள் மற்றும் முடிவுகள், Asana-வின் மென்பொருள் வெளியீட்டுத் தளமான Command⁠(புதிய சாளரத்தில் திறக்கும்)-இல் பதிவுசெய்யப்பட்டன. இதனால் பின்னர் முழு ஆய்வையும் குழு மதிப்பாய்வு செய்ய முடிந்தது. Command-இல் கண்டறியப்பட்டவை முதலில் பணிப்பதிவுகளாகவும், பின்னர் நிரல் இணைப்புக் கோரிக்கைகளாகவும் மாற்றப்பட்டு, அந்த மாற்றங்கள் நேரடிப் பயன்பாட்டுக்குக் கொண்டுவரப்பட்டன.

மாடல் B-ஐப் பொறுத்தவரை, இந்த மேம்பாடு ஓர் இயக்கத்திற்கான மதிப்பிடப்பட்ட மாடல் செலவை குறைந்தபட்சம் $36.21-இலிருந்து $1.24 ஆக, அதாவது 29 மடங்கு குறைத்தது. ஆரம்ப இயக்கங்களில் சில முடிவடைவதற்கு முன்பே படி வரம்பை எட்டிவிட்டன. GPT‑6.1 Sol-இன் மேம்படுத்தப்பட்ட பணிப்பாய்வில் செலவு இன்னும் 2.6 மடங்கு குறைந்து $0.47 ஆக இருந்தது. மேம்படுத்தப்பட்ட பணிப்பாய்வின் ஒவ்வொரு இயக்கமும் பணியை முடித்து, சரியான பதிலை வழங்கியது.

GPT‑6.1 Sol-இல் மட்டும், அதிகரிக்கப்பட்ட வரலாற்று அளவு வரம்புடன் புதிய இடைநினைவகச் சேமிப்பு மற்றும் திரைப்பிடிப்பு விதிமுறையைப் பயன்படுத்தியபோது, ஓர் இயக்கத்திற்கான செலவு $1.97-இலிருந்து $0.47 ஆக, 4 மடங்கு குறைந்தது. ஒவ்வொரு அழைப்பின் செலவும் சுமார் 3 மடங்கு குறைந்தது. ஏனெனில், உள்ளீட்டில் 89% இடைநினைவகத்திலிருந்து வந்தது; அதற்கான விலை, இடைநினைவகத்தில் இல்லாத உள்ளீட்டின் விலையில் 5% மட்டுமே. இயக்கங்களும் வேகமடைந்தன: மாடல் B-இன் ஆரம்ப அமைப்பில் குறைந்தபட்சம் 22.5 நிமிடங்கள் எடுத்த நிலையில், GPT‑6.1 Sol-இன் மேம்படுத்தப்பட்ட பணிப்பாய்வில் சுமார் நான்கு நிமிடங்களே எடுத்தன.

ஏஜென்ட் பதில் ஒன்றை வழங்குமா இல்லையா என்பதையே வரலாற்று மேலாண்மை எவ்வாறு பாதித்தது என்பதையும் இந்த ஆய்வு காட்டியது. GPT‑6.1 Sol தனது உலாவல் வரலாற்றைத் தக்கவைக்க அதிக இடம் அளித்தபோது, பதில் வழங்கிய இயக்கங்களின் எண்ணிக்கை அதிகரித்தது. குறைந்த வரலாற்று அளவு வரம்பில் 18 இயக்கங்களில் மூன்று மட்டுமே பதில் வழங்கின; அதிக வரம்பில் 18 இயக்கங்களும் சரியான பதிலை வழங்கின. இயக்கச் செலவுகளைத் தொடர்ந்து ஏற்கக்கூடிய அளவில் வைத்துக்கொண்டே, வாடிக்கையாளர்களுக்கு வேகமான, அதிக திறனுள்ள மாடல்களை வழங்குவதே இதன் வணிக மதிப்பு என ஹிடால்கோ கருதுகிறார்.

StackAI-இன் உலாவி வழிசெலுத்தலில் செய்த மாற்றங்களை Asana வெளியிட்டுள்ளது. இதேபோன்ற சோதனைகளை மீண்டும் எளிதாக நடத்துவதற்கான கருவிகளையும் உருவாக்கிவருகிறது. காலப்போக்கில், இந்தச் சோதனைகளைத் தளத்தின் மதிப்பீடுகளில் இணைக்கக் குழு திட்டமிட்டுள்ளது. இதனால் வாடிக்கையாளர்களும் உள் குழுக்களும் தங்களின் ஏஜென்ட்டுகளை உள்ளமைக்கும்போது செலவு, இயக்க நேரம் மற்றும் பதிலின் தரத்தை ஒப்பிட முடியும்.

தயாரிப்பு அம்சங்களை வெளியிடுவதற்கு முன்பே சோதிக்க, Asana தற்போது Codex-இல் GPT‑6 Astra-வைப் பயன்படுத்துகிறது: Astra தளத்தில் உலாவி, வெவ்வேறு உள்ளீடுகளை முயற்சித்து, மனிதத் தர உறுதி மதிப்பாய்வாளர்களுக்குப் பிழைகளை அறிக்கையிடுகிறது. மேகக்கணினியில் இயங்கும் பல ஏஜென்ட் அமர்வுகள் இணையாக அம்சங்களைச் சோதிக்கும் புதிய மென்பொருள் உருவாக்க வாழ்க்கைச் சுழற்சிக்கான அடித்தளமாக இதை ஹிடால்கோ பார்க்கிறார்.

முழு ஆய்வையும் Asana⁠(புதிய சாளரத்தில் திறக்கும்) மற்றும் StackAI⁠(புதிய சாளரத்தில் திறக்கும்) வலைப்பதிவுகளில் படிக்கலாம்.