GPT‑5.6 రూపకర్తల మార్గదర్శిని

GPT‑5.6 మోడల్ కుటుంబం అత్యాధునిక స్థాయి ఏజెంట్ పనితీరును ఎంతో అందుబాటులోకి తీసుకురావడంతో పాటు, సాధ్యమైన వాటి హద్దులను మరింత విస్తరిస్తుంది.

ఈ మార్గదర్శినిలో, తెలివైన మోడల్ ఎంపికతో పాటు రీజనింగ్ కొనసాగింపు, బహుళ-ఏజెంట్ సమన్వయం, ప్రోగ్రామాటిక్ సాధన కాలింగ్‌కు తోడ్పడే కొత్త API నియంత్రణలను అంకుర సంస్థలు ఎలా ఉపయోగిస్తున్నాయో వివరిస్తాం. వీటితో మరింత వేగవంతమైన, సమర్థవంతమైన ఏజెంట్‌లను చాలా తక్కువ ఖర్చుతో రూపొందించవచ్చు.

GPT‑5 నుంచి ప్రతి కొత్త మోడల్ తరం, తక్కువ టోకెన్‌లతో దీర్ఘకాలిక పనులను పరిష్కరించడానికి ప్రయత్నిస్తోంది. GPT‑5.6 ఆ పురోగతిని కొనసాగిస్తోంది. అంతర్లీన హార్నెస్‌లో స్వల్ప మార్పులతోనే మెరుగైన ఏజెంట్ పనితీరు, తక్కువ ఖర్చులను అందిస్తోంది.

తక్కువ రీజనింగ్ శ్రమతోనే ఖచ్చితత్వం పెరగడం వల్ల మొత్తం వ్యయ సామర్థ్యం మరింత మెరుగవుతోంది. ఉదాహరణకు, హార్నెస్‌ను మార్చకుండా ఉంచినప్పుడు, ఏజెంట్స్ లాస్ట్ ఎగ్జామ్‌లో “తక్కువ” రీజనింగ్‌తో GPT‑5.6 Sol, “అధిక” రీజనింగ్‌తో GPT‑5.5 కంటే మెరుగైన ఫలితాన్ని సాధించింది. ఉత్పత్తి పరీక్షల్లోనూ ఇలాంటి విజయాలు చూశాం. మునుపటి అప్రమేయ స్థాయిల నుంచి రీజనింగ్ శ్రమను తగ్గించడం ద్వారా అనేక కార్యప్రవాహాల్లో ఖర్చులు గణనీయంగా తగ్గాయని అంకుర సంస్థలు తెలిపాయి.

గతంలో, దీర్ఘకాలిక వినియోగ సందర్భాలకు అందుబాటులో ఉన్న అత్యధిక రీజనింగ్‌తో కూడిన ఫ్లాగ్‌షిప్ మోడల్‌కు మారడం ఉత్తమ ఎంపికగా ఉండేది. దీర్ఘ సందర్భాలు, సాధన కాలింగ్‌ను నిర్వహించడంలో వ్యయానుకూల మోడళ్ల కంటే ఈ మోడళ్లు ఎంతో సమర్థవంతంగా ఉండటమే దీనికి ప్రధాన కారణం. 5.6 కుటుంబంతో ఇది మారింది. పరీక్ష సమయంలో ఎక్కువ గణన వనరులను ఉపయోగిస్తే, Luna, Terra తరచుగా GPT‑5.4, GPT‑5.5 స్థాయి పనితీరును చాలా తక్కువ ఖర్చుతో అందించగలవు.

BrowseCompలోని పనులను పరిశీలించండి. అరుదైన వాస్తవాలను వెతకడంలో మోడల్ సామర్థ్యాన్ని పరీక్షించే శోధన ఆధారిత ప్రామాణిక పరీక్ష ఇది. మూడు నెలల క్రితం, ఈ ప్రామాణిక పరీక్షలో GPT‑5.5 (ఎక్స్‌ట్రా హై) మొత్తం $33.27 ఖర్చుతో 84.36% స్కోర్ సాధించింది. విడుదల సమయంలో, GPT‑5.6 Luna (ఎక్స్‌ట్రా హై) $1.33 ఖర్చుతో 84.04% స్కోర్ సాధించి, దాదాపు అదే పనితీరును అందించింది. అప్పటి నుంచి ధరలను మరింత తగ్గించాం. మా తాజా ధర తగ్గింపుల గురించి మరింత చదవండి.

5.6 కుటుంబంలోని చిన్న మోడళ్లు అధిక పరిమాణ పనిభారాలకు, తక్కువ జాప్యం అవసరమైన పరస్పర చర్యలకు, ఏజెంట్ ఆధారిత కార్యప్రవాహాల్లో పునరావృత దశలకు చక్కగా సరిపోతాయి. ఉదాహరణకు, ఏజెంట్ ఆధారిత విశ్లేషణకు ముందు చేతిరాత సూచనలను విశ్లేషించే న్యాయ-సాంకేతిక అంకుర సంస్థను మీరు నడుపుతున్నట్లయితే, మొత్తం ప్రక్రియకు అత్యాధునిక మోడల్‌ను ఉపయోగించాల్సిన అవసరం లేదు. సంగ్రహణకు Terra లేదా Lunaను ఉపయోగించి గణనీయంగా ఖర్చు ఆదా చేయవచ్చు.

GPT‑5.6 సిద్ధంగానే మెరుగైన పనితీరు అందించేలా చేయడంతో పాటు, మరిన్ని ప్రయోజనాలను అందించడానికి రెస్పాన్సెస్ APIలో కొత్త ప్రాథమిక సామర్థ్యాలను విడుదల చేశాం. ఏజెంట్‌లు మరింత సమర్థంగా పనిచేసేందుకు వీలు కల్పించే మూడు పరస్పరపూరక నిర్మాణ మార్పులతో GPT‑5.6కు సమగ్రంగా శిక్షణ ఇచ్చాం.

1. ఇప్పటికే చేసిన పనిని మళ్లీ ఉపయోగించండి: మోడల్ వంతుల మధ్య రీజనింగ్‌ను నిల్వ ఉంచడం⁠(కొత్త విండోలో తెరుచుకుంటుంది), సుదీర్ఘ సంభాషణలను కుదించేందుకు అంతర్నిర్మిత కాంపాక్షన్⁠(కొత్త విండోలో తెరుచుకుంటుంది) ఉపయోగించడం ద్వారా, మోడల్ గందరగోళానికి గురికాకుండా లేదా మునుపటి సందర్భాన్ని పునర్నిర్మించాల్సిన అవసరం లేకుండా దీర్ఘకాలిక పనుల్లో స్థిరత్వాన్ని కొనసాగించగలదు.
2. తగిన చోట సమాంతరంగా విభజించండి: అంతర్నిర్మిత బహుళ-ఏజెంట్ సమన్వయాన్ని⁠(కొత్త విండోలో తెరుచుకుంటుంది) ఉపయోగించడం ద్వారా అనేక ఏజెంట్‌లను సమాంతర కార్యప్రవాహాల్లో సమన్వయించి, సంక్లిష్ట పనులను వేగంగా పూర్తి చేయవచ్చు.
3. నిర్దిష్ట నియమాల పనిని కోడ్‌లోకి మార్చండి: మోడల్ కాంటెక్స్ట్ విండో వెలుపల సాధన ఫలితాలను వడపోయడానికి, సమీకరించడానికి, సమన్వయించడానికి ప్రోగ్రామాటిక్ సాధన కాలింగ్‌ను⁠(కొత్త విండోలో తెరుచుకుంటుంది) ఉపయోగించండి. తద్వారా నిర్ణయాల కోసం మోడల్ టోకెన్‌లను నిలిపి, ఖర్చు, జాప్యం, సందర్భ నాణ్యత క్షీణతను తగ్గించవచ్చు.

వీటిని కలిపి ఉపయోగిస్తే తేడా గణనీయంగా ఉంటుంది. ఉదాహరణకు, ప్రామాణిక హార్నెస్‌తో ARC-AGI-3లో GPT‑5.6 Sol 13.3% స్కోర్ సాధించింది. అయితే, నిల్వ చేసిన రీజనింగ్, కాంపాక్షన్‌ను ప్రారంభించిన తర్వాత స్కోర్ 38.3%కు పెరిగింది. అదే సమయంలో సుమారు 6 రెట్లు తక్కువ అవుట్‌పుట్ టోకెన్‌లను ఉపయోగించింది. మోడల్‌లో ఎలాంటి మార్పులూ లేకుండానే దాదాపు మూడు రెట్లు పనితీరు లభించింది. మా ARC-AGI-3 హార్నెస్ పరిశోధన గురించి ఇక్కడ మరింత చదవవచ్చు.

ఏజెంట్ ఆధారిత కార్యప్రవాహాల్లో తరచూ రెండు రకాల పనులు ఉంటాయి.

1. విచక్షణ అవసరమైన పనులు
2. ప్రధానంగా డేటాను తరలించడం, వడపోయడం, కలపడం అవసరమైన పని

ఒక ఏజెంట్ 100 నివేదికలను సేకరించి, తేదీ ప్రకారం వడపోసి, సంబంధిత లావాదేవీలను గుర్తించినప్పుడు, మోడల్ తన కాంటెక్స్ట్ విండోలోని ప్రతి మధ్యంతర ఫలితంపై రీజనింగ్ చేయాల్సిన అవసరం లేదు. సాధనాలను సమన్వయించడానికి, స్వతంత్ర కాల్‌లను సమాంతరంగా అమలు చేయడానికి, వాటి ఫలితాలను కాంటెక్స్ట్ విండో వెలుపల ప్రాసెస్ చేయడానికి GPT‑5.6తో JavaScript రాయించేందుకు ప్రోగ్రామాటిక్ సాధన కాలింగ్ వీలు కల్పిస్తుంది. దీంతో మోడల్ మేధ అవసరమైన పనిపై, అంటే విచక్షణను ఉపయోగించడంపై దృష్టి పెట్టగలదు.

సమాంతరంగా నిర్వహించగల సంక్లిష్ట పనుల్లో చర్యలు, రీజనింగ్‌ను అనేక ఏజెంట్ కార్యప్రవాహాలకు పంచడం వల్ల పనులు వేగంగా పూర్తవడంతో పాటు ఇంటెలిజెన్స్ కూడా పెరుగుతుంది. ఈ ఏర్పాట్లలో ఉప-ఏజెంట్‌లను సమన్వయించడం, వాటికి పనులు అప్పగించడం ప్రధాన ఏజెంట్ బాధ్యత. ఉప-ఏజెంట్‌లు తమ లక్ష్యాలను సమాంతరంగా సాధించి, చివరి సమీకరణ కోసం తమ ఫలితాలను ప్రధాన ఏజెంట్‌కు తిరిగి అందిస్తాయి. రెస్పాన్సెస్ APIలో బహుళ-ఏజెంట్‌ను ప్రారంభించడం⁠(కొత్త విండోలో తెరుచుకుంటుంది) ద్వారా బృందాలు అంతర్నిర్మిత బహుళ-ఏజెంట్ సామర్థ్యాన్ని ఉపయోగించడం మొదలుపెట్టవచ్చు. ChatGPTలోని అల్ట్రా సామర్థ్య సెట్టింగ్ కూడా ఇలాగే పనిచేస్తుంది.

తగిన ఉప-ఏజెంట్‌ల సంఖ్య, వాటిని ఎప్పుడు సృష్టించాలనే విషయంలో GPT‑5.6కు మంచి అవగాహన ఉన్నప్పటికీ, బహుళ-ఏజెంట్ ప్రవర్తనను సులభంగా నిర్దేశించవచ్చు. ఉప-ఏజెంట్‌లను ఎప్పుడు ఉపయోగించాలో మోడల్‌కు సూచిస్తే, అదనపు టోకెన్ వ్యయం మెరుగైన పనితీరును అందించే సందర్భాల్లో మాత్రమే ఏజెంట్‌లు సృష్టించబడే అవకాశం పెరుగుతుంది.

మొత్తం మోడల్ కుటుంబంలో ప్రాంప్ట్ క్యాష్ నిల్వ కాలాన్ని కనీసం 30 నిమిషాలకు పెంచారు. ఇప్పుడు మోడల్ కాంటెక్స్ట్ విండోలో క్యాష్ విరామ బిందువులను నిర్ణీతంగా అమర్చవచ్చు. దీనివల్ల అంకుర సంస్థలు తమ క్యాష్ హిట్ రేటును గణనీయంగా మెరుగుపరచగలిగాయి.

క్యాష్ విరామ బిందువులను అమర్చడంతో పాటు, తగిన prompt_cache_key⁠(కొత్త విండోలో తెరుచుకుంటుంది) ను ఉపయోగిస్తూ ఉంటే, అదే ఉపసర్గను గతంలో ప్రాసెస్ చేసిన ఇన్‌ఫరెన్స్ ఇంజిన్‌కే అభ్యర్థనలు చేరే అవకాశం పెరిగి, జాప్యం తగ్గుతుంది.

ఈ ఉదాహరణలన్నింటిలోనూ ఏజెంట్‌ల రూపకల్పన ఆర్థిక సమీకరణాలు ఎంతగా మారాయన్నది ప్రత్యేకంగా కనిపిస్తుంది.

గతంలో ప్రతి దశలోనూ అత్యాధునిక మోడల్ అవసరమైన వినియోగ సందర్భాలు, ఇప్పుడు చిన్న మోడళ్లను ఉపయోగించడం, రీజనింగ్ శ్రమను సర్దుబాటు చేయడం, సమర్థవంతమైన నిర్మాణ ఎంపికలు చేయడం ద్వారా చాలా తక్కువ ఖర్చుతో సమానమైన లేదా మెరుగైన ఫలితాలను సాధించగలవు.

మీరందరూ ఏం రూపొందిస్తారో చూడాలని ఆసక్తిగా ఎదురుచూస్తున్నాం!