GPT‑6 ਲਈ ਬਿਹਤਰ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ
ਉੱਚੀਆਂ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਅਤੇ ਨਵੇਂ ਟੂਲ, ਜੋ ਨਿਰੰਤਰ ਏਜੰਟਾਂ ਨੂੰ ਹੋਰ ਤੇਜ਼ ਅਤੇ ਘੱਟ ਲਾਗਤ ਨਾਲ ਚੱਲਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
GPT‑6 ਨਿਰੰਤਰ ਚੱਲਣ ਵਾਲੇ ਏਜੰਟਾਂ ਨੂੰ ਕੋਡਬੇਸਾਂ ਦੀ ਮੁੜ ਬਣਤਰ ਤੋਂ ਲੈ ਕੇ ਡੂੰਘੀ ਖੋਜ ਵਾਲੇ ਦਸਤਾਵੇਜ਼ ਅਤੇ ਪ੍ਰੈਜ਼ੈਂਟੇਸ਼ਨ ਤਿਆਰ ਕਰਨ ਤੱਕ ਦੇ ਗੁੰਝਲਦਾਰ ਟਾਸਕਾਂ ਉੱਤੇ ਕਈ ਘੰਟੇ ਕੰਮ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ. ਇਹਨਾਂ ਏਜੰਟਾਂ ਦੇ ਪਿੱਛੇ ਕੰਮ ਕਰਨ ਵਾਲੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਇੱਕ-ਦੂਜੇ ਉੱਤੇ ਆਧਾਰਿਤ ਕਈ API ਬੇਨਤੀਆਂ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਅਕਸਰ ਪਿਛਲੇ ਵਾਰਤਾਲਾਪਾਂ ਦੀਆਂ ਉਹੀ ਹਦਾਇਤਾਂ, ਟੂਲ ਪਰਿਭਾਸ਼ਾਵਾਂ ਅਤੇ ਸੰਦਰਭ ਅੱਗੇ ਵਰਤਦੀਆਂ ਹਨ. OpenAI ਬੇਨਤੀਆਂ ਵਿੱਚ ਗਣਨਾ ਨੂੰ ਮੁੜ ਵਰਤਣ ਲਈ ਉਸ ਸਾਂਝੇ ਸੰਦਰਭ ਨੂੰ ਕੈਸ਼ ਕਰਦਾ ਹੈ. ਇਸ ਨਾਲ ਜਵਾਬ ਦਾ ਸਮਾਂ ਘਟਦਾ ਹੈ ਅਤੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਕੈਸ਼ ਕੀਤੇ ਇਨਪੁੱਟ ਟੋਕਨਾਂ ਉੱਤੇ 90% ਤੱਕ ਛੋਟ ਮਿਲਦੀ ਹੈ.
GPT‑6 ਪਰਿਵਾਰ ਨਾਲ, ਅਸੀਂ ਇੱਕ ਬਿਹਤਰ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਸਿਸਟਮ ਪੇਸ਼ ਕੀਤਾ ਹੈ, ਜੋ ਮੂਲ ਰੂਪ ਵਿੱਚ ਉੱਚੀਆਂ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਦਿੰਦਾ ਹੈ. ਹੁਣ ਅਸੀਂ 30 ਮਿੰਟ ਦੀ ਮਿਆਦ ਅੰਦਰ ਮੁੜ ਵਰਤੇ ਜਾਣ ਦੇ ਯੋਗ ਸਾਂਝੇ ਸ਼ੁਰੂਆਤੀ ਹਿੱਸਿਆਂ ਉੱਤੇ ਕੈਸ਼ ਛੋਟ ਦਿੰਦੇ ਹਾਂ. ਅਸੀਂ ਡਿਵੈਲਪਰਾਂ ਲਈ ਕੈਸ਼ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ, ਮਿਸ ਦੇ ਕਾਰਨਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਪ੍ਰੌਂਪਟ ਦਾ ਕਿੰਨਾ ਹਿੱਸਾ ਕੈਸ਼ ਕਰਨਾ ਹੈ, ਇਹ ਚੁਣਨ ਵਾਸਤੇ ਨਵੇਂ ਟੂਲ ਵੀ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ.
ਨਵਾਂ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਡੈਸ਼ਬੋਰਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਤੁਹਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਦੇ ਇਨਪੁੱਟ ਦਾ ਕਿੰਨਾ ਹਿੱਸਾ ਕੈਸ਼ ਤੋਂ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ. ਸਮੇਂ ਦੇ ਨਾਲ ਹਿੱਟ ਦਰਾਂ ਨੂੰ ਟ੍ਰੈਕ ਕਰੋ ਅਤੇ ਕੈਸ਼ ਕੀਤੇ ਤੇ ਨਾ ਕੀਤੇ ਟੋਕਨਾਂ ਦੀ ਤੁਲਨਾ ਲਈ ਇਨਪੁੱਟ ਕੰਪੋਜ਼ਿਸ਼ਨ ਚਾਰਟ ਵਰਤੋ. ਇਹ ਵਿਊ ਕੈਸ਼ ਹਿੱਟਾਂ ਵਿੱਚ ਗਿਰਾਵਟ ਪਛਾਣਨ ਅਤੇ ਤੁਹਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਦੇ ਕੈਸ਼ਿੰਗ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਉੱਤੇ ਅਸਰ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
ਅਚਾਨਕ ਕੈਸ਼ ਮਿਸ ਦਿਖਾਈ ਦੇਣ ਉੱਤੇ, ਕੀ ਹੋਇਆ ਸੀ ਇਹ ਸਮਝਣ ਲਈ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਨਿਦਾਨ ਟੂਲ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਰਤੋ. ਮਾਡਲ, ਟੂਲਾਂ, ਸੈਟਿੰਗਾਂ ਜਾਂ ਇਨਪੁੱਟ ਵਿੱਚ ਮੁੜ ਵਰਤੋਂ ਰੋਕਣ ਵਾਲੀਆਂ ਤਬਦੀਲੀਆਂ ਪਛਾਣਨ ਲਈ ਕਿਸੇ ਬੇਨਤੀ ਦੀ ਇੱਕ ਹਾਲ ਹੀ ਦੇ ਜਵਾਬ ਨਾਲ ਤੁਲਨਾ ਕਰੋ. ਪ੍ਰਭਾਵਿਤ ਟੋਕਨਾਂ ਦੀ ਅਨੁਮਾਨਿਤ ਗਿਣਤੀ ਅਸਰ ਦੇ ਪੈਮਾਨੇ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਲਈ ਆਪਣੇ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਨੂੰ ਔਪਟੀਮਾਈਜੇਸ਼ਨ ਬਣਾਉਣ ਦਾ ਤਰੀਕਾ ਤੈਅ ਕਰਨ ਵਿੱਚ ਤੁਹਾਡੀ ਮਦਦ ਕਰਦੀ ਹੈ.
{
"prompt_cache_diagnostics": {
"type": "cache_miss",
"reason": "tools_changed",
"comparison_reusable_tokens": 5629,
"cache_missed_tokens": 5629
}
}
ਚੁਣੋ ਕਿ ਕੀ ਕੈਸ਼ ਕਰਨਾ ਹੈ. ਸਪਸ਼ਟ ਕੈਸ਼ ਬ੍ਰੇਕਪੌਇੰਟ ਤੁਹਾਨੂੰ ਇਹ ਚੁਣਨ ਦਿੰਦੇ ਹਨ ਕਿ ਪ੍ਰੌਂਪਟ ਦੇ ਕਿਹੜੇ ਸ਼ੁਰੂਆਤੀ ਹਿੱਸੇ ਮੁੜ ਵਰਤਣੇ ਹਨ. ਰਿਫ੍ਰੈਸ਼ਡ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਗਾਈਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੱਸਦੀ ਹੈ ਕਿ ਇਹਨਾਂ ਨੂੰ ਕਿਵੇਂ ਵਰਤਣਾ ਹੈ, ਕੈਸ਼ ਕੀਤੇ ਸ਼ੁਰੂਆਤੀ ਹਿੱਸੇ ਕਿੰਨੀ ਦੇਰ ਤੱਕ ਯੋਗ ਰਹਿੰਦੇ ਹਨ ਅਤੇ ਟੂਲਾਂ ਤੇ ਇਨਪੁੱਟਾਂ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਮੁੜ ਵਰਤੋਂ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀਆਂ ਹਨ.
ਕੈਸ਼ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤੇ ਬਿਨਾਂ ਰੀਜ਼ਨਿੰਗ ਐਫ਼ਰਟ ਸਮਾਯੋਜਿਤ ਕਰੋ. GPT‑6 ਮਾਡਲਾਂ ਉੱਤੇ ਹੁਣ ਤੁਸੀਂ ਕੈਸ਼ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤੇ ਬਿਨਾਂ ਜਵਾਬਾਂ ਵਿਚਕਾਰ ਰੀਜ਼ਨਿੰਗ ਐਫ਼ਰਟ ਬਦਲ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਸਕਦੇ ਹੋ. ਬੇਨਤੀ-ਪੱਧਰੀ ਰੀਜ਼ਨਿੰਗ ਐਫ਼ਰਟ ਨੂੰ ਬਦਲੇ ਬਿਨਾਂ configuration_update ਜੋੜ ਕੇ ਔਖੇ ਕੰਮ ਲਈ ਐਫ਼ਰਟ ਵਧਾਓ ਜਾਂ ਆਮ ਅਗਲੀ ਕਾਰਵਾਈ ਲਈ ਇਸ ਨੂੰ ਘਟਾਓ. ਇਸ ਨਾਲ ਤੁਸੀਂ ਮੁੜ ਵਰਤੋਂ ਯੋਗ ਸੰਦਰਭ ਨੂੰ ਕਾਇਮ ਰੱਖਦੇ ਹੋਏ ਕੰਮ ਲਈ ਲੋੜੀਂਦੀ ਰੀਜ਼ਨਿੰਗ ਦੀ ਮਾਤਰਾ ਬਦਲ ਸਕਦੇ ਹੋ.
ਟੂਲ ਅਤੇ ਹਦਾਇਤਾਂ ਬਦਲਣ ਉੱਤੇ ਵੀ ਕੈਸ਼ ਕਾਇਮ ਰੱਖੋ. ਤੁਹਾਡੇ ਏਜੰਟ ਦੀਆਂ ਟੂਲ ਵਰਤੋਂ ਦੀਆਂ ਲੋੜਾਂ ਬਦਲਣ ਉੱਤੇ ਟੂਲ ਪਰਿਭਾਸ਼ਾਵਾਂ, ਸਕੀਮਾਵਾਂ ਅਤੇ ਕ੍ਰਮ ਨੂੰ ਸਥਿਰ ਰੱਖੋ, ਤਾਂ ਜੋ ਪਹਿਲਾ ਸੰਦਰਭ ਮੁੜ ਵਰਤਿਆ ਜਾ ਸਕੇ. ਪਰਿਭਾਸ਼ਾਵਾਂ ਹਟਾਉਣ ਦੀ ਬਜਾਏ ਸਿਰਫ਼ ਸੰਬੰਧਿਤ ਟੂਲਾਂ ਨੂੰ ਕਾਲ ਕਰਨ ਯੋਗ ਬਣਾਉਣ ਲਈ allowed_tools ਵਰਤੋ ਜਾਂ ਜਦੋਂ ਕਿਸੇ ਟੂਲ ਦੀ ਲੋੜ ਨਾ ਹੋਵੇ ਤਾਂ tool_choice ਨੂੰ none ਉੱਤੇ ਸੈੱਟ ਕਰੋ. ਪੁਰਾਣੀਆਂ ਹਦਾਇਤਾਂ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਨ ਲਈ ਸੰਦਰਭ ਦੇ ਅੰਤ ਵੱਲ ਨਵੀਆਂ ਹਦਾਇਤਾਂ ਜੋੜਨ ਵਾਸਤੇ ਨਵੇਂ ਡਿਵੈਲਪਰ ਸੁਨੇਹੇ ਵਰਤੋ. ਟੂਲ ਤਬਦੀਲੀਆਂ ਦਾ ਪ੍ਰਬੰਧ ਕਰਨ ਬਾਰੇ ਸਾਡਾ ਮਾਰਗਦਰਸ਼ਨ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੇਖੋ.
ਲੇਟੈਂਸੀ ਘਟਾਉਣ ਲਈ ਕੈਸ਼ ਨੂੰ ਪਹਿਲਾਂ ਤਿਆਰ ਕਰੋ. ਪਹਿਲਾਂ ਤੋਂ ਤਿਆਰੀ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਜਾਣੇ-ਪਛਾਣੇ ਸੰਦਰਭ ਨੂੰ ਅਗਾਊਂ ਤਿਆਰ ਕਰਦੀ ਹੈ, ਤਾਂ ਜੋ ਬੇਨਤੀ ਆਉਣ ਉੱਤੇ ਮਾਡਲ ਜਲਦੀ ਜਵਾਬ ਦੇਣਾ ਸ਼ੁਰੂ ਕਰ ਸਕੇ. ਮਿਸਾਲ ਵਜੋਂ, ਕੋਈ ਐਪਲੀਕੇਸ਼ਨ ਸ਼ੁਰੂ ਹੋਣ ਵੇਲੇ ਹੀ ਸਾਂਝੀਆਂ ਹਦਾਇਤਾਂ, ਟੂਲ ਪਰਿਭਾਸ਼ਾਵਾਂ ਜਾਂ ਹਵਾਲਾ ਸਮੱਗਰੀ ਨੂੰ ਪਹਿਲਾਂ ਤਿਆਰ ਕਰ ਸਕਦੀ ਹੈ, ਪਰੰਤੂ ਵਰਤੋਂਕਾਰ ਦੇ ਪਹਿਲਾ ਸਵਾਲ ਪੁੱਛਣ ਤੋਂ ਪਹਿਲਾਂ. ਇਸ ਨਾਲ ਪ੍ਰਕਿਰਿਆ ਵਰਤੋਂਕਾਰ ਦੇ ਉਡੀਕ ਸਮੇਂ ਤੋਂ ਬਾਹਰ ਹੋ ਜਾਂਦੀ ਹੈ.
ਇਹ ਵਿਕਲਪਿਕ ਕੰਟਰੋਲ ਇੰਜਣ ਦੀ ਡਿਫੌਲਟ ਕਾਰਗੁਜ਼ਾਰੀ ਉੱਤੇ ਆਧਾਰਿਤ ਹਨ ਅਤੇ ਕੈਸ਼ਿੰਗ ਨੂੰ ਤੁਹਾਡੇ ਕੰਮ ਦੇ ਬੋਝ ਮੁਤਾਬਕ ਢਾਲਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਡੈਸ਼ਬੋਰਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰੋ.
ਨਿਦਾਨ ਟੂਲ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਨਾਲ ਅਚਾਨਕ ਹੋਣ ਵਾਲੇ ਮਿਸ ਦੀ ਜਾਂਚ ਕਰੋ.
ਤੁਹਾਡੇ ਸੈੱਟਅਪ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਗਾਈਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਪਾਲਣਾ ਕਰੋ ਜਾਂ ਤੁਹਾਡੇ ਕੋਡ ਦੀ ਸਮੀਖਿਆ ਕਰਨ, ਸੁਧਾਰ ਲਾਗੂ ਕਰਨ ਅਤੇ ਨਤੀਜੇ ਮਾਪਣ ਲਈ Codex ਵਰਤੋ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ).
