GPT‑6 ਲਈ ਬਿਹਤਰ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ
ਉੱਚੀਆਂ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਅਤੇ ਨਵੇਂ ਟੂਲ, ਜੋ ਨਿਰੰਤਰ ਏਜੰਟਾਂ ਨੂੰ ਹੋਰ ਤੇਜ਼ ਅਤੇ ਘੱਟ ਲਾਗਤ ਨਾਲ ਚੱਲਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
GPT‑6 ਨਿਰੰਤਰ ਚੱਲਣ ਵਾਲੇ ਏਜੰਟਾਂ ਨੂੰ ਕੋਡਬੇਸਾਂ ਦੀ ਮੁੜ ਬਣਤਰ ਤੋਂ ਲੈ ਕੇ ਡੂੰਘੀ ਖੋਜ ਵਾਲੇ ਦਸਤਾਵੇਜ਼ ਅਤੇ ਪੇਸ਼ਕਾਰੀਆਂ ਤਿਆਰ ਕਰਨ ਤੱਕ ਦੇ ਗੁੰਝਲਦਾਰ ਕੰਮਾਂ ਉੱਤੇ ਕਈ ਘੰਟੇ ਕੰਮ ਕਰਨ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ. ਇਨ੍ਹਾਂ ਏਜੰਟਾਂ ਦੇ ਪਿੱਛੇ ਕੰਮ ਕਰਨ ਵਾਲੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਇੱਕ-ਦੂਜੇ ਉੱਤੇ ਆਧਾਰਿਤ ਕਈ API ਬੇਨਤੀਆਂ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਅਕਸਰ ਪਿਛਲੇ ਵਾਰਤਾਲਾਪਾਂ ਦੀਆਂ ਉਹੀ ਹਦਾਇਤਾਂ, ਟੂਲ ਪਰਿਭਾਸ਼ਾਵਾਂ ਅਤੇ ਸੰਦਰਭ ਅੱਗੇ ਵਰਤਦੀਆਂ ਹਨ. OpenAI ਬੇਨਤੀਆਂ ਵਿੱਚ ਗਣਨਾ ਨੂੰ ਮੁੜ ਵਰਤਣ ਲਈ ਉਸ ਸਾਂਝੇ ਸੰਦਰਭ ਨੂੰ ਕੈਸ਼ ਕਰਦਾ ਹੈ. ਇਸ ਨਾਲ ਜਵਾਬ ਦਾ ਸਮਾਂ ਘਟਦਾ ਹੈ ਅਤੇ ਵਿਕਾਸਕਾਰਾਂ ਨੂੰ ਕੈਸ਼ ਕੀਤੇ ਇਨਪੁੱਟ ਟੋਕਨਾਂ ਉੱਤੇ 90% ਤੱਕ ਛੋਟ ਮਿਲਦੀ ਹੈ.
GPT‑6 ਪਰਿਵਾਰ ਨਾਲ ਅਸੀਂ ਇੱਕ ਬਿਹਤਰ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਸਿਸਟਮ ਪੇਸ਼ ਕੀਤਾ ਹੈ, ਜੋ ਮੂਲ ਰੂਪ ਵਿੱਚ ਉੱਚੀਆਂ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਦਿੰਦਾ ਹੈ. ਹੁਣ ਅਸੀਂ 30 ਮਿੰਟ ਦੀ ਮਿਆਦ ਅੰਦਰ ਮੁੜ ਵਰਤੇ ਜਾਣ ਦੇ ਯੋਗ ਸਾਂਝੇ ਸ਼ੁਰੂਆਤੀ ਹਿੱਸਿਆਂ ਉੱਤੇ ਕੈਸ਼ ਛੋਟ ਦਿੰਦੇ ਹਾਂ. ਅਸੀਂ ਵਿਕਾਸਕਾਰਾਂ ਲਈ ਕੈਸ਼ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ, ਮਿਸ ਦੇ ਕਾਰਨਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਪ੍ਰੌੰਪਟ ਦਾ ਕਿੰਨਾ ਹਿੱਸਾ ਕੈਸ਼ ਕਰਨਾ ਹੈ, ਇਹ ਚੁਣਨ ਵਾਸਤੇ ਨਵੇਂ ਟੂਲ ਵੀ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ.
ਨਵਾਂ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਡੈਸ਼ਬੋਰਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਤੁਹਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਦੇ ਇਨਪੁੱਟ ਦਾ ਕਿੰਨਾ ਹਿੱਸਾ ਕੈਸ਼ ਤੋਂ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ. ਸਮੇਂ ਦੇ ਨਾਲ ਹਿੱਟ ਦਰਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰੋ ਅਤੇ ਕੈਸ਼ ਕੀਤੇ ਤੇ ਨਾ ਕੀਤੇ ਟੋਕਨਾਂ ਦੀ ਤੁਲਨਾ ਲਈ ਇਨਪੁੱਟ ਬਣਤਰ ਚਾਰਟ ਵਰਤੋ. ਇਹ ਦ੍ਰਿਸ਼ ਕੈਸ਼ ਹਿੱਟਾਂ ਵਿੱਚ ਗਿਰਾਵਟ ਪਛਾਣਨ ਅਤੇ ਤੁਹਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਦੇ ਕੈਸ਼ਿੰਗ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਉੱਤੇ ਅਸਰ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
ਅਚਾਨਕ ਕੈਸ਼ ਮਿਸ ਦਿਖਾਈ ਦੇਣ ਉੱਤੇ, ਕੀ ਹੋਇਆ ਸੀ ਇਹ ਸਮਝਣ ਲਈ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਨਿਦਾਨ ਟੂਲ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਰਤੋ. ਮਾਡਲ, ਟੂਲਾਂ, ਸੈਟਿੰਗਾਂ ਜਾਂ ਇਨਪੁੱਟ ਵਿੱਚ ਮੁੜ ਵਰਤੋਂ ਰੋਕਣ ਵਾਲੀਆਂ ਤਬਦੀਲੀਆਂ ਪਛਾਣਨ ਲਈ ਕਿਸੇ ਬੇਨਤੀ ਦੀ ਇੱਕ ਤਾਜ਼ਾ ਜਵਾਬ ਨਾਲ ਤੁਲਨਾ ਕਰੋ. ਪ੍ਰਭਾਵਿਤ ਟੋਕਨਾਂ ਦੀ ਅਨੁਮਾਨਿਤ ਗਿਣਤੀ ਅਸਰ ਦੇ ਪੈਮਾਨੇ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਲਈ ਆਪਣੇ ਏਕੀਕਰਨ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਦਾ ਤਰੀਕਾ ਤੈਅ ਕਰਨ ਵਿੱਚ ਤੁਹਾਡੀ ਮਦਦ ਕਰਦੀ ਹੈ.
{
"prompt_cache_diagnostics": {
"type": "cache_miss",
"reason": "tools_changed",
"comparison_reusable_tokens": 5629,
"cache_missed_tokens": 5629
}
}
ਚੁਣੋ ਕਿ ਕੀ ਕੈਸ਼ ਕਰਨਾ ਹੈ. ਸਪਸ਼ਟ ਕੈਸ਼ ਬ੍ਰੇਕਪੌਇੰਟ ਤੁਹਾਨੂੰ ਇਹ ਚੁਣਨ ਦਿੰਦੇ ਹਨ ਕਿ ਪ੍ਰੌੰਪਟ ਦੇ ਕਿਹੜੇ ਸ਼ੁਰੂਆਤੀ ਹਿੱਸੇ ਮੁੜ ਵਰਤਣੇ ਹਨ. ਨਵਿਆਈ ਗਈ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਗਾਈਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੱਸਦੀ ਹੈ ਕਿ ਇਨ੍ਹਾਂ ਨੂੰ ਕਿਵੇਂ ਵਰਤਣਾ ਹੈ, ਕੈਸ਼ ਕੀਤੇ ਸ਼ੁਰੂਆਤੀ ਹਿੱਸੇ ਕਿੰਨੀ ਦੇਰ ਤੱਕ ਯੋਗ ਰਹਿੰਦੇ ਹਨ ਅਤੇ ਟੂਲਾਂ ਤੇ ਇਨਪੁੱਟਾਂ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਮੁੜ ਵਰਤੋਂ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀਆਂ ਹਨ.
ਕੈਸ਼ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤੇ ਬਿਨਾਂ ਰੀਜ਼ਨਿੰਗ ਦੀ ਮਿਹਨਤ ਬਦਲੋ. GPT‑6 ਮਾਡਲਾਂ ਉੱਤੇ ਹੁਣ ਤੁਸੀਂ ਕੈਸ਼ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤੇ ਬਿਨਾਂ ਜਵਾਬਾਂ ਵਿਚਕਾਰ ਰੀਜ਼ਨਿੰਗ ਦੀ ਮਿਹਨਤ ਬਦਲ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਸਕਦੇ ਹੋ. ਬੇਨਤੀ-ਪੱਧਰੀ ਰੀਜ਼ਨਿੰਗ ਦੀ ਮਿਹਨਤ ਨੂੰ ਬਦਲੇ ਬਿਨਾਂ configuration_update ਜੋੜ ਕੇ ਔਖੇ ਕੰਮ ਲਈ ਮਿਹਨਤ ਵਧਾਓ ਜਾਂ ਆਮ ਅਗਲੀ ਕਾਰਵਾਈ ਲਈ ਇਸ ਨੂੰ ਘਟਾਓ. ਇਸ ਨਾਲ ਤੁਸੀਂ ਮੁੜ ਵਰਤੋਂ ਯੋਗ ਸੰਦਰਭ ਨੂੰ ਕਾਇਮ ਰੱਖਦੇ ਹੋਏ ਕੰਮ ਲਈ ਲੋੜੀਂਦੀ ਰੀਜ਼ਨਿੰਗ ਦੀ ਮਾਤਰਾ ਬਦਲ ਸਕਦੇ ਹੋ.
ਟੂਲ ਅਤੇ ਹਦਾਇਤਾਂ ਬਦਲਣ ਉੱਤੇ ਵੀ ਕੈਸ਼ ਕਾਇਮ ਰੱਖੋ. ਤੁਹਾਡੇ ਏਜੰਟ ਦੀਆਂ ਟੂਲ ਵਰਤੋਂ ਦੀਆਂ ਲੋੜਾਂ ਬਦਲਣ ਉੱਤੇ ਟੂਲ ਪਰਿਭਾਸ਼ਾਵਾਂ, ਸਕੀਮਾਂ ਅਤੇ ਕ੍ਰਮ ਨੂੰ ਸਥਿਰ ਰੱਖੋ, ਤਾਂ ਜੋ ਪਹਿਲਾ ਸੰਦਰਭ ਮੁੜ ਵਰਤਿਆ ਜਾ ਸਕੇ. ਪਰਿਭਾਸ਼ਾਵਾਂ ਹਟਾਉਣ ਦੀ ਬਜਾਏ ਸਿਰਫ਼ ਸੰਬੰਧਿਤ ਟੂਲਾਂ ਨੂੰ ਕਾਲ ਕਰਨ ਯੋਗ ਬਣਾਉਣ ਲਈ allowed_tools ਵਰਤੋ ਜਾਂ ਜਦੋਂ ਕਿਸੇ ਟੂਲ ਦੀ ਲੋੜ ਨਾ ਹੋਵੇ ਤਾਂ tool_choice ਨੂੰ none ਉੱਤੇ ਸੈੱਟ ਕਰੋ. ਪੁਰਾਣੀਆਂ ਹਦਾਇਤਾਂ ਨੂੰ ਬਦਲਣ ਲਈ ਸੰਦਰਭ ਦੇ ਅੰਤ ਵੱਲ ਨਵੀਆਂ ਹਦਾਇਤਾਂ ਜੋੜਨ ਵਾਸਤੇ ਨਵੇਂ ਵਿਕਾਸਕਾਰ ਸੁਨੇਹੇ ਵਰਤੋ. ਟੂਲ ਤਬਦੀਲੀਆਂ ਦਾ ਪ੍ਰਬੰਧ ਕਰਨ ਬਾਰੇ ਸਾਡੀ ਸੇਧ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੇਖੋ.
ਦੇਰੀ ਘਟਾਉਣ ਲਈ ਕੈਸ਼ ਨੂੰ ਪਹਿਲਾਂ ਤਿਆਰ ਕਰੋ. ਪਹਿਲਾਂ ਤੋਂ ਤਿਆਰੀ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਜਾਣੇ-ਪਛਾਣੇ ਸੰਦਰਭ ਨੂੰ ਅਗਾਊਂ ਤਿਆਰ ਕਰਦੀ ਹੈ, ਤਾਂ ਜੋ ਬੇਨਤੀ ਆਉਣ ਉੱਤੇ ਮਾਡਲ ਜਲਦੀ ਜਵਾਬ ਦੇਣਾ ਸ਼ੁਰੂ ਕਰ ਸਕੇ. ਮਿਸਾਲ ਵਜੋਂ, ਕੋਈ ਐਪਲੀਕੇਸ਼ਨ ਸ਼ੁਰੂ ਹੋਣ ਵੇਲੇ ਹੀ ਸਾਂਝੀਆਂ ਹਦਾਇਤਾਂ, ਟੂਲ ਪਰਿਭਾਸ਼ਾਵਾਂ ਜਾਂ ਹਵਾਲਾ ਸਮੱਗਰੀ ਨੂੰ ਪਹਿਲਾਂ ਤਿਆਰ ਕਰ ਸਕਦੀ ਹੈ, ਯਾਨੀ ਵਰਤੋਂਕਾਰ ਦੇ ਪਹਿਲਾ ਸਵਾਲ ਪੁੱਛਣ ਤੋਂ ਪਹਿਲਾਂ. ਇਸ ਨਾਲ ਪ੍ਰਕਿਰਿਆ ਵਰਤੋਂਕਾਰ ਦੇ ਉਡੀਕ ਸਮੇਂ ਤੋਂ ਬਾਹਰ ਹੋ ਜਾਂਦੀ ਹੈ.
ਇਹ ਵਿਕਲਪਿਕ ਨਿਯੰਤਰਣ ਇੰਜਣ ਦੀ ਮੂਲ ਕਾਰਗੁਜ਼ਾਰੀ ਉੱਤੇ ਆਧਾਰਿਤ ਹਨ ਅਤੇ ਕੈਸ਼ਿੰਗ ਨੂੰ ਤੁਹਾਡੇ ਕੰਮ ਦੇ ਬੋਝ ਮੁਤਾਬਕ ਢਾਲਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਡੈਸ਼ਬੋਰਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਕੈਸ਼ ਹਿੱਟ ਦਰਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰੋ.
ਨਿਦਾਨ ਟੂਲ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਨਾਲ ਅਚਾਨਕ ਹੋਣ ਵਾਲੇ ਮਿਸ ਦੀ ਜਾਂਚ ਕਰੋ.
ਆਪਣੀ ਵਿਵਸਥਾ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਪ੍ਰੌਂਪਟ ਕੈਸ਼ਿੰਗ ਗਾਈਡ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਪਾਲਣਾ ਕਰੋ ਜਾਂ ਆਪਣੇ ਕੋਡ ਦੀ ਸਮੀਖਿਆ ਕਰਨ, ਸੁਧਾਰ ਲਾਗੂ ਕਰਨ ਅਤੇ ਨਤੀਜੇ ਮਾਪਣ ਲਈ Codex ਵਰਤੋ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ).
