ChatGPT ਵਿੱਚ Lockdown Mode ਅਤੇ Elevated Risk ਲੇਬਲ ਪੇਸ਼ ਕਰਦੇ ਹੋਏ

ਜਿਵੇਂ ਜਿਵੇਂ AI ਸਿਸਟਮ ਹੋਰ ਜਟਿਲ ਕੰਮ ਸੰਭਾਲਦੇ ਹਨ—ਖ਼ਾਸ ਕਰਕੇ ਉਹ ਜੋ ਵੈੱਬ ਅਤੇ ਕਨੈਕਟ ਕੀਤੀਆਂ ਐਪਾਂ ਨਾਲ ਸੰਬੰਧਿਤ ਹਨ—ਸੁਰੱਖਿਆ ਦੇ ਦਾਅ ਵੱਧ ਜਾਂਦੇ ਹਨ.

ਇੱਕ ਉਭਰਦਾ ਖ਼ਤਰਾ ਖ਼ਾਸ ਤੌਰ 'ਤੇ ਮਹੱਤਵਪੂਰਨ ਬਣ ਗਿਆ ਹੈ: ਪ੍ਰੌੰਪਟ ਇੰਜੈਕਸ਼ਨ⁠. ਇਨ੍ਹਾਂ ਹਮਲਿਆਂ ਵਿੱਚ, ਕੋਈ ਤੀਜਾ ਪੱਖ ਗੱਲਬਾਤੀ AI ਸਿਸਟਮ ਨੂੰ ਭ੍ਰਮਿਤ ਕਰਕੇ ਉਸ ਤੋਂ ਦੁਸ਼ਟ ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ ਕਰਵਾਉਣ ਜਾਂ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਖੋਲ੍ਹਵਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ.

ਅੱਜ, ਅਸੀਂ ਦੋ ਨਵੀਆਂ ਸੁਰੱਖਿਆਵਾਂ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ਯੂਜ਼ਰਾਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਨੂੰ ਪ੍ਰੌੰਪਟ ਇੰਜੈਕਸ਼ਨ ਹਮਲਿਆਂ ਨੂੰ ਘਟਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੀਆਂ ਗਈਆਂ ਹਨ, ਜੋਖਮ ਦੀ ਹੋਰ ਸਪਸ਼ਟ ਦਿੱਖ ਅਤੇ ਹੋਰ ਮਜ਼ਬੂਤ ਨਿਯੰਤਰਣਾਂ ਨਾਲ:

• ChatGPT ਵਿੱਚ Lockdown Mode, ਵੱਧ ਜੋਖਮ ਵਾਲੇ ਯੂਜ਼ਰਾਂ ਲਈ ਇੱਕ ਉੱਨਤ, ਵਿਕਲਪਿਕ ਸੁਰੱਖਿਆ ਸੈਟਿੰਗ
• ChatGPT, ChatGPT Atlas, ਅਤੇ Codex ਵਿੱਚ ਕੁਝ ਸਮਰੱਥਾਵਾਂ ਲਈ “Elevated Risk” ਲੇਬਲ , ਜੋ ਵਾਧੂ ਜੋਖਮ ਲਿਆ ਸਕਦੇ ਹਨ

ਇਹ ਜੋੜ ਸਾਡੇ ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ 'ਤੇ ਅਧਾਰਤ ਹਨ ਜੋ ਮਾਡਲ, ਉਤਪਾਦ ਅਤੇ ਸਿਸਟਮ ਪੱਧਰਾਂ 'ਤੇ ਲਾਗੂ ਹਨ. ਇਸ ਵਿੱਚ sandboxing, URL-ਆਧਾਰਿਤ ਡਾਟਾ exfiltration ਦੇ ਖ਼ਿਲਾਫ਼ ਸੁਰੱਖਿਆਵਾਂ⁠, ਨਿਗਰਾਨੀ ਅਤੇ enforcement, ਅਤੇ role-based access ਅਤੇ audit logs ਵਰਗੇ enterprise controls⁠ ਸ਼ਾਮਲ ਹਨ.

Lockdown Mode ਇੱਕ ਵਿਕਲਪਿਕ, ਉੱਨਤ ਸੁਰੱਖਿਆ ਸੈਟਿੰਗ ਹੈ ਜੋ ਬਹੁਤ ਹੀ ਸੁਰੱਖਿਆ-ਸਚੇਤ ਯੂਜ਼ਰਾਂ ਦੇ ਇੱਕ ਛੋਟੇ ਸਮੂਹ ਲਈ ਬਣਾਈ ਗਈ ਹੈ—ਜਿਵੇਂ ਕਿ ਪ੍ਰਮੁੱਖ ਸੰਸਥਾਵਾਂ ਦੇ executives ਜਾਂ security teams—ਜਿਨ੍ਹਾਂ ਨੂੰ ਉੱਨਤ ਖਤਰਿਆਂ ਤੋਂ ਵਧੀਕ ਸੁਰੱਖਿਆ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ. ਇਹ ਜ਼ਿਆਦਾਤਰ ਯੂਜ਼ਰਾਂ ਲਈ ਲਾਜ਼ਮੀ ਨਹੀਂ ਹੈ. Lockdown Mode ਇਸ ਗੱਲ ਨੂੰ ਕੜਾਈ ਨਾਲ ਸੀਮਿਤ ਕਰਦਾ ਹੈ ਕਿ ChatGPT ਬਾਹਰੀ ਸਿਸਟਮਾਂ ਨਾਲ ਕਿਵੇਂ ਇੰਟਰੈਕਟ ਕਰ ਸਕਦਾ ਹੈ, ਤਾਂ ਜੋ ਪ੍ਰੌੰਪਟ ਇੰਜੈਕਸ਼ਨ-ਆਧਾਰਿਤ ਡਾਟਾ exfiltration ਦਾ ਜੋਖਮ ਘਟ ਸਕੇ.

Lockdown Mode ਨਿਸ਼ਚਿਤ ਢੰਗ ਨਾਲ ChatGPT ਵਿੱਚ ਕੁਝ ਟੂਲਾਂ ਅਤੇ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਅਸਮਰੱਥ ਕਰਦਾ ਹੈ, ਜਿਨ੍ਹਾਂ ਦਾ ਕੋਈ ਵਿਰੋਧੀ ਪ੍ਰੌੰਪਟ ਇੰਜੈਕਸ਼ਨ ਵਰਗੇ ਹਮਲਿਆਂ ਰਾਹੀਂ ਯੂਜ਼ਰਾਂ ਦੀਆਂ ਗੱਲਬਾਤਾਂ ਜਾਂ ਕਨੈਕਟ ਕੀਤੀਆਂ ਐਪਾਂ ਤੋਂ ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ exfiltrate ਕਰਨ ਲਈ ਫਾਇਦਾ ਉਠਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਸਕਦਾ ਹੈ.

ਉਦਾਹਰਨ ਵਜੋਂ, Lockdown Mode ਵਿੱਚ web browsing cached content ਤੱਕ ਸੀਮਿਤ ਹੁੰਦੀ ਹੈ, ਇਸ ਲਈ OpenAI ਦੇ ਨਿਯੰਤਰਿਤ ਨੈੱਟਵਰਕ ਤੋਂ ਕੋਈ live network requests ਬਾਹਰ ਨਹੀਂ ਜਾਂਦੀਆਂ. ਇਹ ਪਾਬੰਦੀ ਇਸ ਲਈ ਬਣਾਈ ਗਈ ਹੈ ਤਾਂ ਜੋ browsing ਰਾਹੀਂ ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਕਿਸੇ ਹਮਲਾਵਰ ਤੱਕ exfiltrate ਨਾ ਕੀਤਾ ਜਾ ਸਕੇ. ਜਦੋਂ ਅਸੀਂ ਡਾਟਾ ਸੁਰੱਖਿਆ ਦੀਆਂ ਮਜ਼ਬੂਤ deterministic ਗਾਰੰਟੀਆਂ ਨਹੀਂ ਦੇ ਸਕਦੇ, ਤਾਂ ਕੁਝ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਅਸਮਰੱਥ ਕਰ ਦਿੱਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ.

ChatGPT ਦੇ business plans ਪਹਿਲਾਂ ਹੀ enterprise-grade data security⁠ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ. Lockdown Mode ਇਨ੍ਹਾਂ ਸੁਰੱਖਿਆਵਾਂ 'ਤੇ ਅਧਾਰਤ ਹੈ ਅਤੇ ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, ਅਤੇ ChatGPT for Teachers ਲਈ ਉਪਲਬਧ ਹੈ. ਐਡਮਿਨ Workspace Settings⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਇੱਕ ਨਵਾਂ role⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਬਣਾਕੇ ਇਸ ਨੂੰ ਚਾਲੂ ਕਰ ਸਕਦੇ ਹਨ. ਜਦੋਂ ਇਹ ਚਾਲੂ ਹੁੰਦਾ ਹੈ, Lockdown Mode ਮੌਜੂਦਾ ਐਡਮਿਨ ਸੈਟਿੰਗਜ਼ ਦੇ ਉੱਪਰ ਵਾਧੂ ਪਾਬੰਦੀਆਂ ਜੋੜਦਾ ਹੈ.

ਸਾਡੇ ਹੈਲਪ ਸੈਂਟਰ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ Lockdown Mode ਬਾਰੇ ਹੋਰ ਜਾਣੋ.

ਕਿਉਂਕਿ ਕੁਝ ਮਹੱਤਵਪੂਰਨ ਵਰਕਫ਼ਲੋ ਐਪਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਵਰਕਸਪੇਸ ਐਡਮਿਨ ਹੋਰ ਸੁਖਮ ਨਿਯੰਤਰਣ ਕਾਇਮ ਰੱਖਦੇ ਹਨ. ਉਹ ਬਿਲਕੁਲ ਚੁਣ ਸਕਦੇ ਹਨ ਕਿ ਕਿਹੜੀਆਂ ਐਪਾਂ—ਅਤੇ ਉਨ੍ਹਾਂ ਐਪਾਂ ਦੇ ਅੰਦਰ ਕਿਹੜੀਆਂ ਖਾਸ ਕਾਰਵਾਈਆਂ—Lockdown Mode ਵਿੱਚ ਯੂਜ਼ਰਾਂ ਲਈ ਉਪਲਬਧ ਹੋਣਗੀਆਂ. ਇਸ ਤੋਂ ਇਲਾਵਾ, ਅਤੇ Lockdown Mode ਤੋਂ ਵੱਖਰੇ ਤੌਰ 'ਤੇ, Compliance API Logs Platform⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਐਪ ਵਰਤੋਂ, ਸਾਂਝੇ ਡਾਟਾ ਅਤੇ ਕਨੈਕਟ ਕੀਤੇ ਸਰੋਤਾਂ ਬਾਰੇ ਵਿਸਥਾਰਪੂਰਵਕ ਦਿੱਖ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਐਡਮਿਨ ਨਿਗਰਾਨੀ ਕਾਇਮ ਰੱਖ ਸਕਦੇ ਹਨ.

ਅਸੀਂ ਆਉਣ ਵਾਲੇ ਮਹੀਨਿਆਂ ਵਿੱਚ Lockdown Mode ਨੂੰ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਉਪਲਬਧ ਕਰਾਉਣ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ.

AI ਉਤਪਾਦ ਤੁਹਾਡੀਆਂ ਐਪਾਂ ਅਤੇ ਵੈੱਬ ਨਾਲ ਕਨੈਕਟ ਹੋਣ 'ਤੇ ਹੋਰ ਮਦਦਗਾਰ ਹੋ ਸਕਦੇ ਹਨ, ਅਤੇ ਅਸੀਂ ਕਨੈਕਟ ਕੀਤੇ ਡਾਟਾ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਣ⁠ ਵਿੱਚ ਵੱਡਾ ਨਿਵੇਸ਼ ਕੀਤਾ ਹੈ. ਇਸੇ ਸਮੇਂ, ਕੁਝ ਨੈੱਟਵਰਕ-ਸੰਬੰਧਿਤ ਸਮਰੱਥਾਵਾਂ ਨਵੇਂ ਜੋਖਮ ਲਿਆਉਂਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਉਦਯੋਗ ਦੇ safety ਅਤੇ security mitigations ਹਾਲੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸੰਬੋਧਿਤ ਨਹੀਂ ਕਰ ਸਕੇ. ਕੁਝ ਯੂਜ਼ਰ ਇਨ੍ਹਾਂ ਜੋਖਮਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਵਿੱਚ ਆਰਾਮਦਾਇਕ ਹੋ ਸਕਦੇ ਹਨ, ਅਤੇ ਅਸੀਂ ਮੰਨਦੇ ਹਾਂ ਕਿ ਯੂਜ਼ਰਾਂ ਕੋਲ ਇਹ ਫ਼ੈਸਲਾ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਉਹ ਇਨ੍ਹਾਂ ਨੂੰ ਵਰਤਣ ਜਾਂ ਨਹੀਂ ਅਤੇ ਕਿਵੇਂ ਵਰਤਣ, ਖ਼ਾਸ ਤੌਰ 'ਤੇ ਜਦੋਂ ਉਹ ਆਪਣੇ ਨਿੱਜੀ ਡਾਟਾ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹੋਣ.

ਸਾਡਾ ਰੁਖ ਉਹਨਾਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਲਈ in-product guidance ਦੇਣਾ ਰਿਹਾ ਹੈ ਜੋ ਵਾਧੂ ਜੋਖਮ ਲਿਆ ਸਕਦੀਆਂ ਹਨ. ਇਸ ਨੂੰ ਹੋਰ ਸਪਸ਼ਟ ਅਤੇ ਹੋਰ ਇਕਸਾਰ ਬਣਾਉਣ ਲਈ, ਅਸੀਂ ਮੌਜੂਦਾ ਸਮਰੱਥਾਵਾਂ ਦੀ ਇੱਕ ਛੋਟੀ ਸੂਚੀ ਨੂੰ ਲੇਬਲ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਮਿਆਰੀ ਬਣਾ ਰਹੇ ਹਾਂ. ਹੁਣ ਇਹ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ChatGPT, ChatGPT Atlas, ਅਤੇ Codex ਵਿੱਚ ਇੱਕਸਾਰ “Elevated Risk” ਲੇਬਲ ਵਰਤਣਗੀਆਂ, ਤਾਂ ਜੋ ਯੂਜ਼ਰਾਂ ਨੂੰ ਜਿੱਥੇ ਵੀ ਉਹ ਇਨ੍ਹਾਂ ਨਾਲ ਮਿਲਣ, ਉੱਥੇ ਇੱਕੋ ਜਿਹਾ ਮਾਰਗਦਰਸ਼ਨ ਮਿਲੇ.

ਉਦਾਹਰਨ ਲਈ, Codex ਵਿੱਚ, ਜੋ ਸਾਡਾ coding assistant ਹੈ, developers Codex ਨੂੰ network access ਦੇ ਸਕਦੇ ਹਨ ਤਾਂ ਜੋ ਇਹ documentation ਲੱਭਣ ਵਰਗੀਆਂ ਵੈੱਬ 'ਤੇ ਕਾਰਵਾਈਆਂ ਕਰ ਸਕੇ. ਸੰਬੰਧਤ settings screen ਵਿੱਚ “Elevated Risk” ਲੇਬਲ ਸ਼ਾਮਲ ਹੈ, ਨਾਲ ਹੀ ਇਹ ਸਪਸ਼ਟ ਵਿਆਖਿਆ ਵੀ ਕਿ ਕੀ ਬਦਲਦਾ ਹੈ, ਕਿਹੜੇ ਜੋਖਮ ਆ ਸਕਦੇ ਹਨ, ਅਤੇ ਇਹ ਐਕਸੈਸ ਕਦੋਂ ਉਚਿਤ ਹੈ.

ਅਸੀਂ ਆਪਣੀਆਂ safety ਅਤੇ security safeguards ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਵਿੱਚ ਨਿਵੇਸ਼ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ, ਖ਼ਾਸ ਤੌਰ 'ਤੇ ਨਵੇਂ, ਉਭਰਦੇ ਜਾਂ ਵਧਦੇ ਜੋਖਮਾਂ ਲਈ. ਜਿਵੇਂ ਜਿਵੇਂ ਅਸੀਂ ਇਨ੍ਹਾਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਲਈ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਾਂਗੇ, ਅਸੀਂ “Elevated Risk” ਲੇਬਲ ਨੂੰ ਹਟਾ ਦੇਵਾਂਗੇ ਜਦੋਂ ਅਸੀਂ ਨਿਰਧਾਰਤ ਕਰਾਂਗੇ ਕਿ ਸੁਰੱਖਿਆ ਵਿੱਚ ਤਰੱਕੀਆਂ ਨੇ ਆਮ ਵਰਤੋਂ ਲਈ ਉਹਨਾਂ ਜੋਖਮਾਂ ਨੂੰ ਕਾਫ਼ੀ ਹੱਦ ਤੱਕ ਘਟਾ ਦਿੱਤਾ ਹੈ. ਅਸੀਂ ਸਮੇਂ ਦੇ ਨਾਲ ਇਹ ਵੀ ਅਪਡੇਟ ਕਰਦੇ ਰਹਾਂਗੇ ਕਿ ਕਿਹੜੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ 'ਤੇ ਇਹ ਲੇਬਲ ਲੱਗਦਾ ਹੈ, ਤਾਂ ਜੋ ਯੂਜ਼ਰਾਂ ਤੱਕ ਜੋਖਮ ਦੀ ਸਭ ਤੋਂ ਵਧੀਆ ਜਾਣਕਾਰੀ ਪਹੁੰਚ ਸਕੇ.