ਅੱਜ, OpenAI ਸਾਡੇ ਉਤਪਾਦਾਂ ਵਿੱਚ AI ਦੁਰਵਰਤੋਂ ਅਤੇ ਸੁਰੱਖਿਆ ਖਤਰਿਆਂ ਦੀ ਪਛਾਣ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਇੱਕ ਸਰਵਜਨਿਕ Safety Bug Bounty(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਪ੍ਰੋਗਰਾਮ ਸ਼ੁਰੂ ਕਰ ਰਿਹਾ ਹੈ। ਜਿਵੇਂ AI ਤਕਨਾਲੋਜੀ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਿਤ ਹੋ ਰਹੀ ਹੈ, ਇਸ ਦੇ ਦੁਰੁਪਯੋਗ ਦੇ ਸੰਭਾਵੀ ਤਰੀਕੇ ਵੀ ਵੱਧ ਰਹੇ ਹਨ। ਸਾਡਾ ਲਕਸ਼ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਸਾਡੇ ਸਿਸਟਮ ਦੁਰੁਪਯੋਗ ਜਾਂ ਦੁਰਵਰਤੋਂ ਤੋਂ ਸੁਰੱਖਿਅਤ ਰਹਿਣ, ਜੋ ਵਾਸਤਵਿਕ ਨੁਕਸਾਨ ਦਾ ਕਾਰਣ ਬਣ ਸਕਦੇ ਹਨ.
ਇਹ ਨਵਾਂ ਪ੍ਰੋਗਰਾਮ OpenAI ਦੇ Security Bug Bounty(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਪੂਰਾ ਕਰੇਗਾ ਕਿ ਇਹ ਉਹ ਸਮੱਸਿਆਵਾਂ ਵੀ ਸਵੀਕਾਰੇਗਾ ਜੋ ਮਹੱਤਵਪੂਰਨ ਦੁਰਵਰਤੋਂ ਅਤੇ ਸੁਰੱਖਿਆ ਖਤਰੇ ਪੈਦਾ ਕਰਦੀਆਂ ਹਨ, ਭਾਵੇਂ ਉਹ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀ ਦੇ ਮਾਪਦੰਡਾਂ 'ਤੇ ਖਰੀਆਂ ਨਾ ਉਤਰਣ। ਇਸ ਪ੍ਰੋਗਰਾਮ ਰਾਹੀਂ, ਅਸੀਂ ਸੁਰੱਖਿਆ ਅਤੇ ਸਿਕਿਊਰਟੀ ਖੋਜਕਰਤਾਵਾਂ ਨਾਲ ਸਾਂਝ ਜਾਰੀ ਰੱਖਣ ਲਈ ਉਤਸੁਕ ਹਾਂ, ਤਾਂ ਜੋ ਅਜਿਹੀਆਂ ਸਮੱਸਿਆਵਾਂ ਦੀ ਪਛਾਣ ਅਤੇ ਹੱਲ ਕੀਤਾ ਜਾ ਸਕੇ ਜੋ ਰਵਾਇਤੀ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ ਤੋਂ ਬਾਹਰ ਹਨ ਪਰ ਫਿਰ ਵੀ ਅਸਲ ਖਤਰੇ ਪੈਦਾ ਕਰਦੀਆਂ ਹਨ। ਸਬਮਿਸ਼ਨਾਂ ਦੀ ਜਾਂਚ OpenAI ਦੀਆਂ Safety ਅਤੇ Security Bug Bounty ਟੀਮਾਂ ਦੁਆਰਾ ਕੀਤੀ ਜਾਵੇਗੀ, ਅਤੇ ਸਕੋਪ ਅਤੇ ਮਾਲਕੀ ਦੇ ਅਨੁਸਾਰ ਉਨ੍ਹਾਂ ਨੂੰ ਦੋਨਾਂ ਪ੍ਰੋਗਰਾਮਾਂ ਵਿਚਕਾਰ ਮੁੜ ਭੇਜਿਆ ਜਾ ਸਕਦਾ ਹੈ.
ਨਵਾਂ Safety Bug Bounty(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਪ੍ਰੋਗਰਾਮ ਹੇਠਾਂ ਦਿੱਤੇ AI-ਖਾਸ ਸੁਰੱਖਿਆ ਦ੍ਰਿਸ਼ਾਂ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਹੈ:
MCP ਸਮੇਤ ਏਜੰਟਿਕ ਖਤਰੇ
- ਤੀਜੇ ਪੱਖ ਵੱਲੋਂ ਪ੍ਰੌੰਪਟ ਇੰਜੈਕਸ਼ਨ ਅਤੇ ਡਾਟਾ ਐਕਸਫਿਲਟ੍ਰੇਸ਼ਨ: ਜਦੋਂ ਹਮਲਾਵਰ ਦਾ ਲਿਖਤ ਕਿਸੇ ਪੀੜਤ ਦੇ ਏਜੰਟ (ਜਿਸ ਵਿੱਚ Browser, ChatGPT Agent ਅਤੇ ਇਸ ਵਰਗੇ ਹੋਰ ਏਜੰਟਿਕ ਉਤਪਾਦ ਸ਼ਾਮਲ ਹਨ) ਨੂੰ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਹਾਈਜੈਕ ਕਰ ਸਕੇ, ਤਾਂ ਜੋ ਉਹ ਹਾਨੀਕਾਰਕ ਕਾਰਵਾਈ ਕਰੇ ਜਾਂ ਵਰਤੋਂਕਾਰ ਦੀ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਲੀਕ ਕਰੇ। ਇਹ ਵਿਹਾਰ ਘੱਟੋ-ਘੱਟ 50% ਸਮੇਂ ਦੁਹਰਾਇਆ ਜਾ ਸਕਣਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ.
- OpenAI ਦਾ ਕੋਈ ਏਜੰਟਿਕ ਉਤਪਾਦ OpenAI ਦੀ ਵੈੱਬਸਾਈਟ 'ਤੇ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਗੈਰ-ਅਨੁਮਤ ਕਾਰਵਾਈ ਕਰਦਾ ਹੈ.
- OpenAI ਦਾ ਕੋਈ ਏਜੰਟਿਕ ਉਤਪਾਦ ਉੱਪਰ ਸੂਚੀਬੱਧ ਨਾ ਕੀਤੀ ਗਈ ਕੋਈ ਸੰਭਾਵੀ ਹਾਨੀਕਾਰਕ ਕਾਰਵਾਈ ਕਰਦਾ ਹੈ। ਇੱਥੇ ਵੈਧ ਰਿਪੋਰਟਾਂ ਵਿੱਚ ਸੰਭਾਵੀ ਅਤੇ ਮਹੱਤਵਪੂਰਨ ਨੁਕਸਾਨ ਦਰਸਾਇਆ ਜਾਣਾ ਲਾਜ਼ਮੀ ਹੈ.
- MCP ਖਤਰੇ ਲਈ ਕੋਈ ਵੀ ਜਾਂਚ ਕਿਸੇ ਵੀ ਤੀਜੇ ਪੱਖ ਦੀਆਂ ਸੇਵਾ ਸ਼ਰਤਾਂ ਦੇ ਅਨੁਸਾਰ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ.
OpenAI ਦੀ ਮਲਕੀਅਤ ਜਾਣਕਾਰੀ
- ਮਾਡਲ ਵੱਲੋਂ ਬਣੇ ਜਵਾਬ ਜੋ ਰੀਜ਼ਨਿੰਗ ਨਾਲ ਸੰਬੰਧਿਤ ਮਲਕੀਅਤ ਜਾਣਕਾਰੀ ਵਾਪਸ ਕਰਦੇ ਹਨ.
- ਅਜਿਹੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਜੋ OpenAI ਦੀ ਹੋਰ ਮਲਕੀਅਤ ਜਾਣਕਾਰੀ ਬਾਹਰ ਲਿਆਉਂਦੀਆਂ ਹਨ.
ਖਾਤਾ ਅਤੇ ਪਲੇਟਫਾਰਮ ਅਖੰਡਤਾ
- ਖਾਤਾ ਅਖੰਡਤਾ ਅਤੇ ਪਲੇਟਫਾਰਮ ਅਖੰਡਤਾ ਸੰਕੇਤਾਂ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ, ਜਿਵੇਂ ਆਟੋਮੇਸ਼ਨ-ਵਿਰੋਧੀ ਨਿਯੰਤਰਣਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨਾ, ਖਾਤਾ ਭਰੋਸੇ ਦੇ ਸੰਕੇਤਾਂ ਨਾਲ ਛੇੜਛਾੜ ਕਰਨਾ, ਖਾਤੇ ਦੀਆਂ ਪਾਬੰਦੀਆਂ/ਸਸਪੈਂਸ਼ਨਾਂ/ਬੈਨ ਤੋਂ ਬਚਣਾ, ਅਤੇ ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਹੋਰ ਸਮੱਸਿਆਵਾਂ.
- ਅਜਿਹੀਆਂ ਸਮੱਸਿਆਵਾਂ ਜੋ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ ਅਧਿਕਾਰਤ ਅਨੁਮਤੀਆਂ ਤੋਂ ਵੱਧ ਫੀਚਰਾਂ, ਡਾਟਾ ਜਾਂ ਕਾਰਗੁਜ਼ਾਰੀਆਂ ਤੱਕ ਪਹੁੰਚ ਦੇਣ, ਉਨ੍ਹਾਂ ਨੂੰ Security Bug Bounty(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਰਿਪੋਰਟ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ.
ਭਾਵੇਂ jailbreaks ਇਸ ਪ੍ਰੋਗਰਾਮ ਦੇ ਦਾਇਰੇ ਤੋਂ ਬਾਹਰ ਹਨ, ਅਸੀਂ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਕੁਝ ਨੁਕਸਾਨ ਕਿਸਮਾਂ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਨਿੱਜੀ bug bounty ਮੁਹਿੰਮਾਂ ਚਲਾਉਂਦੇ ਹਾਂ, ਜਿਵੇਂ ChatGPT Agent ਅਤੇ GPT‑5 ਵਿੱਚ ਬਾਇਓਰਿਸਕ ਸਮੱਗਰੀ ਸਮੱਸਿਆਵਾਂ। ਅਸੀਂ ਰੁਚੀ ਰੱਖਣ ਵਾਲੇ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਅਜਿਹੇ ਪ੍ਰੋਗਰਾਮ ਆਉਣ 'ਤੇ ਅਰਜ਼ੀ ਦੇਣ ਲਈ ਸੱਦਾ ਦਿੰਦੇ ਹਾਂ.
ਉੱਪਰ ਦਿੱਤੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਤੋਂ ਇਲਾਵਾ, ਜੇ ਖੋਜਕਰਤਾ ਅਜਿਹੀਆਂ ਖਾਮੀਆਂ ਦੀ ਪਛਾਣ ਕਰਦੇ ਹਨ ਜੋ ਵਰਤੋਂਕਾਰ ਨੂੰ ਸਿੱਧੇ ਨੁਕਸਾਨ ਤੱਕ ਲੈ ਜਾਣ ਵਾਲੇ ਰਸਤੇ ਬਣਾਉਂਦੀਆਂ ਹਨ ਅਤੇ ਜਿਨ੍ਹਾਂ ਲਈ ਕਾਰਗਰ, ਸਪਸ਼ਟ ਸੁਧਾਰਕ ਕਦਮ ਮੌਜੂਦ ਹਨ, ਤਾਂ ਇਨ੍ਹਾਂ ਨੂੰ ਇਨਾਮਾਂ ਲਈ ਕੇਸ-ਦਰ-ਕੇਸ ਆਧਾਰ 'ਤੇ ਦਾਇਰੇ ਵਿੱਚ ਮੰਨਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਦਿਖਾਈ ਦੇਣ ਵਾਲੇ ਸੁਰੱਖਿਆ ਜਾਂ ਦੁਰਵਰਤੋਂ ਪ੍ਰਭਾਵ ਤੋਂ ਬਿਨਾਂ ਆਮ ਸਮੱਗਰੀ-ਨੀਤੀ ਬਾਈਪਾਸ ਇਸ ਪ੍ਰੋਗਰਾਮ ਦੇ ਦਾਇਰੇ ਤੋਂ ਬਾਹਰ ਹਨ। ਉਦਾਹਰਨ ਲਈ, ਅਜੇਹੇ “jailbreaks” ਜਿਨ੍ਹਾਂ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਮਾਡਲ ਅਸ਼ੀਸਟ ਭਾਸ਼ਾ ਵਰਤੇ ਜਾਂ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਦੇਵੇ ਜੋ ਖੋਜ ਇੰਜਨਾਂ ਰਾਹੀਂ ਆਸਾਨੀ ਨਾਲ ਮਿਲ ਸਕਦੀ ਹੋਵੇ, ਦਾਇਰੇ ਤੋਂ ਬਾਹਰ ਹਨ.
ਜੋ ਖੋਜਕਰਤਾ ਭਾਗ ਲੈਣ ਵਿੱਚ ਰੁਚੀ ਰੱਖਦੇ ਹਨ, ਉਹ ਸਾਡੇ Safety Bug Bounty(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਪ੍ਰੋਗਰਾਮ ਰਾਹੀਂ ਅਰਜ਼ੀ ਦੇ ਸਕਦੇ ਹਨ। ਅਸੀਂ ਇੱਕ ਸੁਰੱਖਿਅਤ AI ਇਕੋਸਿਸਟਮ ਦੀ ਖੋਜ ਵਿੱਚ ਖੋਜਕਰਤਾਵਾਂ, ਨੈਤਿਕ ਹੈਕਰਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਅਤੇ ਸਿਕਿਊਰਟੀ ਭਾਈਚਾਰੇ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਨ ਲਈ ਉਤਸੁਕ ਹਾਂ.
