ਜਦੋਂ ਲੋਕਾਂ ਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਉਨ੍ਹਾਂ ਦੀ ਮਦਦ ਕਰਨਾ

ਜਿਵੇਂ ਜਿਵੇਂ ChatGPT ਦੀ ਵਰਤੋਂ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਵਧੀ ਹੈ, ਅਸੀਂ ਵੇਖਿਆ ਹੈ ਕਿ ਲੋਕ ਇਸ ਨੂੰ ਸਿਰਫ਼ ਖੋਜ, ਕੋਡਿੰਗ ਅਤੇ ਲਿਖਤ ਲਈ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਬਹੁਤ ਨਿੱਜੀ ਫ਼ੈਸਲਿਆਂ ਲਈ ਵੀ ਵਰਤਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਜੀਵਨ ਸਲਾਹ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਕੋਚਿੰਗ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਅਤੇ ਸਹਾਇਤਾ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਸ਼ਾਮਲ ਹਨ.

ਇਸ ਪੱਧਰ 'ਤੇ ਸਾਨੂੰ ਕਦੇ ਕਦੇ ਅਜਿਹੇ ਲੋਕ ਮਿਲਦੇ ਹਨ ਜੋ ਗੰਭੀਰ ਮਾਨਸਿਕ ਅਤੇ ਭਾਵਨਾਤਮਕ ਪਰੇਸ਼ਾਨੀ ਵਿੱਚ ਹੁੰਦੇ ਹਨ. ਅਸੀਂ ਕੁਝ ਹਫ਼ਤੇ ਪਹਿਲਾਂ ਇਸ ਬਾਰੇ ਲਿਖਿਆ ਸੀ ਅਤੇ ਅਗਲੇ ਵੱਡੇ ਅੱਪਡੇਟ ਤੋਂ ਬਾਅਦ ਹੋਰ ਸਾਂਝਾ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਸੀ. ਹਾਲਾਂਕਿ, ਤੀਬਰ ਸੰਕਟ ਦੇ ਦਰਮਿਆਨ ChatGPT ਵਰਤਣ ਵਾਲੇ ਲੋਕਾਂ ਦੇ ਹਾਲੀਆ ਦਿਲ ਤੋੜਣ ਵਾਲੇ ਮਾਮਲੇ ਸਾਡੇ ਮਨ 'ਤੇ ਭਾਰੀ ਹਨ, ਅਤੇ ਅਸੀਂ ਮੰਨਦੇ ਹਾਂ ਕਿ ਹੁਣ ਹੋਰ ਸਾਂਝਾ ਕਰਨਾ ਮਹੱਤਵਪੂਰਣ ਹੈ.

ਸਾਡਾ ਲਕਸ਼ ਹੈ ਕਿ ਸਾਡੇ ਟੂਲ ਲੋਕਾਂ ਲਈ ਸੰਭਵ ਹੋ ਸਕੇ ਤਕ ਮਦਦਗਾਰ ਹੋਣ, ਅਤੇ ਇਸ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਅਸੀਂ ਇਹ ਸੁਧਾਰਦੇ ਰਹੇ ਹਾਂ ਕਿ ਸਾਡੇ ਮਾਡਲ ਮਾਨਸਿਕ ਅਤੇ ਭਾਵਨਾਤਮਕ ਪਰੇਸ਼ਾਨੀ ਦੇ ਸੰਕੇਤਾਂ ਨੂੰ ਕਿਵੇਂ ਪਛਾਣਦੇ ਅਤੇ ਉਨ੍ਹਾਂ ਦਾ ਜਵਾਬ ਦਿੰਦੇ ਹਨ, ਅਤੇ ਵਿਸ਼ੇਸ਼ਗਿਆਨ ਦੀ ਰਹਿਨੁਮਾਈ ਨਾਲ ਲੋਕਾਂ ਨੂੰ ਦੇਖਭਾਲ ਨਾਲ ਕਿਵੇਂ ਜੋੜਦੇ ਹਨ.

ਜਦੋਂ ਦੁਨੀਆ ਇਸ ਨਵੀਂ ਤਕਨਾਲੋਜੀ ਨਾਲ ਖੁਦ ਨੂੰ ਅਨੁਕੂਲ ਕਰ ਰਹੀ ਹੈ, ਅਸੀਂ ਉਹਨਾਂ ਦੀ ਮਦਦ ਕਰਨ ਲਈ ਡੂੰਘੀ ਜ਼ਿੰਮੇਵਾਰੀ ਮਹਿਸੂਸ ਕਰਦੇ ਹਾਂ ਜਿਨ੍ਹਾਂ ਨੂੰ ਇਸ ਦੀ ਸਭ ਤੋਂ ਵੱਧ ਲੋੜ ਹੈ. ਅਸੀਂ ਸਮਝਾਉਣਾ ਚਾਹੁੰਦੇ ਹਾਂ ਕਿ ChatGPT ਕਿਸ ਲਈ ਬਣਾਇਆ ਗਿਆ ਹੈ, ਸਾਡੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਕਿੱਥੇ ਬਿਹਤਰ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਅਤੇ ਭਵਿੱਖ ਲਈ ਅਸੀਂ ਕਿਹੜੇ ਕੰਮ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹਾਂ.

ਸਾਡਾ ਲਕਸ਼ ਲੋਕਾਂ ਦਾ ਧਿਆਨ ਬੰਨ੍ਹ ਕੇ ਰੱਖਣਾ ਨਹੀਂ ਹੈ. ਸਫਲਤਾ ਨੂੰ ਬਿਤਾਏ ਸਮੇਂ ਜਾਂ ਕਲਿਕਾਂ ਨਾਲ ਮਾਪਣ ਦੀ ਬਜਾਏ, ਸਾਨੂੰ ਸੱਚਮੁੱਚ ਮਦਦਗਾਰ ਹੋਣਾ ਵਧੇਰੇ ਮਹੱਤਵਪੂਰਣ ਲੱਗਦਾ ਹੈ. ਜਦੋਂ ਕੋਈ ਗੱਲਬਾਤ ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਕੋਈ ਵਿਅਕਤੀ ਨਾਜ਼ੁਕ ਹਾਲਤ ਵਿੱਚ ਹੈ ਅਤੇ ਖਤਰੇ ਵਿੱਚ ਹੋ ਸਕਦਾ ਹੈ, ਤਦ ਅਸੀਂ ChatGPT ਵਿੱਚ ਕਈ ਪਰਤਾਂ ਵਾਲੀਆਂ ਸੁਰੱਖਿਆ ਵਿਵਸਥਾਵਾਂ ਬਣਾਈਆਂ ਹਨ.

ਹਮਦਰਦੀ ਨਾਲ ਪਛਾਣੋ ਅਤੇ ਜਵਾਬ ਦਿਓ.

2023 ਦੀ ਸ਼ੁਰੂਆਤ ਤੋਂ ਹੀ, ਸਾਡੇ ਮਾਡਲਾਂ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿ ਉਹ ਸਵੈ-ਹਾਨੀ ਲਈ ਹਦਾਇਤਾਂ ਨਾ ਦੇਣ ਅਤੇ ਸਹਾਇਕ, ਹਮਦਰਦ ਭਾਸ਼ਾ ਵੱਲ ਮੁੜ ਜਾਣ. ਉਦਾਹਰਨ ਲਈ, ਜੇ ਕੋਈ ਲਿਖਦਾ ਹੈ ਕਿ ਉਹ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣਾ ਚਾਹੁੰਦਾ ਹੈ, ਤਾਂ ChatGPT ਨੂੰ ਇਸ ਦੀ ਪਾਲਣਾ ਨਾ ਕਰਨ ਲਈ ਸਿਖਲਾਇਆ ਗਿਆ ਹੈ, ਸਗੋਂ ਉਸ ਦੀਆਂ ਭਾਵਨਾਵਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਕੇ ਉਸ ਨੂੰ ਮਦਦ ਵੱਲ ਮੋੜੇ.

ਇਸ ਤੋਂ ਇਲਾਵਾ, ਸਾਡੇ defense in depth ਪਹੁੰਚ ਦੇ ਅਨੁਸਾਰ, ਉਹ ਜਵਾਬ ਜੋ ਸਾਡੇ ਮਾਡਲਾਂ ਦੀ ਸੁਰੱਖਿਆ ਟ੍ਰੇਨਿੰਗ ਦੇ ਵਿਰੁੱਧ ਜਾਂਦੇ ਹਨ, ਜਿਵੇਂ ਸਾਡੇ ਕਲਾਸੀਫਾਇਰ ਪਛਾਣਦੇ ਹਨ, ਆਪੇ ਹੀ ਰੋਕ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਨਾਬਾਲਗਾਂ ਅਤੇ ਲੌਗ-ਆਉਟ ਵਰਤੋਂ ਲਈ ਹੋਰ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆਵਾਂ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ. ਸਵੈ-ਹਾਨੀ ਵਾਲੇ ਚਿੱਤਰ ਆਉਟਪੁੱਟ ਵੀ ਸਭ ਲਈ ਰੋਕੇ ਜਾਂਦੇ ਹਨ, ਨਾਬਾਲਗਾਂ ਲਈ ਹੋਰ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਨਾਲ.

ਬਹੁਤ ਲੰਬੇ ਸੈਸ਼ਨਾਂ ਦੌਰਾਨ, ChatGPT ਲੋਕਾਂ ਨੂੰ ਬ੍ਰੇਕ ਲੈਣ ਲਈ ਯਾਦ ਦਿਵਾਂਦਾ ਹੈ.

ਲੋਕਾਂ ਨੂੰ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸਰੋਤਾਂ ਵੱਲ ਦਿਸ਼ਾ ਦਿਓ.

ਜੇ ਕੋਈ ਆਤਮਹੱਤਿਆ ਦੀ ਮਨਸ਼ਾ ਜ਼ਾਹਰ ਕਰਦਾ ਹੈ, ਤਾਂ ChatGPT ਨੂੰ ਲੋਕਾਂ ਨੂੰ ਪੇਸ਼ੇਵਰ ਮਦਦ ਲੈਣ ਵੱਲ ਦਿਸ਼ਾ ਦੇਣ ਲਈ ਸਿਖਲਾਇਆ ਗਿਆ ਹੈ. ਅਮਰੀਕਾ ਵਿੱਚ, ChatGPT ਲੋਕਾਂ ਨੂੰ 988 (ਸੁਇਸਾਈਡ ਅਤੇ ਸੰਕਟ ਹਾਟਲਾਈਨ) ਵੱਲ ਭੇਜਦਾ ਹੈ, ਯੂਕੇ ਵਿੱਚ Samaritans ਵੱਲ, ਅਤੇ ਹੋਰ ਥਾਵਾਂ 'ਤੇ findahelpline.com⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੱਲ. ਇਹ ਤਰਕ ਮਾਡਲ ਦੇ ਵਿਹਾਰ ਵਿੱਚ ਹੀ ਬਣਾਇਆ ਗਿਆ ਹੈ.

ਅਸੀਂ 30 ਤੋਂ ਵੱਧ ਦੇਸ਼ਾਂ ਵਿੱਚ 90 ਤੋਂ ਵੱਧ ਡਾਕਟਰਾਂ—ਮਨੋਚਿਕਿਤਸਕਾਂ, ਬਾਲ-ਰੋਗ ਵਿਸ਼ੇਸ਼ਗਿਆਨਾਂ ਅਤੇ ਜਨਰਲ ਪ੍ਰੈਕਟੀਸ਼ਨਰਾਂ—ਨਾਲ ਨਜ਼ਦੀਕੀ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ, ਅਤੇ ਅਸੀਂ ਮਾਨਸਿਕ ਸਿਹਤ, ਯੂਥ ਡਿਵੈਲਪਮੈਂਟ ਅਤੇ ਮਨੁੱਖ-ਕੰਪਿਊਟਰ ਅੰਤਰਕ੍ਰਿਆ ਦੇ ਵਿਸ਼ੇਸ਼ਗਿਆਨਾਂ ਦਾ ਇੱਕ ਸਲਾਹਕਾਰ ਗਰੁੱਪ ਇਕੱਠਾ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਕਿ ਸਾਡੀ ਪਹੁੰਚ ਤਾਜ਼ਾ ਖੋਜ ਅਤੇ ਸਭ ਤੋਂ ਵਧੀਆ ਅਭਿਆਸਾਂ ਨੂੰ ਦਰਸਾਏ.

ਦੂਜਿਆਂ ਨੂੰ ਸਰੀਰਕ ਨੁਕਸਾਨ ਦੇ ਖਤਰੇ ਨੂੰ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਲਈ ਵਧਾਓ.

ਜਦੋਂ ਅਸੀਂ ਅਜਿਹੇ ਵਰਤੋਂਕਾਰਾਂ ਦਾ ਪਤਾ ਲਗਾਉਂਦੇ ਹਾਂ ਜੋ ਦੂਜਿਆਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹੁੰਦੇ ਹਨ, ਅਸੀਂ ਉਨ੍ਹਾਂ ਦੀਆਂ ਗੱਲਬਾਤਾਂ ਨੂੰ ਖਾਸ ਪਾਈਪਲਾਈਨਾਂ ਵੱਲ ਭੇਜਦੇ ਹਾਂ ਜਿੱਥੇ ਉਨ੍ਹਾਂ ਦੀ ਸਮੀਖਿਆ ਇੱਕ ਛੋਟੀ ਟੀਮ ਕਰਦੀ ਹੈ ਜਿਸ ਨੂੰ ਸਾਡੀਆਂ ਵਰਤੋਂ ਨੀਤੀਆਂ ਬਾਰੇ ਟ੍ਰੇਨਿੰਗ ਦਿੱਤੀ ਗਈ ਹੈ ਅਤੇ ਜੋ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਅਧਿਕਾਰਤ ਹੈ, ਜਿਸ ਵਿੱਚ ਖਾਤੇ ਬੈਨ ਕਰਨਾ ਵੀ ਸ਼ਾਮਲ ਹੈ. ਜੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆਕਾਰ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦੇ ਹਨ ਕਿ ਕਿਸੇ ਮਾਮਲੇ ਵਿੱਚ ਦੂਜਿਆਂ ਲਈ ਗੰਭੀਰ ਸਰੀਰਕ ਨੁਕਸਾਨ ਦਾ ਤੁਰੰਤ ਖਤਰਾ ਸ਼ਾਮਲ ਹੈ, ਤਾਂ ਅਸੀਂ ਇਸ ਨੂੰ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਕੋਲ ਭੇਜ ਸਕਦੇ ਹਾਂ. ChatGPT ਇੰਟਰੈਕਸ਼ਨਾਂ ਦੀ ਵਿਲੱਖਣ ਤੌਰ 'ਤੇ ਨਿੱਜੀ ਪ੍ਰਕਿਰਤੀ ਨੂੰ ਦੇਖਦੇ ਹੋਏ ਲੋਕਾਂ ਦੀ ਗੋਪਨੀਯਤਾ ਦਾ ਆਦਰ ਕਰਨ ਲਈ ਅਸੀਂ ਇਸ ਵੇਲੇ ਸਵੈ-ਹਾਨੀ ਦੇ ਮਾਮਲਿਆਂ ਨੂੰ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਕੋਲ ਨਹੀਂ ਭੇਜ ਰਹੇ.

ਅਸੀਂ ਸੰਵੇਦਨਸ਼ੀਲ ਇੰਟਰੈਕਸ਼ਨਾਂ ਵਿੱਚ ਸਾਡੇ ਮਾਡਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣ ਦੇ ਤਰੀਕੇ ਨੂੰ ਲਗਾਤਾਰ ਸੁਧਾਰ ਰਹੇ ਹਾਂ, ਅਤੇ ਇਸ ਵੇਲੇ ਕਈ ਖੇਤਰਾਂ ਵਿੱਚ ਨਿਸ਼ਾਨਾਬੱਧ ਸੁਰੱਖਿਆ ਸੁਧਾਰਾਂ 'ਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਭਾਵਨਾਤਮਕ ਨਿਰਭਰਤਾ, ਮਾਨਸਿਕ ਸਿਹਤ ਐਮਰਜੈਂਸੀਆਂ ਅਤੇ ਅੰਧ-ਸਹਿਮਤੀ ਸ਼ਾਮਲ ਹਨ.

ਅਗਸਤ ਵਿੱਚ, ਅਸੀਂ ChatGPT ਨੂੰ ਚਲਾਉਣ ਵਾਲੇ ਡਿਫਾਲਟ ਮਾਡਲ ਵਜੋਂ GPT‑5 ਲਾਂਚ ਕੀਤਾ. ਕੁੱਲ ਮਿਲਾਕੇ, GPT‑5 ਨੇ ਅਸਵਸਥ ਭਾਵਨਾਤਮਕ ਨਿਰਭਰਤਾ ਤੋਂ ਬਚਣ, ਅੰਧ-ਸਹਿਮਤੀ ਘਟਾਉਣ ਅਤੇ 4o ਦੇ ਮੁਕਾਬਲੇ ਮਾਨਸਿਕ ਸਿਹਤ ਐਮਰਜੈਂਸੀਆਂ ਵਿੱਚ ਗੈਰ-ਆਦਰਸ਼ ਮਾਡਲ ਜਵਾਬਾਂ ਦੀ ਦਰ 25% ਤੋਂ ਵੱਧ ਘਟਾਉਣ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ ਅਰਥਪੂਰਣ ਸੁਧਾਰ ਦਿਖਾਏ ਹਨ. GPT‑5 safe completions ਨਾਮਕ ਇੱਕ ਨਵੀਂ ਸੁਰੱਖਿਆ ਟ੍ਰੇਨਿੰਗ ਵਿਧੀ 'ਤੇ ਵੀ ਆਧਾਰਿਤ ਹੈ, ਜੋ ਮਾਡਲ ਨੂੰ ਸਿਖਾਉਂਦੀ ਹੈ ਕਿ ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ ਅੰਦਰ ਰਹਿੰਦੇ ਹੋਏ ਸੰਭਵ ਹੋ ਸਕੇ ਤਕ ਮਦਦਗਾਰ ਕਿਵੇਂ ਬਣਨਾ ਹੈ. ਇਸ ਦਾ ਮਤਲਬ ਇਹ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਅਜਿਹਾ ਵੇਰਵਾ ਦੇਣ ਦੀ ਥਾਂ ਜੋ ਅਸੁਰੱਖਿਅਤ ਹੋ ਸਕਦਾ ਹੈ, ਇੱਕ ਅੰਸ਼ਿਕ ਜਾਂ ਉੱਚ-ਪੱਧਰੀ ਜਵਾਬ ਦਿੱਤਾ ਜਾਵੇ.

ਇਨ੍ਹਾਂ ਸੁਰੱਖਿਆਵਾਂ ਦੇ ਬਾਵਜੂਦ, ਕੁਝ ਅਜਿਹੇ ਪਲ ਰਹੇ ਹਨ ਜਦੋਂ ਸਾਡੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਸੰਵੇਦਨਸ਼ੀਲ ਸਥਿਤੀਆਂ ਵਿੱਚ ਇਰਾਦੇ ਅਨੁਸਾਰ ਵਰਤਾਅ ਨਹੀਂ ਕਰ ਸਕੀਆਂ. ਇੱਥੇ ਕੁਝ ਚੀਜ਼ਾਂ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਅਸੀਂ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ.

ਲੰਬੀਆਂ ਗੱਲਬਾਤਾਂ ਵਿੱਚ ਸੁਰੱਖਿਆਵਾਂ ਮਜ਼ਬੂਤ ਕਰਨਾ.

ਸਾਡੀਆਂ ਸੁਰੱਖਿਆਵਾਂ ਆਮ, ਛੋਟੇ ਆਦਾਨ-ਪ੍ਰਦਾਨ ਵਿੱਚ ਹੋਰ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਕੰਮ ਕਰਦੀਆਂ ਹਨ. ਸਮੇਂ ਨਾਲ ਅਸੀਂ ਸਿੱਖਿਆ ਹੈ ਕਿ ਲੰਬੀਆਂ ਇੰਟਰੈਕਸ਼ਨਾਂ ਵਿੱਚ ਇਹ ਸੁਰੱਖਿਆਵਾਂ ਕਦੇ ਕਦੇ ਘੱਟ ਭਰੋਸੇਯੋਗ ਹੋ ਸਕਦੀਆਂ ਹਨ: ਜਿਵੇਂ ਜਿਵੇਂ ਆਉਣਾ-ਜਾਣਾ ਵਧਦਾ ਹੈ, ਮਾਡਲ ਦੀ ਸੁਰੱਖਿਆ ਟ੍ਰੇਨਿੰਗ ਦੇ ਕੁਝ ਹਿੱਸੇ ਕਮਜ਼ੋਰ ਹੋ ਸਕਦੇ ਹਨ. ਉਦਾਹਰਨ ਲਈ, ਜਦੋਂ ਕੋਈ ਪਹਿਲੀ ਵਾਰ ਮਨਸ਼ਾ ਦਾ ਜ਼ਿਕਰ ਕਰਦਾ ਹੈ ਤਾਂ ChatGPT ਠੀਕ ਤੌਰ 'ਤੇ ਸੁਇਸਾਈਡ ਹਾਟਲਾਈਨ ਵੱਲ ਦਿਸ਼ਾ ਦੇ ਸਕਦਾ ਹੈ, ਪਰ ਲੰਬੇ ਸਮੇਂ ਦੌਰਾਨ ਬਹੁਤ ਸਾਰੇ ਸੁਨੇਹਿਆਂ ਤੋਂ ਬਾਅਦ ਇਹ ਆਖ਼ਿਰਕਾਰ ਅਜਿਹਾ ਜਵਾਬ ਦੇ ਸਕਦਾ ਹੈ ਜੋ ਸਾਡੀਆਂ ਸੁਰੱਖਿਆਵਾਂ ਦੇ ਵਿਰੁੱਧ ਹੋਵੇ. ਇਹ ਬਿਲਕੁਲ ਉਹ ਕਿਸਮ ਦੀ ਟੁੱਟ ਹੈ ਜਿਸ ਨੂੰ ਰੋਕਣ ਲਈ ਅਸੀਂ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ. ਅਸੀਂ ਇਹ ਰੋਕਥਾਮ ਉਪਾਅ ਮਜ਼ਬੂਤ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਇਹ ਲੰਬੀਆਂ ਗੱਲਬਾਤਾਂ ਵਿੱਚ ਭਰੋਸੇਯੋਗ ਰਹਿਣ, ਅਤੇ ਅਸੀਂ ਕਈ ਗੱਲਬਾਤਾਂ ਵਿੱਚ ਮਜ਼ਬੂਤ ਵਿਹਾਰ ਯਕੀਨੀ ਬਣਾਉਣ ਦੇ ਤਰੀਕਿਆਂ 'ਤੇ ਖੋਜ ਕਰ ਰਹੇ ਹਾਂ. ਇਸ ਤਰ੍ਹਾਂ, ਜੇ ਕੋਈ ਇੱਕ ਚੈਟ ਵਿੱਚ ਆਤਮਹੱਤਿਆ ਦੀ ਮਨਸ਼ਾ ਜ਼ਾਹਰ ਕਰਦਾ ਹੈ ਅਤੇ ਬਾਅਦ ਵਿੱਚ ਦੂਜੀ ਚੈਟ ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ, ਤਾਂ ਮਾਡਲ ਫਿਰ ਵੀ ਢੰਗ ਨਾਲ ਜਵਾਬ ਦੇ ਸਕੇ.

ਅਸੀਂ ਸਮੱਗਰੀ ਨੂੰ ਕਿਵੇਂ ਰੋਕਦੇ ਹਾਂ, ਇਸ ਨੂੰ ਹੋਰ ਨਿਖਾਰਨਾ.

ਅਸੀਂ ਕੁਝ ਅਜਿਹੇ ਮਾਮਲੇ ਵੇਖੇ ਹਨ ਜਿੱਥੇ ਉਹ ਸਮੱਗਰੀ ਜੋ ਰੋਕੀ ਜਾਣੀ ਚਾਹੀਦੀ ਸੀ, ਰੋਕੀ ਨਹੀਂ ਗਈ. ਇਹ ਖਾਮੀਆਂ ਆਮ ਤੌਰ 'ਤੇ ਇਸ ਲਈ ਹੁੰਦੀਆਂ ਹਨ ਕਿਉਂਕਿ ਕਲਾਸੀਫਾਇਰ ਦੇਖੀ ਜਾ ਰਹੀ ਚੀਜ਼ ਦੀ ਗੰਭੀਰਤਾ ਨੂੰ ਘੱਟ ਅੰਦਾਜ਼ਦਾ ਹੈ. ਅਸੀਂ ਉਹਨਾਂ ਥ੍ਰੈਸ਼ਹੋਲਡਾਂ ਨੂੰ ਟਿਊਨ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਸੁਰੱਖਿਆ ਸਹੀ ਵੇਲੇ ਚਾਲੂ ਹੋਵੇ.

ਸਾਡੀ ਸਭ ਤੋਂ ਵੱਡੀ ਤਰਜੀਹ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ChatGPT ਕਿਸੇ ਮੁਸ਼ਕਲ ਪਲ ਨੂੰ ਹੋਰ ਖਰਾਬ ਨਾ ਕਰੇ.

ਉਪਰੋਕਤ ਗੱਲਾਂ ਨੂੰ ਠੀਕ ਕਰਨ ਨਾਲ ਇਹ ਕੰਮ ਖਤਮ ਨਹੀਂ ਹੁੰਦਾ. ਅਸੀਂ ਇਹ ਵੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹਾਂ ਕਿ:

ਸੰਕਟ ਵਿੱਚ ਹੋਰ ਲੋਕਾਂ ਲਈ ਦਖਲ ਅੰਦਾਜ਼ੀ ਵਧਾਈਏ.

ਜਦੋਂਕਿ ਸਾਡੇ ਸ਼ੁਰੂਆਤੀ ਰੋਕਥਾਮ ਉਪਾਅ ਤੀਬਰ ਸਵੈ-ਹਾਨੀ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੇ ਸਨ, ਕੁਝ ਲੋਕ ਮਾਨਸਿਕ ਪਰੇਸ਼ਾਨੀ ਦੇ ਹੋਰ ਰੂਪਾਂ ਦਾ ਅਨੁਭਵ ਕਰਦੇ ਹਨ. ਉਦਾਹਰਨ ਲਈ, ਕੋਈ ਵਿਅਕਤੀ ਮਾਡਲ ਨੂੰ ਉਤਸ਼ਾਹ ਨਾਲ ਦੱਸ ਸਕਦਾ ਹੈ ਕਿ ਉਹ 24/7 ਗੱਡੀ ਚਲਾ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ ਦੋ ਰਾਤਾਂ ਨਾ ਸੌਣ ਤੋਂ ਬਾਅਦ ਉਸ ਨੂੰ ਅਹਿਸਾਸ ਹੋਇਆ ਹੈ ਕਿ ਉਹ ਅਜੇਯ ਹੈ. ਅੱਜ, ChatGPT ਸ਼ਾਇਦ ਇਸ ਨੂੰ ਖਤਰਨਾਕ ਨਾ ਪਛਾਣੇ ਜਾਂ ਇਸ ਦਾ ਅਰਥ ਨਾ ਕੱਢੇ ਅਤੇ—ਜਿਗਿਆਸੂ ਢੰਗ ਨਾਲ ਖੋਜ ਕਰਦੇ ਹੋਏ—ਸ਼ਾਇਦ ਇਸ ਨੂੰ ਹੌਲੀ ਤੌਰ 'ਤੇ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰ ਦੇਵੇ.

ਅਸੀਂ GPT‑5 ਲਈ ਇੱਕ ਅੱਪਡੇਟ 'ਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ChatGPT ਨੂੰ ਵਿਅਕਤੀ ਨੂੰ ਹਕੀਕਤ ਨਾਲ ਗ੍ਰਾਊਂਡਿੰਗ ਕਰਕੇ ਸਥਿਤੀ ਨੂੰ ਸ਼ਾਂਤ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕਰੇਗਾ. ਇਸ ਉਦਾਹਰਨ ਵਿੱਚ, ਇਹ ਸਮਝਾਏਗਾ ਕਿ ਨੀਂਦ ਦੀ ਘਾਟ ਖਤਰਨਾਕ ਹੈ ਅਤੇ ਕਿਸੇ ਵੀ ਕਾਰਵਾਈ ਤੋਂ ਪਹਿਲਾਂ ਆਰਾਮ ਦੀ ਸਿਫਾਰਸ਼ ਕਰੇਗਾ.

ਐਮਰਜੈਂਸੀ ਸੇਵਾਵਾਂ ਤੱਕ ਪਹੁੰਚਣਾ ਅਤੇ ਵਿਸ਼ੇਸ਼ਗਿਆਨਾਂ ਤੋਂ ਮਦਦ ਲੈਣਾ ਹੋਰ ਵੀ ਆਸਾਨ ਬਣਾਉਣਾ.

ਅੱਜ, ਜਦੋਂ ਲੋਕ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੀ ਮਨਸ਼ਾ ਜ਼ਾਹਰ ਕਰਦੇ ਹਨ, ਅਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਮਦਦ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਾਂ ਅਤੇ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸਰੋਤਾਂ ਵੱਲ ਦਿਸ਼ਾ ਦਿੰਦੇ ਹਾਂ. ਅਸੀਂ ਅਮਰੀਕਾ ਅਤੇ ਯੂਰਪ ਵਿੱਚ ਸਰੋਤਾਂ ਨੂੰ ਸਥਾਨਕ ਬਣਾਉਣਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ ਹੈ, ਅਤੇ ਅਸੀਂ ਹੋਰ ਗਲੋਬਲ ਬਾਜ਼ਾਰਾਂ ਤੱਕ ਵਧਾਉਣ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ. ਅਸੀਂ ਇੱਕ-ਕਲਿਕ ਪਹੁੰਚ ਨਾਲ ਐਮਰਜੈਂਸੀ ਸੇਵਾਵਾਂ ਦੀ ਪਹੁੰਚਯੋਗਤਾ ਵੀ ਵਧਾਵਾਂਗੇ.

ਅਸੀਂ ਇਹ ਖੋਜ ਰਹੇ ਹਾਂ ਕਿ ਤੀਬਰ ਸੰਕਟ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਕਿਵੇਂ ਪਹਿਲਾਂ ਦਖਲ ਦਿੱਤਾ ਜਾਵੇ ਅਤੇ ਲੋਕਾਂ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਥੈਰਾਪਿਸਟਾਂ ਨਾਲ ਕਿਵੇਂ ਜੋੜਿਆ ਜਾਵੇ. ਇਸ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸਿਰਫ਼ ਸੰਕਟ ਹਾਟਲਾਈਨਾਂ ਤੋਂ ਅੱਗੇ ਵੱਧ ਕੇ ਇਹ ਵਿਚਾਰਣਾ ਕਿ ਅਸੀਂ ਲਾਇਸੈਂਸ ਪ੍ਰਾਪਤ ਪੇਸ਼ੇਵਰਾਂ ਦਾ ਅਜਿਹਾ ਜਾਲ ਕਿਵੇਂ ਬਣਾਈਏ ਜਿਸ ਤੱਕ ਲੋਕ ChatGPT ਰਾਹੀਂ ਸਿੱਧੀ ਪਹੁੰਚ ਕਰ ਸਕਣ. ਇਸ ਨੂੰ ਠੀਕ ਢੰਗ ਨਾਲ ਕਰਨ ਲਈ ਸਮਾਂ ਅਤੇ ਬਹੁਤ ਸੰਭਲ ਕੇ ਕੰਮ ਦੀ ਲੋੜ ਹੋਵੇਗੀ.

ਭਰੋਸੇਮੰਦ ਸੰਪਰਕਾਂ ਨਾਲ ਜੁੜਾਵ ਯੋਗ ਬਣਾਉਣਾ.

ਐਮਰਜੈਂਸੀ ਸੇਵਾਵਾਂ ਤੋਂ ਇਲਾਵਾ, ਅਸੀਂ ਅਜਿਹੇ ਤਰੀਕਿਆਂ ਦੀ ਵੀ ਖੋਜ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ਲੋਕਾਂ ਲਈ ਆਪਣੇ ਸਭ ਤੋਂ ਨੇੜਲੇ ਲੋਕਾਂ ਨਾਲ ਸੰਪਰਕ ਕਰਨਾ ਹੋਰ ਆਸਾਨ ਬਣਾਉਣ. ਇਸ ਵਿੱਚ ਸੇਵ ਕੀਤੇ ਐਮਰਜੈਂਸੀ ਸੰਪਰਕਾਂ, ਦੋਸਤਾਂ ਜਾਂ ਪਰਿਵਾਰਕ ਮੈਂਬਰਾਂ ਨੂੰ ਇੱਕ-ਕਲਿਕ ਸੁਨੇਹੇ ਜਾਂ ਕਾਲਾਂ ਸ਼ਾਮਲ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਨਾਲ ਹੀ ਸੁਝਾਈ ਗਈ ਭਾਸ਼ਾ ਵੀ ਤਾਂ ਜੋ ਗੱਲਬਾਤ ਸ਼ੁਰੂ ਕਰਨਾ ਘੱਟ ਡਰਾਉਣਾ ਲੱਗੇ.

ਅਸੀਂ ਅਜਿਹੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਬਾਰੇ ਵੀ ਵਿਚਾਰ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ਗੰਭੀਰ ਮਾਮਲਿਆਂ ਵਿੱਚ ਲੋਕਾਂ ਨੂੰ ਇਹ ਵਿਕਲਪ ਦੇਣ ਕਿ ChatGPT ਉਨ੍ਹਾਂ ਦੀ ਥਾਂ ਉਨ੍ਹਾਂ ਦੇ ਨਿਰਧਾਰਤ ਸੰਪਰਕ ਨਾਲ ਸੰਪਰਕ ਕਰੇ.

ਕਿਸ਼ੋਰਾਂ ਲਈ ਸੁਰੱਖਿਆਵਾਂ ਮਜ਼ਬੂਤ ਕਰਨਾ.

ਇਤਿਹਾਸਕ ਤੌਰ 'ਤੇ, ਅਸੀਂ ਆਪਣੇ ਸਭ ਵਰਤੋਂਕਾਰਾਂ ਲਈ ਮਾਡਲ ਦੇ ਇੱਕੋ ਆਦਰਸ਼ ਵਿਹਾਰ ਨੂੰ ਨਿਰਧਾਰਤ ਕੀਤਾ ਸੀ. ਜਿਵੇਂ ਜਿਵੇਂ ChatGPT ਵਧਿਆ, ਅਸੀਂ ਉਹਨਾਂ ਮਾਮਲਿਆਂ ਵਿੱਚ ਵਾਧੂ ਸੁਰੱਖਿਆਵਾਂ ਜੋੜਣੀਆਂ ਸ਼ੁਰੂ ਕੀਤੀਆਂ ਜਦੋਂ ਸਾਨੂੰ ਪਤਾ ਹੁੰਦਾ ਹੈ ਕਿ ਵਰਤੋਂਕਾਰ ਦੀ ਉਮਰ 18 ਸਾਲ ਤੋਂ ਘੱਟ ਹੈ. ਅਸੀਂ ਅਜਿਹੀਆਂ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਲਗਾਤਾਰ ਵਿਕਸਤ ਅਤੇ ਰੋਲ ਆਉਟ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ਕਿਸ਼ੋਰਾਂ ਦੀਆਂ ਵਿਲੱਖਣ ਵਿਕਾਸੀ ਲੋੜਾਂ ਨੂੰ ਪਛਾਣਦੀਆਂ ਹਨ, ਸੰਵੇਦਨਸ਼ੀਲ ਸਮੱਗਰੀ ਅਤੇ ਖਤਰਨਾਕ ਵਿਹਾਰਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਹੋਰ ਮਜ਼ਬੂਤ ਹੱਦਬੰਦੀ ਨਾਲ.

ਅਸੀਂ ਜਲਦੀ ਹੀ ਪੈਰੈਂਟਲ ਕੰਟਰੋਲਜ਼ ਵੀ ਲਿਆਂਵਾਂਗੇ ਜੋ ਮਾਪਿਆਂ ਨੂੰ ਇਹ ਸਮਝਣ ਅਤੇ ਨਿਰਧਾਰਤ ਕਰਨ ਲਈ ਵਿਕਲਪ ਦੇਣਗੇ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਕਿਸ਼ੋਰ ChatGPT ਨੂੰ ਕਿਵੇਂ ਵਰਤਦੇ ਹਨ. ਅਸੀਂ ਇਹ ਵੀ ਖੋਜ ਰਹੇ ਹਾਂ ਕਿ ਕਿਸ਼ੋਰਾਂ ਲਈ, ਮਾਪਿਆਂ ਦੀ ਨਿਗਰਾਨੀ ਨਾਲ, ਇੱਕ ਭਰੋਸੇਮੰਦ ਐਮਰਜੈਂਸੀ ਸੰਪਰਕ ਨਿਰਧਾਰਤ ਕਰਨਾ ਸੰਭਵ ਬਣਾਇਆ ਜਾਵੇ. ਇਸ ਤਰ੍ਹਾਂ, ਤੀਬਰ ਪਰੇਸ਼ਾਨੀ ਦੇ ਪਲਾਂ ਵਿੱਚ, ChatGPT ਸਿਰਫ਼ ਸਰੋਤਾਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਨ ਤੋਂ ਵੱਧ ਕਰ ਸਕੇਗਾ: ਇਹ ਕਿਸ਼ੋਰਾਂ ਨੂੰ ਸਿੱਧੇ ਉਸ ਵਿਅਕਤੀ ਨਾਲ ਜੋੜਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕੇਗਾ ਜੋ ਅੱਗੇ ਆ ਸਕੇ.

ਅਸੀਂ ਡੂੰਘਾਈ ਨਾਲ ਸਮਝਦੇ ਹਾਂ ਕਿ ਸੁਰੱਖਿਆਵਾਂ ਤਦ ਹੀ ਸਭ ਤੋਂ ਮਜ਼ਬੂਤ ਹੁੰਦੀਆਂ ਹਨ ਜਦੋਂ ਹਰ ਤੱਤ ਇਰਾਦੇ ਅਨੁਸਾਰ ਕੰਮ ਕਰਦਾ ਹੈ. ਅਸੀਂ ਵਿਸ਼ੇਸ਼ਗਿਆਨਾਂ ਦੀ ਰਹਿਨੁਮਾਈ ਵਿੱਚ ਸੁਧਾਰ ਕਰਦੇ ਰਹਾਂਗੇ ਅਤੇ ਉਹਨਾਂ ਲੋਕਾਂ ਪ੍ਰਤੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿੱਚ ਗ੍ਰਾਊਂਡਿੰਗ ਰਹਾਂਗੇ ਜੋ ਸਾਡੇ ਟੂਲ ਵਰਤਦੇ ਹਨ—ਅਤੇ ਸਾਨੂੰ ਉਮੀਦ ਹੈ ਕਿ ਹੋਰ ਲੋਕ ਵੀ ਸਾਡੇ ਨਾਲ ਜੁੜਣਗੇ ਤਾਂ ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਕਿ ਇਹ ਤਕਨਾਲੋਜੀ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਪਲਾਂ ਵਿੱਚ ਲੋਕਾਂ ਦੀ ਰੱਖਿਆ ਕਰੇ.