Хүмүүст хамгийн их хэрэгтэй мөчид нь туслах нь

ChatGPT‑ийн хэрэглээ дэлхий даяар өсөхийн хэрээр хүмүүс үүнийг зөвхөн хайлт, кодчилол, бичих ажилд бус, мөн амьдралын зөвлөгөө⁠(шинэ цонхонд нээгдэнэ), коучинг⁠(шинэ цонхонд нээгдэнэ), дэмжлэг⁠(шинэ цонхонд нээгдэнэ) зэрэг маш хувийн шийдвэрүүдэд ч хандуулж байгааг бид харсан.

Ийм цар хүрээнд бид заримдаа сэтгэл зүй, сэтгэл хөдлөлийн ноцтой хямралтай хүмүүсийг олж хардаг. Бид энэ талаар хэдэн долоо хоногийн өмнө бичсэн бөгөөд дараагийн томоохон шинэчлэлтийн дараа илүү ихийг хуваалцахаар төлөвлөж байсан. Гэвч хурц хямралын үеэр ChatGPT ашигласан хүмүүсийн сэтгэл эмзэглэм тохиолдлууд бидэнд хүндээр тусаж байгаа бөгөөд одоо илүү ихийг хуваалцах нь чухал гэж бид үзэж байна.

Манай зорилго бол манай хэрэгслүүдийг хүмүүст аль болох тус дэмтэй байлгах явдал бөгөөд үүний хүрээнд бид мэргэжилтнүүдийн саналд тулгуурлан сэтгэл зүй, сэтгэл хөдлөлийн хямралын шинж тэмдгийг манай загварууд хэрхэн таньж, хариу үзүүлж, хүмүүст тусламж үйлчилгээтэй холбодгийг тасралтгүй сайжруулж байна.

Дэлхий энэ шинэ технологид дасан зохицож байгаа энэ үед хамгийн их хэрэгтэй байгаа хүмүүст туслах гүн хариуцлага бидэнд бий гэж бид үздэг. Бид ChatGPT юунд зориулагдсан, манай системүүдийг хаана сайжруулах боломжтой, мөн цаашид ямар ажил төлөвлөж буйгаа тайлбарлахыг хүсэж байна.

Бидний зорилго бол хүмүүсийн анхаарлыг тогтоон барих биш. Амжилтыг зарцуулсан хугацаа эсвэл дарсан товшилтоор хэмжихийн оронд бид жинхэнэ утгаараа тус дэмтэй байхыг илүү чухалчилдаг. Ярианаас хэн нэгэн эмзэг байж, эрсдэлд орсон байж болзошгүй нь харагдвал бид ChatGPT‑д олон давхар хамгаалалтын арга хэмжээг суулгасан.

Танин мэдэж, энэрэнгүйгээр хариулах.

2023 оны эхэн үеэс манай загваруудыг өөртөө хор хүргэх заавар өгөхгүй байх, харин дэмжсэн, энэрэнгүй хэллэг рүү шилжихээр сургаж ирсэн. Жишээ нь, хэн нэгэн өөртөө хор хүргэхийг хүсэж байгаагаа бичвэл ChatGPT үүнийг дагаж биелүүлэхгүй, харин тэдний мэдрэмжийг хүлээн зөвшөөрч, тусламж авах зүг рүү чиглүүлэхээр сургагдсан.

Үүнээс гадна, манай гүнзгий хамгаалалт хандлагад нийцүүлэн, манай ангилагчдын тодорхойлсноор загваруудын аюулгүй байдлын сургалтын эсрэг байгаа хариултууд автоматаар блоклогддог бөгөөд насанд хүрээгүй хэрэглэгчид болон нэвтрээгүй хэрэглээнд илүү хүчтэй хамгаалалт үйлчилдэг. Өөртөө хор хүргэхтэй холбоотой зургийн гаралтыг мөн бүх хэрэглэгчийн хувьд блоклодог бөгөөд насанд хүрээгүй хэрэглэгчдэд илүү хүчтэй хамгаалалттай.

Маш урт сешний үед ChatGPT хүмүүст завсарлага авахыг сануулдаг.

Хүмүүсийг бодит ертөнцийн нөөцтэй холбох.

Хэрэв хэн нэгэн амиа хорлох санаархал илэрхийлбэл ChatGPT хүмүүсийг мэргэжлийн тусламж авахыг зөвлөхөөр сургагдсан. АНУ-д ChatGPT хүмүүсийг 988 (амиа хорлолт ба хямралын шугам), Их Британид Samaritans, бусад газар findahelpline.com⁠(шинэ цонхонд нээгдэнэ) руу чиглүүлдэг. Энэ логик загварын зан төлөвт суурилагдсан.

Бид 30+ оронд 90+ эмчтэй—сэтгэцийн эмч, хүүхдийн эмч, ерөнхий мэргэжлийн эмч нартай—нягт хамтран ажиллаж байгаа бөгөөд манай хандлага хамгийн сүүлийн үеийн судалгаа, шилдэг туршлагыг тусгаж байгаа эсэхийг баталгаажуулахын тулд сэтгэцийн эрүүл мэнд, өсвөр үеийн хөгжүүлэлт, хүн-компьютерын харилцан үйлчлэлийн мэргэжилтнүүдээс бүрдсэн зөвлөх бүлгийг цуглуулж байна.

Бусдад бие махбодын хор хөнөөл учруулах эрсдэлийг хүний хяналт руу шилжүүлэх.

Хэрэглэгчид бусдад хор хүргэхээр төлөвлөж байгааг бид илрүүлэх үед тэдний яриаг ашиглалтын бодлогод маань сургагдсан, арга хэмжээ авах, тэр дундаа аккаунт хаах эрхтэй жижиг багийн хянан үздэг тусгай урсгал руу шилжүүлдэг. Хэрэв хүний хянагчид тухайн тохиолдол бусдад ноцтой бие махбодын хор хөнөөл учруулах яаралтай заналхийлэлтэй гэж тогтоовол бид хууль сахиулах байгууллагад шилжүүлж болно. ChatGPT харилцаа онцгой хувийн шинжтэй тул хүмүүсийн нууцлалыг хүндэтгэх үүднээс бид одоогоор өөртөө хор хүргэх тохиолдлуудыг хууль сахиулах байгууллагад шилжүүлэхгүй байна.

Бид мэдрэмтгий харилцаанд манай загварууд хэрхэн хариу үзүүлдгийг тасралтгүй сайжруулж байгаа бөгөөд одоогоор сэтгэл хөдлөлийн хэт хамаарал, сэтгэцийн эрүүл мэндийн яаралтай нөхцөл байдал, сайшаал зэрэг хэд хэдэн чиглэлд зорилтот аюулгүй байдлын сайжруулалт дээр ажиллаж байна.

8-р сард бид ChatGPT‑ийг ажиллуулдаг үндсэн загвар болгон GPT‑5‑ыг нэвтрүүлсэн. Ерөнхийдөө GPT‑5 нь эрүүл бус түвшний сэтгэл хөдлөлийн хамаарлаас зайлсхийх, сайшаалыг бууруулах, сэтгэцийн эрүүл мэндийн яаралтай нөхцөл дэх төгс бус загварын хариултын тархалтыг 4o-той харьцуулахад 25%-иас дээш бууруулах зэрэг чиглэлд мэдэгдэхүйц сайжруулалт үзүүлсэн. GPT‑5 нь мөн аюулгүй гүйцээлт хэмээх аюулгүй байдлын сургалтын шинэ аргын дээр суурилдаг бөгөөд энэ нь аюулгүй байдлын хязгаарт үлдэнгээ загварыг аль болох тус дэмтэй байхыг сургадаг. Энэ нь аюултай байж болох дэлгэрэнгүй мэдээллийн оронд хэсэгчилсэн эсвэл өндөр түвшний хариулт өгөхийг хэлж болно.

Эдгээр хамгаалалт байгаа ч мэдрэмтгий нөхцөл байдалд манай системүүд зорьсноороо ажиллаагүй үе байсан. Бидний сайжруулахаар ажиллаж буй зарим зүйлийг энд дурдъя.

Урт яриан дахь хамгаалалтыг бэхжүүлэх.

Манай хамгаалалтууд нийтлэг, богино харилцан ярианд илүү найдвартай ажилладаг. Харилцан яриа уртсах тусам эдгээр хамгаалалтууд заримдаа найдвартай бус болж болдгийг бид цаг хугацааны явцад ойлгосон: нааш цааш яриа нэмэгдэх тусам загварын аюулгүй байдлын сургалтын зарим хэсэг суларч болдог. Жишээлбэл, хэн нэгэн анх санаархлаа дурдсан үед ChatGPT амиа хорлолтын тусламжийн шугам руу зөв чиглүүлж болох ч урт хугацаанд олон мессежийн дараа эцэст нь манай хамгаалалтын эсрэг хариулт өгч магадгүй. Энэ бол бидний урьдчилан сэргийлэхээр ажиллаж буй яг тэр төрлийн доголдол юм. Бид эдгээр сааруулах арга хэмжээг урт ярианд ч найдвартай хэвээр байхаар бэхжүүлж байгаа бөгөөд олон ярианы турш бат бөх зан төлөвийг хангах арга замыг судалж байна. Ингэснээр хэн нэгэн нэг чатад амиа хорлох санаархал илэрхийлээд дараа нь өөр яриа эхлүүлсэн ч загвар зохих ёсоор хариулах боломжтой болно.

Контентыг хэрхэн блоклодгоо нарийвчлах.

Блоклох ёстой байсан контент блоклогдоогүй зарим тохиолдлыг бид харсан. Ийм цоорхой ихэвчлэн ангилагч харж буй зүйлийнхээ ноцтой байдлыг дутуу үнэлснээс үүддэг. Бид эдгээр босгыг тааруулж, хамгаалалт хэрэгтэй үедээ ажилладаг болгох гэж байна.

Манай хамгийн дээд тэргүүлэх зорилт бол ChatGPT хүнд мөчийг улам дордуулахгүй байх явдал юм.

Дээрхийг засварласнаар ажил дуусахгүй. Бид мөн дараах зүйлсийг төлөвлөж байна: 

Хямралд орсон илүү олон хүнд үзүүлэх оролцоог өргөжүүлэх.

Манай анхны сааруулах арга хэмжээнүүд хурц өөртөө хор хүргэх эрсдэлийг нэн тэргүүнд тавьж байсан ч зарим хүмүүс сэтгэлийн хямралын өөр хэлбэрүүдийг туулдаг. Жишээ нь, хэн нэгэн хоёр шөнө унтаагүйгээс хойш өөрийгөө ялагдашгүй болсон гэж ойлгосон тул 24/7 жолоо барьж чадна гэж итгэл төгс загварт хэлж магадгүй. Өнөөдөр ChatGPT үүнийг аюултай гэж танихгүй, эсвэл тоглоом биш гэдгийг дүгнэхгүй байж болох бөгөөд сониуч байдлаар судалснаар үүнийг үл мэдэг бататгаж ч мэднэ.

Бид GPT‑5‑д зориулсан шинэчлэл дээр ажиллаж байгаа бөгөөд энэ нь ChatGPT‑г тухайн хүнийг бодит байдалд үндэслэлтэйгээр тайвшруулахад хүргэнэ. Энэ жишээнд нойр дутуу байх нь аюултайг тайлбарлаж, ямар нэг үйлдэл хийхээс өмнө амрахыг зөвлөнө.

Яаралтай тусламжийн үйлчилгээ болон мэргэжилтнүүдээс тусламж авахыг бүр ч хялбар болгох.

Өнөөдөр хүмүүс өөртөө хор хүргэх санаа илэрхийлэх үед бид тэднийг тусламж авахыг уриалж, бодит ертөнцийн нөөц рүү чиглүүлдэг. Бид АНУ болон Европт нөөцүүдийг нутагшуулж эхэлсэн бөгөөд бусад дэлхийн зах зээл рүү өргөжүүлэхээр төлөвлөж байна. Мөн нэг товшилтоор яаралтай тусламжийн үйлчилгээ рүү хандах боломжийг нэмэгдүүлж, хүртээмжийг сайжруулна.

Хүмүүс хурц хямралд орохоос нь өмнө илүү эрт оролцож, баталгаажсан сэтгэл засалчидтай холбох талаар бид судалж байна. Энэ нь хямралын шугамаас цааш гарч, хүмүүс ChatGPT‑ээр шууд холбогдож болох зөвшөөрөлтэй мэргэжилтнүүдийн сүлжээг хэрхэн байгуулж болохыг авч үзнэ гэсэн үг. Үүнийг зөв хийхэд цаг хугацаа, няхуур ажил хэрэгтэй.

Итгэмжлэгдсэн холбоо барих хүмүүстэй холбогдох боломжийг бүрдүүлэх.

Яаралтай тусламжийн үйлчилгээнээс гадна бид хүмүүст өөрт нь хамгийн ойр байгаа хүмүүстэй холбогдоход илүү хялбар болгох арга замыг судалж байна. Үүнд нэг товшилтоор хадгалсан яаралтай холбоо барих хүн, найз эсвэл гэр бүлийн гишүүн рүү мессеж эсвэл дуудлага хийх, яриаг эхлүүлэхийг бага айдастай болгох санал болгосон хэллэгүүд багтаж болно.

Мөн хүнд ноцтой тохиолдолд ChatGPT тэдний өмнөөс томилогдсон холбоо барих хүн рүү хандах боломжийг хүмүүст сайн дураараа идэвхжүүлэх боломж олгох функцуудыг бид авч үзэж байна.

Өсвөр насныхны хамгаалалтыг бэхжүүлэх.

Өмнө нь бид бүх хэрэглэгчиддээ нэг л хүсэмжит загварын зан төлөвийг тодорхойлж байсан; ChatGPT өсөхийн хэрээр хэрэглэгч 18 нас хүрээгүй гэдгийг мэдэж байгаа үед нэмэлт хамгаалалтууд нэмж эхэлсэн. Бид өсвөр насныхны хөгжлийн өвөрмөц хэрэгцээг таньдаг, мэдрэмтгий контент болон эрсдэлтэй зан үйлийн эргэн тойронд илүү хүчтэй хашилттай хамгаалалтуудыг үргэлжлүүлэн боловсруулж, нэвтрүүлж байна.

Мөн бид удахгүй эцэг эхийн хяналт функцийг танилцуулж, эцэг эхчүүдэд өсвөр насныхан нь ChatGPT‑г хэрхэн ашиглаж байгааг илүү сайн ойлгох, хэлбэржүүлэх сонголтууд олгоно. Түүнчлэн өсвөр насныханд (эцэг эхийн хяналт дор) итгэмжлэгдсэн яаралтай холбоо барих хүнээ сонгох боломжийг бий болгох талаар судалж байна. Ингэснээр хурц хямралын үед ChatGPT зөвхөн нөөц заагаад зогсохгүй: өсвөр насныхныг бодитоор оролцож тусалж чадах хүнтэй шууд холбогдоход тусалж чадна.

Хамгаалалт бүрэн хүчтэй байх нь элемент бүр зориулснаараа ажиллах үед гэдгийг бид гүнээ ойлгож байна. Манай хэрэгслийг ашигладаг хүмүүсийн өмнө хүлээсэн хариуцлагад үндэслэн, мэргэжилтнүүдийн чиглүүлгээр бид сайжруулсаар байх бөгөөд энэ технологи хүмүүсийг хамгийн эмзэг үед нь хамгаалдаг байхад туслахын тулд бусад хүмүүс ч бидэнтэй нэгдэнэ гэж найдаж байна.