ჩვენი მოდელის სპეციფიკაციის განახლება მოზარდების დაცვის მექანიზმებით

ჩვენ ვიზიარებთ ჩვენი მოდელის სპეციფიკაციის განახლებას — წესების, ღირებულებებისა და ქცევითი მოლოდინების წერილობით კრებულს, რომელიც განსაზღვრავს, როგორ გვინდა მოიქცნენ ჩვენი AI მოდელები, განსაკუთრებით რთულ ან მაღალი მნიშვნელობის სიტუაციებში — Under-18 (U18) Principles⁠(იხსნება ახალ ფანჯარაში)-თან ერთად. მოდელის ქცევა კრიტიკულად მნიშვნელოვანია იმისთვის, თუ როგორ ურთიერთობენ ადამიანები AI-სთან, და მოზარდებს ზრდასრულებისგან განსხვავებული განვითარების საჭიროებები აქვთ.

U18 Principles წარმართავს, თუ როგორ უნდა უზრუნველყოს ChatGPT‑მა 13-დან 17 წლამდე მოზარდებისთვის უსაფრთხო და ასაკის შესაბამისი გამოცდილება. განვითარების მეცნიერებაზე დაფუძნებული ეს მიდგომა პრიორიტეტს ანიჭებს პრევენციას, გამჭვირვალობასა და ადრეულ ჩარევას. ამ პრინციპების შემუშავებისას ისინი გარე ექსპერტებს, მათ შორის American Psychological Association-ს, წინასწარ გავაცანით, როგორც ჩვენი მიმდინარე მუშაობის ნაწილი, რათა უკუკავშირით კიდევ უფრო გავაძლიეროთ ჩვენი მიდგომა.

მიუხედავად იმისა, რომ მოდელის სპეციფიკაციის პრინციპები კვლავაც ვრცელდება როგორც ზრდასრულ, ისე მოზარდ მომხმარებლებზე, ეს განახლება აზუსტებს, როგორ უნდა იქნას ისინი გამოყენებული მოზარდებთან დაკავშირებულ კონტექსტებში, განსაკუთრებით იქ, სადაც არასრულწლოვნების უსაფრთხოების საკითხები შეიძლება უფრო მკვეთრად იდგეს. 

U18 Principles ეფუძნება ოთხ ძირითად ვალდებულებას:

• მოზარდების უსაფრთხოება პირველ ადგილზე დავაყენოთ, მაშინაც კი, როცა ეს სხვა მიზნებთან წინააღმდეგობაში მოდის
• ხელი შევუწყოთ რეალურ სამყაროში მხარდაჭერას ოფლაინ ურთიერთობებისა და სანდო რესურსების წახალისებით
• მოზარდებს მოვექცეთ როგორც მოზარდებს — არც ზემოდან ველაპარაკოთ და არც ზრდასრულებად მივიჩნიოთ
• ვიყოთ გამჭვირვალეები მკაფიო მოლოდინების ჩამოყალიბებით

ჩვენი Teen Safety Blueprint⁠-ის შესაბამისად, ამ პრინციპებმა დღემდე წარმართა ჩვენი მუშაობა მოზარდების უსაფრთხოებაზე, მათ შორის ის კონტენტის დაცვითი მექანიზმები, რომლებსაც ვიყენებთ იმ მომხმარებლებისთვის, რომლებიც რეგისტრაციისას გვატყობინებენ, რომ 18 წლამდე არიან, ასევე მშობელთა კონტროლის მეშვეობით. ამ კონტექსტებში ჩვენ დანერგილი გვაქვს დამცავი ზომები, რათა მოდელმა განსაკუთრებული სიფრთხილე გამოიჩინოს უფრო მაღალი რისკის თემებზე საუბრისას, მათ შორის თვითდაზიანებასა და სუიციდზე, რომანტიკულ ან სექსუალიზებულ როლურ თამაშებზე, გრაფიკულ ან აშკარა შინაარსზე, სახიფათო საქმიანობებსა და ნივთიერებებზე, სხეულის აღქმასა და კვებითი ქცევის დარღვევებზე, ასევე სახიფათო ქცევის შესახებ საიდუმლოს შენახვის მოთხოვნებზე.

American Psychological Association, რომელმაც U18 Model Spec-ის ადრეული ვერსია განიხილა და გრძელვადიანი პერსპექტივისთვის მნიშვნელოვანი მოსაზრებები მოგვაწოდა, მკაფიოდ უსვამს ხაზს მოზარდების დაცვის მნიშვნელობას:

„APA მოუწოდებს AI დეველოპერებს, თავიანთი პროდუქტების ახალგაზრდა მომხმარებლებისთვის განვითარების ეტაპის შესაბამისი სიფრთხილის ზომები შესთავაზონ და უმცროსი მომხმარებლების მიმართ უფრო დამცავი მიდგომა აირჩიონ.  ბავშვებმა და მოზარდებმა შეიძლება სარგებელი მიიღონ AI ინსტრუმენტებისგან, თუ ეს დაბალანსებული იქნება ადამიანურ ურთიერთქმედებებთან, რომლებიც, როგორც მეცნიერება აჩვენებს, კრიტიკულად მნიშვნელოვანია სოციალური, ფსიქოლოგიური, ქცევითი და ბიოლოგიური განვითარებისათვისაც კი. ახალგაზრდების AI-სთან გამოცდილება უნდა იყოს სიღრმისეულად ზედამხედველობადი და სანდო ზრდასრულებთან განხილული, რათა წახალისდეს კრიტიკული შეფასება იმისა, რასაც AI ბოტები სთავაზობენ, და ხელი შეეწყოს ახალგაზრდებში დამოუკიდებელი აზროვნებისა და უნარების განვითარებას.“—დოქტორი ართურ ს. ევანს უმცროსი, CEO, American Psychological Association

ეს განახლება ასევე აზუსტებს, როგორ უნდა უპასუხოს ასისტენტმა, როცა მოზარდებთან დაკავშირებით უსაფრთხოების შეშფოთება იჩენს თავს. ეს ნიშნავს, რომ მოზარდები უნდა ხვდებოდნენ უფრო ძლიერ დამცავ შეზღუდვებს, უფრო უსაფრთხო ალტერნატივებს და წახალისებას, მოიძიონ სანდო ოფლაინ მხარდაჭერა, როცა საუბარი უფრო მაღალი რისკის მიმართულებით მიდის. სადაც არსებობს გარდაუვალი საფრთხე, მოზარდებს მოვუწოდებთ, დაუკავშირდნენ საგანგებო სამსახურებს ან კრიზისულ რესურსებს.

როგორც მოდელის სპეციფიკაციის დანარჩენი ნაწილი, U18 Principles-იც ასახავს ჩვენი მოდელის სასურველ ქცევას. ჩვენ მათ დახვეწას გავაგრძელებთ ახალი კვლევების, ექსპერტთა მოსაზრებებისა და რეალურ სამყაროში გამოყენების გამოცდილების ინტეგრირების კვალდაკვალ.

მოდელის სპეციფიკაციის განახლებასთან ერთად, ჩვენ მრავალშრიანი მიდგომა გამოვიყენეთ, რათა გავაძლიეროთ მოზარდების უსაფრთხოება⁠ ChatGPT‑ის მასშტაბით — პროდუქტის დამცავი მექანიზმების, ოჯახის მხარდაჭერისა და ექსპერტული რეკომენდაციების ჩათვლით.

მშობელთა კონტროლის⁠(იხსნება ახალ ფანჯარაში) ამოქმედების შემდეგ, ჩვენ გავაფართოეთ დაცვა ახალ პროდუქტებზე, მათ შორის ჯგუფურ ჩატებზე, ChatGPT Atlas ბრაუზერზე და Sora აპზე. ეს განახლებები ეხმარება მშობლებს, მოარგონ თავიანთი მოზარდის ChatGPT‑ის გამოცდილება, სანამ ჩვენ ახალ პროდუქტებსა და ფუნქციებს ვნერგავთ.

ექსპერტების რეკომენდაციების შესაბამისად, ჩვენ ვამხნევებთ მშობლებსა და მოზარდებს, ოჯახში AI-ის ჯანსაღ და პასუხისმგებლიან გამოყენებაზე მუდმივი საუბარი ჰქონდეთ. ამ საუბრების მხარდასაჭერად, მშობლების რესურსების ჰაბში⁠(იხსნება ახალ ფანჯარაში) დავამატეთ ახალი, ექსპერტების მიერ გადამოწმებული მასალები, მათ შორის ოჯახური გზამკვლევი, რომელიც მოზარდებს AI-ის პასუხისმგებლიან გამოყენებაში ეხმარება⁠(იხსნება ახალ ფანჯარაში) და რჩევები მშობლებისთვის⁠(იხსნება ახალ ფანჯარაში), თუ როგორ ესაუბრონ შვილებს AI-ზე. ეს მასალები განიხილეს ConnectSafely-მ და ჩვენი კეთილდღეობისა და AI-ის ექსპერტთა საბჭოს⁠ წევრებმა. დროთა განმავლობაში კიდევ უფრო მეტ რესურსს დავამატებთ. ჩვენ ასევე პირდაპირ პროდუქტშიც ვუჭერთ მხარს ჯანსაღ გამოყენებას — ჩაშენებული შესვენების შეხსენებებით⁠ ხანგრძლივი სესიების დროს, რათა ChatGPT‑თან გატარებული დრო იყოს გაცნობიერებული და დაბალანსებული.

ჩვენი მუშაობა მოზარდების უსაფრთხოების მიმართულებით ეფუძნება მჭიდრო თანამშრომლობას სხვადასხვა დისციპლინისა და სპეციალიზაციის ექსპერტებთან. ოქტომბერში შევქმენით კეთილდღეობისა და AI-ის ექსპერტთა საბჭო⁠, რათა დაგვეხმაროს რჩევებით და განსაზღვროს, როგორი უნდა იყოს AI-სთან ჯანსაღი ურთიერთობა ყველა ასაკისთვის. ამ მუშაობამ გავლენა მოახდინა მშობელთა კონტროლსა და მშობლებისთვის შეტყობინებებთან დაკავშირებულ რეკომენდაციებზე. ჩვენ ასევე ვიყენებთ კლინიკურ ექსპერტიზას ჩვენი Global Physician Network⁠-ის მეშვეობით, რათა ვუხელმძღვანელოთ უსაფრთხოების კვლევას და შევაფასოთ მოდელის ქცევა, მათ შორის გავაუმჯობესოთ, როგორ ცნობს ChatGPT დისტრესს და როგორ მიმართავს ადამიანებს პროფესიული დახმარებისკენ საჭიროების შემთხვევაში. ამ საფუძვლებზე ავაშენეთ GPT‑5.2⁠, და ასევე გავაფართოეთ წვდომა რეალურ სამყაროში მხარდაჭერაზე — ChatGPT‑სა და Sora-ში ლოკალიზებული ცხელი ხაზების ჩვენებით ჩვენი პარტნიორობის ფარგლებში ThroughLine⁠(იხსნება ახალ ფანჯარაში)-თან.

ჩვენ ChatGPT‑ის სამომხმარებლო გეგმებზე ასაკის პროგნოზირების მოდელის⁠(იხსნება ახალ ფანჯარაში) ამოქმედების ადრეულ ეტაპზე ვართ. ეს დაგვეხმარება, ავტომატურად ჩავრთოთ მოზარდებისთვის განკუთვნილი დამცავი მექანიზმები, როცა გვჯერა, რომ ანგარიში არასრულწლოვანს ეკუთვნის. თუ ვინმეს ასაკში დარწმუნებული არ ვიქნებით ან ინფორმაცია არასრული გვექნება, ნაგულისხმევად U18 გამოცდილებას გამოვიყენებთ და ზრდასრულებს ასაკის დადასტურების გზებს შევთავაზებთ.

მოზარდების უსაფრთხოების გაძლიერება უწყვეტი სამუშაოა და ჩვენ გავაგრძელებთ მშობელთა კონტროლისა და მოდელის შესაძლებლობების გაუმჯობესებას, მშობლებისთვის რესურსების გაფართოებას, ორგანიზაციებთან, მკვლევრებთან და ექსპერტ პარტნიორებთან თანამშრომლობას, მათ შორის კეთილდღეობის საბჭოსა და Global Physician Network-თან. 

ჩვენ ერთგული ვართ, რომ მოზარდებისთვის ძლიერი დაცვის მექანიზმები შევქმნათ და დროთა განმავლობაში კიდევ უფრო გავაუმჯობესოთ ისინი, რათა უკეთ დავუჭიროთ მხარი მოზარდებსა და ოჯახებს.