OpenAI Japan აცხადებს Japan Teen Safety Blueprint-ს, რათა მოზარდების უსაფრთხოება პირველ ადგილზე დააყენოს

OpenAI Japan-მა დღეს განაცხადა Japan Teen Safety Blueprint-ის შესახებ — ეს არის ახალი ჩარჩო, რომელიც მოზარდებს დაეხმარება გენერაციული AI უსაფრთხოდ და თავდაჯერებით გამოიყენონ.

იაპონიაში, სადაც მოზარდების მზარდი რაოდენობა უკვე იყენებს გენერაციულ AI-ს სწავლებისთვის, შემოქმედებითობისთვის და ყოველდღიური ამოცანებისთვის, ეს მუშაობა განსაკუთრებით მნიშვნელოვანია. რადგან პირველი თაობა AI-სთან ერთად იზრდება, გადამწყვეტია, რომ ეს ტექნოლოგიები თავიდანვე მათი უსაფრთხოებისა და კეთილდღეობის გათვალისწინებით იყოს შექმნილი.

გენერაციული AI უკვე ეხმარება ადამიანებს საქმიანობების ფართო სპექტრში — სწავლიდან და შემოქმედებითი თვითგამოხატვიდან დაწყებული ყოველდღიური ამოცანებით დამთავრებული, რომლებიც ადამიანებს სკოლაში, სამსახურში და პირად ცხოვრებაში წარმატების მიღწევაში უწყობს ხელს. უფრო ფართო დონეზე, მას ასევე აქვს პოტენციალი დააჩქაროს სამეცნიერო აღმოჩენები და დაეხმაროს საზოგადოებისთვის მნიშვნელოვანი რთული გამოწვევების გადაჭრას.

ამასთანავე, როგორც ნებისმიერი ძლიერი ტექნოლოგია, AI ახალ რისკებსაც ქმნის, განსაკუთრებით ახალგაზრდა მომხმარებლებისთვის, მათ შორის — დეზინფორმაციასთან შეხებას, შეუსაბამო კონტენტს და ფსიქოლოგიურ დატვირთვას. ჩვენი მიდგომა მკაფიო პრინციპით ხელმძღვანელობს: მოზარდებისთვის უსაფრთხოება პირველ ადგილზეა, მაშინაც კი, როცა ეს მოხერხებულობასთან, კონფიდენციალურობასთან ან გამოყენების თავისუფლებასთან კომპრომისს მოითხოვს.

• პლატფორმაზე ასაკის გათვალისწინებაზე დაფუძნებული უფრო მოწინავე დაცვის მექანიზმები
  OpenAI გამოიყენებს კონფიდენციალურობაზე ორიენტირებულ, რისკზე დაფუძნებულ ასაკის შეფასებას, რათა უკეთ განასხვაოს მოზარდები ზრდასრულებისგან და თითოეულ ჯგუფს შესაბამისი დაცვა შესთავაზოს. გასაჩივრების პროცესებიც ხელმისაწვდომი იქნება იმ შემთხვევაში, თუ მომხმარებლებს მიაჩნიათ, რომ ასაკის განსაზღვრა არასწორია.
• 18 წლამდე მომხმარებლებისთვის უფრო ძლიერი უსაფრთხოების პოლიტიკა
  OpenAI გააძლიერებს დაცვას, რათა AI-მ არ ასახოს ან არ წაახალისოს თვითდაზიანება ან სუიციდი, არ შექმნას აშკარა სექსუალური ან ძალადობრივი შინაარსი, არ წაახალისოს საშიში ქცევა და არ გააძლიეროს სხეულის მავნე აღქმა. პასუხები ისე იქნება შექმნილი, რომ შეესაბამებოდეს ახალგაზრდა მომხმარებლების განვითარების ეტაპს. ჩვენ ასევე უზრუნველვყოფთ, რომ AI არასრულწლოვნებს არ დაეხმაროს სარისკო ქცევის, სიმპტომების ან ჯანმრთელობასთან დაკავშირებული საკითხების დამალვაში სანდო მშობლების ან მზრუნველებისგან.
• გაფართოებული მშობელთა კონტროლი
  ინსტრუმენტები, როგორიცაა ანგარიშების დაკავშირება, კონფიდენციალურობისა და პარამეტრების მართვა, გამოყენების დროის მართვა და საჭიროების შემთხვევაში გაფრთხილებები, ოჯახებს დაეხმარება დაცვის მექანიზმები თავიანთი ინდივიდუალური გარემოებების მიხედვით მოარგონ.
• კვლევაზე დაფუძნებული, კეთილდღეობაზე ორიენტირებული დიზაინი
  კლინიცისტებთან, მკვლევრებთან, პედაგოგებთან და ბავშვთა უსაფრთხოების ექსპერტებთან თანამშრომლობით, OpenAI გააგრძელებს ისეთი ფუნქციების გაუმჯობესებას, როგორიცაა შესვენების შეხსენებები და რეალურ სამყაროში მხარდაჭერაზე გადასასვლელი გზები, ამასთანავე განავითარებს კვლევას მოზარდების ფსიქიკურ ჯანმრთელობასა და განვითარებაზე AI-ის გავლენის შესახებ.

ეს ახალი ძალისხმევა ეფუძნება იმ დაცვას, რომელიც უკვე დანერგილია ChatGPT‑ში, მათ შორის:

• პროდუქტში ჩაშენებული შეხსენებები, რომლებიც ხანგრძლივი გამოყენებისას შესვენებას ახალისებს
• დაცვის მექანიზმები, რომლებიც შესაძლო თვითდაზიანების სიგნალებს ამოიცნობს და მომხმარებლებს რეალურ რესურსებთან მიმართავს
• მრავალშრიანი უსაფრთხოების სისტემები და ბოროტად გამოყენების მონიტორინგი
• ინდუსტრიაში მოწინავე პრევენცია AI-ის მიერ გენერირებული ბავშვთა სექსუალური ექსპლუატაციის მასალის წინააღმდეგ

ჩვენ მხარს ვუჭერთ იაპონიის მიდგომას, რომელიც არასრულწლოვანთა ძლიერი დაცვისა და ტექნოლოგიაზე პასუხისმგებლიანი წვდომის დაბალანსებას ისახავს მიზნად. ჩვენ გავაგრძელებთ მშობლებთან, პედაგოგებთან, მკვლევრებთან, პოლიტიკის შემმუშავებლებთან და ადგილობრივ თემებთან თანამშრომლობას გამჭვირვალე დიალოგისა და უწყვეტი გაუმჯობესების გზით. ასევე გვჯერა, რომ AI-ის ეპოქაში მოზარდების დაცვა საერთო პასუხისმგებლობაა და რომ ამ ტიპის დაცვის მექანიზმები ინდუსტრიის მასშტაბით სტანდარტად უნდა იქცეს.

OpenAI გააგრძელებს ამ ძალისხმევის წინ წაწევას, როგორც უსაფრთხო და პასუხისმგებლიანი AI-ის მიმართ თავისი უფრო ფართო ვალდებულების ნაწილს.