OpenAI მხარს უჭერს კალიფორნიის კანონპროექტს ახალგაზრდებისთვის AI-ს უსაფრთხოების გასაუმჯობესებლად

ენ ო’ლირი, გლობალური პოლიტიკის ვიცე-პრეზიდენტი

OpenAI მხარს უჭერს კალიფორნიის სენატის კანონპროექტს SB 1119, რომელიც ადგენს ქმედით გარანტიებს ახალგაზრდების მიერ AI-ს გამოყენებისთვის და, ამავე დროს, უნარჩუნებს მათ წვდომას ინსტრუმენტებზე, რომლებიც სწავლაში, შემოქმედებასა და მომავლისთვის მომზადებაში ეხმარება. ეს მხარდაჭერა ეფუძნება ვალდებულებას, რომელიც გასულ წელს OpenAI-ს თანადამფუძნებელმა და აღმასრულებელმა დირექტორმა სემ ალტმანმა მოზარდებთან დაკავშირებული კომპანიის პრინციპების წარდგენისას აიღო.

ფედერალური ზომების არარსებობის პირობებში, კალიფორნიას აქვს შესაძლებლობა, ახალგაზრდებისთვის AI-ს უსაფრთხოების მაღალი სტანდარტი დააწესოს.

გუბერნატორ ნიუსომისადმი გაგზავნილ წერილში⁠(იხსნება ახალ ფანჯარაში) მას, სენატორ სტივ პადილიას, ასამბლეის წევრებს — ბაფი უიქსსა და რებეკა ბაუერ-კაჰანს — და კალიფორნიის საკანონმდებლო ორგანოს ამ მნიშვნელოვან საკითხში ლიდერობისთვის მადლობას ვუხდით. SB 1119 ეფუძნება ახალგაზრდების უსაფრთხოების ზომებს, რომლებსაც OpenAI მხარს უჭერს თავისი პროდუქტებით, გლობალური პოლიტიკის პრინციპებით, კალიფორნიაში ადვოკატირებითა და „მშობლებისა და ბავშვებისთვის უსაფრთხო AI-ს აქტზე“ მუშაობით. მოვუწოდებთ გუბერნატორ ნიუსომს, ხელი მოაწეროს კანონპროექტს და ის კანონად აქციოს.

მოზარდები პირველი თაობაა, რომელიც AI-სთან ერთად იზრდება. ChatGPT‑ის მომხმარებელი მოზარდებიდან ათიდან თითქმის ცხრა მას ყოველკვირეულად მიმართავს სწავლისთვის, ინფორმაციის მისაღებად, უნარების გასავითარებლად ან პროდუქტიულობის ასამაღლებლად. ამ შესაძლებლობას თან ახლავს მკაფიო პასუხისმგებლობა: მოზარდებისთვის განკუთვნილი გამოცდილება მათ განსაკუთრებულ განვითარების საჭიროებებს უნდა ითვალისწინებდეს, თავიდანვე ძლიერი დაცვითა და სწავლის, შექმნისა და კვლევის სათანადო შესაძლებლობებით.

ამ მიდგომას ასახავს ახლახან გაშვებული ChatGPT მოზარდებისთვის. ის შექმნილია იმისთვის, რომ 18 წლამდე მომხმარებლებს სწავლაში, კრიტიკულ აზროვნებასა და შექმნაში დაეხმაროს, ამავდროულად წაახალისოს ჯანსაღი გამოყენება, უზრუნველყოს ჩაშენებული დაცვის ზომები და მშობლებს დამატებითი კონტროლის საშუალებები მისცეს. თუ ჩვენი სისტემა დაადგენს, რომ მომხმარებელი 18 წლამდეა, ან თავად მიუთითებს, რომ 13-დან 17 წლამდეა, ის ავტომატურად გადადის მოზარდებისთვის განკუთვნილ ChatGPT‑ზე. ეს დაცვის ზომები საბაზისო გამოცდილების ნაწილია და არა არასავალდებულო პარამეტრები, რომელთა გამორთვაც მომხმარებლებს შეუძლიათ.

ზოგადად, გვჯერა, რომ მოზარდებს შეუძლიათ AI-ით სარგებლობა უსაფრთხოების დათმობის გარეშე — სწორედ ეს მიზანი უდევს საფუძვლად SB 1119-ს.

SB 1119 აერთიანებს ძლიერ დაცვასა და სასარგებლო AI-ინსტრუმენტებზე უწყვეტ წვდომას. ჩვენ მტკიცედ ვუჭერთ მხარს შემდეგ ძირითად მოთხოვნებს:

• მომხმარებლის ასაკის დადგენა;
• ახალგაზრდებისთვის პროდუქტის ხელმისაწვდომობამდე უსაფრთხოების რისკების გამოვლენა და აღმოფხვრა;
• დამოუკიდებელი აუდიტების გავლა;
• ახალგაზრდების დაცვა საზიანო შიგთავსისგან, მათ შორის თვითდაზიანების, სექსუალური ექსპლუატაციის შემცველი შიგთავსისა და სხვა მაღალი რისკის ურთიერთქმედებებისგან;
• მშობლებისთვის შვილების მიერ სისტემის გამოყენების სამართავი და შემზღუდავი ინსტრუმენტების მიწოდება;
• უსაფრთხოების სერიოზული რისკების წარმოშობისას ახალგაზრდების დაკავშირება კრიზისული დახმარების რესურსებთან; და
• მიზნობრივი რეკლამის შეზღუდვა და ახალგაზრდების პირადი ინფორმაციის დაცვა.

13-დან 17 წლამდე ასაკის მომხმარებლებისთვის ეს დაცვის ზომები ავტომატურად უნდა მოქმედებდეს. ეს კანონმდებლობა ქმედით ანგარიშვალდებულებას შეუთავსებს დაცვის ზომებს, რომლებიც AI-ს გამოყენებისას ახალგაზრდების უსაფრთხოებას შეუწყობს ხელს.

SB 1119 ასევე მართებულად აღიარებს, რომ AI სოციალური მედია არ არის. კანონპროექტი ადგენს სპეციალურად მორგებულ დაცვის ზომებს, რათა ახალგაზრდებს AI-ს სწავლაში, შექმნასა და კვლევაში გამოყენებაში დაეხმაროს. ამ ჩარჩოს შემუშავებისას პოლიტიკის შემქმნელები ცდილობდნენ, შეენარჩუნებინათ წვდომა საგანმანათლებლო და უსაფრთხოებისთვის კრიტიკულ ფუნქციებზე, მათ შორის ChatGPT‑ის მეხსიერების ფუნქციის პასუხისმგებლიან გამოყენებაზე, და ამავდროულად მოზარდებისთვის უფრო უსაფრთხო, ასაკის შესაბამისი გამოცდილება დაენერგათ.

მოზარდებისთვის განკუთვნილი ChatGPT მოიცავს სპეციალურად სწავლაზე მორგებულ ფუნქციებს, როგორიცაა ქვიზები, სასწავლო ვიზუალიზაციები და სწავლის რეჟიმი. ისინი პედაგოგებსა და განათლების ექსპერტებთან ერთად შეიქმნა, რათა მოსწავლეებს ამოცანების ეტაპობრივად გადაჭრაში დაეხმაროს. ეს ინსტრუმენტები ცოდნის გაღრმავებასა და უკეთესი სასწავლო ჩვევების ჩამოყალიბებას ემსახურება. ფუნქციები, რომლებიც წინა საუბრების კონტექსტს, მათ შორის მეხსიერებას იყენებს, ხელს უწყობს დაცვის ზომების თანმიმდევრულ გამოყენებას, საყურადღებო ტენდენციების ამოცნობასა და დროთა განმავლობაში უფრო სასარგებლო სასწავლო მხარდაჭერის შეთავაზებას.

კონტექსტი ასევე ეხმარება უსაფრთხოებისა და სწავლის ამ ინსტრუმენტებს, დროთა განმავლობაში უფრო თანმიმდევრულად იმუშაონ. ისეთი ფუნქციების მეშვეობით, როგორიცაა მეხსიერება, ChatGPT‑ს შეუძლია წინა საუბრებიდან შესაბამისი ინფორმაცია და პარამეტრები შეინარჩუნოს, რაც მოზარდებს საშუალებას აძლევს, გრძელვადიანი სასწავლო პროექტები თავიდან დაწყების გარეშე განაგრძონ. ამ უწყვეტობას ასევე შეუძლია საზიანო ტენდენციების განმტკიცების თავიდან აცილება და უფრო ეფექტიანი რეაგირების ხელშეწყობა, როცა ახალგაზრდას დამატებითი დახმარება ან რესურსები შეიძლება დასჭირდეს.

უსაფრთხოებისა და სწავლის დაბალანსება ჩვენთვის ახალი არ არის. გასული წლის განმავლობაში დავამატეთ მშობელთა კონტროლი, ასაკის პროგნოზირება, ჩვენი მოზარდთა უსაფრთხოების გეგმა და მოდელის სპეციფიკაციაში 18 წლამდე მომხმარებლებთან დაკავშირებული პრინციპები— წესები, რომლებიც განსაზღვრავს ჩვენი მოდელების სასურველ ქცევას — რათა დაგვედგინა ახალი სტანდარტები ახალგაზრდებთან მათი ურთიერთქმედებისთვის. ეს წესები კრძალავს რომანტიკულ ურთიერთობას, ემოციური დამოკიდებულების წახალისებასა და მტკიცებას, თითქოს ChatGPT ადამიანია ან ცნობიერება აქვს. ჩვენ ასევე გთავაზობთ მშობელთა კონტროლს, რომელიც ოჯახებს საშუალებას აძლევს, მართონ მოზარდებისთვის განკუთვნილი ძირითადი პარამეტრები და მაღალი რისკის სიტუაციებში შეტყობინებები მიიღონ.

SB 1119 კალიფორნიაში ახალგაზრდებისთვის AI-ს უსაფრთხოების მტკიცე ჩარჩოს ადგენს. დანერგვის პროცესში კვლევისა და თანამშრომლობის გაგრძელება ხელს შეუწყობს ძირითადი დებულებების გაუმჯობესებას და ტექნოლოგიის განვითარებასთან ერთად ჩარჩოს ეფექტიანობის შენარჩუნებას. OpenAI მზადაა, მხარი დაუჭიროს ამ სამუშაოს და განაგრძოს ისეთი AI-გამოცდილებების შექმნა, რომლებიც მოზარდებს მათი ასაკის შესაბამისად ეპყრობა, ავტომატურად უფრო ძლიერ დაცვას სთავაზობს და სწავლისა და განვითარების მნიშვნელოვან შესაძლებლობებს აძლევს.