ჩვენი მიდგომა ევროკავშირის წესებისადმი, რომლებიც ტექსტის წარმომავლობას ეხება
გამჭვირვალობის ხელშეწყობა დღევანდელი ტექნოლოგიის შესაძლებლობების ფარგლებში.
შიგთავსის წარმომავლობის შესახებ ინფორმაცია ადამიანებს ეხმარება გაიგონ, საიდან მოდის შიგთავსი, როგორ შეიქმნა ან დარედაქტირდა და შეიცავს თუ არა ჩვენს მოდელებთან დაკავშირებულ სიგნალებს. ჩვენი მოდელებით გენერირებული სურათებისა და აუდიოს ამოსაცნობი ხელსაწყოები უკვე საჯაროდ ხელმისაწვდომია. დღეს გაგაცნობთ ჩვენს მიდგომას ტექსტში წყლის ნიშნების დამატებისადმი ხელოვნური ინტელექტის შესახებ ევროკავშირის კანონის საპასუხოდ და აგიხსნით, როგორ ერწყმის ის ჩვენს უფრო ფართო საქმიანობას.
ევროკავშირის კანონი ხელოვნური ინტელექტის შესახებ გენერაციული AI-ის მომწოდებლებს ავალდებულებს, გენერირებული ტექსტი მანქანურად წაკითხვადი სახით ამოსაცნობი გახადონ. ტექსტში წყლის ნიშნების დამატებისა და ამოცნობის ტექნოლოგიები ჯერ განვითარების ადრეულ ეტაპზეა და მნიშვნელოვანი შეზღუდვები აქვს. მათი სარგებლიანობისა და პასუხისმგებლობიანი გამოყენების შესახებ შეხედულებებიც ჯერ კიდევ ყალიბდება. ჩვენი ეტაპობრივი მიდგომა ითვალისწინებს როგორც ხელოვნური ინტელექტის შესახებ ევროკავშირის კანონის მოთხოვნებს, ისე ტექნოლოგიის შეზღუდვებს. განსაკუთრებულ ყურადღებას ვუთმობთ გამჭვირვალობას — მკაფიოდ ვხსნით, რისი გაგება შეიძლება ტექსტში წყლის ნიშნით და რისი — არა:
დღეიდან API-ის მომხმარებლებს მთელ მსოფლიოში შეეძლებათ, სურვილისამებრ ჩართონ ტექსტში წყლის ნიშნების დამატება ცალკეული მოდელებისთვის. API-ში ტექსტში წყლის ნიშნების დამატება ნაგულისხმევად გამორთული დარჩება.
მომდევნო კვირებში ევროკავშირში ChatGPT‑სა და Codex-ის იმ ტექსტურ პასუხებს, რომლებიც შესაბამის პირობებს აკმაყოფილებს, უხილავ წყლის ნიშანს დავამატებთ.
ვიწყებთ განაცხადების მიღებას ტექსტში წყლის ნიშნების ჩვენს დეტექტორზე წვდომისთვის. თავდაპირველად წვდომას მხოლოდ ჩვენ მიერ დამტკიცებული მკვლევრები და ექსპერტული ორგანიზაციები მიიღებენ, რომლებსაც ტექნოლოგიის შეფასებასა და გაუმჯობესებაში ჩვენი დახმარება შეუძლიათ.
ზემოთ აღწერილი მხოლოდ ტექსტის წარმომავლობას ეხება. აუდიოსა და სურათების შემოწმების ჩვენი ხელსაწყოები, მათ შორის ვებხელსაწყო openai.com/verify და შიგთავსის წარმომავლობის API(იხსნება ახალ ფანჯარაში), კვლავ საჯაროდ ხელმისაწვდომი იქნება ორგანიზაციებისთვის, რომლებსაც სურთ გაიგონ, არის თუ არა სურათი ან აუდიოფაილი ჩვენი რომელიმე სისტემით გენერირებული.
ტექსტში წყლის ნიშნების დამატების ჩვენი ტექნოლოგია, textGrain, მოდელის მიერ სიტყვების შერჩევის პროცესში უხილავ სტატისტიკურ სიგნალს ამატებს. ჩვენი დეტექტორი ამ სიგნალს ეძებს, რათა შეაფასოს, შეიცავს თუ არა ტექსტის მონაკვეთი OpenAI-ის წყლის ნიშანს. textGrain-ის მუშაობის შესახებ უფრო ვრცლად შეგიძლიათ წაიკითხოთ ჩვენს ტექნიკურ ანგარიშში(იხსნება ახალ ფანჯარაში), რომელსაც მომდევნო კვირებში დამატებითი დეტალებით განვაახლებთ. ასევე ვგეგმავთ ტექნოლოგიის ღია კოდით გამოქვეყნებას, რათა სხვებმა მის საფუძველზე საკუთარი გადაწყვეტები შექმნან.
ჩვენი შეფასებებით, textGrain-ის შედეგები უტოლდებოდა ან აღემატებოდა ჩვენ მიერ გამოცდილი სხვა მიდგომების, მათ შორის ტექსტისთვის განკუთვნილი SynthID-ის შედეგებს. თუმცა იდეალურ პირობებში მიღებული კარგი შედეგები ყოველდღიურ გამოყენებაში საიმედო ამოცნობის გარანტიას არ იძლევა.
დეტექტორებს ორი ტიპის შეცდომა შეიძლება მოუვიდეთ: მიუთითონ წყლის ნიშნის არსებობაზე იქ, სადაც ის არ არის — ცრუ დადებითი შედეგი, ან ვერ ამოიცნონ არსებული წყლის ნიშანი — ცრუ უარყოფითი შედეგი. ქვემოთ მოყვანილი შეფასებები ზოგიერთ სირთულეს ასახავს:
მოკლე ან სიტყვების შერჩევის მხრივ უფრო შეზღუდულ ტექსტში წყლის ნიშნის ამოცნობა რთულია. როცა ცრუ დადებითი შედეგების სამიზნე მაჩვენებელი 1% იყო, ჩვენმა დეტექტორმა ფსიქოლოგიის მსგავსი თემატიკის შიგთავსში წყლის ნიშნები 200-ტოკენიანი მონაკვეთების დაახლოებით 80%-ში ამოიცნო, ხოლო 400-ტოკენიანების — დაახლოებით 95%-ში. გამოვლენის მაჩვენებლები მნიშვნელოვნად დაბალი იყო ისეთი შიგთავსისთვის, როგორიცაა მათემატიკა, სადაც სიტყვების შერჩევის თავისუფლება ნაკლებია.
რედაქტირებამ შეიძლება წყლის ნიშანი შეასუსტოს. 400-ტოკენიანი მონაკვეთების შეფასებისას სიტყვების 10%-ის სინონიმებით ჩანაცვლებამ ამოცნობის მაჩვენებელი დაახლოებით 92%-დან 66%-მდე შეამცირა. სიტყვების 25%-ის ჩანაცვლებამ კი ეს მაჩვენებელი 17%-მდე შეამცირა.
ამ შეზღუდვების გათვალისწინებით გადავწყვიტეთ, დეტექტორზე საწყისი წვდომა მხოლოდ ჩვენ მიერ დამტკიცებულ მკვლევრებსა და ექსპერტულ ორგანიზაციებს მივცეთ, რომლებიც საიმედოობისა და პასუხისმგებლობიანი გამოყენების გზების შეფასებაში დაგვეხმარებიან.
დიაგრამაზე ნაჩვენებია ELI5-ის მონაცემთა ნაკრებიდან(იხსნება ახალ ფანჯარაში) აღებულ მათემატიკისა და ფსიქოლოგიის კითხვებზე წყლის ნიშნიანი პასუხების შედეგები, როცა ცრუ დადებითი შედეგების სამიზნე მაჩვენებელი 1%-ია. ტექსტის სიგრძის ზრდასთან ერთად ამოცნობა უმჯობესდება, თუმცა საერთო მაჩვენებელი მნიშვნელოვნად დაბალია ისეთი შიგთავსისთვის, სადაც სიტყვების შერჩევის თავისუფლება ნაკლებია, მაგალითად, მათემატიკაში.
რედაქტირებამ შეიძლება წყლის ნიშნის სიგნალი მნიშვნელოვნად შეასუსტოს. დიაგრამაზე ნაჩვენებია, როგორ მოქმედებს გამოვლენაზე ტექსტის მონაკვეთში სიტყვების 10%-ის ან 25%-ის ჩანაცვლება. შედეგები ეფუძნება ELI5(იხსნება ახალ ფანჯარაში)-ის კითხვებზე წყლის ნიშნიან ინგლისურენოვან პასუხებს.
ჩვენი უახლესი მოწინავე მოდელის, Astra-ს, ბენჩმარკებში წარმადობის მხრივ განსხვავებას ვერ ვხედავთ წყლის ნიშნების არსებობისა თუ არარსებობის მიხედვით.
ბენჩმარკი | ტექსტი წყლის ნიშნის გარეშე (Astra, მაქსიმალური ძალისხმევა) | ტექსტი წყლის ნიშნით (Astra, მაქსიმალური ძალისხმევა) |
|---|---|---|
Artificial Analysis-ის ინტელექტის ინდექსი | 49,57 ქულა | 49,76 ქულა |
AutomationBench | 34,09% | 34,86% |
DeepSWE v1.1 | 72,80% | 71,68% |
Terminal-Bench 4.0 | 53,90% | 56,06% |
Terminal-Bench Science 0.1 | 56,90% | 60,00% |
BrowseComp | 87,92% | 87,35% |
HealthBench Professional | 64,27% | 64,60% |
GPQA Diamond | 94,44% | 93,94% |
ტექსტში წყლის ნიშნები მხოლოდ შეზღუდულ ინფორმაციას გვაწვდის იმის შესახებ, თუ რა როლი შეასრულა ჩვენმა სისტემებმა ტექსტის მონაკვეთის შექმნასა თუ დამუშავებაში. მნიშვნელოვანია გვესმოდეს, რა დასკვნების გამოტანა შეიძლება გამოვლენის შედეგიდან და რისი — არა.
წყლის ნიშანი ადამიანის წვლილს არ ზომავს. ის შეიძლება მიანიშნებდეს, რომ OpenAI-ის სისტემამ ტექსტის მონაკვეთის ნაწილი შექმნა ან დაამუშავა, მაგრამ ვერ გვიჩვენებს, რამდენად აისახა მასში ადამიანის მსჯელობა, რედაქტირება თუ შემოქმედებითობა.
წყლის ნიშანი არ ადგენს საკუთრების უფლებას ან პასუხისმგებლობას. ის არ განსაზღვრავს, ვის ეკუთვნის ტექსტი, იყო თუ არა მისი გამოყენება კანონიერი, იყო თუ არა საჭირო შესაბამისი ინფორმაციის გამჟღავნება ან ვის ეკისრება მასზე პასუხისმგებლობა.
წყლის ნიშანი მომხმარებლის ვინაობას არ ადგენს. ის ტექსტს არ უკავშირებს კონკრეტულ პირს, ორგანიზაციას, ანგარიშს, პრომპტს ან საუბარს.
წყლის ნიშანი სიზუსტეს არ ადასტურებს. ის ვერ გვეუბნება, არის თუ არა ტექსტის მონაკვეთი ჭეშმარიტი, შეცდომაში შემყვანი, საზიანო ან სწორ კონტექსტში წარმოდგენილი.
ის, რომ წყლის ნიშანი არ გამოვლენილა, არ ამტკიცებს, რომ ავტორი ადამიანია. OpenAI-ის ხელსაწყოებით გენერირებული ტექსტი შეიძლება მეტისმეტად მოკლე, დარედაქტირებული ან თარგმნილი იყოს, რის გამოც ამოცნობა საიმედოდ ვერ იმუშავებს. ასევე, ტექსტი შეიძლება შექმნილი იყოს მოდელით, რომელსაც წყლის ნიშნების მხარდაჭერა არ აქვს, გენერირებული იყოს წყლის ნიშნების დანერგვამდე ან სხვა კომპანიის ხელსაწყოებით.
ტექსტში წყლის ნიშნების დანერგვა ევროკავშირში. მომდევნო კვირებში ტექსტში წყლის ნიშნებს მხოლოდ ევროკავშირში დავნერგავთ ყველა გეგმის ფარგლებში ChatGPT‑სა და Codex-ის იმ მომხმარებლებისთვის, რომლებიც შესაბამის პირობებს აკმაყოფილებენ. დანერგვის საწყის ეტაპზე ტექსტში წყლის ნიშნების დამატება მთელ მსოფლიოში ნაგულისხმევად არ ჩაირთვება. ეს რეგიონული მიდგომა საშუალებას გვაძლევს, რეალური გამოყენებისა და უკუკავშირის საფუძველზე გამოცდილება დავაგროვოთ.
API-ის მომხმარებლებისთვის წყლის ნიშნების სურვილისამებრ ჩართვის შესაძლებლობა. დღეიდან API-ის მომხმარებლებს მთელ მსოფლიოში შეეძლებათ, ცალკეული მოდელებისთვის სურვილისამებრ ჩართონ ტექსტურ პასუხებში წყლის ნიშნების დამატება. ეს საშუალებას აძლევს API-ის მომხმარებლებს, თავად გადაწყვიტონ, როგორ მოარგონ წყლის ნიშნები გამჭვირვალობის კუთხით საკუთარ ვალდებულებებსა და იმ გამოცდილებას, რომელსაც თავიანთ მომხმარებლებს სთავაზობენ. ასევე ვთანამშრომლობთ ღრუბლოვანი სერვისების პარტნიორებთან, რათა მომდევნო კვირებში წყლის ნიშნების დამატება შესაძლებელი გახდეს მათი სერვისებით მიღებულ OpenAI-ის მოდელების პასუხებშიც.
დეტექტორზე წვდომის მიცემა მკვლევრებისა და ექსპერტული ორგანიზაციებისთვის. ჩვენ მიერ დამტკიცებულ მკვლევრებსა და ექსპერტულ ორგანიზაციებს დღეიდან შეუძლიათ განაცხადის შეტანა. პრაქტიკის კოდექსის(იხსნება ახალ ფანჯარაში) შესაბამისად, საწყის ეტაპზე წვდომის მინიჭება თითოეულ შემთხვევაში ინდივიდუალურად გადაწყდება, რათა ხელი შევუწყოთ ტექსტის წარმომავლობის დადგენის მეთოდების შეფასებასა და გაუმჯობესებას. ხელსაწყო შეგატყობინებთ, ამოიცნო თუ არა OpenAI-ის წყლის ნიშანი, თუმცა არ დაადგენს მომხმარებლის ვინაობას და არ გაამჟღავნებს მის პრომპტებსა თუ საუბრებს. წყლის ნიშნების გამორჩენისა და ცრუ დადებითი შედეგების რისკის გამო, საწყის ეტაპზე ხელსაწყო საჯაროდ ხელმისაწვდომი არ იქნება.
ტექნოლოგიისა და სტანდარტების განვითარებისა და ახალი მონაცემების დაგროვების კვალდაკვალ, ამ მიდგომის თითოეული ნაწილის გადახედვას ვგეგმავთ.
წარმომავლობის დადგენის არცერთი მეთოდი ცალკე აღებული საკმარისი არ არის. ამიტომ ვიყენებთ მრავალშრიან მიდგომას, რომელიც აერთიანებს ღია სტანდარტებს, მდგრად წყლის ნიშნებსა და შემოწმების ხელსაწყოებს.
შესაბამისი მხარდაჭერის მქონე გენერირებულ სურათებს ვამატებთ შიგთავსის წარმომავლობასთან დაკავშირებულ მონაცემებს (Content Credentials), ვაკმაყოფილებთ C2PA-ის მოთხოვნებს(იხსნება ახალ ფანჯარაში), მხარდაჭერილ სურათებსა და აუდიოში ვათავსებთ SynthID(იხსნება ახალ ფანჯარაში)-ის უხილავ წყლის ნიშნებს, ხოლო სურათებისა და აუდიოს შემოწმებას ხელმისაწვდომს ვხდით გვერდის openai.com/verify და ჩვენი შიგთავსის წარმომავლობის API(იხსნება ახალ ფანჯარაში)-ის მეშვეობით. ეს მეთოდები ერთმანეთს ავსებს: შიგთავსის წარმომავლობასთან დაკავშირებულ მონაცემებს შეუძლია ფაილის წარმომავლობისა და ისტორიის აღრიცხვა, უხილავ წყლის ნიშნებს კი მეტამონაცემების წაშლის შემდეგაც შეუძლია სიგნალის შენარჩუნება.
როგორც არჩევნების დაცვის მიმართულებით ჩვენი საქმიანობის აღწერისას აღვნიშნეთ, წარმომავლობის შესახებ ინფორმაცია ადამიანებსა და პლატფორმებს ეხმარება AI-ით გენერირებული, პოტენციურად შეცდომაში შემყვანი შიგთავსის, მათ შორის დიპფეიკების, შეფასებაში. ამ სიგნალებს ვუთავსებთ წესებს, ბოროტად გამოყენების გამოვლენას, შეტყობინებების მიღებას, მოკვლევასა და აღსრულებას. ასევე ვმუშაობთ მკვლევრებთან, სტანდარტების შემმუშავებელ ორგანოებთან, პლატფორმებსა და სამოქალაქო საზოგადოებასთან, რათა წარმომავლობის შესახებ ინფორმაცია მთელ ეკოსისტემაში გამოსადეგი იყოს.
როცა წარმომავლობის დადგენის მეთოდებს ტექსტზე ვავრცელებთ, უნდა გავითვალისწინოთ, რამდენად ადვილია მისი გადაწერა, თარგმნა ან რედაქტირება. როგორც ივნისში განვიხილეთ, ჩვენი მიდგომა უნდა ითვალისწინებდეს არსებული ტექნოლოგიის პრაქტიკულ შეზღუდვებს. გავაგრძელებთ გამოვლენის გაუმჯობესებას, შევისწავლით, რამდენად უძლებს წყლის ნიშნები რედაქტირებასა და თარგმნას, და მოვიძიებთ გზებს, რომ უფრო არსებითად განვასხვაოთ AI-ის დახმარება AI-ის ავტორობისგან. ჩვენს მიდგომას მოვარგებთ ახალ მონაცემებს, სტანდარტებისა და მარეგულირებელი მოთხოვნების ცვლილებებს. დეტექტორზე წვდომას გავაფართოებთ მაშინ, როცა მივიჩნევთ, რომ შედეგების ინტერპრეტირება შესაძლებელია პასუხისმგებლობით.
დამატებითი ინფორმაციისთვის გაეცანით ჩვენი დახმარების ცენტრის სტატიას(იხსნება ახალ ფანჯარაში).
