Nasze podejście do unijnych zasad dotyczących pochodzenia tekstu

Pochodzenie treści pomaga zrozumieć, skąd pochodzą treści, jak zostały utworzone lub edytowane oraz czy zawierają sygnały powiązane z naszymi modelami. Udostępniliśmy już publicznie narzędzia do identyfikowania obrazów i nagrań audio wygenerowanych przez nasze modele. Dziś dzielimy się naszym podejściem do znakowania wodnego tekstu w odpowiedzi na unijny akt w sprawie sztucznej inteligencji oraz wyjaśniamy, jak wpisuje się ono w nasze szersze działania.

Akt UE w sprawie sztucznej inteligencji wymaga, aby dostawcy generatywnej AI umożliwiali identyfikację wygenerowanego tekstu w sposób czytelny maszynowo. Znakowanie tekstu znakami wodnymi i ich wykrywanie to wciąż technologie na wczesnym etapie rozwoju, obarczone istotnymi ograniczeniami. Wciąż też kształtują się opinie na temat korzyści płynących z tych technologii oraz ich odpowiedzialnego stosowania. Nasze etapowe podejście uwzględnia zarówno wymogi aktu UE w sprawie sztucznej inteligencji, jak i ograniczenia tej technologii, kładąc nacisk na transparentne informowanie o tym, jakich informacji może dostarczyć znak wodny w tekście, a jakich nie:

• Od dziś klienci API na całym świecie będą mogli włączyć znaki wodne w tekście dla wybranych modeli. Funkcja znaków wodnych w tekście będzie domyślnie wyłączona w API.

• W ciągu najbliższych kilku tygodni dodamy niewidoczny znak wodny do tekstów generowanych przez ChatGPT i Codex w Unii Europejskiej, które spełniają odpowiednie kryteria.

• Rozpoczynamy przyjmowanie wniosków o dostęp do naszego detektora znaków wodnych w tekście. Początkowo dostęp otrzymają tylko zatwierdzeni badacze i organizacje eksperckie, które pomogą nam ocenić i udoskonalić tę technologię.

  • Powyższe dotyczy wyłącznie pochodzenia tekstu — nasze narzędzia do weryfikacji materiałów audio i obrazów, w tym nasze narzędzie internetowe openai.com/verify⁠ oraz Content Provenance API⁠(otwiera nowe okno), będą nadal publicznie dostępne dla organizacji, które chcą ustalić, czy obraz lub plik dźwiękowy został wygenerowany przez jeden z naszych systemów.

Nasza technologia znakowania wodnego tekstu, textGrain, osadza niewidoczny sygnał statystyczny w doborze słów przez model. Nasz detektor szuka tego sygnału, aby ocenić, czy dany fragment zawiera znak wodny OpenAI. Więcej informacji o działaniu textGrain znajdziesz w naszym raporcie technicznym⁠(otwiera nowe okno), który w najbliższych tygodniach uzupełnimy o dodatkowe szczegóły. Planujemy również udostępnić tę technologię jako oprogramowanie open source, aby inni mogli ją rozwijać.

W naszych testach textGrain dorównał skutecznością innym badanym metodom, w tym SynthID dla tekstu, lub osiągnął lepsze wyniki. Mimo to wysokie wyniki w idealnych warunkach nie gwarantują niezawodnego wykrywania w codziennym użyciu.

Detektory mogą popełniać dwa rodzaje błędów: mogą wskazać obecność znaku wodnego tam, gdzie go nie ma — wynik fałszywie dodatni — lub nie wykryć znaku wodnego, który jest obecny — wynik fałszywie ujemny. Poniższe wyniki naszych testów pokazują niektóre z tych wyzwań:

• Znaki wodne trudniej wykrywać w krótszych tekstach lub takich, w których możliwości doboru słów są ograniczone. Przy docelowym odsetku wyników fałszywie dodatnich wynoszącym 1% nasz detektor wykrył znaki wodne w około 80% fragmentów o długości 200 tokenów, w porównaniu z około 95% fragmentów o długości 400 tokenów, w przypadku treści z dziedziny psychologii. Wskaźniki wykrywalności były znacznie niższe w przypadku treści z dziedziny matematyki, gdzie możliwości doboru słów są bardziej ograniczone.

• Edycja może osłabić znak wodny. W ocenie fragmentów o długości 400 tokenów zastąpienie 10% słów synonimami zmniejszyło wykrywalność z około 92% do 66%. Zastąpienie 25% słów zmniejszyło ją do 17%.

Ograniczenia te wpływają na naszą decyzję, by początkowo udostępniać detektor wyłącznie zatwierdzonym badaczom i organizacjom eksperckim, które mogą pomóc nam ocenić jego niezawodność i odpowiedzialne zastosowania.

W testach porównawczych, których używamy do oceny Astry, naszego najnowszego pionierskiego modelu, nie obserwujemy istotnych różnic w skuteczności modelu z zastosowaniem znakowania wodnego i bez niego.

Znaki wodne w tekście dostarczają jedynie ograniczonych informacji o roli, jaką nasze systemy odegrały w powstaniu danego fragmentu. Ważne jest, aby wiedzieć, jakie wnioski można wyciągnąć na podstawie wyniku wykrycia znaku wodnego, a jakie byłyby nieuzasadnione.

• Znak wodny nie mierzy ludzkiego wkładu. Może wskazywać, że system OpenAI wygenerował lub przetworzył część tekstu, ale nie informuje, w jakim stopniu człowiek wykorzystał własną ocenę, redagował tekst lub wykazał się kreatywnością.

• Znak wodny nie rozstrzyga o prawach do tekstu ani o odpowiedzialności za niego. Nie określa, komu przysługują prawa do tekstu, czy jego wykorzystanie było zgodne z prawem, czy istniał obowiązek ujawnienia informacji ani kto ponosi za niego odpowiedzialność.

• Znak wodny nie identyfikuje użytkownika. Nie wiąże żadnej osoby, organizacji, konta, polecenia ani konwersacji z tekstem.

• Znak wodny nie potwierdza prawdziwości treści. Nie informuje, czy fragment jest prawdziwy, wprowadza w błąd, jest szkodliwy ani czy został przedstawiony we właściwym kontekście.

• Brak wykrytego znaku wodnego nie dowodzi autorstwa człowieka. Tekst wygenerowany za pomocą narzędzi OpenAI może być zbyt krótki, edytowany lub przetłumaczony, by można było wiarygodnie wykryć w nim znak wodny. Może też pochodzić z nieobsługiwanego modelu, powstać przed rozpoczęciem stosowania znaków wodnych lub zostać wygenerowany za pomocą narzędzi innej firmy.

• Wdrażamy znakowanie tekstu znakiem wodnym w UE. W nadchodzących tygodniach udostępnimy tę funkcję kwalifikującym się użytkownikom ChatGPT i Codex we wszystkich planach, ale tylko w UE. Na początkowym etapie znakowanie tekstu nie będzie domyślnie włączone na całym świecie. Takie regionalne podejście pozwoli nam wyciągać wnioski z rzeczywistych zastosowań technologii i otrzymywanych opinii.

• Umożliwiamy klientom API dobrowolne włączenie znaków wodnych. Od dziś klienci API na całym świecie będą mogli włączyć znakowanie wodne tekstów generowanych przez wybrane modele. Dzięki temu klienci mogą zdecydować, jak wykorzystać znaki wodne do realizacji swoich obowiązków w zakresie przejrzystości i kształtowania doświadczeń użytkowników. Pracujemy też z partnerami chmurowymi, aby w nadchodzących tygodniach udostępnić znakowanie wyników modeli OpenAI, do których można uzyskać dostęp za pośrednictwem ich usług.

• Udostępnianie detektora badaczom i organizacjom eksperckim. Zatwierdzeni badacze i organizacje eksperckie mogą składać wnioski już dziś. Zgodnie z Kodeksem postępowania⁠(otwiera nowe okno) dostęp będzie początkowo przyznawany indywidualnie, aby wspierać ocenę i doskonalenie metod ustalania pochodzenia tekstu. Narzędzie poinformuje, czy wykryło znak wodny OpenAI, nie identyfikując użytkownika ani nie ujawniając jego poleceń czy rozmów. Ze względu na ryzyko niewykrycia znaków wodnych oraz uzyskania wyników fałszywie dodatnich nie udostępniamy narzędzia publicznie w momencie premiery.

W miarę rozwoju technologii i standardów oraz pojawiania się nowych danych zamierzamy ponownie przeanalizować poszczególne elementy tego podejścia.

Żadna pojedyncza technika ustalania pochodzenia nie wystarczy, dlatego stosujemy wielowarstwowe podejście łączące otwarte standardy, trwałe znakowanie wodne i narzędzia weryfikacyjne.

Dodajemy Content Credentials do obsługiwanych wygenerowanych obrazów, spełniamy wymagania C2PA⁠(otwiera nowe okno), osadzamy niewidoczne znaki wodne SynthID⁠(otwiera nowe okno) w obsługiwanych obrazach i plikach dźwiękowych oraz udostępniamy weryfikację obrazów i plików dźwiękowych na stronie openai.com/verify⁠ i za pośrednictwem naszego Content Provenance API⁠(otwiera nowe okno). Techniki te wzajemnie się uzupełniają: Content Credentials mogą rejestrować pochodzenie i historię pliku, a niewidoczne znaki wodne mogą zachować sygnał po usunięciu metadanych.

Jak wyjaśniliśmy w artykule o naszych działaniach na rzecz bezpieczeństwa wyborów, informacje o pochodzeniu treści mogą pomóc ludziom i platformom oceniać potencjalnie wprowadzające w błąd treści generowane przez AI, w tym deepfake’i. Łączymy te sygnały z zasadami, wykrywaniem nadużyć, zgłaszaniem, dochodzeniami i egzekwowaniem zasad, a także współpracujemy z badaczami, organizacjami normalizacyjnymi, platformami i społeczeństwem obywatelskim, aby informacje o pochodzeniu treści były użyteczne w szerszym ekosystemie.

Objęcie tekstu metodami ustalania pochodzenia wymaga uwzględnienia tego, jak łatwo można go przeredagować, przetłumaczyć lub edytować. Jak wspominaliśmy w czerwcu, nasze podejście musi uwzględniać praktyczne ograniczenia obecnej technologii. Będziemy nadal udoskonalać wykrywanie, badać odporność znaków wodnych na edycję i tłumaczenie oraz szukać sposobów na bardziej miarodajne rozróżnianie między korzystaniem z pomocy AI a tworzeniem tekstu przez AI. Będziemy dostosowywać nasze podejście w miarę pojawiania się nowych danych oraz zmian standardów i wymogów regulacyjnych, a także rozszerzać dostęp do detektora, gdy uznamy, że jego wyniki można odpowiedzialnie interpretować.

Więcej informacji znajdziesz w naszym artykule w Centrum pomocy⁠(otwiera nowe okno).