Agent obsługujący komputer

Udostępniliśmy właśnie wersję poglądową modułu Operator⁠(otwiera nowe okno), który potrafi wykonywać za użytkownika zadania w Internecie. U podstaw Operatora leży Agent obsługujący komputer (CUA), model łączący w sobie zdolności wizualne GPT‑4o i funkcje zaawansowanego rozumowania rozwijane w procesie uczenia przez wzmacnianie. Model CUA jest trenowany w zakresie zdolności do interakcji z graficznymi interfejsami użytkownika (GUI) – przyciskami, elementami menu i polami tekstowymi wyświetlanymi na ekranie – w ten sam sposób co ludzki użytkownik. Zapewnia mu to elastyczność w wykonywaniu zadań cyfrowych bez konieczności tworzenia API dostosowanych do konkretnych systemów operacyjnych lub sieci. 

CUA stanowi wynik wielu lat gruntownych badań nad obszarami styczności pomiędzy multimodalnym zrozumieniem a rozumowaniem. Dzięki połączeniu zaawansowanej percepcji GUI i systemów strukturalnego rozwiązywania problemów jest on w stanie dzielić zadania na wieloetapowe plany i adaptacyjnie korygować własne decyzje w przypadku napotkania trudności. Zdolność ta wyznacza kolejny krok w rozwoju AI, pozwalając modelom na stosowanie narzędzi, z których na co dzień korzystają ludzcy użytkownicy i otwierając szeroki wachlarz nowych potencjalnych zastosowań.

Choć CUA jest wciąż w początkowej fazie rozwoju i zmaga się z ograniczeniami, osiąga już rekordowe wyniki w benchmarkach, na przykład współczynnik powodzenia na poziomie 38,1% w teście OSWorld dotyczącym zadań z zakresu pełnej obsługi komputera czy 58,1% w teście WebArena oraz 87% w teście WebVoyager dotyczącym zadań internetowych. Wyniki te podkreślają zdolność CUA do nawigacji i pracy w szerokim spektrum różnorodnych środowisk, z wykorzystaniem jednej ogólnej przestrzeni działania. 

W toku prac nad CUA bezpieczeństwo stanowiło nasz najwyższy priorytet, ukierunkowując nasze dążenia w obliczu wyzwań stawianych przez agenta posiadającego dostęp do zasobów świata cyfrowego, zgodnie z opisem w naszej Karcie systemu Operator. Zgodnie z przyjętą strategią wdrażania iteracyjnego, w pierwszej kolejności udostępniamy CUA w postaci wersji poglądowej modułu Operator na stronie operator.chatgpt.com⁠(otwiera nowe okno) dla użytkowników planu Pro⁠(otwiera nowe okno) na terenie Stanów Zjednoczonych. Dzięki gromadzonym opiniom na temat rzeczywistych zastosowań narzędzia będziemy mogli doskonalić nasze zabezpieczenia i stale usprawniać działanie systemu, przygotowując się do szerszego udostępnienia agentów cyfrowych w przyszłości.

CUA przetwarza surowe dane w formie pikseli, aby zrozumieć, co dzieje się na ekranie, i wykorzystuje wirtualną mysz i klawiaturę do wykonywania działań. Jest w stanie radzić sobie z wieloetapowymi zadaniami, reagować na błędy i dostosowywać się do nieprzewidzianych zmian. Dzięki temu CUA radzi sobie w szerokim wachlarzu środowisk cyfrowych, wykonując takie zadania, jak wypełnianie formularzy czy nawigacja po stronach internetowych bez konieczności tworzenia wyspecjalizowanych interfejsów API.

Po otrzymaniu polecenia użytkownika CUA inicjuje pętlę iteracyjną obejmującą percepcję, rozumowanie i działanie:

• Percepcja: Zrzuty ekranowe z komputera są dodawane do danych kontekstowych modelu, zapewniając wizualną migawkę bieżącego stanu komputera. 
• Rozumowanie: W kolejnych krokach CUA rozumuje z wykorzystaniem łańcucha myśli, uwzględniając bieżące i przeszłe zrzuty ekranowe i działania. Ten wewnętrzny monolog usprawnia wykonywanie zadań, umożliwiając modelowi ocenę własnych obserwacji, śledzenie pośrednich kroków i dynamiczną adaptację.
• Działanie: Moduł wykonuje działania – klikanie, przewijanie, pisanie – do momentu gdy uzna, że zadanie zostało wykonane lub konieczne jest uzyskanie dodatkowych danych wejściowych od użytkownika. Choć większość kroków jest wykonywana automatycznie, CUA prosi użytkownika o potwierdzenie wykonania działań wrażliwych, na przykład obejmujących podanie danych logowania lub udzielenie odpowiedzi w formularzach CAPTCHA.

CUA osiąga nowe rekordowe wyniki w benchmarkach dotyczących zarówno obsługi komputera, jak i przeglądarek przy użyciu tego samego uniwersalnego interfejsu obejmującego ekran, mysz i klawiaturę.

Na poniższych wizualizacjach przedstawiono przykłady sposobu wykonania przez CUA różnorodnych zadań standardowych w teście OSWorld.

Jako że CUA jest jednym z naszych pierwszych agentów zdolnych do bezpośredniego podejmowania działań za pośrednictwem przeglądarki internetowej, wiąże się on z koniecznością uwzględnienia całkowicie nowych zagrożeń i wyzwań. Przygotowując się do udostępnienia narzędzia Operator, przeprowadziliśmy szczegółowe testy bezpieczeństwa i wdrożyliśmy środki zaradcze w trzech głównych obszarach ryzyka: niewłaściwe wykorzystanie, błędy modelu i zagrożenia związane z pionierskim charakterem narzędzia. Uważamy, że w kontekście bezpieczeństwa najlepiej sprawdza się podejście warstwowe, w związku z czym wdrożyliśmy zabezpieczenia w całym kontekście wdrożeniowym: w samym modelu CUA, systemie Operator oraz w ramach procesów powdrożeniowych. Naszym celem jest stworzenie stosu środków zaradczych, aby każda z warstw stopniowo obniżała całkowity poziom ryzyka.

Pierwszą kategorią zagrożeń jest niewłaściwe użycie. Oprócz obligowania naszych użytkowników do postępowania zgodnie z naszymi Zasadami użytkowania, wprowadziliśmy następujące zabezpieczenia w celu obniżenia ryzyka stworzenia zagrożenia przez system Operator w wyniku niewłaściwego użycia, na podstawie zabezpieczeń opracowanych dla modelu GPT‑4o.

• Odmowa: Model CUA jest trenowany tak, aby odmawiał wykonania zadań szkodliwych, nielegalnych lub związanych z działaniami podlegającymi regulacji.
• Czarna lista: Operator nie ma dostępu do stron internetowych, które zostały prewencyjnie zablokowane, na przykład stron związanych z hazardem, rozrywką dla dorosłych oraz stron sprzedawców leków i broni palnej.
• Moderacja: Interakcje użytkowników są weryfikowane w czasie rzeczywistym przez zautomatyzowane zabezpieczenia opracowane w celu zapewnienia zgodności z Zasadami użytkowania i posiadające uprawnienia do wysyłania ostrzeżeń lub blokowania niedozwolonych zachowań. 
• Wykrywanie offline: Stworzyliśmy również systemy zautomatyzowanego wykrywania i weryfikacji przez człowieka w celu identyfikacji niedozwolonych działań w kluczowych obszarach zagrożeń, w tym w zakresie bezpieczeństwa dzieci i działań oszukańczych, co pozwala nam na skuteczne egzekwowanie Zasad użytkowania.

Druga kategoria zagrożeń wiąże się z błędami modelu, czyli sytuacjami, w których model CUA przypadkowo wykonana działanie niezamierzone przez użytkownika, ze szkodą dla użytkownika lub innych osób. Hipotetyczne błędy tego rodzaju mogą różnić się pod względem dotkliwości, od literówki w wiadomości e-mail, poprzez zakup niewłaściwego towaru, aż po trwałe usunięcie ważnego dokumentu. Aby zminimalizować potencjalne szkody, wdrożyliśmy następujące zabezpieczenia:

• Zatwierdzenie przez użytkownika: Model CUA jest trenowany, aby prosić o potwierdzenie użytkownika przed finalizacją zadań mogących mieć zewnętrzne skutki uboczne, przykładowo przed złożeniem zamówienia, wysłaniem wiadomości e-mail itd., dzięki czemu użytkownik ma możliwość weryfikacji pracy modelu przed jej finalizacją.
• Ograniczenia zakresu zadań: Na chwilę obecną model CUA odmawia wykonania zadań o potencjalnie poważnych konsekwencjach, przykładowo transakcji bankowych lub zadań wymagających podjęcia decyzji we wrażliwych kwestiach.
• Tryb nadzoru: W przypadku szczególnie wrażliwych stron internetowych, na przykład poczty e-mail, Operator wymaga aktywnego nadzoru użytkownika, co pozwala wychwytywać i bezpośrednio korygować potencjalne błędy modelu.

Jedną ze szczególnie istotnych kategorii błędów modelu są antagonistyczne ataki ze strony stron internetowych, powodujące podjęcie przez model CUA niezamierzonych działań poprzez wstrzykiwanie poleceń, łamanie zabezpieczeń czy ataki phishingowe. Obok wspomnianych działań zapobiegających błędom modelu wdrożyliśmy kilka dodatkowych warstw zabezpieczeń przed tego rodzaju zagrożeniami:

• Ostrożna nawigacja: Model CUA został zaprojektowany tak, aby potrafił identyfikować i ignorować wstrzykiwanie poleceń ze stron internetowych, co pozwoliło mu na prawidłowe rozpoznanie niemal wszystkich, za wyjątkiem jednego, tego rodzaju incydentów w ramach wczesnych, wewnętrznych testów z udziałem czerwonego zespołu.
• Monitorowanie: Wdrożyliśmy dodatkowy model w ramach narzędzia Operator w celu monitorowania i wstrzymywania wykonania polecenia w przypadku wykrycia podejrzanej treści na ekranie.
• Procesy wykrywania: Stosujemy zarówno zautomatyzowane systemy wykrywania, jak i procesy weryfikacji przez człowieka w celu identyfikacji podejrzanych wzorców dostępu. Są one oznaczane i szybko (w przeciągu kilku godzin) wprowadzane do narzędzi monitorujących.

I wreszcie, przeprowadziliśmy ocenę modelu CUA w kontekście zagrożeń granicznych zidentyfikowanych w naszych Ramach gotowości⁠(otwiera nowe okno), w tym scenariuszy obejmujących autonomiczną replikację i narzędzia związane z ryzykiem biologicznym. Oceny te nie wykazały przyrostu poziomu ryzyka w porównaniu z GPT‑4o.

Wszystkich zainteresowanych pogłębioną analizą systemów ocen i zabezpieczeń zachęcamy do lektury Karty systemu Operator, stale aktualizowanego dokumentu zapewniającego transparentność naszego podejścia do kwestii bezpieczeństwa i stałego udoskonalania produktów.

Z uwagi na fakt, że wiele z funkcji narzędzia Operator ma nowatorski charakter, podobnie wygląda sytuacja z zagrożeniami oraz wdrażanymi przez nas zabezpieczeniami.  Choć staraliśmy się tworzyć najwyższej klasy, zróżnicowane i wzajemnie uzupełniające się zabezpieczenia, spodziewamy się, że zarówno ryzyka, jak i nasze do nich podejście będzie ewoluować wraz z poszerzaniem naszej wiedzy w tym zakresie. Cieszymy się z możliwości wykorzystania okresu udostępnienia wersji poglądowej do zgromadzenia opinii użytkowników, udoskonalenia środków zaradczych i zwiększenia bezpieczeństwa agenta.

Moduł CUA jest wynikiem wieloletnich prac badawczych w obszarach mulimodalności, rozumowania i bezpieczeństwa. Poczyniliśmy znaczne postępy w zakresie głębokiego rozumowania w toku prac nad modelami z serii o, zdolności wizualnych GPT‑4o oraz nowych technik pozwalających na poprawę wydajności z wykorzystaniem uczenia przez wzmacnianie i hierarchii poleceń. Kolejnym wyzwaniem jest rozszerzenie przestrzeni działania agentów. Częściową odpowiedzią na to wyzwanie jest elastyczność zapewniana przez uniwersalny interfejs, umożliwiająca agentowi nawigację w ramach dowolnego oprogramowania stworzonego z myślą o ludzkich użytkownikach. Wychodząc poza wąski zakres interfejsów API przyjaznych dla agentów cyfrowych, CUA potrafi zaadaptować się do dowolnego środowiska komputerowego, stanowiąc prawdziwą odpowiedź na problem licznych potencjalnych zastosowań cyfrowych pozostających do tej pory poza zasięgiem większości modeli AI.

Pracujemy również nad możliwością udostępnienia CUA z poziomu API⁠(otwiera nowe okno), co pozwoli programistom na tworzenie własnych agentów obsługujących komputer. Wraz z kolejnymi iteracjami CUA z niecierpliwością czekamy na różnorodne nowe zastosowania tego narzędzia, które będą odkrywać członkowie społeczności. Planujemy wykorzystać opinie na temat faktycznych zastosowań, gromadzone w toku etapu wczesnego podglądu, aby nieustannie udoskonalać zdolności CUA i zastosowane zabezpieczenia w ramach bezpiecznej realizacji naszej misji, jaką jest powszechne udostępnienie korzyści związanych z AI.