Harvey

Tokom protekle godine, Harvey se etablirao kao bezbedna generativna AI platforma za stručnjake u pravu, porezima i finansijama. Njihov tim je narastao na više od 100 ljudi, prihod im je porastao više od 10 puta u 2023, a prikupili su 80 miliona dolara u Series B rundi finansiranja uz procenu vrednosti od 715 miliona dolara.

Nedavno je Harvey sarađivao sa OpenAI na kreiranju prilagođeno obučenog modela za sudsku praksu. To je Harveyju omogućilo da isporučuje AI sisteme koji pomažu u zadacima koji zahtevaju složeno rezonовање, opsežno domenško znanje i mogućnosti koje prevazilaze jedan poziv modela — kao što su sastavljanje dokumenata, odgovaranje na pitanja o složenim parničnim scenarijima i identifikovanje materijalnih neslaganja između stotina ugovora.

Harvey su osnovali Winston Weinberg, advokat sa iskustvom u antimonopolskim sporovima i sporovima iz oblasti hartija od vrednosti, i Gabe Pereyra, AI istraživač koji je prethodno radio na velikim jezičkim modelima (LLM) za Google Brain i Meta. Videli su priliku da koriste velike jezičke modele (LLM) za sintetizovanje informacija i njihovo predstavljanje pravnicima na pregled.

„I transakcioni poslovi i parnice postaju sve složeniji — može biti potrebno pregledati stotine hiljada ugovora za međunarodno spajanje i milione imejlova za parnicu“, objasnio je Weinberg. Uz AI koja pomaže u sintetizovanju dokumenata, pravnici mogu da provode manje vremena pretražujući i sastavljajući pravne tekstove, a više vremena donoseći odluke i pomažući klijentima.

Rana potvrda stigla je kada su Weinberg i Pereyra preuzeli Redditov r/legaladvice za pitanja iz odnosa stanodavac/zakupac i koristili GPT‑3 za generisanje odgovora, koje su potom podelili sa advokatima. „Za 86 od 100 pitanja, advokati su rekli da bi odgovor samo poslali klijentu bez uređivanja“, rekao je Weinberg. „Bio je to aha trenutak.“

Za istraživanje sudske prakse, tim u Harveyju zamislio je iskustvo u kojem biste mogli da kopirate/nalepite klijentovo pitanje u model za sudsku praksu, a on bi na to pitanje odgovorio temeljno i naveo sve svoje izvore. Najpre su isprobali očigledne tehnike: fino podešavanje osnovnih modela putem javnih API-ja i izgradnju retrieval-augmented generation (RAG) sistema. Ali su naišli na ograničenja kod tako jedinstveno složenog, otvorenog slučaja upotrebe.

„Ako radite samo retrieval, možete da odgovorite na vrlo jednostavna pitanja o oblastima prava u kojima zapravo niste stručnjak, ali to većini advokata i nije naročito korisno“, objasnio je Weinberg. „Kod istraživanja sudske prakse tražite municiju za svoj argument, a to je mnogo teže uraditi.“

Osnovni modeli bili su snažni u rezonovanju, ali im je nedostajalo znanje potrebno za pravni rad. Zato je Harvey odlučio da sarađuje sa OpenAI na izradi prilagođeno obučenog modela koji bi im omogućio da u osnovne modele unesu novo znanje i načine rezonovanja o tom znanju.

„Nijedan od ovih problema nema jasno, jednostavno rešenje“, rekao je Pereyra. „Veliki deo toga svodio se na to da sednemo zajedno, da naši pravnici objasne kako funkcioniše istraživanje sudske prakse, da naši istraživači pokažu šta smo uradili i da od OpenAI naučimo koje poluge imamo na raspolaganju za pristup problemu.“

Harvey i OpenAI zajedno su radili na dodavanju potrebne dubine konteksta, počev od sudske prakse iz Delavera, a zatim su se proširili na celokupnu sudsku praksu SAD. Dodali su ekvivalent od 10 milijardi tokena podataka kako bi pokretali prilagođeno obučeni model za sudsku praksu.

Da bi testirao model za sudsku praksu, Harvey je sarađivao sa 10 najvećih advokatskih kancelarija. Advokatima su prikazali uporedne rezultate prilagođenog modela za sudsku praksu naspram izlaza GPT‑4 za isto pitanje. Iznenadilo ih je koliko je reakcija bila snažna.

„U 97% slučajeva, pravnici su preferirali izlaz modela za sudsku praksu“, rekao je Weinberg. „Obično zato što je to bio duži, potpuniji odgovor. Ulazio je u nijanse onoga što pitanje traži i obuhvatao relevantniju sudsku praksu.“

Smanjenje halucinacija bilo je jedan od Harveyjevih motiva za izgradnju prilagođenog modela, a ulaganje se isplatilo. „Model za sudsku praksu ne samo da ne izmišlja predmete, već je svaka rečenica zaista potkrepljena predmetom koji citira“, rekao je Weinberg.

Dok ovo uvode većem broju korisnika, Harvey sa nestrpljenjem istražuje i druge primene modela za sudsku praksu, kao što su sastavljanje podnesaka i predloga ili pomoć advokatima da razumeju kako se sudska praksa razlikuje u različitim jurisdikcijama.

Pereyra je ponudio ovaj savet drugim osnivačima koji rade u AI: „Ne gradite prema trenutnim mogućnostima modela danas — gradite za to gde će modeli tek stići. Bavite se složenijim verzijama problema kako ih bolje verzije modela, kada se pojave, ne bi rešile usput.“

Čime se Harvey sledeće bavi? Jedan od njihovih fokusa su agenti, odnosno kako da se više poziva modela objedini u jedan funkcionalan izlaz. To bi pojednostavilo korisničko iskustvo i smanjilo količinu формулисања инструкције i kucanja koju korisnici moraju da obave.

Vizija je da Harvey služi kao podržavajući član tima. „Obim pravnog posla raste, a saradnici provode bezbroj sati na složenim, ali rutinskim zadacima“, rekao je Weinberg. „Prilika koju imamo, ne samo u pravu već u svim profesionalnim uslugama, jeste da preuzmemo rutinske zadatke kako bi stručnjaci mogli da usmere vreme na interakcije sa klijentima.“

„Ovo je bilo istraživanje na samoj granici mogućeg“, rekao je Pereya. „Bio nam je potreban partner spreman da uloži resurse kako bi pokušao nešto novo. Razmotrili smo sve opcije, ali smo jedino verovali OpenAI za izgradnju prilagođeno obučenog modela.“