Introduktion af forbedringer til finjusterings-API’en og udvidelse af programmet for brugerdefinerede modeller

Opdatering den 8. maj 2026: OpenAI afvikler finjusteringsplatformen. Platformen er ikke længere tilgængelig for nye brugere, men eksisterende brugere af finjusteringsplatformen vil kunne oprette træningsjobs i de kommende måneder. Alle finjusterede modeller vil fortsat være tilgængelige til inferens, indtil deres basismodeller er udfaset⁠(åbner i et nyt vindue). Den fulde tidsplan kan ses her⁠(åbner i et nyt vindue).

Der findes en række teknikker⁠(åbner i et nyt vindue), som udviklere kan bruge til at forbedre modellens ydeevne med henblik på at reducere latenstid, øge nøjagtigheden og sænke omkostningerne. Uanset om det handler om at udvide modellens viden med retrieval-augmented generation (RAG), tilpasse modellens adfærd gennem finjustering eller udvikle en specialtrænet model med ny domænespecifik viden, har vi skabt en række løsninger, der understøtter vores kunders AI-implementeringer. I dag lancerer vi nye funktioner, der giver udviklerne større kontrol over finjustering via API’en – og introducerer flere måder at samarbejde med vores team af AI-eksperter og forskere om at bygge brugerdefinerede modeller.

I august 2023 lancerede vi vores selvbetjente API til finjustering⁠(åbner i et nyt vindue) af GPT‑3.5. Siden da har tusindvis af organisationer trænet hundredtusindvis af modeller via API’en. Finjustering kan hjælpe modeller med at opnå en dybere forståelse af indhold og udvide deres eksisterende viden og evner i forhold til en specifik opgave. Vores finjusterings-API understøtter desuden en større mængde eksempler, end der kan være i én enkelt forespørgsel, hvilket muliggør højere kvalitet samtidig med lavere omkostninger og reduceret latenstid. Blandt de mest almindelige finjusterings-use cases er træning af en model til at skrive bedre kode i et bestemt programmeringssprog, at opsummere tekst i et specifikt format eller at generere personligt tilpasset indhold baseret på brugeradfærd.

Et eksempel er Indeed⁠(åbner i et nyt vindue), en global platform til jobformidling og rekruttering, som ønskede at forenkle ansættelsesprocessen. I den forbindelse lancerede Indeed en funktion, der sender personlige jobanbefalinger til jobsøgere med fokus på relevante stillinger, baseret på deres kompetencer, erfaring og præferencer. De finjusterede GPT‑3.5 Turbo til at generere mere præcise og relevante forklaringer. Resultatet var en reduktion på 80 % i antallet af tokens i forespørgslen, hvilket sænkede både omkostninger og latenstid. Det gjorde det muligt for Indeed at skalere fra under én million beskeder til jobsøgere om måneden til omkring 20 millioner.

I dag introducerer vi nye funktioner⁠(åbner i et nyt vindue), der giver udviklere endnu mere kontrol over deres finjusteringsopgaver, herunder:

• Epoke-baseret checkpoint-oprettelse: Automatisk generering af ét komplet checkpoint af den finjusterede model under hver trænings-epoke, hvilket mindsker behovet for efterfølgende gentræning – især i tilfælde af overfitting
• Sammenligningsværktøj i Playground: En ny side-by-side Playground -brugerflade til sammenligning af modelkvalitet og ydeevne, som muliggør menneskelig evaluering af output fra flere modeller eller finjusterings-snapshots mod den samme forespørgsel
• Integration med tredjepartsplatforme: Understøttelse af integrationer med tredjepartsplatforme (startende med Weights and Biases⁠(åbner i et nyt vindue) i denne uge), så udviklere kan dele detaljerede finjusteringsdata med resten af deres stack
• Omfattende valideringsmålinger: Mulighed for at beregne målinger som loss og accuracy over hele valideringsdatasættet i stedet for et enkelt udvalgt batch, hvilket giver bedre indsigt i modelkvaliteten
• Konfiguration af hyperparametre: Mulighed for at konfigurere tilgængelige hyperparametre fra dashboardet⁠(åbner i et nyt vindue) (og ikke kun gennem API'en eller SDK)
• Forbedringer i finjusteringsdashboardet: Herunder mulighed for at konfigurere hyperparametre, se mere detaljerede træningsmålinger og genkøre jobs baseret på tidligere konfigurationer

På DevDay i november sidste år annoncerede⁠ vi vores program for brugerdefinerede modeller, der er udviklet til at træne og optimere modeller til specifikke domæner i tæt samarbejde med et team af OpenAI-forskere. Siden da har vi haft møder med adskillige kunder for at afdække deres behov for tilpassede modeller og videreudviklet programmet med henblik på maksimal ydeevne.

I dag lancerer vi officielt vores tilbud om assisteret finjustering som en del af programmet. Assisteret finjustering er et samarbejde med vores tekniske teams, hvor vi benytter metoder ud over den almindelige finjusterings-API – herunder flere hyperparametre og forskellige metoder til parameter-effektiv finjustering (PEFT) i større skala. Dette er særligt nyttigt for organisationer, der har behov for hjælp til at etablere effektive træningsdatastrømme, evalueringssystemer samt skræddersyede parametre og metoder, så model-ydeevnen optimeres til deres specifikke opgave eller use case.

Et eksempel er SK Telecom⁠(åbner i et nyt vindue), en teleselskabsoperatør med over 30 millioner abonnenter i Sydkorea, som ønskede at tilpasse en model til at være ekspert inden for telekommunikation – med særligt fokus på kundeservice. De arbejdede sammen med OpenAI om at finjustere GPT‑4 for at forbedre modellens evne til at håndtere samtaler om telekommunikation på koreansk. Hen over flere uger opnåede SKT og OpenAI betydelige forbedringer i ydeevnen inden for kundeserviceopgaver – en forbedring på 35 % i kvaliteten af samtalesammenfatninger, en forbedring på 33 % inden for genkendelse af intentioner og en stigning i tilfredsheds-scoren fra 3,6 til 4,5 (ud af 5), når man sammenlignede den finjusterede model med standardversionen af GPT‑4.

I nogle tilfælde har organisationer behov for at træne en model til et særligt formål helt fra bunden, så den er målrettet deres virksomhed, branche eller domæne. Fuldt tilpassede modeller tilegner sig ny viden fra et specifikt domæne ved at justere centrale trin i træningsprocessen – f.eks. gennem nye træningsmetoder undervejs samt eftertræning. Organisationer, der har succes med denne specialtrænede model, råder ofte over store mængder proprietære data – millioner af eksempler eller milliarder af tokens – som de gerne vil bruge til at lære modellen ny viden eller komplekse, unikke adfærdsmønstre til meget specifikke use cases.

Et eksempel er Harvey⁠(åbner i et nyt vindue), et AI-baseret juridisk værktøj målrettet advokater, som indgik et samarbejde med OpenAI om at udvikle en brugerdefineret sprogmodel til retspraksis⁠. Selvom grundmodellerne allerede udviste stærke evner inden for avanceret tænkning, manglede de den dybdegående viden om juridisk case-historik og anden specialiseret fagkundskab, som kræves i advokatbranchen. Efter at have afprøvet forespørgselsudvikling, RAG og finjustering, samarbejdede Harvey med vores team om at tilføre modellen den nødvendige kontekst – svarende til data i størrelsesordenen 10 milliarder tokens. Vores team tilpassede hvert trin i modeltræningsprocessen, fra domænespecifik træning undervejs til skræddersyede eftertrænings-metoder samt inddragelse af ekspertfeedback fra jurister. Den resulterende model opnåede en 83 % stigning i faktuelle svar, og advokaterne foretrak den tilpassede models output 97 % af tiden frem for GPT‑4.

Det er vores overbevisning, at størstedelen af alle organisationer i fremtiden vil arbejde med modeller, der er skræddersyet til deres branche, virksomhed eller konkrete use cases. Med en bred vifte af forskellige teknikker til at opbygge en brugerdefineret model kan organisationer i alle størrelser udvikle personlige modeller for at opnå en mere meningsfuld og specifik effekt af deres AI-implementeringer. Nøglen er at afgrænse use casen, designe og implementere evalueringssystemer, vælge de rette teknikker – og være indstillet på gradvist at forbedre over tid, så modellen kan opnå optimal ydeevne.

Med OpenAI kan de fleste organisationer hurtigt opnå gode resultater via vores selvbetjente finjusterings-API. Vi tilbyder derfor vores program for brugerdefinerede modeller til alle organisationer, der har behov for at finjustere deres modeller eller lægge ny, domænespecifik viden ind i modellen.

Besøg vores dokumenter om finjusterings-API'en⁠(åbner i et nyt vindue) og kom i gang med at finjustere vores modeller.