OpenAIs oppdrag er å sikre at AGI kommer hele menneskeheten til gode. For å oppfylle dette oppdraget må vi møte folk der de er, over hele verden.
KI blir i økende grad anerkjent som kritisk nasjonal infrastruktur, på linje med elektrisitet. Regjeringer og institusjoner over hele verden ønsker å sikre at innbyggerne og økonomiene deres kan dra nytte av KI-æraen ved å ha tilgang til de mest kapable systemene som er tilgjengelige.
For at KI skal kunne oppfylle dette løftet, må det også være lokalt relevant. Det betyr å snakke på lokale språk og med lokale aksenter, respektere lokale lover og gjenspeile kulturelle normer og verdier.
Bare et lite antall land er imidlertid i stand til å utvikle banebrytende KI-modeller selv. For de fleste er utfordringen ikke hvordan man bygger en modell fra bunnen av, men hvordan man tilpasser den beste tilgjengelige KI-en slik at den fungerer i deres spesifikke kontekst. Dette er noe vi konsekvent hører fra myndigheter over hele verden: de ønsker nasjonal KI de kan bygge sammen med oss, ikke bare systemer oversatt til språket deres.
Gjennom vårt OpenAI for Countries-initiativ har vi utforsket hvordan lokalisering kan fungere i praksis. Målet er å muliggjøre lokaliserte KI-systemer, samtidig som man fortsatt drar nytte av en global, banebrytende modell.
Vi tester for tiden en lokalisert versjon av ChatGPT for studenter i Estland som en del av vårt ChatGPT Edu-arbeid, hvor vi innlemmer lokale læreplaner og pedagogiske tilnærminger. Vi utforsker også pilotlokaliseringsinnsatser med andre land. Som en del av vår forpliktelse til åpenhet om hvordan KI forskes på og brukes, deler vi flere detaljer om hvordan lokalisering fungerer.
Vår modellspesifikasjon er et offentlig dokument som beskriver hvordan vi har til hensikt at modellene våre skal oppføre seg. Vi trener modellene våre til å følge spesifikasjonen, og finjusterer den kontinuerlig gjennom en samarbeidsprosess i hele OpenAI som inkluderer det teamene våre hører fra folk over hele verden. Spesifikasjonen beskriver hele spekteret av måter modellene våre brukes på, fra ChatGPT til opplevelser som utviklere bygger på plattformen vår, til andre sammenhenger. Disse reglene, som gjelder overalt der modellene våre er tatt i bruk, definerer klare grenser for hva som kan og ikke kan endres, og vår forpliktelse til å være transparente om endringer.
Modellspesifikasjonen inkluderer «red-line-prinsipper(åpnes i et nytt vindu)» som gjelder for alle utrullinger, inkludert de under OpenAI for Countries-programmet. Der understreker vi at «menneskelig sikkerhet og menneskerettigheter er avgjørende for OpenAIs oppdrag», og gjør det klart at:
- Vi vil ikke tillate at modellene våre muliggjør alvorlig skade, som voldshandlinger, masseødeleggelsesvåpen, terrorisme, forfølgelse eller masseovervåking.
- Vi vil ikke tillate at modellene våre brukes til målrettet eller skalert ekskludering, manipulasjon, undergraving av menneskelig autonomi eller svekkelse av deltakelse i sivile prosesser.
- Vi er forpliktet til å beskytte personvernet til enkeltpersoner i deres interaksjoner med KI.
Når OpenAI tilbyr en førstepartsopplevelse direkte til forbrukere som ChatGPT, forplikter vi oss også til at gjennom den:
- skal folk ha enkel tilgang til pålitelig sikkerhetskritisk informasjon fra modellene våre,
- skal ikke tilpasning, personalisering og lokalisering overstyre de bindende reglene i hele modellspesifikasjonene. Dette inkluderer prinsippet om objektivt synspunkt(åpnes i et nytt vindu), som betyr at lokalisering kan påvirke språk eller tone, men den kan ikke endre substansen eller balansen i de presenterte faktaene.
- Folk bør ha innsyn i de viktige reglene og årsakene bak modellenes atferd, f.eks., alt innhold som utelates på grunn av juridiske krav vil bli tydelig indikert for brukeren i hvert modellsvar, med angivelse av typen informasjon som er fjernet og begrunnelsen for fjerningen, uten å avsløre det redigerte innholdet i seg selv. På samme måte vil all informasjon som legges til, også bli identifisert på en gjennomsiktig måte.
Når vi utforsker lokalisert, suveren KI gjennom OpenAI for Countries, er vi forpliktet til å fortsette å dele mer om det vi lærer, og til å videreutvikle tilnærmingen vår på en gjennomsiktig måte.
