OpenAI o3- en o4-mini-systeemkaart

OpenAI o3 en OpenAI o4-mini combineren state-of-the-art redeneren met een goedgevulde toolbox: surfen op het web, Python, beeld- en bestandsanalyse, beeldgeneratie, canvas, automatiseringen, bestanden zoeken en geheugen. Deze modellen blinken uit in het oplossen van complexe wiskundige, programmeer- en wetenschappelijke uitdagingen en zijn sterk in visuele waarneming en analyse. Om hun mogelijkheden te vergroten gebruiken de modellen tools bij hun gedachtegang; ze kunnen bijvoorbeeld afbeeldingen bijsnijden of transformeren, op internet zoeken en Python gebruiken om tijdens hun denkproces gegevens te analyseren.

De modellen uit de OpenAI o-serie worden getraind met grootschalig versterkt leren op basis van gedachtegangen. Deze geavanceerde redeneermogelijkheden bieden nieuwe ingangen om de veiligheid en robuustheid van onze modellen te verbeteren. In het bijzonder kunnen de modellen in context over ons veiligheidsbeleid redeneren wanneer ze reageren op potentieel onveilige prompts. Dat doen ze door deliberatieve afstemming.

Dit is de eerste start, en de eerste systeemkaart die wordt uitgebracht onder versie 2 van ons Preparedness Framework⁠. OpenAI's Safety Advisory Group (SAG) heeft de resultaten van onze paraatheidsevaluaties bekeken en vastgesteld dat OpenAI o3 en o4-mini in geen van onze drie gevolgde categorieën, biologische en chemische capaciteit, cyberveiligheid en AI-zelfverbetering de hoge drempelwaarde bereiken. We beschrijven deze evaluaties hieronder en vertellen wat we recentelijk hebben gedaan om de risico's op deze gebieden te beperken.

Lees het addendum bij de o3- en o4-mini-systeemkaart: Codex hier.

Lees het addendum bij de o3- en o4-mini-systeemkaart: OpenAI o3 Operator hier.