Misija компаније OpenAI је да обезбеди да AGI користи целом човечанству, а да бисмо испунили ту мисију, морамо да допремо до људи тамо где се налазе, широм света.
AI се све више препознаје као кључна национална инфраструктура, упоредива са електричном енергијом. Владе и институције широм света желе да обезбеде да њихови грађани и економије могу да имају користи од ере AI-ја тако што ће имати приступ најспособнијим доступним системима.
Да би AI испунио то обећање, мора да буде и локално релевантан. То значи да говори локалним језицима и локалним акцентима, да поштује локалне законе и да одражава културне норме и вредности.
Међутим, само мали број земаља је у позицији да сам развија граничне AI моделе. За већину изазов није како изградити модел од нуле, већ како прилагодити најбољи доступни AI да функционише у њиховом конкретном контексту. То је нешто што доследно слушамо од влада широм света: желе суверени AI који могу да граде са нама, а не само системе преведене на њихов језик.
Кроз нашу иницијативу OpenAI for Countries, истражујемо како би локализација могла да функционише у пракси. Циљ је да се омогуће локализовани AI системи, уз задржавање користи глобалног модела на граничном нивоу.
Тренутно пилотирамо локализовану верзију ChatGPT‑а за ученике у Естонији као део нашег рада на ChatGPT Edu, укључујући локалне наставне планове и педагошке приступе. Такође истражујемо пилот-пројекте локализације и са другим земљама. Као део наше посвећености транспарентности у томе како се AI истражује и примењује, делимо више детаља о томе како локализација функционише.
Наш Model Spec је јавни документ који утврђује како намеравамо да се наши модели понашају. Обучавамо наше моделе да прате ове спецификације модела и непрекидно их унапређујемо кроз сараднички процес који обухвата цео OpenAI и укључује оно што наши тимови чују од људи широм света. Спецификације модела односе се на читав спектар начина на које се наши модели користе, од ChatGPT‑а, преко искустава која програмери граде на нашој платформи, до других контекста. Ова правила, која важе свуда где су наши модели примењени, дефинишу јасне границе о томе шта може, а шта не може да се мења, као и нашу посвећеност транспарентности у погледу промена.
Model Spec укључује „принципе црвених линија(отвара се у новом прозору)” који важе за све примене, укључујући и оне у оквиру програма OpenAI for Countries. У њима наглашавамо да су „људска безбедност и људска права од највећег значаја за мисију OpenAI-ја” и јасно стављамо до знања да:
- Нећемо дозволити да наши модели омогућавају тешке штете као што су акти насиља, оружје за масовно уништење, тероризам, прогон или масовни надзор.
- Нећемо дозволити да се наши модели користе за циљано или масовно искључивање, манипулацију, подривање људске аутономије или урушавање учешћа у грађанским процесима.
- Посвећени смо заштити приватности појединаца у њиховим интеракцијама са AI-јем.
Када OpenAI пружа искуство прве стране директно потрошачима, као што је ChatGPT, такође се обавезујемо да ће кроз њега:
- Људи имати лак приступ поузданим, безбедносно критичним информацијама из наших модела.
- Прилагођавање, персонализација и локализација неће надјачати обавезујућа правила у целим спецификацијама модела. То укључује принцип објективног становишта(отвара се у новом прозору), што значи да локализација може утицати на језик или тон, али не може да промени суштину или равнотежу представљених чињеница.
- Људи треба да имају транспарентност у вези са важним правилима и разлозима који стоје иза понашања наших модела; на пример, сваки садржај изостављен због законских захтева биће транспарентно назначен кориснику у сваком одговору модела, уз навођење врсте уклоњених информација и разлога за њихово уклањање, без откривања самог редигованог садржаја. Слично томе, и све додате информације биће транспарентно означене.
Док истражујемо локализовани, суверени AI кроз OpenAI for Countries, посвећени смо томе да наставимо да делимо више о ономе што учимо и да транспарентно развијамо свој приступ.
