Փոլ Քրիստիանոն միանում է OpenAI Foundation-ի խորհրդին
Փոլ Քրիստիանոն նաև կմիանա հիմնադրամի Անվտանգության և պաշտպանվածության հանձնաժողովին։
Հայտարարում ենք Փոլ Քրիստիանոյին OpenAI Foundation-ի խորհրդի անդամ նշանակելու մասին։ Նա OpenAI Group PBC-ի խորհրդում կլինի ձայնի իրավունք չունեցող դիտորդ։
Փոլը նաև կմիանա հիմնադրամի խորհրդի Անվտանգության և պաշտպանվածության հանձնաժողովին (SSC)՝ աշխատելով դրա նախագահ Զիկո Քոլթերի հետ։ Անվտանգության և պաշտպանվածության հանձնաժողովը վերահսկում է անվտանգության և պաշտպանվածության գործելակերպը OpenAI-ի ողջ համակարգում, այդ թվում՝ OpenAI Group PBC-ում։
Փոլը երկու վարչակազմերում պետական աշխատանքի փորձ է ձեռք բերել՝ աշխատելով ԱՄՆ Առևտրի նախարարության գործակալություն հանդիսացող Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտի (NIST) ԱԲ ստանդարտների և նորարարության կենտրոնում(բացվում է նոր պատուհանում) (CAISI), որտեղ նա զբաղեցնում է ավագ տեխնոլոգիական խորհրդատուի պաշտոնը1։ Այնտեղ նա ավագ տեխնոլոգիական խորհրդատու է1։ CAISI-ում և դրա նախորդ կառույցում՝ ԱՄՆ ԱԲ անվտանգության ինստիտուտում աշխատելու ընթացքում Փոլը զբաղվել է առաջադեմ ԱԲ մոդելների գնահատմամբ, այդ թվում՝ ազգային անվտանգության համար նշանակություն ունեցող կարողությունների, ինչպես նաև հարակից անվտանգության և պաշտպանվածության ռիսկերի նվազեցման մոտեցումներով։
Փոլը նաև Համապատասխանեցման հետազոտությունների կենտրոնի(բացվում է նոր պատուհանում) (ARC) հիմնադիրն է։ Սա շահույթ չհետապնդող հետազոտական կազմակերպություն է, որը կենտրոնացած է առաջադեմ ԱԲ համակարգերը մարդկանց շահերին համապատասխանեցնելու վրա։ 2017-ից 2021 թվականներին Փոլը ղեկավարել է OpenAI-ի համապատասխանեցման հետազոտությունները և հիմնարար ներդրում ունեցել Մարդկային հետադարձ կապից ամրապնդումով ուսուցման (RLHF) ոլորտում։ Այս նոր դերում Փոլը OpenAI-ի կառավարման որոշումներին կբերի առանձնահատուկ և տեխնիկապես հիմնավորված տեսակետ։ Մեր առաքելությունն է ապահովել, որ արհեստական ընդհանուր բանականությունը օգուտ բերի ողջ մարդկությանը։
“Փոլն օգնել է ձևավորել ԱԲ-ի համապատասխանեցման ոլորտը՝ կատարելով խիստ և խորքային աշխատանք, որը կենտրոնացած է գնալով ավելի կարող համակարգերի առաջադրած ամենաբարդ հարցերի վրա։ Կառավարությունում առաջադեմ ԱԲ-ի անվտանգության և ստանդարտների ուղղությամբ նրա աշխատանքային փորձն ու տեխնիկական դատողությունը կամրապնդեն խորհրդի վերահսկողությունը և Անվտանգության և պաշտպանվածության հանձնաժողովի աշխատանքը, մինչ OpenAI-ը շարունակում է զարգացնել և ներդնել առաջադեմ ԱԲ։”
“Վերջին մեկ տարում ԱԲ-ի կարողությունները շատ արագ են զարգացել, իսկ համապատասխանեցումը շարունակում է մնալ բարդ տեխնիկական խնդիր, ինչի պատճառով Անվտանգության և պաշտպանվածության հանձնաժողովի պատասխանատվությունն առավել կարևոր և բարդ է, քան երբևէ։ Ուրախ եմ միանալ թիմին և օգնել։”
ԱԲ-ն թևակոխում է կարողությունների նոր դարաշրջան, ուստի գնալով ավելի կարևոր է, որ այս համակարգերի զարգացումն ուղեկցվի անվտանգության, պաշտպանվածության, համապատասխանեցման և կառավարման ամուր մեխանիզմներով։ ԱԲ-ի համապատասխանեցման ոլորտում իր ամբողջ հետազոտական գործունեության ընթացքում Փոլը լրջորեն է դիտարկել այն հավանականությունը, որ առաջադեմ ԱԲ-ն կարող է աղետալի ռիսկեր ստեղծել, և որ մշակողները պետք է պատրաստվեն նախքան համակարգերը կհասնեն կարողությունների առավել վտանգավոր մակարդակների։ Նա անկախ դիրքորոշում է արտահայտել այն հարցում, թե արդյոք ոլորտի պաշտպանական միջոցները բավարար են։ Մենք կարծում ենք, որ հիմնադրամի կառավարումն ավելի ամուր է, երբ դրանում ներգրավված են մարդիկ, որոնք պատրաստ են վիճարկել գերիշխող ենթադրությունները և օգնել ամրապնդել կարևոր որոշումների հիմքում ընկած ապացույցները, պաշտպանական միջոցներն ու հաշվետվողականությունը։
Փոլի նշանակումը հիմնվում է 2025 թվականի հոկտեմբերին OpenAI-ի վերակապիտալացման միջոցով հաստատված կառավարման կառուցվածքի վրա՝ ներառյալ Կալիֆոռնիայի գլխավոր դատախազի(բացվում է նոր պատուհանում) և Դելավերի գլխավոր դատախազի(բացվում է նոր պատուհանում)՝ մեկ տարվա ընթացքում անցկացրած ուսումնասիրությունների առնչությամբ ստանձնած պարտավորությունները։ Նրանց ներգրավվածությունն օգնեց ամրապնդել կառավարման համակարգը։
OpenAI Foundation-ի մասին
OpenAI Foundation-ը բարեգործական կազմակերպություն է, որի նպատակն է ապահովել, որ ԱԲ-ն օգուտ բերի ողջ մարդկությանը։ Որպես առանձին շահույթ չհետապնդող կազմակերպություն՝ հիմնադրամն իրականացնում է սեփական բարեգործական գործունեությունը՝ միաժամանակ վերահսկելով OpenAI Group PBC-ն և դրանում ունենալով զգալի բաժնեմաս։ Հիմնադրամն աջակցում է գիտական հայտնագործությունները խթանող, քաղաքացիական հասարակությունն ամրապնդող և պատասխանատու ԱԲ-ի միջոցով դիմակայունություն ձևավորող նախաձեռնություններին։ Դրամաշնորհների, գործընկերությունների և այլ բարեգործական նախաձեռնությունների միջոցով հիմնադրամն օգնում է արագացնել այն աշխատանքը, որը երկարատև հանրային օգուտ է ստեղծում և ընդլայնում ԱԲ-ի վերափոխիչ ներուժից օգտվելու հնարավորությունը։
Հիմնադրամը վերահսկում է OpenAI Group PBC-ն, իսկ Անվտանգության և պաշտպանվածության հանձնաժողովը հիմնադրամի խորհրդի հանձնաժողով է։ Իմանալ ավելին՝ www.openaifoundation.org(բացվում է նոր պատուհանում)։
