NTIA AI જવાબદારી નીતિ પર ટિપ્પણી

OpenAIને National Telecommunications and Information Administration (NTIA)ની 13 એપ્રિલ, 2023ની AI Accountability Policy પર ટિપ્પણીઓ માટેની વિનંતી (RFC)નો જવાબ આપતા આનંદ થાય છે.

આ ટિપ્પણીમાં, અમે આજકાલ પ્રદાન કરતી સેવાઓ પર લાગુ કરતા સુરક્ષા અભ્યાસો અને ભવિષ્યમાં પ્રદાન કરવાની અપેક્ષા રાખતી સેવાઓ પર લાગુ કરવાની યોજના ધરાવતા અભ્યાસોના આધાર પર AI જવાબદારી વિશેની અમારી વિચારસરણી વર્ણવીએ છીએ. NTIAએ આ ચર્ચાને AI જવાબદારીના “ઇકોસિસ્ટમ”ના પરિપ્રેક્ષ્યમાં રજૂ કરવાનો નિર્ણય કર્યો છે, તેનું અમે સ્વાગત કરીએ છીએ. RFC પ્રમાણે, નીતિ હિતધારકો “વિશ્વાસપાત્ર AI સિસ્ટમ લક્ષ્યો અને તૈનાતી સંદર્ભોની વ્યાપક શ્રેણી”નું અન્વેષણ કરી રહ્યા છે.¹ જવાબદારી હાંસલ કરવા માટે રચાયેલી નીતિઓ અને પ્રથાઓ તદનુસાર બદલાશે. તે જ સમયે, નિર્દિષ્ટ જવાબદારી ઉપાયો એકબીજાની સાથે સહઅસ્તિત્વમાં રહેવા સક્ષમ હોવા જોઈએ, અને સૌથી મહત્વનું એ છે કે તેઓ સાથે મળીને કેવો પ્રભાવ પેદા કરે છે.

અમને લાગે છે કે AI જવાબદારી માટેનું પરિપક્વ ઇકોસિસ્ટમ આડાં અને ઊભાં બંને પ્રકારના તત્વોને સમાવેશ કરશે. એટલે કે, અમને એવી પણ અપેક્ષા છે કે કેટલાક તત્વો વિવિધ એપ્લિકેશન ક્ષેત્રોમાં અમુક AI સિસ્ટમ્સ પર લાગુ પડશે, તેમજ કેટલાક તત્વો નિશ્ચિત ક્ષેત્રો માટે ખાસ અનુકૂળ બનાવવામાં આવશે. અમે અત્યંત સક્ષમ ફાઉન્ડેશન મોડલોના વિકાસ અને તૈનાતીમાં જોડાયેલા છીએ—એવા મોડલ, જે મોટી માત્રામાં ડેટાથી શીખે છે જેથી તેઓ વ્યાપક શ્રેણીના downstream કાર્યો કરી શકે. અમારા મત મુજબ, અમારાં જેવા AI ડેવલપરોને જવાબદારીપૂર્વક કાર્ય કરવું જોઈએ અને સૌથી અદ્યાધુનિક ક્ષમતાઓના વિકાસ તથા તૈનાતી માટે સાવચેત અને સુરક્ષા-કેન્દ્રિત અભિગમ અપનાવવો જોઈએ. આવા મોડલ કયા વિશિષ્ટ ક્ષેત્રોમાં વપરાઈ શકે છે તેની પરવા કર્યા વિના આ વાત સાચી છે.

હાલમાં અસ્તિત્વમાં રહેલા અનેક કાયદા પહેલેથી જ AI પર લાગુ પડે છે—અમારા ઉત્પાદનો પર પણ—અને કાનૂની પરિસ્થિતિ ઝડપથી વિકસતી જાય છે, જેમાં કોંગ્રેસમાં ધારાસભાકીય પહેલો, યુરોપમાં વિકાસ હેઠળનો AI Act, અને વિશ્વભરમાં આગળ વધી રહેલી ધારાસભાકીય તથા નીતિ પહેલોનો સમાવેશ થાય છે. તે જ સમયે, દવા, શિક્ષણ અને રોજગાર જેવા ક્ષેત્રોમાં લાંબા સમયથી સ્થાપિત કાયદા, નિયમન અને અન્ય અપેક્ષાઓનું અર્થઘટન અને અનુકૂલન પહેલેથી જ એવા રીતે થઈ રહ્યું છે જે આ ક્ષેત્રોમાં AIની ભૂમિકાને આકાર આપશે. ઊંડા ક્ષેત્ર-વિશેષ જ્ઞાનથી માહિતગાર આ ક્ષેત્ર-વિશિષ્ટ પ્રયત્નોને અમે AI જવાબદારીના પરિદૃશ્યનો એક અત્યંત મહત્વપૂર્ણ ભાગ માનીએ છીએ.

અમે AI માટે ઉભરતી જવાબદારી અપેક્ષાઓને સુસંગત બનાવવાના પ્રયત્નોને મજબૂત સમર્થન આપીએ છીએ, જેમાં NIST AI Risk Management Framework, U.S.-E.U. Trade and Technology Council અને અન્ય વૈશ્વિક પહેલોની શ્રેણીના પ્રયત્નોનો સમાવેશ થાય છે. આ પ્રયત્નો આગળ વધતા રહે છે અને નવા કાયદાઓ સંપૂર્ણપણે અમલમાં આવે તે પહેલાં પણ, પૂર્વ-તૈનાતી પરીક્ષણ, કન્ટેન્ટ provenance, અને trust and safety જેવા મુદ્દાઓ પર સ્વૈચ્છિક પ્રતિબદ્ધતાઓ કરવાની ભૂમિકા અમારે અને અન્ય કંપનીઓ માટે છે એમ અમે માનીએ છીએ.

અમારો વર્તમાન એન્જિનિયરિંગ અભિગમ ગણતરીય સંસાધનોના અનન્ય સ્તરની માંગ કરે છે, અને અમે તેને અમારાં જેવા પક્ષકારો પર લાગુ પડે તેવી વધારાની અને વિશિષ્ટ જવાબદારી અપેક્ષાઓ નિર્ધારિત કરવા માટે આશાસ્પદ આધાર માનીએ છીએ. અમે અત્યંત સક્ષમ ફાઉન્ડેશન મોડલ્સ માટેના કોઈપણ નવા નિયમનને સાવચેતીપૂર્વક વ્યાપ નિર્ધારિત કરવાનું સમર્થન કરીએ છીએ, જેથી બધા પક્ષકારોની ન્યાયસંગત રીતે સ્પર્ધા કરવાની અને નવીનતા લાવવાની ક્ષમતા જળવાઈ રહે.

જવાબદારી ટેકનોલોજી જીવનચક્ર દરમિયાન સર્વત્ર ભૂમિકા ભજવે છે. અમારા મોડલોને સુરક્ષિત અને વિશ્વસનીય બનાવવાના અમારા પ્રયત્નો વિકાસ શરૂ થાય તે પહેલાં જ શરૂ થાય છે, અમારા મોડલોની તૈનાતી અને કામગીરી દરમ્યાન ચાલુ રહે છે, અને અત્યંત સક્ષમ ફાઉન્ડેશન મોડલોના સર્જકો તથા વપરાશકર્તાઓ બંનેને આવરી લે છે. અમે ડેવલપરોને તેમની એપ્લિકેશન્સ માટે વિશ્વ-અગ્રણી ક્ષમતાઓ પ્રદાન કરીએ છીએ, અને ChatGPT તથા અમારી અન્ય સેવાઓનો દરરોજ ઉપયોગ કરતા લાખો લોકોને સીધી શક્તિશાળી ક્ષમતાઓ આપીએ છીએ. અમારી ઉપયોગ નીતિઓ અમારા મોડલ, સાધનો અને સેવાઓના તમામ વપરાશકર્તાઓ પર લાગુ પડે છે.² અમે અસ્તિત્વમાં રહેલા કાયદાઓનું પાલન કરીએ છીએ અને અમારા ડેવલપરો અને વપરાશકર્તાઓને અમારી સેવાઓનો ઉપયોગ કરતી વખતે તેનું પાલન કરવાની આવશ્યકતા રાખીએ છીએ.

આ ટિપ્પણીના બાકીના ભાગમાં અમે AI જવાબદારી માટેના અમારા વર્તમાન અભિગમો પર ધ્યાન કેન્દ્રિત કરીએ છીએ અને એવા મહત્વપૂર્ણ ક્ષેત્રો વર્ણવીએ છીએ જ્યાં અમે અને અન્ય લોકો ઇકોસિસ્ટમને મજબૂત બનાવવા માટે કામ કરી રહ્યા છીએ. અમે નોંધીએ છીએ કે યુનાઇટેડ સ્ટેટ્સ અને વિશ્વભરના નીતિનિર્માતાઓ AI જવાબદારી હાંસલ કરવા માટે રચાયેલી નીતિઓ અને ઉપાયોની વ્યાપક શ્રેણી પર વિચારણા કરી રહ્યા છે, જેમાં કાયદાકીય પગલાં, નિયમનો, આંતરરાષ્ટ્રીય કરારો, સ્વ-નિયામક કાર્યક્રમો અને અમલપાત્ર ટેકનિકલ તથા અન્ય ધોરણોનો સમાવેશ થાય છે. અમે આ પ્રયત્નોની પ્રશંસા કરીએ છીએ અને AI જવાબદારી માટે અસરકારક અભિગમો વિકસાવવા અને અમલમાં મૂકવા માટે અન્ય હિતધારકો સાથે ભાગીદારી કરવા તૈયાર છીએ.

વિસ્તૃત જાહેર ચર્ચા જેમ જેમ વિકસે છે તેમ તેમ અમે અમારી પ્રથાઓને વધુ સુક્ષ્મ બનાવી રહ્યા છીએ. અહીં અમે અમારા અભિગમના કેટલાક પાસાઓ વિશે વિગતો આપીએ છીએ.

જવાબદાર AI સિસ્ટમ્સ બનાવવામાં પારદર્શિતા એક મહત્વપૂર્ણ તત્વ છે. જવાબદારી માટેના અમારા અભિગમનો એક મુખ્ય ભાગ એ છે કે અમે હાલમાં સિસ્ટમ કાર્ડ કહેવાતો દસ્તાવેજ પ્રકાશિત કરીએ છીએ, જે અમે તૈનાત કરતાં નવી AI સિસ્ટમ્સ માટે છે. અમારો અભિગમ મોડલ કાર્ડ અને સિસ્ટમ કાર્ડ પર થયેલા અગાઉના સંશોધન કાર્યમાંથી પ્રેરણા લે છે.³ આજદિન સુધી, OpenAIએ બે સિસ્ટમ કાર્ડ પ્રકાશિત કર્યા છે: GPT‑4 સિસ્ટમ કાર્ડ અને DALL-E 2 સિસ્ટમ કાર્ડ.⁴

અમારો વિશ્વાસ છે કે મોટાભાગના કેસોમાં, આ દસ્તાવેજો માટે સિસ્ટમની અસરનું વિશ્લેષણ અને વર્ણન કરવું મહત્વપૂર્ણ છે, માત્ર મોડલ પર ધ્યાન કેન્દ્રિત કરવા કરતાં, કારણ કે સિસ્ટમની અસર મોડલ સિવાયના પરિબળો પર પણ આધાર રાખે છે, જેમાં ઉપયોગ કેસ, સંદર્ભ અને વાસ્તવિક દુનિયાની પરસ્પર ક્રિયાઓનો સમાવેશ થાય છે. એ જ રીતે, AI સિસ્ટમની અસર ઉપયોગ નીતિઓ, ઍક્સેસ નિયંત્રણો અને દુરુપયોગ માટેની દેખરેખ જેવા જોખમ ઉપશમો પર પણ આધાર રાખે છે. અમને લાગે છે કે બાહ્ય હિતધારકો માટે આ વિષયો વિશે માહિતીની અપેક્ષા રાખવી અને અમારા અભિગમને સમજવાની તક હોવી યોગ્ય છે.

અમારા સિસ્ટમ કાર્ડ્સનો હેતુ વાચકોને સિસ્ટમના વર્તનને અસર કરતા મુખ્ય પરિબળો વિશે માહિતગાર કરવાનો છે, ખાસ કરીને જવાબદાર ઉપયોગ માટે સંબંધિત ક્ષેત્રોમાં. અમને જાણવા મળ્યું છે કે સિસ્ટમ કાર્ડ્સ અને સમાન દસ્તાવેજોની કિંમત ફક્ત તેઓ પ્રદાન કરતા મોડલ પ્રદર્શન મુદ્દાઓના સમીક્ષાત્મક અવલોકનથી જ નથી આવતી, પરંતુ તેઓ આપતા દૃષ્ટાંતાત્મક ઉદાહરણોથી પણ આવે છે. આવા ઉદાહરણો વપરાશકર્તાઓ અને ડેવલપરોને વર્ણવાયેલ સિસ્ટમના પ્રદર્શન અને જોખમો વિશે, તેમજ તે જોખમોને ઘટાડવા માટે અમે લેતા પગલાં વિશે વધુ આધારભૂત સમજ આપી શકે છે. આ દસ્તાવેજોની તૈયારી અમારી આંતરિક પ્રથાઓને આકાર આપવા પણ મદદ કરે છે અને AI માટે જવાબદાર અભિગમોને વ્યવહારમાં લાવવા માટે માર્ગો શોધી રહેલા અન્ય લોકો માટે આ પ્રથાઓને દર્શાવે છે.

રેડ ટીમિંગ એ અમારા મોડલ અને સિસ્ટમ્સનું વિવિધ ક્ષેત્રોમાં ગુણાત્મક પરીક્ષણ કરવાની પ્રક્રિયા છે, જેથી અમારા મોડલની સુરક્ષા પ્રોફાઇલ વિશે વધુ સર્વાંગી દૃષ્ટિ બનાવી શકાય. અમે મોડલ વિકાસના ભાગરૂપે અમારા પોતાના સ્ટાફ સાથે આંતરિક રીતે રેડ ટીમિંગ કરીએ છીએ, તેમજ પરીક્ષણ હેઠળની સિસ્ટમ બનાવતી ટીમથી સ્વતંત્ર રીતે કાર્ય કરતા લોકો સાથે પણ કરીએ છીએ. અમારી સંસ્થાની ક્ષમતાઓ અને હુમલાઓ સામેની સ્થિતિસ્થાપકતા તપાસવા ઉપરાંત, રેડ ટીમો સ્ટ્રેસ ટેસ્ટિંગ અને બાઉન્ડરી ટેસ્ટિંગ પદ્ધતિઓનો પણ ઉપયોગ કરે છે, જે હાનિ પહોંચાડવાની શક્યતા ધરાવતા એજ કેસ અને અન્ય સંભવિત નિષ્ફળતા પ્રકારોને બહાર લાવવા પર ધ્યાન આપે છે.

રેડ ટીમિંગ મોડલ ક્ષમતાઓ અને જોખમોના સ્વચાલિત, પરિમાણાત્મક મૂલ્યાંકનોને પૂરક છે, જે અમે પણ કરીએ છીએ અને જેના વિશે અમે આગામી વિભાગમાં વર્ણન કરીએ છીએ. તે એવા જોખમો પર પ્રકાશ પાડી શકે છે જે હજી સુધી પરિમાણાત્મક નથી, અથવા એવા જોખમો માટે કે જેમના માટે વધુ માનકીકૃત મૂલ્યાંકન હજી વિકસાવવામાં આવ્યા નથી. રેડ ટીમિંગ પર અમારું અગાઉનું કામ DALL-E 2 સિસ્ટમ કાર્ડ અને GPT‑4 સિસ્ટમ કાર્ડમાં વર્ણવેલું છે.

અમારું રેડ ટીમિંગ અને પરીક્ષણ સામાન્ય રીતે નવા મોડલ અથવા સિસ્ટમના વિકાસ તબક્કા દરમિયાન કરવામાં આવે છે. અમારા પોતાના આંતરિક પરીક્ષણથી અલગ રીતે, અમે OpenAIની બહારના ટેસ્ટરોની ભરતી કરીએ છીએ અને વિકાસ હેઠળની સિસ્ટમનો પ્રારંભિક ઍક્સેસ આપીએ છીએ. ટેસ્ટરોને OpenAI દ્વારા રસના ક્ષેત્રોમાં તેમના અગાઉના કામના આધારે પસંદ કરવામાં આવે છે (સંશોધન અથવા પ્રાયોગિક નિપુણતા), અને તેઓ સામાન્ય રીતે શૈક્ષણિક સંશોધકો અને ઉદ્યોગ વ્યાવસાયિકોના સંયોજન રહ્યા છે (ઉદાહરણ તરીકે, Trust & Safety ક્ષેત્રોમાં કાર્યઅનુભવ ધરાવતા લોકો). અમે આ પરીક્ષણોના પરિણામોનું મૂલ્યાંકન અને માન્યકરણ કરીએ છીએ, અને યોગ્ય હોય ત્યાં સમાયોજનો અને ઉપશમો લાગુ કરવા માટે પગલાં લઈએ છીએ.

OpenAI ચાલુ અને ભાવિ મૂલ્યાંકનો માટે બાહ્ય ટેસ્ટરોની ગુણવત્તા, વૈવિધ્યતા અને અનુભવ સુધારવા માટે પગલાં લેવાનું ચાલુ રાખે છે.

ઉપર વર્ણવાયેલા ગુણાત્મક રેડ ટીમિંગ ઉપરાંત, અમે વિવિધ ક્ષમતાઓ અને સુરક્ષા-કેન્દ્રિત જોખમો માટે સ્વચાલિત, પરિમાણાત્મક મૂલ્યાંકનો બનાવીએ છીએ, જેમાં રેડ ટીમિંગ જેવી પદ્ધતિઓ દ્વારા મળતા જોખમોનો પણ સમાવેશ થાય છે. આ મૂલ્યાંકનો અમને અમારા મોડલના જુદા જુદા સંસ્કરણોની એકબીજાની સાથે તુલના કરવા, સુરક્ષા સુધારતી સંશોધન પદ્ધતિઓ પર પુનરાવર્તન કરવા, અને અંતે કયા મોડલ સંસ્કરણોને તૈનાત કરવા પસંદ કરીએ તેના નિર્ણયમાં ઇનપુટ તરીકે કામ કરવા દે છે. હાલના મૂલ્યાંકનોમાં ઇરોટિક સામગ્રી, દ્વેષપૂર્ણ સામગ્રી અને self-harm સંબંધિત સામગ્રી જેવા વિષયો આવરી લેવામાં આવ્યા છે અને મોડલો આવી સામગ્રી ઉત્પન્ન કરવાની કેટલી વૃત્તિ ધરાવે છે તે માપવામાં આવે છે.

OpenAI અમારી ઉપયોગ નીતિઓમાં દર્શાવ્યા મુજબ, અમુક પ્રવૃત્તિઓ અને સામગ્રી માટે અમારા મોડલ અને સાધનોના ઉપયોગને મંજૂરી આપતું નથી.⁵ આ નીતિઓ અમારા મોડલ અને સાધનોનો ઉપયોગ એવી રીતે થતો રોકવા માટે રચાયેલ છે જે વ્યક્તિગત અથવા સામાજિક હાનિ પહોંચાડે. અમે નવા જોખમો અને અમારા મોડલ કેવી રીતે ઉપયોગમાં લેવાઈ રહ્યા છે તેની અપડેટ થયેલી માહિતીના પ્રતિસાદરૂપે આ નીતિઓને અપડેટ કરીએ છીએ. અમારા મોડલનો ઍક્સેસ અને ઉપયોગ OpenAIના ટર્મ્સ ઓફ યુઝને પણ આધીન છે, જે અન્ય બાબતોની સાથે, લોકોના હકોને નુકસાન પહોંચાડવા માટે અમારી સેવાઓનો ઉપયોગ કરવા પર પ્રતિબંધ મૂકે છે, તેમજ અમારી સેવાઓમાંથી મળતા આઉટપુટને માનવ-સર્જિત હોવાનું રજૂ કરવા પર પ્રતિબંધ મૂકે છે જ્યારે તે એવું ન હોય.⁶

અમારા મોડલોનો હાનિકારક પ્રવૃત્તિઓ માટેનો ઉપયોગ મર્યાદિત કરવા માટે, અમે મોડલોને એવી અમુક પ્રકારની વિનંતીઓનો જવાબ આપવાનો ઇનકાર કરવાનું શીખવીએ છીએ જે સંભવિત રીતે હાનિકારક પ્રતિસાદ તરફ દોરી શકે. ઉપરાંત, અમે અમારા મોડલના દુરુપયોગને ઓળખવા અને તેના સામે કાર્યવાહી કરવા માટે સમીક્ષકો અને સ્વચાલિત સિસ્ટમ્સના મિશ્રણનો ઉપયોગ કરીએ છીએ. અમારી સ્વચાલિત સિસ્ટમ્સમાં મશીન લર્નિંગ અને નિયમ-આધારિત ક્લાસિફાયર ડિટેક્શન્સનો સમૂહ શામેલ છે, જે એવી સામગ્રી ઓળખવા માટે રચાયેલ છે જે અમારી નીતિઓનું ઉલ્લંઘન કરતી હોઈ શકે. જ્યારે કોઈ વપરાશકર્તા વારંવાર અમારી મોડલોને નીતિ-ઉલ્લંઘન કરતી સામગ્રી સાથે પ્રોમ્પ્ટ કરે છે, ત્યારે અમે ચેતવણી આપવી, વપરાશકર્તાને તાત્કાલિક સસ્પેન્ડ કરવો, અથવા ગંભીર કેસોમાં વપરાશકર્તા પર પ્રતિબંધ મૂકવો જેવી કાર્યવાહી કરીએ છીએ.

RFCમાં ચર્ચા કરાયા મુજબ, AI જવાબદારી સંબંધિત અનેક મહત્વપૂર્ણ પ્રશ્નો હજી સુધી ઉકેલાયેલા નથી. અનુસરતા વિભાગોમાં, અમે આમાંથી કેટલાક પ્રશ્નો પર વધારાનો દૃષ્ટિકોણ પ્રદાન કરીએ છીએ.

અત્યંત સક્ષમ ફાઉન્ડેશન મોડલોમાં લાભદાયક ક્ષમતાઓ પણ હોય છે અને હાનિ પહોંચાડવાની સંભાવના પણ હોય છે. જેમ જેમ આ મોડલોની ક્ષમતાઓ વધુ અદ્યતન બને છે, તેમ તેમ તેઓ ઊભા કરી શકે એવા જોખમોની વ્યાપકતા અને ગંભીરતા પણ વધે છે, ખાસ કરીને જો તે દુર્ભાવનાપૂર્ણ પક્ષકારના દિશાનિર્દેશ હેઠળ હોય અથવા મોડલ માનવીય મૂલ્યો સાથે યોગ્ય રીતે સુસંગત ન હોય.

સંભવિત જોખમી ક્ષમતાઓમાં થયેલી પ્રગતિને કડક રીતે માપવું જોખમનું અસરકારક મૂલ્યાંકન અને સંચાલન કરવા માટે આવશ્યક છે. અમે આ દિશામાં સરળ, સ્કેલ કરી શકાય એવા અને સ્વચાલિત સાધનોથી લઈને માનવી નિષ્ણાતો દ્વારા કરવામાં આવતા વિશિષ્ટ, ગહન મૂલ્યાંકનો સુધી, સંભવિત જોખમી ક્ષમતાઓ માટેના મૂલ્યાંકનોનું અન્વેષણ અને નિર્માણ કરીને કામ કરી રહ્યા છીએ. અમે શૈક્ષણિક અને ઉદ્યોગ નિષ્ણાતો સાથે સહકાર કરી રહ્યા છીએ અને અંતે એવા વિવિધ મૂલ્યાંકનોના સેટના વિકાસમાં યોગદાન આપવાનું લક્ષ્ય રાખીએ છીએ, જે અત્યંત સક્ષમ ફાઉન્ડેશન મોડલોમાં ઉભરતા જોખમોના મૂલ્યાંકન માટે શ્રેષ્ઠ પ્રથાઓ રચવામાં સહાય કરી શકે. અમને લાગે છે કે જોખમી ક્ષમતા મૂલ્યાંકનો અદ્યાધુનિક AI વિકાસમાં જવાબદારી અને ગવર્નન્સ માટે વધતી જતી મહત્વપૂર્ણ આધારશિલા છે.

મોડલ અને સિસ્ટમ્સના સ્વતંત્ર મૂલ્યાંકન, જેમાં તૃતીય પક્ષો દ્વારા થનાર મૂલ્યાંકનનો પણ સમાવેશ થાય છે, મોડલની ક્ષમતાઓ સતત વધતી જાય તેમ વધુને વધુ મૂલ્યવાન બની શકે છે. આવા મૂલ્યાંકનો AI સિસ્ટમ્સના વર્તન અને જોખમો વિશે જવાબદારી અને પારદર્શિતા મજબૂત કરી શકે છે.

મૂલ્યાંકનના કેટલાક પ્રકારો એક જ સંસ્થા અંદર થઈ શકે છે, જેમ કે જ્યારે કોઈ ટીમ પોતાનું કામ મૂલવે છે અથવા જ્યારે સંસ્થાની કોઈ ટીમ અથવા ભાગ મોડલ બનાવે છે અને બીજી ટીમ અથવા ભાગ, સ્વતંત્ર રીતે કાર્ય કરીને, તે મોડલનું પરીક્ષણ કરે છે. એક જુદો અભિગમ એ છે કે બાહ્ય તૃતીય પક્ષ મૂલ્યાંકન કરે. ઉપર વર્ણવ્યા મુજબ, અમે હાલમાં અમારા મોડલના આંતરિક અને બાહ્ય મૂલ્યાંકનોના મિશ્રણ પર નિર્ભર છીએ.

તૃતીય-પક્ષ મૂલ્યાંકન નિશ્ચિત તૈનાતીઓ, સમયના કોઈ ચોક્કસ બિંદુએ મોડલ અથવા સિસ્ટમ, સંસ્થાકીય ગવર્નન્સ અને જોખમ વ્યવસ્થાપન અભ્યાસો, મોડલ અથવા સિસ્ટમના નિશ્ચિત ઉપયોગો, અથવા એના કેટલાક સંયોજન પર કેન્દ્રિત હોઈ શકે છે. આવા મૂલ્યાંકનોમાં ઉપયોગમાં લેવાય તેવી વિચારસરણી અને સંભવિત ફ્રેમવર્ક્સ ઝડપથી વિકસતા રહે છે, અને અમે મૂલ્યાંકન માટેના અમારા પોતાના અભિગમની દેખરેખ અને વિચારણા કરી રહ્યા છીએ.

કોઈપણ તૃતીય-પક્ષ મૂલ્યાંકન માટે, યોગ્ય નિપુણતા અને પ્રોત્સાહન માળખા ધરાવતા ઑડિટરો/મૂલ્યાંકકોની પસંદગી કરવાની પ્રક્રિયાને વધુ સ્પષ્ટતાથી લાભ થશે. ઉપરાંત, સંસ્થાઓ અથવા મોડલનું મૂલ્યાંકન કરવા માટે કઈ અપેક્ષાઓ સામે મૂલ્યાંકન કરવું તે પસંદ કરવું અન્વેષણનું ખુલ્લું ક્ષેત્ર છે, જેને વિવિધ હિતધારકોના ઇનપુટની જરૂર પડશે. અંતે, મૂલ્યાંકનો માટે એ પણ ધ્યાનમાં લેવું મહત્વપૂર્ણ રહેશે કે સિસ્ટમ્સ સમય સાથે કેવી રીતે વિકસી શકે છે અને તે બાબતને મૂલ્યાંકન/ઑડિટની પ્રક્રિયામાં સમાવવા જોઈએ.

અમે ભવિષ્યની પેઢીના સૌથી અત્યંત સક્ષમ ફાઉન્ડેશન મોડલ્સ માટે નોંધણી અને લાઇસન્સિંગ આવશ્યકતાઓના વિકાસને સમર્થન આપીએ છીએ. આવા મોડલોમાં જાહેર સુરક્ષા માટે મહત્ત્વપૂર્ણ જોખમ ઊભું કરવા જેટલી જોખમી ક્ષમતાઓ હોઈ શકે છે. જો એવું હોય, તો અમને લાગે છે કે તેઓ સમકક્ષ જવાબદારી આવશ્યકતાઓને આધીન હોવા જોઈએ.

અત્યંત સક્ષમ ફાઉન્ડેશન મોડલ્સ ઉત્પન્ન કરવાની અપેક્ષા ધરાવતી તાલીમ પ્રક્રિયાઓ માટે ખુલાસા અને નોંધણી અપેક્ષાઓ પર વિચાર કરવો યોગ્ય હોઈ શકે છે. આવા ખુલાસાથી નીતિનિર્માતાઓને અસરકારક નિયમનકારી ઉકેલો રચવા માટે જરૂરી દૃશ્યતા મળી શકે અને AI પ્રગતિની અદ્યાધુનિક સરહદ પરના રુઝાનો કરતાં આગળ રહી શકાય. આવા કોઈપણ શાસનો ખુલાસા કરાયેલી માહિતીની સુરક્ષાને પ્રાથમિકતા આપે તે અત્યંત મહત્વપૂર્ણ છે.

AI ડેવલપરોને અત્યંત સક્ષમ ફાઉન્ડેશન મોડલ્સ બનાવવા માટે લાઇસન્સ લેવું આવશ્યક બનતું હોઈ શકે છે, જે અગાઉ સુરક્ષિત તરીકે દર્શાવાયેલા મોડલો કરતાં વધુ સક્ષમ સાબિત થવાની શક્યતા ધરાવે છે. એર ટ્રાવેલ, ઊર્જા ઉત્પાદન, દવા નિર્માણ અને બેંકિંગ જેવા સુરક્ષા-મહત્વપૂર્ણ અને અન્ય ઉચ્ચ-જોખમી સંદર્ભોમાં લાઇસન્સિંગ સામાન્ય છે. લાઇસન્સધારકોને પૂર્વ-તૈનાતી જોખમ મૂલ્યાંકન કરવાની અને state-of-the-art સુરક્ષા તથા તૈનાતી સુરક્ષા ઉપાયો અપનાવવાની આવશ્યકતા હોઈ શકે છે. હકીકતમાં, NTIA જે જવાબદારી પ્રથાઓ પર વિચારણા કરશે, તેમાંની ઘણી યોગ્ય લાઇસન્સિંગ આવશ્યકતાઓ હોઈ શકે. કમ્પ્યુટિંગ પ્રોવાઇડર સ્તરે લાઇસન્સિંગ આવશ્યકતાઓ લાવવી અમલવારી માટે શક્તિશાળી પૂરક સાધન પણ બની શકે છે.

AI વિકાસની અદ્યાધુનિક સરહદ પર જવાબદારી હાંસલ કરવા માટે નોંધણી અને લાઇસન્સિંગ મિકેનિઝમ્સની રચનામાં હજી પણ ઘણા ખુલ્લા પ્રશ્નો છે. અમે આ પ્રશ્નો ઉકેલવામાં નીતિનિર્માતાઓ સાથે સહકાર કરવા આતુર છીએ.