કંટ્રોલ રૂમ

જેમ જેમ અમારા મોડલ વધુ શક્તિશાળી બને છે અને તેમની સાથે સંકળાયેલાં સલામતી તથા સુરક્ષાનાં જોખમો વધે છે, તેમ તેમ સંભવિત સમસ્યાઓ શોધી કાઢવી અને જરૂર પડે ત્યારે મોડલને ઝડપથી અટકાવી શકવું વધુ ને વધુ મહત્ત્વનું બને છે. આ જરૂરિયાત પૂરી કરવા અમે કંટ્રોલ રૂમ બનાવ્યો છે.

કંટ્રોલ રૂમ એક કેન્દ્રીય વ્યવસ્થા છે, જે અમારા સમગ્ર સંશોધન માળખામાં મોડલના કાર્યભારો પર નજર રાખે છે અને સલામતી કે સુરક્ષા અંગે ચિંતા ઊભી થાય ત્યારે તેમને ઝડપથી રોકે છે. તે સંશોધનના દરેક ઇન્ફરન્સ કાર્યભારને જોડે છે, જેમાં મોડલની તાલીમ અને મૂલ્યાંકન માટે એજન્ટ દ્વારા નમૂના મેળવવા, ડેટા પર પ્રક્રિયા કરવા અને અન્ય કાર્યોનો સમાવેશ થાય છે. તે અમારી ઉદ્દેશોથી વિપરીત વર્તન પર દેખરેખ રાખતી વ્યવસ્થાઓ સાથે મળીને કામ કરે છે. કોઈ કાર્ય બંધ કરવા કે થોભાવવા માટે હસ્તક્ષેપ કરવાનો નિર્ણય લેવાય તેની 35 સેકન્ડની અંદર તે મોડલનું આઉટપુટ અટકાવે છે. તે એવી રીતે બનાવવામાં આવ્યો છે કે અન્ય વ્યવસ્થાઓ નિષ્ફળ જાય ત્યારે પણ કામ કરતો રહે, અને કંટ્રોલ રૂમ પોતે બંધ પડે તો મોડલનું આઉટપુટ અટકાવી દે.

કંટ્રોલ રૂમ અમારા સમગ્ર સંશોધન માળખામાં પહેલેથી જ તૈનાત છે, જ્યાં તેની જરૂરિયાત સૌથી વધુ છે. બાહ્ય વપરાશકર્તાઓને મોડલની સેવા પૂરી પાડતું અમારું તકનીકી માળખું સ્વભાવે જ ઘણું વધુ કેન્દ્રીકૃત છે. જરૂર પડે ત્યારે તૈનાત મોડલને ઝડપથી બંધ કરવાની સુવિકસિત સંચાલન ક્ષમતા પણ તેમાં પહેલેથી છે.

કંટ્રોલ રૂમ કેટલીક વ્યવસ્થાઓને એકીકૃત કરીને કામ કરે છે: કાર્યભાર, ઇન્ફરન્સ એન્જિન અને કેન્દ્રીકૃત કંટ્રોલ રૂમ સેવા.

• કાર્યભાર એટલે ચાલી રહેલું કાર્ય, જેમ કે રીઇન્ફોર્સમેન્ટ લર્નિંગનો પ્રયોગ, મૂલ્યાંકન, મોટી સંખ્યામાં નમૂના મેળવવાનું કે ડેટા પર પ્રક્રિયા કરવાનું કાર્ય. અમારા નિયમ મુજબ, એજન્ટ દ્વારા ઇન્ફરન્સ કરતા દરેક સંશોધન કાર્યભારને મંજૂર કરાયેલી સલામતીની પુરાવાસહિત દલીલ સાથે જોડવો જરૂરી છે.

• ઇન્ફરન્સ એન્જિન, અથવા ટૂંકમાં એન્જિન, એ મોડલ પોતે જ છે. એન્જિનને તમે મોડલના મગજ તરીકે સમજી શકો છો, જે સીધું જીપીયુ પર ચાલે છે. કાર્યભાર સામાન્ય રીતે એક કે વધુ મોડલ વાપરે છે, જે એક કે વધુ જુદાં ઇન્ફરન્સ એન્જિનો પર ચાલતાં હોઈ શકે છે. એક જ ઇન્ફરન્સ એન્જિન એકથી વધુ જુદા કાર્યભારો માટે વપરાતું હોઈ શકે છે.

• કંટ્રોલ રૂમ સેવા કાર્યો પર નજર રાખે છે અને તેમને મોડલનું આઉટપુટ ઉત્પન્ન કરવાનું ચાલુ રાખવાની મંજૂરી છે કે નહીં તે નિયંત્રિત કરે છે. અનુરોધ પૂરો કરતાં પહેલાં એન્જિનો કંટ્રોલ રૂમ સેવા પાસે તપાસ કરે છે. જો કોઈ કાર્ય રોકી દેવામાં આવ્યું હોય, તો સેવા તેનો અનુરોધ નકારે છે, જેથી વધુ આઉટપુટ ઉત્પન્ન ન થાય.

કંટ્રોલ રૂમનું સંકલન નીચે મુજબ કરવામાં આવ્યું છે:

• નવું કાર્ય શરૂ કરતી વખતે, કાર્યભારનો કોડ કંટ્રોલ રૂમ પાસેથી નવો job_id માંગે છે.

• જ્યારે પણ કાર્યભારને મોડલમાંથી ટોકનના નમૂના મેળવવાની જરૂર હોય, ત્યારે તે મોડલ ચલાવતા ઇન્ફરન્સ એન્જિનને job_id સાથે અનુરોધ મોકલે છે. એન્જિન આ અનુરોધ પૂરો કરવા માટે કંટ્રોલ રૂમને job_id મોકલી તેની મંજૂરી માંગે છે.

• કંટ્રોલ રૂમ તપાસે છે કે તે કાર્ય બંધ કરવામાં આવ્યું છે કે નહીં. જો બંધ કરવામાં આવ્યું હોય, તો તે ઇન્ફરન્સ અનુરોધ નકારે છે. એન્જિન કાર્યભારના ઇન્ફરન્સ અનુરોધના જવાબમાં ઇનકાર મોકલે છે, જેથી તે કાર્ય માટે મોડલનું વધુ આઉટપુટ ઉત્પન્ન થતું અટકે છે.

અમારાં તમામ અત્યાધુનિક રીઇન્ફોર્સમેન્ટ લર્નિંગ કાર્યો નિરીક્ષકની દેખરેખ હેઠળ ચાલે છે. નિરીક્ષક એ બીજું મોડલ છે, જે તાલીમ લઈ રહેલું મોડલ જે કંઈ કરે છે તે બધું તપાસે છે અને સમસ્યા જણાય તો ચેતવણી આપે છે. ઉદાહરણ તરીકે, અમારી તાજેતરની ડીએનએસ સંબંધિત ઘટના⁠(નવી વિન્ડોમાં ખૂલે છે) એક નિરીક્ષકે શોધી કાઢી હતી.

કંટ્રોલ રૂમ અને અમારી દેખરેખ વ્યવસ્થાનું સંકલન નીચે મુજબ કરવામાં આવ્યું છે:

• જો દેખરેખ વ્યવસ્થાને કોઈ સંભવિત સમસ્યા જણાય, તો તેની વિગતો અને ગંભીરતાને આધારે તે કાર્ય રોકવાનો નિર્ણય લઈ શકે છે.

• આવા કિસ્સામાં, દેખરેખ વ્યવસ્થા કાર્ય રોકવા માટે કંટ્રોલ રૂમને job_id સાથે સંદેશ મોકલે છે. કંટ્રોલ રૂમ નોંધે છે કે તે કાર્ય બંધ કરવામાં આવ્યું છે.

• ત્યાર પછી તે job_id ધરાવતું કાર્ય જ્યારે કોઈ પણ એન્જિન પર ચાલતા કોઈ પણ મોડલમાંથી વધુ ટોકનના નમૂના મેળવવા ઇન્ફરન્સ અનુરોધ મોકલશે, ત્યારે તેનો અનુરોધ નકારવામાં આવશે અને મોડલનું વધુ આઉટપુટ અટકી જશે.

કંટ્રોલ રૂમને કોઈ કાર્ય રોકવાની સૂચના મળે ત્યારથી તે કાર્યમાં આગળ વધવું શક્ય ન રહે ત્યાં સુધીનો મહત્તમ સમય 35 સેકન્ડ છે. આ 35 સેકન્ડનો વિલંબ ઇન્ફરન્સની અધિકૃતતા માટેના કૅશિંગ સ્તરને કારણે થાય છે, જે જરૂરી પ્રમાણમાં આવતા અનુરોધોને સંભાળવા માટે વપરાય છે. અમે આ સમય ઘટાડીને શૂન્ય કરવા માટે કામ કરી રહ્યા છીએ, જેથી કાર્યો તાત્કાલિક બંધ કરી શકીએ.

પ્રયોગો, મૂલ્યાંકન કાર્યો વગેરે સહિતના કાર્યભારો સામાન્ય રીતે સંશોધકો અથવા તેમની ટીમોની માલિકી અને સંચાલન હેઠળ હોય છે. પરિણામે, કાર્યભારનો કોડ વારંવાર બદલાય છે અને સલામતી માટે અત્યંત જરૂરી રક્ષણાત્મક વ્યવસ્થાઓ અમલમાં મૂકવા માટે તે યોગ્ય સ્થાન નથી. આથી, અમારી વ્યવસ્થા એવી રીતે બનાવવામાં આવી છે કે કાર્યભારના કોડમાં ભૂલો હોય કે તે કામ ન કરતો હોય તો પણ તે કાર્યરત રહે.

આ માટે અમે કાર્ય બંધ કરવાની વ્યવસ્થા ઇન્ફરન્સ સ્તરે અમલમાં મૂકીએ છીએ. કાર્યભારનો કોડ ખૂબ જ વૈવિધ્યસભર અને વિકેન્દ્રિત હોય છે. તેનાથી વિપરીત, OpenAIના સમગ્ર સંશોધનમાં ઇન્ફરન્સ માટે કોડના બહુ ઓછા અમલપથો વપરાય છે, અને તેમની તૈનાતી ઘણી વધુ કેન્દ્રીકૃત અને એકરૂપ હોય છે. એટલે કે ઇન્ફરન્સ સ્તર એક એવા ફરજિયાત નિયંત્રણબિંદુ તરીકે કામ કરી શકે છે, જ્યાં અમને મજબૂત ખાતરી મળે છે કે સંશોધનમાં ચાલતા તમામ મોડલ ઇન્ફરન્સના દરેક અનુરોધ પર કંટ્રોલ રૂમ દ્વારા અધિકૃતતાની તપાસ થાય છે. આ ઉપરાંત, અમે એજન્ટ અને પ્રોગ્રામ દ્વારા સતત તપાસ કરીએ છીએ, જેથી ખાતરી થાય કે વપરાશકર્તાઓ ભૂલથી કે દૂષિત ઇરાદે એવી અનધિકૃત એન્જિન વ્યવસ્થાઓ શરૂ નથી કરતા જેમાં કંટ્રોલ રૂમ અમલમાં ન હોય અથવા નિષ્ક્રિય કરાયેલો હોય.

છેલ્લે, અમારી વ્યવસ્થા “નિષ્ફળતા વખતે પ્રવેશ બંધ કરે છે”. એટલે કે એન્જિનોમાં કંટ્રોલ રૂમનું સંકલન એવી રીતે ગોઠવવામાં આવ્યું છે કે જો કંટ્રોલ રૂમ સેવા બંધ પડે—પછી તે વ્યવસ્થાની ભૂલને કારણે હોય કે કોઈ દૂષિત વ્યક્તિની છેડછાડ સહિત અન્ય કોઈ કારણસર તેને નિષ્ક્રિય કરવામાં આવી હોય—તો કંટ્રોલ રૂમ ફરી સામાન્ય રીતે કામ કરવા ન લાગે ત્યાં સુધી તમામ ઇન્ફરન્સ અનુરોધો નકારવામાં આવે છે. નિષ્ફળતા વખતે પ્રવેશ બંધ કરવાની આ વ્યવસ્થા હવે અત્યાધુનિક મોડલના તમામ સંશોધન કાર્યભારોમાં લાગુ કરી દેવાઈ છે. આગામી થોડા દિવસોમાં બાકીના તમામ સંશોધન કાર્યભારોમાં પણ તેનો અમલ પૂર્ણ થશે.

અત્યાધુનિક મોડલની સલામત તાલીમ અને તૈનાતી માટેના અમારા સર્વગ્રાહી અભિગમનો કંટ્રોલ રૂમ માત્ર એક ભાગ છે. નિર્ધારિત ઉદ્દેશોથી વિપરીત વર્તન અને સુરક્ષા ભંગ પર દેખરેખ રાખવા માટેના રોકાણની સાથે, અમે આગામી મહિનાઓમાં આ વ્યવસ્થાને વધુ મજબૂત અને વ્યાપક બનાવતા રહીશું. જો તમે AGIના સલામત અને સુરક્ષિત વિકાસ તથા તૈનાતી માટે વ્યવસ્થાઓ બનાવવામાં મદદ કરવા માંગતા હો, તો અમે⁠ ભરતી કરી રહ્યા છીએ⁠!