కంట్రోల్ రూమ్

మా మోడళ్లు మరింత శక్తిమంతమవుతున్న కొద్దీ, వాటితో ముడిపడిన భద్రత, రక్షణపరమైన ముప్పులు కూడా పెరుగుతున్నాయి. అందుకే సంభావ్య సమస్యలను గుర్తించి, అవసరమైనప్పుడు మోడళ్లను వెంటనే ఆపగలగడం మరింత కీలకమవుతోంది. ఈ అవసరాన్ని తీర్చడానికి కంట్రోల్ రూమ్‌ను నిర్మించాం.

కంట్రోల్ రూమ్ ఒక కేంద్ర వ్యవస్థ. ఇది మా పరిశోధన మౌలిక వసతులన్నింటిలోని మోడల్ పనిభారాలను గమనిస్తూ, భద్రత లేదా రక్షణపరమైన ఆందోళనలు తలెత్తినప్పుడు వాటిని వేగంగా ఆపుతుంది. మోడల్ శిక్షణ, మూల్యాంకనం కోసం ఏజెంట్లతో నమూనాలను సేకరించడం, డేటాను ప్రాసెస్ చేయడం వంటి పరిశోధనలోని ప్రతి అనుమితి పనిభారాన్నీ ఇది అనుసంధానిస్తుంది. ఇది మా లక్ష్యాలకు విరుద్ధమైన ప్రవర్తనను పర్యవేక్షించే వ్యవస్థలతో కలిసి పనిచేస్తుంది. ఒక పనిలో జోక్యం చేసుకుని దాన్ని ఆపాలని లేదా విరామం ఇవ్వాలని నిర్ణయించిన 35 సెకన్లలోపు మోడల్ ఫలితాల ఉత్పత్తిని నిలిపివేస్తుంది. ఇతర వ్యవస్థలు విఫలమైనా ఇది పనిచేసేలా, కంట్రోల్ రూమ్ స్వయంగా నిలిచిపోయినా మోడల్ ఫలితాల ఉత్పత్తిని ఆపేలా దీన్ని నిర్మించాం.

దీని అవసరం అత్యధికంగా ఉన్న మా పరిశోధన మౌలిక వసతులన్నింటిలోనూ కంట్రోల్ రూమ్‌ను ఇప్పటికే అమలు చేశాం. బాహ్య వినియోగదారులకు మోడల్ సేవలను అందించే మా వ్యవస్థల సముదాయం ఇప్పటికే స్వభావరీత్యా మరింత కేంద్రీకృతంగా ఉంది. అవసరమైతే అందుబాటులో ఉన్న మోడళ్లను వేగంగా నిలిపివేసే పటిష్ఠ నిర్వహణ సామర్థ్యం కూడా దానికి ఉంది.

కంట్రోల్ రూమ్ కొన్ని వ్యవస్థలను అనుసంధానించి పనిచేస్తుంది. అవి: పనిభారం, అనుమితి ఇంజిన్, కేంద్రీకృత కంట్రోల్ రూమ్ సర్వీస్.

• పనిభారం అంటే అమలవుతున్న పని. ఉదాహరణకు రీఇన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ ప్రయోగం, మూల్యాంకనం, భారీ స్థాయిలో నమూనాలను సేకరించడం లేదా డేటాను ప్రాసెస్ చేయడం. ఏజెంట్ల ద్వారా అనుమితి చేసే ప్రతి పరిశోధన పనిభారానికీ ఆమోదిత భద్రతా సమర్థన పత్రం అనుసంధానమై ఉండాలని మేము నిర్దేశిస్తాం.

• అనుమితి ఇంజిన్, లేదా క్లుప్తంగా ఇంజిన్ అంటే మోడలే. ఇంజిన్‌ను నేరుగా GPUలపై పనిచేసే మోడల్ మెదడుగా భావించవచ్చు. ఒక పనిభారం సాధారణంగా ఒకటి లేదా అంతకంటే ఎక్కువ మోడళ్లను ఉపయోగిస్తుంది. అవి ఒకటి లేదా అంతకంటే ఎక్కువ వేర్వేరు అనుమితి ఇంజిన్‌లపై నడుస్తూ ఉండవచ్చు. ఒకే అనుమితి ఇంజిన్‌ను ఒకటి కంటే ఎక్కువ వేర్వేరు పనిభారాలు ఉపయోగించవచ్చు.

• కంట్రోల్ రూమ్ సర్వీస్ పనులను గమనిస్తూ, వాటికి మోడల్ ఫలితాలను ఉత్పత్తి చేయడం కొనసాగించే అనుమతి ఉందో లేదో నియంత్రిస్తుంది. అభ్యర్థనను నెరవేర్చే ముందు ఇంజిన్‌లు కంట్రోల్ రూమ్ సర్వీస్‌ను సంప్రదిస్తాయి. పనిని ఆపివేసి ఉంటే, సేవ ఆ అభ్యర్థనను తిరస్కరించి మరిన్ని ఫలితాలు రాకుండా నిరోధిస్తుంది.

కంట్రోల్ రూమ్‌ను ఈ విధంగా అనుసంధానించాం:

• కొత్త పనిని ప్రారంభించేటప్పుడు, పనిభారపు కోడ్ కంట్రోల్ రూమ్ నుంచి కొత్త job_id కోసం అభ్యర్థిస్తుంది.

• పనిభారం ఒక మోడల్ నుంచి టోకెన్ల మోడల్ సేకరించాల్సిన ప్రతిసారీ, ఆ మోడల్‌ను నడిపే అనుమితి ఇంజిన్‌కు job_idతో సహా అభ్యర్థన పంపుతుంది. ఆ అభ్యర్థనను నెరవేర్చేందుకు ఇంజిన్ కంట్రోల్ రూమ్‌కి job_idని పంపి అనుమతి కోరుతుంది.

• ఆ పనిని ఆపివేశారా లేదా అని కంట్రోల్ రూమ్ తనిఖీ చేస్తుంది. ఆపివేసి ఉంటే అనుమితి అభ్యర్థనను తిరస్కరిస్తుంది. పనిభారం పంపిన అనుమితి అభ్యర్థనకు ఇంజిన్ నిరాకరణను పంపుతుంది. దీంతో ఆ పని కోసం మరిన్ని మోడల్ ఫలితాలు ఉత్పత్తి కాకుండా ఆగిపోతాయి.

మా అత్యాధునిక రీఇన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ పనులన్నీ ఒక పర్యవేక్షక మోడల్‌తో నడుస్తాయి. పర్యవేక్షక మోడల్ అనేది శిక్షణ పొందుతున్న మోడల్ చేసే ప్రతిదాన్నీ పరిశీలించే మరో మోడల్. సమస్యను గుర్తిస్తే అది హెచ్చరికను జారీ చేస్తుంది. ఉదాహరణకు, ఇటీవల జరిగిన DNS‌కు సంబంధించిన ఘటనను⁠(కొత్త విండోలో తెరుచుకుంటుంది) ఒక పర్యవేక్షక మోడల్ గుర్తించింది.

కంట్రోల్ రూమ్‌ను, మా పర్యవేక్షణ వ్యవస్థను ఈ విధంగా అనుసంధానించాం:

• పర్యవేక్షణ వ్యవస్థ సంభావ్య సమస్యను గుర్తిస్తే, దాని వివరాలు, తీవ్రతను బట్టి పనిని ఆపాలని నిర్ణయించవచ్చు.

• అప్పుడు పర్యవేక్షణ వ్యవస్థ పనిని ఆపమని కంట్రోల్ రూమ్‌కి job_idతో కూడిన సందేశాన్ని పంపుతుంది. ఆ పనిని ఆపివేసినట్లు కంట్రోల్ రూమ్ నమోదు చేస్తుంది.

• ఆ job_id ఉన్న పని, తదుపరిసారి ఏ ఇంజిన్‌పైనైనా నడిచే ఏ మోడల్ నుంచైనా మరిన్ని టోకెన్ల మోడళ్లను సేకరించేందుకు అనుమితి అభ్యర్థన పంపితే, అది తిరస్కరించబడుతుంది. దీంతో మరిన్ని మోడల్ ఫలితాలు ఉత్పత్తి కావడం ఆగిపోతుంది.

ఒక పనిని ఆపాలనే సూచన నియంత్రణ గదికి అందిన క్షణం నుంచి, ఆ పని ఇక ఏమాత్రం ముందుకు సాగలేని స్థితికి చేరుకునే వరకు పట్టే గరిష్ఠ సమయం 35 సెకన్లు. పెద్ద సంఖ్యలో వచ్చే అభ్యర్థనలను నిర్వహించడానికి, అనుమితి అనుమతులను తాత్కాలికంగా నిల్వ చేసే కాష్ పొరను ఉపయోగిస్తాం. ఈ పొర వల్లే 35 సెకన్ల ఆలస్యం ఏర్పడుతుంది. పనులను తక్షణమే ఆపగలిగేలా ఈ సమయాన్ని సున్నాకు తగ్గించేందుకు కృషి చేస్తున్నాం.

ప్రయోగాలు, మూల్యాంకన పనులు మొదలైన పనిభారాలు సాధారణంగా పరిశోధకులు లేదా పరిశోధక బృందాల ఆధీనంలో ఉంటాయి. వాటిని నిర్వహించేది కూడా వారే. అందువల్ల పనిభారపు కోడ్ తరచూ మారుతుంది. కీలకమైన భద్రతా రక్షణలను అమలు చేయడానికి అది తగిన చోటు కాదు. అందుకే పనిభారపు కోడ్‌లో లోపాలున్నా, అది సరిగా పనిచేయకపోయినా మా వ్యవస్థ పనిచేసేలా రూపొందించాం.

దీని కోసం పనిని ఆపే యంత్రాంగాన్ని అనుమితి పొరలో అమలు చేశాం. పనిభారపు కోడ్ ఎన్నో రకాలుగా ఉంటుంది. అది ఒకే కేంద్రం నుంచి నిర్వహించబడదు. దీనికి భిన్నంగా, OpenAI పరిశోధనలన్నింటిలోనూ అనుమితి కోసం ఉపయోగించే కోడ్ మార్గాలు చాలా తక్కువ. వాటి అమలు కూడా మరింత కేంద్రీకృతంగా, ఏకరీతిగా ఉంటుంది. అందువల్ల అనుమితి పొరను తప్పనిసరిగా దాటాల్సిన నియంత్రణ బిందువుగా ఉపయోగించవచ్చు. పరిశోధనలో నడిచే మోడల్ అనుమితి అంతటికీ, ప్రతి అభ్యర్థనపై నియంత్రణ గది అనుమతి తనిఖీలు జరుగుతాయనే గట్టి హామీని ఇది అందిస్తుంది. వినియోగదారులు పొరపాటున గానీ, దురుద్దేశంతో గానీ నియంత్రణ గదిని అమలు చేయని లేదా నిలిపివేసిన అనధికార ఇంజిన్‌లను ప్రారంభించడం లేదని నిర్ధారించేందుకు, ఏజెంట్లు, ప్రోగ్రామ్‌ల ద్వారా నిరంతర తనిఖీలు కూడా నిర్వహిస్తాం.

చివరగా, మా వ్యవస్థ “విఫలమైతే అనుమతి నిరాకరించే” విధంగా పనిచేస్తుంది. అంటే, వ్యవస్థ లోపం వల్ల గానీ, దురుద్దేశంతో ఎవరైనా జోక్యం చేసుకోవడం సహా మరే ఇతర కారణంతో నిలిపివేయడం వల్ల గానీ నియంత్రణ గది సేవ ఆగిపోతే, అది తిరిగి సాధారణంగా పనిచేసే వరకు అన్ని అనుమితి అభ్యర్థనలూ తిరస్కరించబడతాయి. ఇంజిన్‌లలో నియంత్రణ గది అనుసంధానాన్ని ఈ విధంగా అమర్చాం. విఫలమైతే అనుమతి నిరాకరించే ఈ విధానాన్ని ఇప్పుడు అన్ని అత్యాధునిక మోడల్ పరిశోధన పనిభారాలకు అమలు చేశాం. రాబోయే కొద్ది రోజుల్లో మిగిలిన అన్ని పరిశోధన పనిభారాలకూ అమలు చేయడం పూర్తవుతుంది.

అత్యాధునిక మోడళ్లకు సురక్షితంగా శిక్షణ ఇచ్చి, వినియోగంలోకి తీసుకురావడానికి మేము అనుసరించే సమగ్ర విధానంలో నియంత్రణ గది ఒక భాగం మాత్రమే. నిర్దేశిత లక్ష్యాలకు విరుద్ధమైన ప్రవర్తనను, భద్రతా ఉల్లంఘనలను పర్యవేక్షించేందుకు పెట్టుబడులు పెడుతూనే, రాబోయే నెలల్లో ఈ వ్యవస్థను మరింత బలోపేతం చేసి విస్తరిస్తాం. AGIని సురక్షితంగా, పటిష్ఠ రక్షణతో అభివృద్ధి చేసి వినియోగంలోకి తీసుకురావడానికి అవసరమైన వ్యవస్థలను నిర్మించడంలో తోడ్పడాలనుకుంటే, మేము⁠ ఉద్యోగ నియామకాలు చేపడుతున్నాం⁠!