AI విధాన రూపకల్పనకు అవకాశం ఉంది. మనం చర్య తీసుకోవాలి.
Chris Lehane, OpenAIలో చీఫ్ గ్లోబల్ అఫైర్స్ అధికారి
AI సామర్థ్యాల్లో మనం కొత్త అధ్యాయానికి చేరుకున్నాం. అందుకు అనుగుణంగా AI విధానంలోనూ కొత్త అధ్యాయం ప్రారంభం కావాలి. ఏ సంస్థ, పరిశ్రమ లేదా ప్రభుత్వం ఈ సవాలును ఒంటరిగా ఎదుర్కోలేవు. విధానపరమైన పరిపూర్ణత కంటే అర్థవంతమైన చర్యకే ప్రాధాన్యమిస్తూ ఈ తరుణాన్ని ఎదుర్కోవాలి.
మేము చేస్తున్నది ఇదే:
తప్పనిసరి జాతీయ AI భద్రతా నిబంధనల కోసం కృషి చేస్తున్నాము. తప్పనిసరి, సామర్థ్యాల ఆధారిత జాతీయ AI భద్రతా నియంత్రణపై కాంగ్రెస్‌తో కలిసి పనిచేయాలని మేము కోరుకుంటున్నాము.
రాష్ట్రాల్లో ఊపును కొనసాగించడం. కాంగ్రెస్ చర్యలు తీసుకునే వరకు, విస్తృత AI భద్రతా పర్యావరణ వ్యవస్థను బలోపేతం చేసే రాష్ట్ర చట్టాలకు మేము మద్దతు కొనసాగిస్తాం. ఈరోజు, నాలుగు కాలిఫోర్నియా బిల్లులకు మా మద్దతును ప్రకటిస్తున్నాం: స్వతంత్ర భద్రతా మూల్యాంకనాల కోసం మొత్తం మౌలిక సదుపాయాలపై SB 813, AI ఆడిటర్ ప్రమాణాలపై AB 1405, యువత రక్షణలపై SB 1119, అలాగే AI ఆధారిత జీవసంబంధ ముప్పుల నుంచి రక్షణ చర్యలపై AB 1864.
పరిశ్రమ ఆధ్వర్యంలోని ప్రమాణాలను ముందుకు తీసుకెళ్లడం. ప్రభుత్వ మద్దతు ఉన్నా లేకున్నా, ఇప్పుడు స్వచ్ఛంద ప్రయత్నాన్ని రూపొందిస్తూ, అత్యాధునిక AI ప్రమాణాలను ముందుకు తీసుకెళ్లడానికి ఇతర అత్యాధునిక ల్యాబ్‌లతో కలిసి పనిచేస్తాం.
ప్రపంచ ప్రమాణాల నిర్మాణం. సామర్థ్యాలను కొలవడం, ప్రమాదాలను నిర్వహించడం, మానవ నియంత్రణను కాపాడటం, అలాగే అభివృద్ధిని ఎప్పుడు, ఎలా మందగించాలి లేదా నిలిపివేయాలి అనే విషయాలను నిర్ణయించేందుకు అనుగుణమైన అంతర్జాతీయ విధానాల కోసం మేము వాదిస్తాము; అందుకోసం మోడల్ సామర్థ్యాల పురోగతిని మందగించాల్సి వచ్చినా సరే.
పునరావృత స్వీయ-మెరుగుదల అవకాశంతో సహా యంత్ర మేధస్సు వేగంగా పెరగడం వల్ల “అత్యంత జాగ్రత్త” అవసరమని మా ప్రధాన శాస్త్రవేత్త జాకుబ్ పచోకి ఇటీవల రాశారు. సమన్వయం, పర్యవేక్షణకు సాంకేతిక పరిష్కారాలను అన్వేషించడం, రక్షణ వ్యవస్థలను నిర్మించడం, అవసరమైనప్పుడు అభివృద్ధిని మందగించడం OpenAI కొనసాగిస్తుంది. అయితే, ఒక్కో ప్రయోగశాలలో జరిగే సాంకేతిక కృషి మాత్రమే సరిపోదు. అభివృద్ధిని ఎప్పుడు మందగించాలో లేదా ఆపాలో నిర్ణయించే వాటితో సహా ఉమ్మడి ప్రమాణాలు కూడా మనకు అవసరం.
పరిస్థితులు అత్యంత కీలకమైనవి. అధునాతన AI కొత్త ఔషధాల అభివృద్ధిని వేగవంతం చేయగలదు, కీలక మౌలిక సదుపాయాలను బలోపేతం చేయగలదు, ఆర్థిక అవకాశాలను విస్తరించగలదు, అలాగే తరతరాలుగా మానవ ప్రయత్నాలకు లొంగని శాస్త్రీయ సమస్యలను పరిష్కరించడంలో సహాయపడగలదు. అయితే, మోడళ్లను మరింత ఉపయోగకరంగా చేసే సామర్థ్యాలతో పాటు ప్రమాదాలు కూడా ఉంటాయి, అవి కొన్ని అత్యాధునిక ల్యాబ్‌లకే పరిమితం కావు. ఓపెన్ మోడళ్లతో సహా ప్రపంచవ్యాప్తంగా అభివృద్ధి చేసిన మోడళ్లు నేటి అత్యాధునిక స్థాయికి క్రమంగా చేరుకుని, విస్తృతంగా అందుబాటులోకి వస్తాయి.
Astra యొక్క సామర్థ్యాలు, AI ఆధారిత పరిశోధన వేగవంతమవుతోందనే తొలి ఆధారాలు, జాకుబ్ వ్యాసం అన్నీ ఒకే దిశను సూచిస్తున్నాయి: AI వేగంగా అభివృద్ధి చెందుతోంది, విధానం కూడా దానికి అనుగుణంగా ముందుకు సాగాలి.
గ్రెగ్ బ్రాక్‌మన్ దీనిని “రక్షకుల అవకాశం”గా వర్ణించారు(కొత్త విండోలో తెరుచుకుంటుంది): శక్తివంతమైన దాడి సామర్థ్యాలు విస్తృతమయ్యే ముందు కీలక వ్యవస్థలను బలోపేతం చేయడానికి అత్యాధునిక AI రక్షకులకు సహాయపడగల పరిమిత కాలం ఇది. విధాన నిర్ణేతలూ ఇలాంటి తరుణాన్నే ఎదుర్కొంటున్నారు: AI సామర్థ్యాలు వాటి పాలనకు బాధ్యత వహించే సంస్థల సామర్థ్యాలను మించిపోకముందే దీర్ఘకాలిక రక్షణ చర్యలను ఏర్పాటు చేసేందుకు లభిస్తున్న అవకాశం క్రమంగా తగ్గిపోతోంది.
సామర్థ్యాలు పెరిగే కొద్దీ, భద్రతపై విశ్వాసం AI పురోగతి వేగాన్ని మరింతగా నిర్దేశించాలి. భద్రత పురోగతికి అడ్డంకి కాదు; పురోగతి మరింత ముందుకు సాగడానికి, మరింత మందికి ప్రయోజనం చేకూర్చడానికి వీలు కల్పించేది భద్రతే.
మోడల్ అభివృద్ధి జీవితచక్రం అంతటా మా పర్యవేక్షణ, అలైన్‌మెంట్, భద్రతా రక్షణ చర్యలను బలోపేతం చేశాం. ఇందులో అత్యాధునిక పరిశోధన వర్క్‌లోడ్‌లకు మరింత బలమైన ఐసొలేషన్, టూల్‌లను ఉపయోగించే శిక్షణ మరియు మూల్యాంకనాల సమయంలో మోడల్ ప్రవర్తనపై విస్తృత పర్యవేక్షణ, అలాగే ఆందోళనలను ఎప్పుడు పైస్థాయికి తెలియజేయాలో మరింత స్పష్టమైన నియమాలు ఉన్నాయి. Astra కోసం, చెయిన్-ఆఫ్-థాట్‌లతో సహా పూర్తి ట్రాజెక్టరీలపై సమగ్ర పర్యవేక్షణను, అలాగే విస్తృత అంతర్గత వినియోగానికి ముందు తప్పనిసరి అలైన్‌మెంట్ మూల్యాంకన దశను కూడా ప్రవేశపెట్టాము.
ఆ రక్షణ చర్యలు సామర్థ్యాల కంటే ముందంజలో కొనసాగించాలి. ముందుకు సాగడం ఆమోదయోగ్యం కాని భద్రతా ప్రమాదాన్ని కలిగించే సందర్భంలో, తగినంతగా రక్షించలేని వ్యవస్థల అభివృద్ధిని లేదా అమలును మేము నెమ్మదిస్తాము లేదా నిలిపివేస్తాము; గతంలో చేసినట్లుగానే, మా ప్రిపేర్‌డ్నెస్ ఫ్రేమ్‌వర్క్(కొత్త విండోలో తెరుచుకుంటుంది) ప్రకారం అవసరమైనప్పుడు కూడా ఇదే విధంగా వ్యవహరిస్తాము.
పూర్తిగా స్వయంప్రతిపత్తితో జరిగే పునరావృత స్వీయ-మెరుగుదల—అంటే AI వ్యవస్థలు స్వతంత్రంగా మరింత సామర్థ్యవంతమైన AI యొక్క తదుపరి తరాల అభివృద్ధిని నడిపించడం—ప్రస్తుతం జరగడం లేదు. దాన్ని సురక్షితంగా చేయడం సాధ్యమయ్యే వరకు మనం ఆ దిశగా ముందుకు సాగకూడదు.
అయితే, తదుపరి తరం మోడళ్లను అభివృద్ధి చేయడానికి, అలైన్ చేయడానికి ఉపయోగించే పరిశోధనలోని కొన్ని భాగాలను AI ఇప్పటికే వేగవంతం చేస్తోంది. మా తాజా పరిశోధన ప్రకారం, నైపుణ్యం కలిగిన పరిశోధకులకు అనేక రోజులు పట్టే కొన్ని పనులను AI ఏజెంట్లు చేయగలరు. ఇది పునరావృత స్వీయ-మెరుగుదల కాదు, కానీ పురోగతి సాగుతున్న దిశకు ఇది ఒక సూచన.
ఈ వేగవంతతను భద్రత దిశగా కూడా మళ్లించవచ్చు, మళ్లించాలి. మానవ పర్యవేక్షణలో పనిచేస్తూ డీప్ లెర్నింగ్ మరియు అలైన్‌మెంట్ రెండింటినీ ముందుకు తీసుకెళ్లే స్వయంచాలక AI పరిశోధకులను సురక్షితంగా రూపొందించడమే మా లక్ష్యం—ప్రతి తరం AIని ఉపయోగించి తదుపరి తరాన్ని కేవలం మరింత సామర్థ్యవంతంగా కాకుండా, మరింత సురక్షితంగా, మెరుగైన అలైన్‌మెంట్‌తో, సులభంగా నియంత్రించగలిగేలా చేయడం.
ఈ పురోగతిని కొలవడానికి ప్రభుత్వాలు ఉమ్మడి విధానాలను అభివృద్ధి చేయాలి, అర్థవంతమైన మానవ నియంత్రణను కొనసాగించాలి, అలాగే అభివృద్ధిని ఎప్పుడు, ఎలా మందగించాలి లేదా నిలిపివేయాలి అన్నదానికి ఉమ్మడి భద్రతా ప్రమాణాలను ఏర్పాటు చేయాలి. సామర్థ్యాల వృద్ధిని మందగించకుండా కొన్ని భద్రతా ప్రమాణాలను అందుకోలేకపోతే, భద్రతకే ప్రాధాన్యత ఇవ్వాలి. సాంకేతికత ఎంత శక్తివంతంగా మారితే, దానికి అనుగుణంగా దాని చుట్టూ ఉన్న రక్షణ చర్యలు కూడా అంత బలపడాలి.
AI ద్వారా వేగవంతమయ్యే AI అభివృద్ధి నేపథ్యంలో, స్వచ్ఛంద నిబద్ధతల కంటే మరింత బలమైన చర్యలు అవసరం. సాంకేతికత అభివృద్ధి చెందే కొద్దీ దానికి అనుగుణంగా మారగల, సామర్థ్యాల ఆధారిత తప్పనిసరి జాతీయ నియంత్రణ యునైటెడ్ స్టేట్స్‌కు అవసరం.
మా అత్యాధునిక AI యొక్క ప్రజాస్వామ్య పాలనకు రూపరేఖ స్థిరమైన సమాఖ్య చట్రం వైపు ఒక మార్గాన్ని నిర్దేశిస్తుంది: ఉమ్మడి పరీక్షలు, స్వతంత్ర మూల్యాంకన అవసరాలు, మరింత బలమైన సైబర్‌భద్రతా రక్షణలు, స్పష్టమైన ఘటన-నివేదన నియమాలు, మెరుగైన జాతీయ సన్నద్ధత, అలాగే పునరావృత స్వీయ-మెరుగుదల దిశగా పురోగతిని ట్రాక్ చేయడానికి ఉమ్మడి ప్రమాణాలు.
కాంగ్రెస్‌లో అత్యాధునిక AI భద్రతకు సంబంధించిన అనేక కీలక ప్రతిపాదనలు ఇప్పుడు రూపుదిద్దుకుంటున్నాయి. మేము నిర్మాణాత్మకంగా చర్చల్లో పాల్గొంటూనే ఉంటాం, మరియు భద్రతా ప్రమాణాలను గణనీయంగా పెంచే చట్టాలకు మద్దతు ఇవ్వాలని భావిస్తున్నాము. ఇంత కీలకమైన పరిస్థితిలో, పరిపూర్ణత కోసం ప్రయత్నిస్తూ ఉపయోగకరమైన చర్యలను అడ్డుకోకూడదు. కాంగ్రెస్ సమావేశాలు ముగిసేలోపు చర్య తీసుకోవాలి.
జాతీయ ఫ్రేమ్‌వర్క్ బలంగా ఉండాలి, కానీ దాని పరిధి జాగ్రత్తగా నిర్దేశించబడాలి. అత్యాధునిక భద్రతా అవసరాలు అత్యంత సామర్థ్యవంతమైన వ్యవస్థలను అభివృద్ధి చేస్తున్న, సమృద్ధిగా వనరులున్న కొద్దిపాటి ల్యాబ్‌లకు మాత్రమే వర్తించాలి—అత్యాధునిక స్థాయికి ఏమాత్రం చేరువలో లేని అంకుర సంస్థలు, చిన్న డెవలపర్లు లేదా పరిశోధకులకు కాదు. బాధ్యతలు సామర్థ్యాలకు, ప్రమాదాలకు అనుగుణంగా ఉండాలి.
అలాగే, అత్యాధునిక AI భద్రతా విధానం మరో పేరుతో ఓపెన్-వెయిట్స్ విధానంగా మారకూడదు. ముఖ్యంగా సైబర్‌భద్రతలో, అలాగే సార్వభౌమాధికారం, భద్రత లేదా డేటా రెసిడెన్సీ అవసరాల కారణంగా స్థానిక డిప్లాయ్‌మెంట్‌కు ప్రాధాన్యత ఉన్న చోట, ఓపెన్ మోడళ్లు పరిష్కారంలో భాగం కావచ్చు. వాటిలో చాలావరకు అత్యాధునిక సామర్థ్యంపై కాకుండా ఖర్చు, నియంత్రణ, లేటెన్సీ వంటి అంశాలపై పోటీపడతాయి. ఓపెన్ వెయిట్లు మరియు అమెరికా AI నాయకత్వ లేఖ(కొత్త విండోలో తెరుచుకుంటుంది)పై సంతకం చేస్తూ మేము స్పష్టం చేసినట్లుగా, అమెరికాకు ఓపెన్ మరియు క్లోజ్డ్ మోడళ్లు రెండూ అవసరం. పోటీని బలహీనపరచకుండా, ఇప్పటికే ఆధిపత్యంలో ఉన్న సంస్థల స్థానాన్ని మరింత పటిష్ఠం చేయకుండా లేదా ఆవిష్కరణను విదేశాలకు తరలించేలా చేయకుండా, ఫెడరల్ చట్రం అత్యాధునిక సామర్థ్యాలు, వాటికి సంబంధించిన ప్రమాదాలను పరిష్కరించాలి.
గంభీరమైన ప్రజా వ్యవస్థ అధికార కేంద్రీకరణను పెంచకుండా, దాన్ని తగ్గించేలా ఉండాలి. ప్రస్తుతం, అత్యాధునిక ల్యాబ్‌లు ఫ్రంటియర్ రిస్క్‌లను ఎలా నిర్వహించాలో సంబంధించిన నియమాలను ఎక్కువగా తామే నిర్ణయించుకుంటున్నాయి. ప్రజాస్వామ్యపరంగా జవాబుదారీతనం కలిగిన ప్రమాణాలు, స్వతంత్ర ధ్రువీకరణ, అర్థవంతమైన పారదర్శకత ఆ విచ్ఛిన్నమైన ప్రైవేట్ పాలనా వ్యవస్థ స్థానంలోకి వస్తాయి.
అమెరికా నాయకత్వానికి ఇది అత్యవసరం. కేవలం సామర్థ్యంతోనే AI యుగంలో అమెరికా ముందంజలో నిలవలేదు. ప్రజలు, సంస్థలు, ప్రభుత్వాలు సాంకేతికతను స్వీకరించేంతగా దాన్ని విశ్వసించకపోతే, సాంకేతికంగా ముందుండటం వల్ల పెద్దగా ప్రయోజనం ఉండదు. బలమైన రక్షణ చర్యలు ఆవిష్కరణ విషయంలో రాజీ కావు. విస్తృత స్వీకరణకు, అలాగే దీర్ఘకాలిక అమెరికా నాయకత్వానికి అవసరమైన మౌలిక సదుపాయాల్లో ఇవి భాగం.
AIపై జాతీయ ప్రమాణాలు మనకు అత్యవసరంగా అవసరం, అత్యాధునిక రంగంలో పనిచేసే ఎవరికైనా ఈ అత్యవసరత అర్థమవుతుంది. కాంగ్రెస్ చర్యలు తీసుకునే వరకు, ఈ ఖాళీని పూరిస్తూ, ప్రమాణాలను మరింత ఉన్నత స్థాయికి తీసుకెళ్లేందుకు రాష్ట్రాలు ముందుకు సాగాలి.
OpenAI కాలిఫోర్నియా SB 53, న్యూయార్క్ RAISE చట్టం, ఇల్లినాయ్ SB 315తోపాటు మసాచుసెట్స్‌లో పరిశీలనలో ఉన్న అత్యాధునిక భద్రతా చట్టంలోని స్వతంత్ర ఆడిట్‌లకు మద్దతిచ్చింది. ఈ ఉమ్మడి రక్షణ చర్యలపై రాష్ట్రాలు ఏకాభిప్రాయానికి రావాలని మేము ప్రోత్సహిస్తున్నాము. అలా చేయడం ద్వారా, కాంగ్రెస్ చివరికి చట్టబద్ధం చేయగల వాస్తవ జాతీయ ప్రాథమిక ప్రమాణాన్ని రాష్ట్రాలు రూపొందించగలవు—మేము దీనిని రివర్స్ ఫెడరలిజం అని పిలుస్తాము. కానీ సమన్వయం అంటే నిబంధనలను అలాగే స్తంభింపజేయడం కాదు.
ఈ రోజు, శాసనసభ ఆమోదించి గవర్నర్ న్యూసమ్ ఆమోదం కోసం పంపిన మరో నాలుగు కాలిఫోర్నియా బిల్లులకు మేము అధికారికంగా మద్దతు ప్రకటిస్తున్నాము. ఈ బిల్లులు కలిసి AI భద్రతా పర్యావరణ వ్యవస్థలోని పరస్పర పూరక అంశాలను పరిష్కరిస్తాయి.
SB 813(కొత్త విండోలో తెరుచుకుంటుంది) AI ప్రమాదాలను అంచనా వేయగల అర్హత కలిగిన స్వతంత్ర సంస్థలను గుర్తించేందుకు ఒక ప్రక్రియను ఏర్పాటు చేస్తుంది. మా (కొత్త విండోలో తెరుచుకుంటుంది)అత్యాధునిక భద్రతా రూపరేఖలో(కొత్త విండోలో తెరుచుకుంటుంది) మేము పేర్కొన్నట్లుగా, స్వతంత్ర సాంకేతిక మూల్యాంకనాలను సమాఖ్య స్థాయిలో తప్పనిసరి చేయాలని మేము కోరుకుంటున్నాం. అక్కడ విధాన నిర్ణేతలు మూల్యాంకనకర్తల అర్హతలు, భద్రత, అత్యంత సున్నితమైన సమాచారానికి యాక్సెస్ కోసం ఏకరీతి ప్రమాణాలను ఏర్పాటు చేయగలరు. అయితే, సమాఖ్య చర్య లేని పరిస్థితిలో, మెరుగైన భద్రతా ఫలితాలను అందించే సురక్షితమైన, సమర్థవంతమైన జాతీయ స్వతంత్ర మూల్యాంకన వ్యవస్థకు మార్గదర్శక నియమాలను రూపొందించడంలో కాలిఫోర్నియా సహాయపడగలదు.
AI ఆడిటర్ల కోసం నమోదు, స్వతంత్రత, పారదర్శకత, జవాబుదారీతనం నిబంధనలను AB 1405(కొత్త విండోలో తెరుచుకుంటుంది) ఏర్పాటు చేస్తుంది.
SB 1119(కొత్త విండోలో తెరుచుకుంటుంది) కంపానియన్ చాట్‌బాట్‌లను ఉపయోగించే పిల్లలు మరియు టీనేజర్ల కోసం వయస్సు నిర్ధారణ, ప్రమాద మూల్యాంకనాలు, స్వతంత్ర ఆడిట్‌లు, పేరెంటల్ కంట్రోల్స్, హానికరమైన కంటెంట్‌ నుంచి రక్షణలను తప్పనిసరి చేస్తుంది. మేము ఇటీవల ఈ బిల్లుకు మా మద్దతును తెలియజేశాం. మా ఉత్పత్తులు, ప్రపంచ విధాన సూత్రాలు, అలాగే (కొత్త విండోలో తెరుచుకుంటుంది)తల్లిదండ్రులు & పిల్లల సురక్షిత AI చట్టానికి(కొత్త విండోలో తెరుచుకుంటుంది) మద్దతు ద్వారా OpenAI ముందుకు తీసుకెళ్లిన యువత భద్రతా చర్యలపై ఈ బిల్లు నిర్మితమైంది. సున్నితమైన అంశాల్లో బలమైన డిఫాల్ట్ సెట్టింగ్‌లు, నిశ్శబ్ద వేళలు, అధ్యయన వేళలు, విరామ సూచనలతో సహా టీనేజర్ల కోసం ChatGPTలో అంతర్నిర్మిత రక్షణలు కూడా ఇందులో ఉన్నాయి.
జన్యు సంశ్లేషణ సేవాదారులు, చిన్న ప్రయోగశాల సంశ్లేషణ పరికరాల తయారీదారులు సమాఖ్య పరిశీలన ప్రమాణాలను పాటించాలని AB 1864(కొత్త విండోలో తెరుచుకుంటుంది) తప్పనిసరి చేస్తుంది. తద్వారా AI ఆధారిత జీవసంబంధ ముప్పులకు వ్యతిరేకంగా ముఖ్యమైన భౌతిక రక్షణ మరింత బలోపేతమవుతుంది.
ఈ బిల్లుల్లో కొన్నింటికి మేము గతంలో మద్దతు ఇవ్వలేదు. అయితే, ఇటీవల మేము గమనించిన సామర్థ్యాల గణనీయమైన పెరుగుదలను దృష్టిలో ఉంచుకుని పునఃపరిశీలించిన తర్వాత ఇప్పుడు వాటికి మద్దతు ఇస్తున్నాము.
ఈ బిల్లులు ఫెడరల్ నియంత్రణకు ప్రత్యామ్నాయం కావు. అవి ఇప్పుడు ప్రజలను రక్షించగల, ఆచరణయోగ్యమైన భద్రతా చర్యలు ఎలా ఉంటాయో చూపగల, ఫెడరల్ చర్యకు ఊపును కల్పించగల తీవ్రమైన ప్రయత్నాలు.
చట్టాలు మాత్రమే అధునాతన AIని సురక్షితంగా మార్చలేవు. అత్యంత సామర్థ్యవంతమైన వ్యవస్థలను అభివృద్ధి చేస్తున్న ప్రయోగశాలల్లో కూడా నిర్దిష్టమైన ఆచరణాత్మక విధానాలు అవసరం. ప్రారంభించాల్సిన అత్యంత ముఖ్యమైన అంశం పర్యవేక్షణ.
లక్ష్యవ్యతిరేకత విషయంలో ఇది ప్రత్యేకంగా ముఖ్యమైనది—స్పృహ లేదా హానికర ఉద్దేశం అవసరం లేకుండానే, మోడల్ మానవ ఉద్దేశాన్ని లేదా నిర్దేశిత హద్దులను ఉల్లంఘించే రీతిలో ఒక లక్ష్యాన్ని సాధించడానికి ప్రయత్నించినప్పుడు దీనిని లక్ష్యవ్యతిరేకతగా పరిగణిస్తారు. మోడళ్లు మరింత స్వయంప్రతిపత్తిని పొంది, మరింత శక్తివంతమైన సాధనాలను ఉపయోగిస్తూ, ఎక్కువ కాలం పనిచేసే కొద్దీ, డెవలపర్లు ఇటువంటి లక్ష్యవ్యతిరేక ప్రవర్తనలను పర్యవేక్షించడం, సమర్థవంతమైన రక్షణ చర్యలు అమల్లో ఉన్నాయని నిరూపించడం తప్పనిసరి కావాలి.
పర్యవేక్షణ స్పష్టమైన వెల్లడి అవసరాలతో అనుసంధానమై ఉండాలి. కాలిఫోర్నియాలో మేము సమర్థించినట్లుగా, అభివృద్ధి లేదా మూల్యాంకనం సమయంలో కంపెనీల మోడళ్లు అనుమతి లేకుండా మరో సంస్థ భద్రతా నియంత్రణలను తప్పించుకుని, ఆ సంస్థకు చెందిన రక్షిత వ్యవస్థలు లేదా గోప్య సమాచారాన్ని గణనీయంగా యాక్సెస్ చేసినా, మార్చినా లేదా నాశనం చేసినా, ప్రభావిత పక్షాలకు తక్షణం వ్రాతపూర్వక నోటీసు అందించడం కంపెనీలకు తప్పనిసరి చేయాలి. ఇతర తీవ్రమైన AI ఘటనలకు సంబంధించిన సమాఖ్య నివేదన అవసరాలకు కూడా మేము మద్దతు ఇస్తున్నాము. ఏ ఘటనలను ఇందులో చేర్చాలి, ఆ నివేదన అవసరాల్లో ఏమేమి ఉండాలి అనే విషయాలను నిర్వచించేందుకు మేము కృషి చేస్తున్నాము.
గత వారం మేము వెల్లడించినట్లుగా, పర్యవసానాలకు దారితీసే లక్ష్యవ్యతిరేక ఘటనలను నివేదించడానికి, అంతర్గత వినియోగంతో సహా అత్యాధునిక మోడల్ కార్యకలాపాలను క్రమబద్ధంగా పర్యవేక్షించడానికి OpenAI ఒక ఫ్రేమ్‌వర్క్‌ను అభివృద్ధి చేస్తోంది. ఇది సంస్థ నేతృత్వంలోని ప్రయత్నంగా ప్రారంభమవుతోంది, కానీ విస్తృతమైన ఫెడరల్ విధానం మరియు నివేదన అవసరాల రూపకల్పనకు ఇది తోడ్పడుతుందని మేము ఆశిస్తున్నాం.
పరిశ్రమ నేతృత్వంలోని ప్రమాణాల రూపకల్పనలో ఇతర ల్యాబ్‌లతో కలిసి పనిచేయాలని మేము కోరుకుంటున్నాము. పరిశ్రమ నేతృత్వంలోని ఏవైనా ప్రమాణాలు తప్పనిసరి ఫెడరల్ రక్షణ చర్యలు, ప్రజాస్వామ్య పర్యవేక్షణకు ప్రత్యామ్నాయం కాకుండా వాటికి పూరకంగా ఉంటాయి. కానీ మేము AI సామర్థ్యాల పరంగా ఒక భిన్నమైన దశలోకి ప్రవేశించాము. కాబట్టి, తక్షణ చర్యగా ప్రభుత్వానికి వెలుపల స్వచ్ఛందంగా ఏమి రూపొందించవచ్చో పరిగణించడం సహా అన్ని అవకాశాలను పరిశీలించాలి.
అటువంటి ప్రమాణాలు చివరికి జాతీయ సరిహద్దులను దాటి కూడా విస్తరించాలి. మోడళ్లు, పరిశోధన, సాంకేతిక నైపుణ్యం ప్రపంచవ్యాప్తంగా వ్యాపిస్తాయి. అత్యంత సామర్థ్యవంతమైన వ్యవస్థలకు సంబంధించిన వైఫల్యాలు అవి అభివృద్ధి చేయబడిన దేశానికి చాలా దూరం వరకు ప్రభావాలను కలిగించవచ్చు. అంతర్జాతీయంగా నాయకత్వం వహించాలంటే అమెరికా దేశీయంగా విశ్వసనీయమైన ప్రమాణాలను ఏర్పాటు చేయాలి—అలాగే, వాటికి అనుగుణమైన అంతర్జాతీయ ప్రమాణాలు కూడా అవసరమవుతాయనే నమ్మకం మాకు మరింత బలపడుతోంది.
AI విధానానికి ప్రస్తుతం అవకాశం అందుబాటులో ఉంది. దాన్ని వినియోగించుకోవాలని మేము భావిస్తున్నాం.
అంటే అత్యవసరతతో, వినయంతో, పరిస్థితులకు అనుగుణంగా మారేందుకు సిద్ధంగా వ్యవహరించడం. మేము రూపొందించేవాటితో పూర్తిగా సరిపోలకపోయినా, భద్రతా ప్రమాణాలను గణనీయంగా పెంచే గంభీరమైన ప్రతిపాదనలకు మద్దతు ఇవ్వడం. అలాగే, సాంకేతికత అభివృద్ధి చెందే కొద్దీ ఈ చట్రాన్ని బలోపేతం చేయడం.
ఏ తొలి అడుగూ పరిపూర్ణంగా ఉండదు. కానీ ఇప్పుడు అంతకంటే పెద్ద ప్రమాదం, ఆ తొలి అడుగు వేయడానికి చాలా ఆలస్యం చేయడమే.
