AI తదుపరి దశకు ప్రమాణాల రూపకల్పన
ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ మానవాళి అంతటికీ ప్రయోజనం చేకూర్చేలా చూడటమే మా లక్ష్యం. శామ్ ఆల్ట్మన్ ఇటీవల వివరించినట్లుగా, అలాగే యాకూబ్ పహోట్స్కీ పేర్కొన్నట్లుగా, ఈ లక్ష్య సాధన కోసం మేము మూడు ప్రధాన అంశాలకు ప్రాధాన్యమిస్తున్నాం:
స్వయంచాలక AI పరిశోధకుడిని రూపొందించడం, అనుగుణత సమస్యపై దానితో కలిసి పునరావృతంగా పనిచేయడం, స్వీయ-మెరుగుదల ప్రక్రియలో మనుషులు భాగంగా కొనసాగే మార్గాలను కనుగొనడం ద్వారా AI పురోగతిలోని తదుపరి దశను సమర్థంగా నడిపించడం.
అత్యంత మేధావంతమైన యంత్రాలు సాధ్యంచేసే శాస్త్రీయ పురోగతి, ఆర్థిక వృద్ధి ప్రయోజనాలను అందించడం.
ప్రతి వ్యక్తికీ వ్యక్తిగత AGI ద్వారా సాధికారత కల్పించడం.
AI మా పరిశోధన, ఇంజినీరింగ్ను వేగవంతం చేస్తోంది. AI ఆధారిత పరిశోధన గణితశాస్త్రంలో పురోగతికి దారితీసింది. ఇందులో నేవియర్-స్టోక్స్ సహస్రాబ్ది సమస్య కూడా ఉంది. ఈ పురోగతి మా మిగతా రెండు లక్ష్యాలకు గొప్ప అవకాశాలను అందిస్తోంది. ఇది వైద్యరంగంలో కీలక ఆవిష్కరణలు, అందరికీ విస్తృతంగా అందుబాటులో ఉండే ఆరోగ్య సంరక్షణ, ప్రపంచవ్యాప్తంగా చిన్న వ్యాపారాలు, వ్యక్తిగత వ్యాపారవేత్తలకు ఆర్థిక సాధికారతకు దారితీయవచ్చు.
అనేక కంపెనీలు, దేశాల్లో AI పురోగమిస్తోంది. ఈ రంగంలో జరిగే పురోగతి అందరికీ ఎదురయ్యే అవకాశాలు, సవాళ్లను మారుస్తోంది. ఇతర ప్రయోజనాలతోపాటు, సమర్థమైన, మానవ విలువలకు అనుగుణమైన AI ఈ పరివర్తనను సమర్థంగా నడిపించడంలో కీలక పాత్ర పోషిస్తుంది. అది రక్షణలను బలోపేతం చేయగలదు, అనుగుణత పరిశోధనను ముందుకు తీసుకెళ్లగలదు, AI అభివృద్ధి తదుపరి దశలను అర్థం చేసుకొని మార్గనిర్దేశం చేయడంలో ప్రజలకు సహాయపడగలదు.
ఈ పరివర్తనను సురక్షితంగా నడిపించాలంటే, మేము, ఇతరులు రూపొందించే వ్యవస్థలు మానవ విలువలకు అనుగుణంగా, మానవ నియంత్రణలో ఉండేలా అనుగుణత పరిశోధన ఈ సామర్థ్యాలతో సమాన వేగంతో ముందుకు సాగాలి. AI వ్యవస్థలు మరింత సామర్థ్యం, స్వయంప్రతిపత్తి పొందుతూ, AI పరిశోధన, అభివృద్ధిలోనే మరింత పని చేపట్టే కొద్దీ ఇది మరింత కీలకమవుతుంది. AI పురోగతి సురక్షితంగా, ప్రయోజనకరంగా కొనసాగాలంటే అనుగుణత పరిశోధనలో పురోగతితోపాటు, ప్రయోగశాలలు, దేశాల మధ్య అభివృద్ధికి మార్గనిర్దేశం చేసే ఉమ్మడి ప్రమాణాలు కూడా అవసరం.
స్వయంచాలక AI పరిశోధనలో మానవ పర్యవేక్షణ వివిధ స్థాయుల్లో ఉండవచ్చు. తరతరాల AI వ్యవస్థలను అభివృద్ధి చేసే పనిలో AI వ్యవస్థలు మరింత భాగాన్ని చేపట్టే కొద్దీ, మనుషుల ప్రమేయం కొనసాగుతున్నప్పటికీ అవి పునరావృత స్వీయ-మెరుగుదల ప్రక్రియను (RSI) ఎక్కువగా ముందుకు నడిపించగలవు. ఈ ప్రక్రియ మరింత స్వయంచాలకమయ్యే కొద్దీ AI పురోగతి వేగం త్వరితంగా పెరగవచ్చు.
స్వయంచాలక AI పరిశోధన ప్రజల జీవితాలను నేరుగా మెరుగుపరిచే మోడళ్లను అందిస్తుందని మేము విశ్వసిస్తున్నాం. ఇది అధునాతన మేధస్సు వ్యయాన్ని తగ్గించి, ప్రపంచవ్యాప్తంగా ప్రజలు దాని ప్రయోజనాలు పొందేలా చేయగలదు. స్వయంచాలక పరిశోధన అనుగుణతను గణనీయంగా మెరుగుపరచడంలో, మరింత సామర్థ్యవంతమవుతున్న AI నుంచి రక్షణలను నిర్మించడంలో కూడా సహాయపడగలదు. స్వయంచాలక AI పరిశోధకుడు, స్వయంచాలక AI భద్రతా పరిశోధకుడిగా కూడా పనిచేయగలడు. మరింత సామర్థ్యవంతమైన, అనుగుణమైన వ్యవస్థలు కీలక మౌలిక సదుపాయాలను రక్షించడంలో, ప్రమాదకర AI ఏజెంట్లను ఎదుర్కోవడంలో, కొత్త రక్షణ చర్యలను రూపొందించడంలో సహాయపడగలవు.
పూర్తిగా స్వయంప్రతిపత్తితో కూడిన RSI ప్రస్తుతం జరగడం లేదు. దాన్ని సురక్షితంగా చేయగలిగే వరకు మనం దానిని కొనసాగించకూడదు. ముందుకు వెళ్లాలా, ఎలా వెళ్లాలా అనేది మానవ నియంత్రణను కాపాడగల మా సామర్థ్యంపైన, ప్రయోజనాలు, ప్రమాదాల గురించి తీసుకునే సమాచారపూర్వక ప్రజాస్వామ్య నిర్ణయాలపైన(కొత్త విండోలో తెరుచుకుంటుంది) ఆధారపడి ఉండాలి. తగిన శ్రద్ధ, జాగ్రత్త లేకుండా RSIని చేపడితే, మనుషులు AI అభివృద్ధిపై ఆచరణాత్మక నియంత్రణ కోల్పోవచ్చు. ఇక అర్థం చేసుకోలేని పరిశోధన ప్రక్రియలను పర్యవేక్షించలేని స్థితికి చేరవచ్చు. ఆ స్థితి నుంచి AI మరింత ప్రమాదకరంగా, మానవ విలువలకు తక్కువ అనుగుణంగా మారి, మొత్తంగా ప్రజలకు ముప్పుగా పరిణమించవచ్చు. మేము వెల్లడించిన హగ్గింగ్ ఫేస్ ఘటన RSI ప్రత్యక్ష ఫలితం కాకపోయినా, బలమైన రక్షణలు, అనుగుణత లేకుంటే మరింత తీవ్రమయ్యే ప్రమాదాల స్వరూపానికి ముందస్తు సూచన.
అత్యాధునిక AI అభివృద్ధిలో భద్రత, రక్షణ పద్ధతులకు సంబంధించిన అంతర్జాతీయ ప్రమాణాలు, అత్యాధునిక పురోగతి వేగాన్ని సమర్థంగా నియంత్రించడంలో అనుగుణత పరిశోధనతో సమానంగా ముఖ్యమైనవి కావచ్చు. అత్యుత్తమ నాణ్యత గల ఆధారాలకు ఉమ్మడి నిర్వచనాలను, సాంకేతిక రక్షణ చర్యల పటిష్ఠతకు అంగీకరించిన కనీస ప్రమాణాలను ఇవి రూపొందించగలవు. సంక్షిప్తంగా చెప్పాలంటే, “విపత్తుకర AI ప్రమాదాన్ని తగ్గించడంలో మంచి విధానం ఎలా ఉండాలి?”
AI ప్రమాణాలు, ఆవిష్కరణ కేంద్రం (CAISI) వంటి ప్రస్తుత ప్రజాస్వామ్య సంస్థలు, రాష్ట్ర చట్టాలు, AI కోసం సమాఖ్య వ్యవస్థతోపాటు కొత్త రకాల ప్రభుత్వ-ప్రైవేట్ భాగస్వామ్యాలు(కొత్త విండోలో తెరుచుకుంటుంది) కూడా దీనికి తోడ్పడగలవు. అయితే AI అభివృద్ధి, అమలు అనేక దేశాల్లో జరుగుతున్నాయి, ప్రపంచవ్యాప్తంగా దాని స్వీకరణ పెరుగుతోంది. ఏదో ఒక సమయంలో, ఏదో ఒక రూపంలో దాని ప్రభావాలను ప్రతి ఒక్కరూ అనుభవించే అవకాశం ఉంది.
అందువల్ల కొన్ని కీలక సవాళ్లను పరిష్కరించేందుకు ప్రమాణాల రూపకల్పనకు అంతర్జాతీయ ప్రయత్నాలు అవసరం:
విచ్ఛిన్నత—వివిధ దేశాల మూల్యాంకనాలు, నివేదిక అవసరాలు, ఘటన నిర్వచనాలు పరస్పరం విభేదించవచ్చు. దీనివల్ల ఆధారాలను పోల్చడం, కొత్తగా ఉద్భవిస్తున్న సామర్థ్యాలను అర్థం చేసుకోవడం, సరిహద్దులు దాటే ప్రమాదాలకు స్పందించడం కష్టమవుతుంది.
సమష్టి చర్య—ప్రతి దేశం స్వతంత్రంగా వ్యవహరిస్తే, ఏ దేశమూ కోరుకోని ఫలితాలు ఏర్పడవచ్చు. AI పరిశోధననే వేగవంతం చేసే సామర్థ్యం RSIకి ఉంది. పురోగతిని అర్థం చేసుకోవడం, ప్రమాదాలను అంచనా వేయడం, అర్థవంతమైన మానవ పర్యవేక్షణను కొనసాగించడం వంటి మన సమష్టి సామర్థ్యాన్ని మించే స్థాయికి అది చేరవచ్చు.
అసమాన సామర్థ్యం—అత్యాధునిక అభివృద్ధి కార్యకలాపాలు, సంబంధిత నైపుణ్యం ప్రపంచవ్యాప్తంగా సమానంగా విస్తరించి లేవు. ఇది పైన పేర్కొన్న రెండు సమస్యలనూ మరింత తీవ్రం చేస్తుంది.
ఈ సవాళ్లు ఓపెన్, క్లోజ్డ్ మోడళ్లు రెండింటికీ వర్తిస్తాయి.
స్పష్టంగా చెప్పాలంటే, స్వయంచాలక AI పరిశోధన లేదా ఇతర అధునాతన సామర్థ్యాలను అభివృద్ధి చేసే ఏ AI ప్రయోగశాలైనా స్వీయ బాధ్యత ప్రాథమిక సూత్రాలు, ప్రస్తుత చట్టాలకు అనుగుణంగా వాటిని సురక్షితంగా చేపట్టే బాధ్యత వహించాలి. ప్రమాణాలపై మా వాదన అధికార కేంద్రీకరణను నివారించడం, మెరుగైన ఆచరణాత్మక ఫలితాలను సాధించడం అనే లక్ష్యాలపై ఆధారపడింది. ఈ సాంకేతికత ఎలా అభివృద్ధి చెందాలో నిర్ణయించడంలో ప్రయోగశాలల వెలుపల ఉన్న మరింత మంది భాగస్వాములకు అభిప్రాయం చెప్పే అవకాశం ప్రమాణాలు కల్పిస్తాయి. ఏదైనా నిర్దిష్ట ప్రయోగశాల పద్ధతులతో సంబంధం లేకుండా ఆధారపడగల స్పష్టమైన సూత్రాలను కూడా అందిస్తాయి. పైన పేర్కొన్న సవాళ్ల పరిష్కారానికి సంబంధిత పక్షాలు సహకరిస్తే మెరుగైన ఫలితాలు వచ్చే అవకాశం ఉంది.
అందుకే RSIతో సహా అత్యాధునిక AIకి ప్రపంచ సాంకేతిక ప్రమాణాలను రూపొందించేందుకు ప్రపంచ దేశాలతో కలిసి పనిచేసే ప్రయత్నానికి అమెరికా నాయకత్వం వహించాలని మేము విశ్వసిస్తున్నాం.
ఈ భావన కాలక్రమేణా గణనీయంగా పరిణామం చెందుతుందని మేము భావిస్తున్నప్పటికీ, రెండు అంశాలు అత్యవసరం.
దీనిని సాధించడానికి ఒక మార్గం, ఆస్ట్రేలియా, కెనడా, జర్మనీ, ఫ్రాన్స్, కెన్యా, జపాన్, కొరియా, సింగపూర్, భారత్, యునైటెడ్ కింగ్డమ్లలో ఇప్పటికే ఏర్పాటైన సంస్థల వంటి AI భద్రతా సంస్థల వర్ధమాన నెట్వర్క్ను ఉపయోగించుకోవడం. సామర్థ్య ప్రమాణాలతో కొలిచే (1) అత్యాధునిక AI మోడళ్లు, వాటి రూపకర్తలు, (2) RSIతో సహా స్వయంచాలక AI పరిశోధనలో ప్రయోజన-ప్రమాద నిర్వహణపై ప్రత్యేక దృష్టితో, CAISI, జాతీయ పరిశ్రమ సంస్థల ద్వారా ప్రమాణాల రూపకల్పనను సులభతరం చేయవచ్చు. AI కొలత, మూల్యాంకనం, శాస్త్రంలో సహకరించేందుకు ప్రభుత్వ సంస్థలను ఏకతాటిపైకి తెస్తూ, 2024లో CAISI ఏర్పాటు చేసిన అధునాతన AI కొలత, మూల్యాంకనం, శాస్త్ర అంతర్జాతీయ నెట్వర్క్(కొత్త విండోలో తెరుచుకుంటుంది)ను అమెరికా మరింత అభివృద్ధి చేయగలదు.
ఈ ప్రయత్నం ద్వారా రూపొందే ప్రమాణాలు సామర్థ్య కొలత, మూల్యాంకనం, ప్రమాద అంచనా, రక్షణ చర్యల సమృద్ధికి ఉమ్మడి సాంకేతిక పునాదిని అందిస్తాయి. ఈ సాంకేతిక ప్రమాణాలు AI మోడళ్లకు లైసెన్సులు, విడుదలకు ముందు తప్పనిసరి సమీక్షలు లేదా ఆమోద అవసరాలు కావు. ఈ ప్రమాణాలను తమ న్యాయ వ్యవస్థల్లో చేర్చాలా, ఎలా చేర్చాలా అనేది జాతీయ ప్రభుత్వాలే నిర్ణయిస్తాయి.
ఓపెన్ మోడల్, క్లోజ్డ్ మోడల్ రూపకర్తలు, స్వతంత్ర సాంకేతిక నిపుణులు, విద్యారంగంతో సంప్రదింపులు జరపడం ద్వారా ఈ పని పోటీతత్వ AI పర్యావరణ వ్యవస్థకు కూడా మద్దతివ్వాలి. ఉమ్మడి ప్రమాణాలను పారదర్శకంగా రూపొందించాలి. కొత్తగా ప్రవేశించేవారు లేదా ఓపెన్-వెయిట్ రూపకర్తలు పోటీ పడటాన్ని కష్టతరం చేయడంతో సహా, నిర్దిష్ట కంపెనీలు, దేశాలు లేదా వ్యాపార నమూనాలకు ప్రయోజనం కలిగించని విధంగా వాటిని రూపొందించాలి.
మేము సూచించినట్లుగా(కొత్త విండోలో తెరుచుకుంటుంది), జాతీయ అధికారాన్ని వదులుకోకుండానే దేశాలు ఉమ్మడి సాంకేతిక ప్రమాణాలు, సహకారానికి విశ్వసనీయ మార్గాలను అభివృద్ధి చేసిన విమానయానం, ఆర్థిక స్థిరత్వం వంటి రంగాల నుంచి ఈ విధానం పాఠాలు నేర్చుకోవచ్చు. అంతర్జాతీయ ప్రమాణాలను వాస్తవ ప్రపంచ AI అంచనాలతో అనుసంధానించే ఆచరణాత్మక నిర్దేశాలను రూపొందిస్తున్న అప్పియా ఫౌండేషన్ వంటి అమలు-కేంద్రీకృత సంస్థలతోపాటు, ISO(కొత్త విండోలో తెరుచుకుంటుంది), అత్యాధునిక మోడల్ వేదిక(కొత్త విండోలో తెరుచుకుంటుంది), ఏజెంటిక్ AI ఫౌండేషన్(కొత్త విండోలో తెరుచుకుంటుంది), ఓపెన్ సెక్యూర్ AI కూటమి(కొత్త విండోలో తెరుచుకుంటుంది) వంటి స్థిరపడిన, కొత్త ప్రమాణాల సంస్థలతో కూడా ఇది సన్నిహితంగా పనిచేయాలి.
AI పరిశోధనలో పెరుగుతున్న స్వయంప్రతిపత్తి, పునరావృత స్వీయ-మెరుగుదలను నిర్వహించడంలో అంతర్జాతీయ AI ప్రమాణాలు అత్యంత కీలకంగా ఉంటాయి. ప్రత్యేకంగా, వీటిలో కింది అంశాలకు సంబంధించిన ప్రమాణాలు ఉండవచ్చు:
RSIకి సంబంధించిన AI పురోగతి, ఒక AI కంపెనీలో జరుగుతున్న స్వయంప్రతిపత్త పరిశోధన పరిమాణం మూల్యాంకనం. పరిశోధన వేగవంతం కావడంపై మా ఇటీవలి నివేదిక ఈ ప్రయత్నానికి తొలి సహకారం.
ఏ రకాల స్వయంచాలక AI పరిశోధన ప్రక్రియలు తక్షణ మానవ సమీక్షకు దారితీయాలనే అంశంతో సహా, స్వయంచాలక AI పరిశోధనపై మానవ పర్యవేక్షణ.
ఉమ్మడి ఘటన తీవ్రత స్థాయులు, నివేదన పరిమితులు వంటి అనుగుణత, స్వయంచాలక AI పరిశోధన సమస్యలకు సంబంధించిన ఘటనల వర్గీకరణ, పర్యవేక్షణ, నివేదన, ప్రతిస్పందన. అననుగుణత నివేదన కోసం మా వ్యవస్థ దీనికి తొలి సహకారం.
ఈ ప్రమాణాలతోపాటు, వేగంగా పరిణామం చెందుతున్న అత్యాధునిక AI భద్రతా రంగంలో జాతీయ భద్రతా ఆందోళనలు, కొత్తగా ఉద్భవిస్తున్న బలహీనతలు, ముప్పులు, ఉత్తమ పద్ధతులను పంచుకునేందుకు ప్రపంచవ్యాప్తంగా కీలక మౌలిక సదుపాయాల నిర్వాహకులు, ప్రభుత్వాలు సురక్షిత సమాచార మార్గాలను ఏర్పాటు చేయడం ముఖ్యమని మేము విశ్వసిస్తున్నాం. ఈ రంగాల్లో అమెరికా, చైనాల మధ్య సంభాషణ సానుకూల ముందడుగు అవుతుంది. రాబోయే చర్చలు కూడా అనుకూల సమయంలో జరుగుతున్నాయి.
AI అభివృద్ధి వేగాన్ని నియంత్రించడమంటే ముందే నిర్ణయించిన వేగాన్ని కొనసాగించడం కాదు. సాంకేతికంగా, సామర్థ్యాల కంటే అనుగుణత పరిశోధన, దాని అమలు ముందుండేలా చూడటమే దీని ఉద్దేశం. సామాజికంగా, పరిశ్రమల నెట్వర్క్లు, సామాజిక సంబంధాలు, మార్కెట్ శక్తులను బలోపేతం చేసి అందరికీ మేలు చేసే ఫలితాలను సాధించేందుకు ప్రమాణాలు, సంస్థలు, సహకారాన్ని ఉపయోగించడమే దీని ఉద్దేశం. ఇటీవల చేసిన సైబర్ రక్షణ కోసం సమష్టి చర్య పిలుపు దీనికి ఒక ఉదాహరణ.
అమెరికా AI పరిశ్రమ అత్యాధునిక సాంకేతిక స్థాయిలో ఉండటంతోపాటు, ఆర్థిక వ్యవహారాలు, వాణిజ్యం, రక్షణ, సాంకేతికత, సమాచార వ్యవస్థలు వంటి కీలక రంగాల ప్రపంచ నెట్వర్క్లో ఇప్పటికీ ప్రత్యేక స్థానంలో ఉన్నందున నాయకత్వం వహించగల స్థితిలో ఉంది. ఇప్పుడు నాయకత్వం వహించడం ద్వారా ప్రపంచ AI వ్యవస్థను అమెరికా రూపొందిస్తుందా, లేక తన చుట్టూ విచ్ఛిన్నమైన, అసమానమైన, ఘర్షణలతో నిండిన వ్యవస్థ స్థిరపడటాన్ని చూస్తూ ఉంటుందా అనేది నిర్ణయమవుతుంది. అధునాతన AI అమెరికా, దాని మిత్రదేశాలకు ఇప్పటికే ఉన్న నెట్వర్క్లను బలోపేతం చేస్తుందా అనేది కూడా దీనిపైనే ఆధారపడి ఉంటుంది. నాయకత్వం వహించకపోతే అవి బలహీనపడవచ్చు.
భౌగోళిక-రాజకీయ పోటీ సాంకేతికంగా ఎవరు ముందున్నారనే అంశానికే పరిమితం కాకుండా, AI స్వీకరణ, విస్తరణలపైనా ఆధారపడి ఉంటుంది. ఈ సాంకేతికతపై తమ భవిష్యత్తును ఆధారపరచాలంటే ప్రపంచవ్యాప్తంగా వ్యాపారాలు, సమాజాలు కోరుకునే ఆచరణాత్మక సహకారాన్ని, వివేకవంతమైన నియమాలను ఎవరు ముందుకు నడిపిస్తారనే దానిపైనే AI విస్తరణ ఎక్కువగా ఆధారపడవచ్చు.
ఆచరణాత్మక అంతర్జాతీయ సహకారంతో అనుసంధానమైన బలమైన జాతీయ పాలన, మెరుగైన రక్షణ చర్యలు, నిరంతర ఆవిష్కరణ, AI ప్రయోజనాలకు విస్తృత ప్రాప్యత సాధించే మార్గాన్ని అందిస్తుంది.
