ఐక్యరాజ్యసమితి భద్రతా మండలిలో Sam Altman ప్రసంగం

ఈ రోజు OpenAI ముఖ్య కార్యనిర్వహణాధికారి Sam Altman AI గురించి ఐక్యరాజ్యసమితి భద్రతా మండలిని ఉద్దేశించి ప్రసంగించారు. అవకాశాలను విస్తరించడంలో AI సామర్థ్యం, శక్తిమంతమైన వ్యవస్థలను మానవ నియంత్రణలో ఉంచాల్సిన ప్రాముఖ్యత, AI భద్రతపై అంతర్జాతీయ సహకారం ఆవశ్యకత గురించి ఆయన మాట్లాడారు.

అధ్యక్ష మహోదయా, గౌరవనీయులైన ప్రముఖులారా, మీకు కృతజ్ఞతలు. ఈ ముఖ్యమైన సమయంలో ఇక్కడ ఉండటం, మీ అందరితో మాట్లాడగలగడం నాకు గౌరవంగా ఉంది.

AI గురించి మనం ఎన్నో సంవత్సరాలుగా మాట్లాడుతున్నాం. కానీ ఇటీవలి వారాలు, నెలల్లో పరిస్థితి భిన్నంగా అనిపిస్తోంది. మోడళ్ల వేగవంతమైన పురోగతితో పరిణామాల కాలవ్యవధి మరింత కుదించినట్లు, ప్రయోజనాలు మరింత స్పష్టంగా కనిపిస్తున్నాయి. అదే సమయంలో పణంగా ఉన్న అంశాలు, ముప్పులు మరింత తక్షణమైనవిగా మారాయి.

మన ముందు ఒక ఎంపిక ఉంది. AI సృజనాత్మకత, ఆవిష్కరణల కొత్త పునరుజ్జీవన యుగంలా మారవచ్చు. లేదా కల్లోలం, అస్తవ్యస్తతలతో కూడిన కొత్త పారిశ్రామిక విప్లవంలా మారవచ్చు.

కొత్త సాధనాలు, ఆలోచనలు, సంస్థలు ప్రజలు తాము చేయగలమని నమ్మిన వాటి పరిధిని విస్తరించిన కాలమే పునరుజ్జీవన యుగం. మన కాలంలో AI ఆ పాత్రను పోషించగలదు. ప్రజలు తాము ఊహించుకునే దానికంటే ఎంతో సమర్థులని నేను నమ్ముతున్నాను. అయితే సాధికారత కల్పించాల్సిన పరిమిత సాంకేతికత వారిని వెనక్కి లాగింది. అది వారిని పక్కదారి పట్టించడంతో పాటు తరచూ వారి దృష్టిని హరిస్తోంది.

AI అత్యుత్తమ రూపమంటే ప్రజలను ఒక భారీ యంత్రంలోని చిన్న భాగాలుగా మార్చడం కాదు. జీవితంలోని మానవీయ కోణాలన్నీ కనుమరుగయ్యే వరకు ప్రతి అంశాన్నీ గరిష్ఠ సామర్థ్యానికి తేవడం కూడా కాదు. అంతకంతకూ సంక్లిష్టమవుతున్న ప్రపంచంలో ప్రజలకు మరింత స్వతంత్ర కార్యసామర్థ్యాన్ని ఇవ్వడమే దాని ఉద్దేశం. నేర్చుకోవడం, సృష్టించడం, కనుగొనడం, నిర్మించడం, పాల్గొనడం వంటి వాటికి మరింత సామర్థ్యాన్ని అందించాలి. AI యాంత్రీకరించలేని, యాంత్రీకరించకూడని విషయాలు ఎన్నో ఉన్నాయి.

AIను ప్రజల కోసం నిర్మించాలి. కేవలం యంత్రాలను మరింత వేగంగా నడిపించడమే లక్ష్యంగా ఉండకూడదు. AIను నిర్మించేందుకు కృషి చేస్తున్న కొందరు చెప్పిన విషయాలు ఎంతటి భయానక భవిష్యత్తును చిత్రిస్తాయంటే, అవి నాసిరకం వైజ్ఞానిక కాల్పనిక చిత్రాల కథల్లా అనిపిస్తాయి.

ఇంత శక్తిమంతమైనది ఏదైనా భయాన్ని కూడా కలిగిస్తుంది. అపారమైన అవకాశాన్ని, పూర్తిగా అర్థం చేసుకోదగిన ఆందోళనను ఒకేసారి అనుభవిస్తున్నందున ఈ సందర్భం సంక్లిష్టమైనది.

ఈ మోడళ్లు కొత్త ఔషధాలు, మెరుగైన ఆరోగ్య సంరక్షణ, పటిష్ఠమైన విద్య వంటి కొత్త జ్ఞానాన్ని కనుగొనడానికి, మరింత ఉత్పాదక ఆర్థిక వ్యవస్థలను నిర్మించడానికి ప్రజలకు సహాయపడగలవు. ప్రస్తుతం అందనివిగా అనిపిస్తున్న కలలు, ఆకాంక్షలను సాధించేందుకు ఇవి ప్రజలకు కొత్త సాధనాలుగా ఉపయోగపడగలవు. సగటు వ్యక్తికి జీవితం అనూహ్యంగా సంక్లిష్టమైంది. AI అపూర్వమైన ఆవిష్కరణలు, నవకల్పనలకు సాధనంగా ఉపయోగపడగలిగినంతగా, ఈ సంక్లిష్టతను ఎదుర్కొనే రక్షణ సాధనంగానూ ఉపయోగపడగలదు.

మరోవైపు, AI వ్యవస్థలు మరింత సామర్థ్యం, స్వయంప్రతిపత్తి పొందుతున్న కొద్దీ అవి మన సంస్థలకంటే వేగంగా ముందుకు వెళ్లవచ్చు, అధికారాన్ని అతి కొద్దిమంది చేతుల్లో కేంద్రీకరించవచ్చు లేదా ప్రజలు అర్థం చేసుకోలేని, నియంత్రించలేని నిర్ణయాలు తీసుకోవచ్చు.

తమను తాము, తమ భవిష్యత్తు సంస్కరణలను మెరుగుపరచుకోగల వ్యవస్థలకు మనం చేరువవుతున్న కొద్దీ ఈ ఆందోళన మరింత ముఖ్యమవుతుంది. దీనినే సాధారణంగా పునరావృత స్వీయ-మెరుగుదల అంటారు. AI నిర్మాణ ప్రక్రియ మరింత యాంత్రీకృతమయ్యే కొద్దీ, దాని పురోగతి వేగం అమితంగా పెరగవచ్చు. ఈ సమయంలో అత్యంత జాగ్రత్త అవసరం.

ఆచార్యుడు బెంజియోతో నేను చాలావరకు ఏకీభవిస్తున్నాను. అయితే మూడు కాకుండా రెండు అని చెబుతాను. AI పురోగతి అత్యంత ప్రమాదకరంగా మారగల రెండు మార్గాలు ఉన్నాయని, వాటిని మనం తప్పక నివారించాలని నేను నమ్ముతున్నాను.

మొదటిగా, మన భవిష్యత్తుపై నియంత్రణను AIకు కోల్పోవచ్చు. అది ఎంత వేగంగా ముందుకు వెళ్లవచ్చంటే, ఏం జరుగుతోందో ప్రజలు గ్రహించలేకపోవచ్చు, అవసరమైనప్పుడు జోక్యం చేసుకోలేకపోవచ్చు. అదే ముప్పు. ఇది నిస్సందేహంగా భయంకరమైన పరిణామం అవుతుంది.

ప్రయోజనాలు అపారంగా ఉన్నాయనీ, వేగం తగ్గించలేనంత ముఖ్యమైనవనీ భావించి పరిశ్రమ అతిగా సాంకేతిక ముప్పును అంగీకరించకూడదు. పోటీలో ఇతర కంపెనీలను ఓడించాలనే ఆతురత, తొందరపాటు నిర్ణయాలు తీసుకోవడానికి కారణం కాకూడదు. అలాగే వేగం తగ్గించుకోలేని పోటీలో మనం చిక్కుకున్నామని కూడా మేము నమ్మడం లేదు. గతంలో మేము ఏకపక్షంగా వేగాన్ని తగ్గించుకున్నాం. భవిష్యత్తులోనూ అలా చేస్తాం. మానవ లక్ష్యాలకు అనుగుణంగా పనిచేయడం, పర్యవేక్షించగలగడం, భద్రత వంటి అంశాలపై అవసరమైన హామీలు ఇవ్వలేని వ్యవస్థలను నిర్మించాలని మేము కోరుకోవడం లేదు. ఎవరూ అలాంటి వ్యవస్థలను నిర్మించకుండా ఉండటం ముఖ్యమని భావిస్తున్నాం.

ఈ వ్యవస్థలు ఏం చేస్తున్నాయో మనం అర్థం చేసుకోవాలి. అవి ఎంతటి మేధస్సును సాధించినా, ప్రజలు ఉద్దేశించిన విధంగానే పనిచేస్తాయని బలమైన ఆధారాలు ఉండాలి. వాస్తవానికి, అవి అత్యంత మేధో సామర్థ్యాన్ని సాధించినప్పుడే ఇది మరింత ముఖ్యం. ప్రజలు విపత్తు ముప్పును 10 శాతంగా, 1 శాతంగా, 12 శాతంగా లేదా 0.1 శాతంగా అంచనా వేస్తున్నారా అనేది ముఖ్యం కాదు. ఈ స్థాయుల్లో ఏ ఒక్కటీ ఏమాత్రం ఆమోదయోగ్యం కాదు. మానవ నియంత్రణలో ఉంచగలమని అత్యంత బలంగా నిరూపించలేని మోడళ్లకు మనం శిక్షణ ఇవ్వకూడదు.

విషయాలు తప్పుదోవ పట్టగల ఒక మార్గం ఇదే. మరోవైపు, ఈ వ్యవస్థలు అతి కొద్దిమంది చేతుల్లో మితిమీరిన అధికారాన్ని కేంద్రీకరించవచ్చు. అత్యంత శక్తిమంతమైన AI మోడళ్లను ఉపయోగించి ఏ ఒక్క వ్యక్తి, కంపెనీ లేదా దేశం తన ప్రపంచ దృక్పథాన్ని మిగతా అందరిపై రుద్దకూడదు. ఈ సాంకేతికత విషయంలో తనను మాత్రమే నమ్మవచ్చని భావించే కంపెనీ లేదా దేశం, దాదాపు ఏ ఇతర చర్యనైనా సమర్థించుకోవడానికి ఆ నమ్మకాన్ని ఉపయోగించవచ్చు. ఏ ఒక్క పక్షానికి అది అనుకూలంగా ఉన్నప్పటికీ, మనం ఆ తర్కాన్ని తిరస్కరించాలి.

ఈ రెండు సమస్యలనూ అధిగమించేందుకు ఆచరణాత్మక మార్గం ఉందని నేను నమ్ముతున్నాను. OpenAIలో మేము ఈ ప్రశ్నలను ఒక స్పష్టమైన లక్ష్యంతో పరిశీలిస్తాం. ప్రజలు తమ జీవితాలపై మరింత నియంత్రణ పొందేలా AI తోడ్పడాలి. తాము కోరుకున్న విధంగా జీవించేందుకు మరింత స్వేచ్ఛనివ్వాలి. చిన్నవైనా, పెద్దవైనా సమస్యలను పరిష్కరించి, తమ సముదాయాలను మెరుగుపరచుకునే సామర్థ్యాన్ని పెంచాలి. గుడ్డి ఆశావాదం అనే ఉచ్చులో పడాలని మేము కోరుకోవడం లేదు. అలాగే అంతా వినాశనానికే దారితీస్తుందనే నిరాశావాదపు ఉచ్చులోనూ పడాలని కోరుకోవడం లేదు. ఈ రెండు తీవ్ర ధోరణుల్లో దేనివైపు మొగ్గినా మన ముందున్న సవాళ్లను విజయవంతంగా పరిష్కరించలేం. ముఖ్యంగా, ఈ సాంకేతికత పరిష్కరించగల భారీ సమస్యలను ప్రపంచం, ప్రజలు ఎదుర్కొంటున్న ఈ సమయంలో అది ఏమాత్రం తోడ్పడదు. అందుకే ఈ రెండు ధ్రువాల మధ్య సమతుల్య మార్గంలో నడవడానికి ప్రయత్నిస్తాం.

మాకు దాని అర్థం మూడు సూత్రాలను పాటించడం.

మొదటిగా, AI సామర్థ్యం పెరుగుతున్న కొద్దీ దానికి సంబంధించిన నిర్ణయాల్లో ప్రజలే కేంద్రంగా ఉండాలి. మానవ లక్ష్యాలు, విలువలకు అనుగుణంగా వ్యవస్థలను తీర్చిదిద్దడం అనేది కేవలం ఒక నైరూప్య పరిశోధన ప్రశ్న కాదు. ఈ వ్యవస్థలు విశ్వసనీయంగా మానవ నియంత్రణలో ఉండేలా, మానవ విలువలను ప్రతిబింబించేలా, అభివృద్ధి తదుపరి దశలకు ప్రజలు దిశానిర్దేశం చేయడంలో సహాయపడేలా చూడాల్సిన కర్తవ్యం అది. మానవ విచక్షణను లేదా మానవ విలువలను యాంత్రీకరించడానికి మేము ప్రయత్నించడం లేదు, ప్రయత్నించకూడదు కూడా.

రెండవది, శాస్త్రీయ పురోగతి, ఆర్థిక వృద్ధి ప్రజల చేతుల్లో రూపుదిద్దుకుని, ప్రజలకే ప్రయోజనం చేకూర్చాలి. కొత్త ఆవిష్కరణలు చేయడంలో పరిశోధకులకు, రోగులకు చికిత్స అందించడంలో వైద్యులకు, విద్యార్థులకు బోధించడంలో ఉపాధ్యాయులకు, సంస్థలు ప్రారంభించడంలో ఔత్సాహికులకు, అసాధ్యంగా అనిపించిన సమస్యలను పరిష్కరించడంలో సముదాయాలకు AI సహాయపడాలి. ఇంకా ఎన్నో విధాలుగా తోడ్పడాలి. మానవ పురోగతి అనే నిరంతర ప్రయాణం, సాధనాలు మానవుల స్వతంత్ర కార్యసామర్థ్యాన్ని భర్తీ చేశాయనే కథ కాదు. సరైన సాధనాలు ప్రజల సామర్థ్యాన్ని పెంచాయన్నదే ఆ కథ. ఇది సాధ్యమని మనం ఊహించిన దానికంటే ఎంతో ముందుకు వెళ్తుందని నేను నమ్ముతున్నాను.

మూడవది, ఈ సాంకేతికత ప్రతి వ్యక్తికీ సాధికారత కల్పించాలి. ప్రజలు తమ సామర్థ్యాన్ని సాకారం చేసుకుని, తమకు, తమ సముదాయాలకు, దేశాలకు, విశాల ప్రపంచానికి విలువను సృష్టించడం ద్వారానే గొప్ప భవిష్యత్తు రూపుదిద్దుకుంటుంది. ఈ సాంకేతికతను నిర్మిస్తున్నవారిలో మేమూ ఒకరం కావచ్చు. కానీ ఈ కథలో నాయకులం మాత్రం కాదు. ప్రపంచవ్యాప్తంగా ప్రజలకు సాధికారత కల్పించడం, మానవ నైపుణ్యాలు, సామర్థ్యాల అద్భుత శక్తిపై నమ్మకం ఉంచడమే మా పాత్ర.

ఇంతకు ముందెన్నడూ మనకు తెలియని జ్ఞానాన్ని కనుగొనగల మోడళ్లు ఇప్పుడు మన వద్ద ఉన్నాయి. గణితంలో మనం సాధించిన పురోగతిని పరిశీలించండి. మూడు వేసవి కాలాల క్రితం, మా మోడళ్లు ప్రాథమిక పాఠశాల స్థాయి గణితంలో ఒక మోస్తరుగా పనిచేసేవి. రెండు వేసవి కాలాల క్రితం, అవి ఉన్నత పాఠశాల గణిత పోటీల్లో చాలా బాగా రాణించాయి. గత వేసవిలో, అత్యంత ప్రతిష్ఠాత్మక అంతర్జాతీయ గణిత పోటీలో బంగారు పతక స్థాయిని చేరుకున్నాం. ఈ వేసవిలో కేవలం కొన్ని వారాల క్రితం, మా మోడళ్లలో ఒకటి సహస్రాబ్ది బహుమతి సమస్యల్లో ఒకటైన నావియర్-స్టోక్స్ సమీకరణాలను పరిష్కరించింది.

ఈ సమీకరణాలను విమానాల రూపకల్పన, వాతావరణ అంచనా, రక్త ప్రవాహ అధ్యయనంలో ఉపయోగిస్తారు. మేము గణిత సమస్యలను కేవలం వాటిని పరిష్కరించాలనే ఉద్దేశంతో పరిష్కరించడం లేదు. కొత్త జ్ఞానాన్ని కనుగొని, దానితో ఆరోగ్య సంరక్షణను మెరుగుపరచడానికి, జీవన ప్రమాణాలను పెంచడానికి, ప్రపంచవ్యాప్తంగా అందరి సామర్థ్యాన్ని విస్తరించడానికి ప్రజలకు సాధికారత కల్పించడమే మా ఉద్దేశం. కనుగొనాల్సింది ఇంకా ఎంతో ఉంది.

అయితే ప్రజాస్వామ్య ప్రక్రియకు కంపెనీలు ప్రత్యామ్నాయంగా మారకపోవడం చాలా ముఖ్యం.

AI ప్రజాస్వామ్యబద్ధంగా ఉండాలంటే, అత్యంత ముఖ్యమైన నిర్ణయాలను శాన్ ఫ్రాన్సిస్కోలోని ప్రయోగశాలలు మాత్రమే తీసుకోకూడదు. ప్రజాస్వామ్య ప్రక్రియల ద్వారా, తాము సేవలందించే ప్రజలకు జవాబుదారీగా ఉండే ప్రభుత్వాల ద్వారా ఆ నిర్ణయాలు రూపుదిద్దుకోవాలి.

అంతర్జాతీయ స్థాయిలో దీనికి సహకారం అవసరం. శక్తిమంతమైన కొత్త సాంకేతికత ఎదురైనప్పుడు, పరస్పరం పోటీపడే, ఒకరినొకరు అంతగా ఇష్టపడని దేశాలు కూడా ఉమ్మడి ప్రయోజనాలు, సమష్టి మేలు కోసం కలిసికట్టుగా పనిచేసిన సందర్భాలు చరిత్రలో ఉన్నాయి. ఇది కూడా తప్పక అలాంటి సందర్భమే కావాలని మేము నమ్ముతున్నాం.

ఒకదానికొకటి తోడ్పడే జాతీయ, అంతర్జాతీయ అత్యాధునిక AI ప్రమాణాల కోసం మనకు ఒక వ్యవస్థ అవసరం. సామర్థ్యాలను కొలవడం, ముప్పులను అంచనా వేయడం, రక్షణ చర్యలు సరిపోతాయో లేదో నిర్ధారించడం, వ్యవస్థలు మరింత స్వయంప్రతిపత్తితో పనిచేస్తున్నప్పుడు అర్థవంతమైన మానవ పర్యవేక్షణను కొనసాగించడం వంటి వాటికి ప్రమాణాలు కావాలి.

దేశాలు ఆధారాలను పోల్చుకోవడానికి, నిబంధనల అనుసరణను ధ్రువీకరించడానికి, జరుగుతున్న పరిణామాలపై ఉమ్మడి భాష, అవగాహన కలిగి ఉండటానికి సాధారణ ప్రమాణాలు అవసరం.

వైఫల్యాలు విపత్తులుగా మారకముందే ప్రపంచం వాటి నుంచి నేర్చుకునేలా, సంఘటనలను కచ్చితంగా, వేగంగా నివేదించే వ్యవస్థతో పాటు వర్గీకరణ, నివేదన నియమావళులు అవసరం.

కొత్తగా బయటపడుతున్న బలహీనతలు, ముప్పులను పంచుకోవడానికి ప్రభుత్వాలు, కీలక మౌలిక సదుపాయాల నిర్వాహకులు, సాంకేతిక నిపుణుల మధ్య సురక్షిత సమాచార మార్గాలు కూడా అవసరం.

ఈ ప్రమాణాలు ఇప్పటికే స్థిరపడిన సంస్థల ఆధిపత్యాన్ని శాశ్వతం చేయకూడదు లేదా ఒక వ్యాపార నమూనాకు మరొకదానికంటే ప్రాధాన్యం ఇవ్వకూడదు. అవి బహిరంగ, పరిమిత ప్రాప్యత మోడళ్ల రూపకర్తలకు, కొత్తగా ప్రవేశించేవారికి, స్థిరపడిన ప్రయోగశాలలకు, జాతీయ అధికారానికి, అంతర్జాతీయ సహకారానికి మద్దతివ్వాలి. ప్రమాణాలను తన న్యాయవ్యవస్థలో ఎలా చేర్చుకోవాలో ప్రతి ప్రభుత్వం నిర్ణయించుకోవాలి. అయితే అంతర్జాతీయ స్థాయిలో విశ్వసనీయ ఆధారాలు, సమర్థమైన రక్షణ చర్యలు, సరైన పర్యవేక్షణ ఎలా ఉండాలనే విషయంలో ఏకాభిప్రాయానికి వస్తే మనందరికీ మేలు జరుగుతుంది.

అన్ని ప్రశ్నలకూ మా వద్ద సమాధానాలు లేవు. మరింత మెరుగైన ఆలోచనలు ఏవైనా ఉంటే స్వాగతించడానికి మేము సిద్ధంగా ఉన్నాం. మీ అందరితో కలిసి పనిచేసి, ముందుకు వెళ్లే మార్గాన్ని కనుగొనేందుకు మా శాయశక్తులా కృషి చేయడానికి సిద్ధంగా ఉన్నాం.

మనం ఇప్పుడు ఒక కీలక మలుపులో ఉన్నాం. ఒక మార్గం, అధికారం కొద్దిమంది చేతుల్లో కేంద్రీకృతమై, నిర్ణయాలు పారదర్శకంగా లేకుండా, తమ జీవితకాలంలోనే అత్యంత ముఖ్యమైన సాంకేతికత తమపై రుద్దబడుతోందని ప్రజలు భావించే ప్రపంచానికి దారితీస్తుంది. మరో మార్గం, ప్రజాస్వామ్య సంస్థల ద్వారా AI ఎలా అభివృద్ధి చెందాలి, దానికి ఎలా దిశానిర్దేశం చేయాలి అనే విషయాల్లో ప్రజలు పాలుపంచుకోవడం వల్ల అది వారి కోసం పనిచేసే ప్రపంచానికి దారితీస్తుంది. అక్కడ శాస్త్రీయ పురోగతి ప్రజల జీవితాలను నిజంగా మెరుగుపరుస్తుంది, భవిష్యత్తు నిర్మాణంలో మరింత మంది పాల్గొనగలుగుతారు, వ్యక్తులు, సముదాయాలు తాము కోరుకున్నట్లు జీవించేందుకు ఈ సాంకేతికత వారికి మరింత శక్తినిస్తూనే ఉంటుంది. ఇది సామర్థ్యాలు సాకారమయ్యే, ఉత్సాహం, అద్భుతాలతో నిండిన భవిష్యత్తు.

అలాంటి భవిష్యత్తును నిర్మించడం విలువైనదని మేము నమ్ముతున్నాం. మీకు ఎంతో కృతజ్ఞతలు.