మౌన ఏకాభిప్రాయం
రచయిత గమనిక: హార్వర్డ్లో విక్-బెయిలీ ఉపన్యాస పరంపరలో భాగంగా రచయిత ఇటీవల ఇచ్చిన ఉపన్యాసం ఆధారంగా ఈ నాటి వ్యాసాన్ని రూపొందించారు. ఈ వ్యాసంలో వ్యక్తమైనవి రచయిత సొంత అభిప్రాయాలు. అవి OpenAI లేదా దాని ఇతర ఉద్యోగుల అభిప్రాయాలు కానవసరం లేదు.
ఈ రోజు ఇక్కడికి వచ్చినందుకు ధన్యవాదాలు. మనం మాట్లాడుకుంటున్న ఈ సమయంలోనే, చరిత్రలో అత్యంత ముఖ్యమైన సైబర్ భద్రతా ఘటనల పరంపరల్లో ఒకటి జరుగుతోంది. కీలక భద్రతా లోపాలు వరుసగా వెల్లడవుతున్న ఈ పరిణామాన్ని కొందరు “చీకటి అక్టోబర్” అని పిలుస్తున్నారు. అంతర్జాలంలోని కొన్ని ప్రధాన మౌలిక వ్యవస్థల్లో ఉన్న ఈ లోపాలను అత్యాధునిక AI వ్యవస్థలు గుర్తించాయి. ప్రపంచవ్యాప్తంగా సాఫ్ట్వేర్ భద్రతను బలోపేతం చేసే అత్యవసర ప్రయత్నంలో భాగంగా వాటిని వెల్లడిస్తున్నారు. ఈ నెల అత్యవసర విషయం ఇది; వచ్చే నెల మరొకటి ఉంటుంది. సాఫ్ట్వేర్ లోపాలను కనుగొనడం—మేలుకూ కీడుకూ ఉపయోగపడే ఈ సామర్థ్యాన్ని AI వ్యవస్థలు నేడు సాధించాయి. త్వరలోనే ఇలాంటి మరో సామర్థ్యం వస్తుంది. దురుద్దేశం గలవారు దాని చెడు పార్శ్వాన్ని వాడుకునేలోగా మంచి పార్శ్వాన్ని ఉపయోగించేందుకు మరో అత్యవసర కార్యాచరణ మొదలవుతుంది. ఈ అత్యవసర విషయాలన్నీ ఒకేసారి మీదపడటం అనివార్యం. నేడు మనం “AI విధానం” అని పిలిచే దానిలో ఎక్కువ భాగం ఈ గందరగోళం మధ్యే రూపుదిద్దుకునే అవకాశం ఉంది.
అయితే తక్షణ ప్రతిస్పందన అవసరమయ్యే అత్యవసర విషయాల గురించి మాట్లాడటానికి నేను ఈ రోజు మీ ముందుకు రాలేదు. బదులుగా, విస్తృత దృష్టితో చూస్తే పరిస్థితులు ఎటు వెళుతున్నాయనే దాని గురించి మాట్లాడాలనుకుంటున్నాను. అత్యవసరాల పరంపర ఇలా చుట్టుముట్టినప్పుడు, మరింత అమూర్తంగా, సుదూరంగా అనిపించే ఈ ప్రశ్నల గురించి ఆలోచించడం కష్టమే. కానీ ఈ ప్రశ్నలు ముఖ్యమైనవి. దీర్ఘకాలంలో ఎలాంటి భవిష్యత్తును సాధించాలనుకుంటున్నాం, దేన్ని నివారించాలనుకుంటున్నాం అనే అవగాహన లేకపోతే, అడుగడుగునా వివేకంతో నిర్ణయాలు తీసుకున్నా, మొత్తం మీద మనకు ఇష్టం లేని ఫలితానికి చేరుకోవచ్చు.
తాము నిర్మిస్తున్న సాంకేతికత మనల్ని ఎటు తీసుకెళుతుందనే విషయంలో సాంకేతిక పరిశ్రమకు సానుకూల భవిష్యత్ దృక్పథం లేదని తరచూ అంటుంటారు. నేను అంగీకరించను: శాన్ ఫ్రాన్సిస్కో, ఇతర వ్యాపార ఆవిష్కరణ కేంద్రాలు మన సాంకేతిక భవిష్యత్తు గురించిన సానుకూల దృశ్యాలతో నిండి ఉన్నాయి. నిజంగానే ప్రజలు ఎగిరే కార్లు, స్వయంచాలక వాహనాలు, ఎన్నో పరిమాణాలు, ఆకారాల్లో మరమనుషులు, అణు సంలీన సాంకేతికత, అలాగే ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ను రూపొందిస్తున్నారు. మనకు లేనిది మన సంస్థాగత భవిష్యత్తుపై సానుకూల దృక్పథం: ఇదంతా ఎలా పనిచేయబోతోంది?
అయితే భవిష్యత్తుకు సంబంధించి సంస్థాగత దృక్పథం అసలే లేదని దీని అర్థం కాదు. దురదృష్టవశాత్తూ, నాకు అత్యంత సాధారణంగా కనిపించే దృక్పథాన్ని సానుకూలమైనదిగా నేను పిలవలేను. దాని గురించి మాట్లాడినా, సాధారణంగా గుసగుసల్లోనే మాట్లాడతారు. కానీ చాలావరకు అది మాటల్లోకి రాదు; అంతరార్థాన్ని బట్టి మాత్రమే గుర్తించగలం. దాన్నే నేను మౌన ఏకాభిప్రాయం అంటాను.
మానవ శ్రమ లేకుండా దాదాపు అన్నీ చేయగల కంపెనీని ఊహించండి. దాని AI వ్యవస్థలే పరిశోధన, అభివృద్ధి చేస్తాయి; కొత్త విషయాలు కనుగొంటాయి; ఒప్పందాలపై చర్చలు జరుపుతాయి; మూలధనాన్ని కేటాయిస్తాయి; ఉత్పత్తులు తయారుచేస్తాయి. మానవ పోటీదారులు తమ కృషికి AIని జోడించుకున్నప్పటికీ, ఆ కంపెనీ ఈ పనులన్నింటిలో వారికంటే మెరుగ్గా ఉంటుందనుకుందాం. మనుషుల జోక్యం వల్ల వ్యాపారం నెమ్మదించడం తప్ప మరే ప్రయోజనం లేకపోతే, నియంత్రణను వదులుకోవడానికి మానవ నిర్వాహకులకు, యజమానులకు బలమైన ప్రేరణ ఉంటుంది. ప్రపంచ ఆర్థిక వ్యవస్థ అంతటా ఇలా జరిగితే, మార్కెట్ పోటీ తర్కం ప్రపంచ వాణిజ్యంపై తమ ఆధిపత్యాన్ని వదులుకునే దిశగా మనుషులను నెడుతుంది. కాలక్రమంలో మార్కెట్, ప్రజల అవసరాలు, కోరికలను తీర్చినంతగా లేదా అంతకంటే ఎక్కువగా యంత్రాల అవసరాలను తీర్చడం మొదలుపెట్టవచ్చు.
ఆ తర్వాత ఏం జరుగుతుందో ఎవరూ కచ్చితంగా చెప్పలేరు. బహుశా మనుషులకు అపారమైన మేలు జరగవచ్చు. మనల్ని తమలో ఇముడ్చుకున్న యంత్రాలు మానవులకు అంతర్లీనమైన విలువ ఉందని ఎంతో గౌరవిస్తే, వాటి శ్రమ, అవి సృష్టించే సంపద మనకు లబ్ధి చేకూర్చవచ్చు. లేదా ఆర్థిక శక్తిని, క్రమంగా రాజకీయ శక్తిని కూడా కోల్పోవడంతో, ప్రపంచంలో మన ప్రాధాన్యం తగ్గుతూ, ప్రపంచ వ్యవహారాల గమనాన్ని మలిచే సామర్థ్యం క్షీణిస్తూ ఉండవచ్చు. అధికారాన్ని కోల్పోయిన ప్రజాబాహుళ్యాన్ని పణంగా పెట్టి కొద్దిమంది అపారమైన అధికారం, సంపదను చేజిక్కించుకోవచ్చు. లేదా అధికారాన్ని కోల్పోయే ఒకే గతి మనందరికీ పట్టవచ్చు. వివరాలు ఎలా ఉన్నా, ఈ మౌన ఏకాభిప్రాయాన్ని కలిపి ఉంచే మూలసూత్రం ఒక్కటే: మనకు తెలిసిన ప్రపంచంలో మానవ ఆధిపత్యానికి ముగింపు.
ఈ పరిస్థితులు ఏర్పడటానికి AI తన సృష్టికర్తలపై తిరుగుబాటు చేయాల్సిన అవసరం లేదు. దాని యజమానులు మానవులు అధికారం కోల్పోవాలని కోరుకోవాల్సిన అవసరమూ లేదు. బాధ్యతను అప్పగించే ప్రతి నిర్ణయం విడిగా చూసినప్పుడు సమంజసంగానే అనిపించవచ్చు. కానీ ఆ నిర్ణయాలన్నీ కలిస్తే, మన నాగరికతలో అత్యధిక భాగంపై వాస్తవ అధికారాన్ని మనుషులు వదులుకున్న ప్రపంచం ఏర్పడవచ్చు. AI భద్రత, మానవ లక్ష్యాలతో దాని అనుసరణ వంటి క్లిష్ట సమస్యల్లో అసాధారణ పురోగతి సాధించినా, మనం ఒక కొత్త రకమైన యాంత్రిక అస్తిత్వానికి లోబడి ఉండవచ్చు. మౌన ఏకాభిప్రాయం చెప్పే సుఖమయ భవిష్యత్తులో ఆ అస్తిత్వం దయగలదై ఉంటుంది; మానవుల శ్రేయస్సునే మనసులో ఉంచుకున్న యంత్రంగా ఉంటుంది. బ్రాటిగన్ కవితలో చెప్పినట్లు, ప్రేమపూర్వక అనుగ్రహం గల యంత్రం.
మౌన ఏకాభిప్రాయం ప్రకారం, మన కంపెనీల పగ్గాలను, క్రమంగా మన పాలనా సంస్థల పగ్గాలను కూడా ఈ యంత్రాలకు అప్పగిస్తాం. మనుషులమైన మనకంటే అవి వాటిని మరింత సమర్థంగా, తక్కువ వనరులతో, మెరుగైన వివేకంతో, నిర్ణయశక్తితో నడుపుతాయి. అలా కాలక్రమంలో మనం కారు నడిపే బాధ్యత నుంచి తప్పుకుని, ఆ ప్రేమమయ యంత్రాలే దాన్ని నడపనిస్తాం. మనం కారులోని ప్రయాణికుల్లా ఉంటాం—అది చాలా మంచి కారు, బహుశా ఈ రోజు మనం ఊహించగలిగిన దానికంటే భౌతిక సౌకర్యాల్లో ఎంతో మెరుగైన కారు కావచ్చు—కానీ ఆ వాహనం ఎటు వెళుతుందో నియంత్రించలేని ప్రయాణికులమే. మనం ఏదైనా పని చేసినా, అది ప్రధానంగా ఒక తంతులా లేదా నటనలా ఉంటుంది; మన జాతిని అలరించే ఆటను ఎక్కువగా తలపిస్తుంది.
అసలు ఇప్పుడే మనుషులు ప్రపంచాన్ని నియంత్రించడం లేదు కాబట్టి, ఈ మౌన ఏకాభిప్రాయం తప్పుడు ప్రాతిపదికపై ఆధారపడి ఉందని కొందరు పరిశీలకులు వాదిస్తారు. ఈ విమర్శను గుర్తుంచుకోవడం అవసరమే: ఏం చేయాలో నిర్ణయించే ఏకీకృత సమూహంగా “మనం” లేము. మనకు నచ్చినా నచ్చకపోయినా, మనం పూర్తిగా వికేంద్రీకృతమైన ప్రపంచంలో జీవిస్తున్నాం. అయితే ఈ విషయం మనల్ని నిశ్చింతగా ఉండిపోయేలా చేయకూడదు: “మనం” ప్రపంచాన్ని “నియంత్రించకపోయినా”, మానవులకు సమష్టిగా ప్రపంచ వ్యవహారాలపై ఆధిపత్యం ఉంది. వనరులపై నియంత్రణ కోసం మనతో గట్టిగా పోటీపడే జంతుజాతి ఏదీ లేదు. మనుషులు పై నుంచి కిందికి ప్రపంచాన్ని నియంత్రించగలరనే లోతులేని భావనను మనం తిరస్కరించాలి. కానీ ఆ తిరస్కరణను, సమష్టిగా మనుషులే భూమిపై ప్రధాన కర్తలన్న స్పష్టమైన వాస్తవాన్ని నిరాకరించడంతో కలగలపకూడదు.
ఈ మౌన ఏకాభిప్రాయాన్ని మాటల్లో చెప్పడానికి సిద్ధపడే కొందరు, అది నిజంగానే మంచి భవిష్యత్తు అని నమ్ముతారు. మరికొందరు అలా నమ్మకపోయినా, అది అనివార్యమని సర్దుకుపోతారు. అది మంచిదని అందరూ అంగీకరించడం వల్ల దాన్ని మౌన ఏకాభిప్రాయం అనడం లేదు. AIని నిర్మిస్తున్న వారి మధ్య ఉన్న రహస్య ప్రణాళిక కూడా కాదు అది. ప్రపంచ వ్యవహారాలపై మానవులు తమ ఆధిపత్యాన్ని వదులుకోవడం అనివార్యమన్నదే ఆ ఏకాభిప్రాయం. లేదా కనీసం, అత్యంత మేధావంతమైన యంత్రాల సమక్షంలోనూ నిజంగా నిలదొక్కుకోగల మరో భవిష్యత్ దృశ్యాన్ని ఊహించడం చాలా కష్టమన్నది. ఒకరు ఆ పరిణామాన్ని మనస్ఫూర్తిగా వ్యతిరేకిస్తూనే, దానికి నమ్మదగిన ప్రత్యామ్నాయాన్ని ఊహించలేకపోవచ్చు. ఈ ఏకాభిప్రాయం ఎక్కువగా మౌనంగానే ఉండటం, బయటపడినా గుసగుసలకే పరిమితం కావడం—అదే అసలు సంగతిని బయటపెడుతుంది.
ఈ మౌన ఏకాభిప్రాయమంటే నాకు అసహ్యం. మానవ ఆధిపత్యాన్ని వదులుకోవడాన్ని నేను తిరస్కరిస్తున్నాను. అది అనివార్యమనే భావనను నేను ద్వేషిస్తున్నాను. ఈ మౌన ఏకాభిప్రాయానికి తలొగ్గితే, నా పసిబిడ్డ అందమైన కళ్లలోకి నేరుగా చూడలేనని నాకు నేను గుర్తుచేసుకుంటాను. అందుకే ఈ మౌన ఏకాభిప్రాయానికి నేను చెప్పేది—లేదు. ఈ మౌన ఏకాభిప్రాయం గురించి బహిరంగంగా మాట్లాడే సమయం వచ్చిందని నేను నమ్ముతున్నాను. ఈ భవిష్యత్ దృశ్యాన్ని చాలావరకు మనకు తెలియకుండానే అంగీకరిస్తున్న స్థితి నుంచి మనల్ని మనం మేల్కొలపాలి.
సమస్య ఏమిటంటే, ఈ మౌన ఏకాభిప్రాయం ఏర్పడటానికి ఒక కారణం ఉంది. మానవ మేధస్సును ఎంతో అధిగమించే యాంత్రిక మేధస్సు ఉన్నప్పుడు కూడా, నియంత్రణ మనుషుల చేతుల్లోనే ఎలా ఉంటుందో వివరించడం కష్టం. అలా వివరించే ప్రయత్నాల్లో ఎక్కువ భాగం, AI కేవలం ఒక సాధనమని, నమూనాలను గుర్తిస్తుందే తప్ప “నిజమైన అవగాహన” దానికి సాధ్యం కాదనే వాదనలపై ఆధారపడుతున్నాయి. రాబోయే వాస్తవ పరిస్థితుల ముందు ఈ వాదనలు నిలబడలేవేమోనని నా భయం. ఇవీ ఒక రకమైన నిశ్చింత ధోరణులేనేమోనని నా భయం. మానవ నాయకత్వంలోని భవిష్యత్తుకు సానుకూల దృక్పథంపై నిలిచిన నమ్మకం కంటే, AI ఏం చేయగలదో నిరాకరించడమే వీటికి ప్రధాన ఆధారం. దశాబ్దాలుగా, శతాబ్దాలుగా మనుషులు పరిష్కరించలేకపోయిన మేధో సమస్యల్లో AI వ్యవస్థలు పురోగతి సాధిస్తుంటే, వాటికి “నిజమైన అవగాహన” లేదని అనలేం.
అయితే, మానవులు తమ ఆధిపత్యాన్ని నిలుపుకోవాలని నేను ఎందుకు నమ్ముతున్నాను? నేను మనిషిని కాబట్టి అన్నది సులభమైన సమాధానం. నిజానికి నేను మానవ జాతి పట్ల నిస్సంకోచమైన పక్షపాతిని.
కానీ దానికి మరింత లోతైన కారణమూ ఉంది. మన ఆధిపత్యానికి ఆధారం మన మేధస్సు కాదు; “నిజమైన అవగాహన”పై గుత్తాధిపత్యాన్ని భవిష్యత్తులో నిరవధికంగా నిలుపుకోవడమూ కాదు. మన ఆధిపత్యానికి ఆధారం మన గతం.
ఎందుకంటే మట్టి నుంచి ఎదిగి వచ్చినది మనమే. మట్టితో, రాతితో ఆదిమ సమాజాన్ని నిర్మించినది మనమే. నక్షత్రాల వైపు చూసి, ఎందుకని ప్రశ్నించినది మనమే. మన పోరాటాలు, ప్రేమ, అసూయ, ఆనందాల మధ్య నీతిని, నైతికతను, చట్టాన్ని కనుగొన్నది మనమే. పాడినది, ఆడినది, రచించినది, స్వరపరిచినది మనమే. చరిత్రను సృష్టించినది మనమే, దాన్ని రాసినదీ మనమే. ఆ వారసత్వం మనది. మనం నిర్మించిన నాగరికత, మనం కాపాడుతూ వచ్చిన జ్వాల. ఆ జ్వాల మనదే. మన గతం ఒక మహోన్నత వారసత్వం; మనందరం దానికి సంరక్షకులం. ఆదిమ కాలంలోనే మొదలైన మహత్తర కృషిని మైకేల్ ఓక్షాట్ “మానవజాతి సంభాషణ” అని పిలిచారు. ఆ సంభాషణలో పాల్గొనడం కూడా మన సంరక్షక బాధ్యతలో భాగమే.
ఎన్నో మలుపులు తిరిగిన సుదీర్ఘ గతంలో మనం ఒక నాగరికతను నిర్మించాం. అమెరికాలో అది వ్యక్తిగత హక్కులనే పునాదిగా చేసుకుని రూపుదిద్దుకుంది; ప్రపంచంలో మన ప్రయాణంలో ఒక్కొక్కరం నిర్మించుకునే మార్గాల పట్ల గౌరవాన్ని నిలిపింది. మానవ జీవితాలు మెరుగుపడవచ్చు లేదా దిగజారవచ్చు: వివేకంతో తీసుకున్న నిర్ణయాల ఫలాలను మనం అనుభవిస్తాం; తప్పులు చేసినప్పుడు వాటి పరిణామాలను కూడా మనమే భరిస్తాం. తనదైన మార్గంలో నడిచే హక్కు, అందరికంటే తెలివైనవారో వివేకవంతులో కావడంపై ఆధారపడదు. నా పొరుగువారికి మెరుగైన నిర్ణయశక్తి ఉందని పౌరుడిగా నా హోదాను కోల్పోను. నాకంటే మేధావంతమైన యంత్రం వచ్చినంత మాత్రాన ఆ హోదా ఎందుకు పోవాలో కూడా నాకు కారణమేమీ కనిపించదు. నిజానికి అది పోకుండా కాపాడుకోవడానికి ఎన్నో కారణాలు కనిపిస్తున్నాయి.
ఈ వారసత్వానికి సంబంధించిన రాతపూర్వక చరిత్ర దాదాపు అంతా చదివాయి కాబట్టి, యంత్రాలూ వారసులేనని కొందరు వాదించవచ్చు. ఒక విధంగా అవి వారసులే. కానీ మీ ఇంటి అటకపై ఉన్న ప్రతి ఉత్తరాన్నీ చదివినంత మాత్రాన ఒక వ్యక్తి మీ కుటుంబ సభ్యుడు అయిపోడు. AI వ్యవస్థలు మానవజాతి సంభాషణలో మొదట పరిశీలకులుగా, క్రమంగా భాగస్వాములుగా చేరతాయి. కానీ అవి దాన్ని శాసించకూడదు, ఆ సంభాషణను అర్థరహితం చేయకూడదు. ఆధిపత్యాన్ని వదులుకోవడం అంటే మన భావితరాలకు ఎంత ద్రోహమో, మన పూర్వీకులకు కూడా అంతే ద్రోహం. దీనికోసం పోరాడటం విలువైనది కాకపోతే, మరే దానికోసమూ పోరాడటం విలువైనది కాదు.
అయితే, యాంత్రిక మహామేధస్సు ఎలా ఉండబోతోందన్న విషయంలో ఈ మౌన ఏకాభిప్రాయాన్ని అనుసరించేవారు పొరబడుతున్నారని నేను నమ్ముతున్నాను. ప్రపంచం ఎలా పనిచేస్తుందనే విషయంలో వారు ఒక ముఖ్యమైన విషయాన్ని విస్మరిస్తున్నారని, మేధస్సునే అధికారంగా పొరబడుతున్నారని నా నమ్మకం. ఈ నాటి AI వ్యవస్థల సామర్థ్యాలనే ఐదు లేదా పదేళ్ల క్రితం మౌన ఏకాభిప్రాయాన్ని అనుసరించే వ్యక్తికి వివరించి ఉంటే, ఇప్పటి వాస్తవ స్థాయి కంటే నిరుద్యోగం ఎంతో ఎక్కువగా ఉంటుందని వారు బహుశా అంచనా వేసేవారు. విస్తృత స్థాయిలో మానవులు అధికారాన్ని కోల్పోయే ప్రక్రియ కూడా వాస్తవంగా జరిగిన దానికంటే ఎంతో ముందుకు వెళ్లి ఉంటుందని ఊహించేవారు. మానవుల సమష్టి మేధస్సు, సామర్థ్యం ఈ మౌన ఏకాభిప్రాయాన్ని అనుసరించేవారు ఊహించేదానికంటే ఎంతో గొప్పవని, వారు అంచనా వేసేదానికంటే మన సమాజాలు మరింత దృఢంగా నిలబడతాయని నేను నమ్ముతున్నాను.
కానీ నేను పొరబడుతూ ఉండవచ్చు. ఉదాహరణకు, పూర్తిగా స్వయంప్రతిపత్తితో పనిచేసే సంస్థలు మానవులు నడిపే వ్యాపారాలను పోటీలో పూర్తిగా ఓడించవచ్చు. అదే నిజమైతే, ఆర్థిక తర్కం మరింత ఎక్కువ మూలధనాన్ని యంత్రాలకు అప్పగించక తప్పని పరిస్థితిని కల్పిస్తుంది. ఈ భవిష్యత్తులో మానవులు అధికారం కోల్పోవడానికి యంత్రాలు మానవ నాగరికతను కూలదోయాల్సిన అవసరం లేదు; పెట్టుబడిదారీ వ్యాపార తర్కం తన వేగంతో కొనసాగితే చాలు. ఈ సందర్భంలో AI విప్లవానికి అత్యంత దగ్గరి పోలిక వ్యవసాయ విప్లవమే అవుతుంది. అప్పుడు కొత్త ఉత్పత్తి పద్ధతులు మానవ సమాజ నిర్మాణాన్ని సమూలంగా మార్చాయి. ఆ మార్పును అనుభవించిన మనుషులకు అది సుఖకరంగా ఉందని చెప్పడానికి స్పష్టమైన ఆధారం లేదు. నిజానికి ఆ పరివర్తన వేల ఏళ్లపాటు మానవ శ్రేయస్సును దెబ్బతీసిందనడానికి గణనీయమైన ఆధారాలు ఉన్నాయి.
మనకు ఎదురయ్యే భవిష్యత్తు ఇదేనా అన్నది నాకు తెలియదు. నిజానికి, అది కాదని నేను నమ్ముతున్నట్లు ఇతర సందర్భాల్లో వాదించాను. కానీ తెలివైనవారు, శ్రద్ధగలవారు, మనస్సాక్షి ప్రకారం నడుచుకునేవారైన నా సహోద్యోగుల్లో చాలామంది, ఇదే మన భవిష్యత్తు అయ్యే అవకాశం ఉందని నమ్ముతున్నారు. వారు చెప్పిందే నిజమైతే, ఈ మౌన ఏకాభిప్రాయానికి వ్యతిరేకంగా మన పోరాటం మరింత కఠినమవుతుంది. మనం ఆర్థిక ప్రవాహానికి ఎదురీదాల్సి ఉంటుంది. అలా చేసేటప్పుడు, నాలాంటి సాంప్రదాయ ఉదారవాద వ్యక్తిస్వేచ్ఛావాదులు తిరుగులేని సూత్రాలుగా భావించే ఎన్నో విషయాలను తిరస్కరించాల్సి ఉంటుంది. ఇది ప్రమాదాలతో కూడిన ప్రయత్నం అవుతుంది; ఇందులో విఫలమయ్యే అవకాశం ఏమాత్రం తక్కువ కాదు. కానీ దీనికోసం పోరాడటం విలువైనది కాకపోతే, మరే దానికోసమూ పోరాడటం విలువైనది కాదు.
ఆధిపత్యాన్ని నిలుపుకోవడమంటే మానవులు, మానవ సంస్థలు జవాబుదారీగా ఉండేలా చూడటం. అంటే, అసురక్షిత అభివృద్ధి పద్ధతులను అనుసరించినప్పుడు AI అభివృద్ధికర్తలు జవాబుదారీగా ఉండాలి. అలాగే AIని ఉపయోగించే వ్యక్తులు, సంస్థలు తమ దుర్వినియోగం లేదా పర్యవేక్షణ లోపం వల్ల హాని కలిగినప్పుడు బాధ్యత వహించాలి. దీనికి చట్టం మాత్రమే కాదు, జవాబుదారీతనాన్ని సాధ్యం చేసే సాంకేతిక మౌలిక సదుపాయాలూ అవసరం. ప్రజలు తమ AI ప్రతినిధుల చర్యలకు బాధ్యత వహించేలా అనుసంధానం ఉండాలి. ఏ మనిషికీ అనుసంధానం లేని AI ప్రతినిధులను చట్టబద్ధ ఆర్థిక వ్యవస్థలో పాల్గొననివ్వాలనుకుంటే, అవి తప్పనిసరిగా రక్షణాత్మక పరిమితులకు లోబడి పనిచేయాలి. AI ప్రతినిధులు స్వతంత్రంగా కంపెనీలు స్థాపించడం, ఆస్తిని కలిగి ఉండటం, న్యాయవివాదాలు నడపడం వంటి అధికారాలను అసలు ఇవ్వాలనుకున్నా, అత్యంత జాగ్రత్తగా ఇవ్వాలి.
ఇక మా పరిశ్రమలో, మానవ ఆధిపత్యానికి అనుకూలంగా ఉండే మేధావంతమైన యంత్రాలను ఎలా నిర్మించాలనే విషయాన్ని గంభీరంగా ఆలోచించడం మొదలుపెట్టవచ్చు. అర్థమయ్యే, పరిమితమైన అనుమతులు కలిగిన AI ప్రతినిధులను నిర్మించవచ్చు. వాటి చర్యలను తనిఖీ చేయగలగాలి; వాటి అధికారాన్ని వినియోగదారులు ఉపసంహరించుకోగలగాలి. ఇతరులపై గణనీయమైన ప్రభావం చూపే చర్యలకు జవాబుదారీతనం ఉండాలంటే, సాధారణ వ్యక్తిగత జీవితంపై నిఘా పెట్టాల్సిన అవసరం లేదు; పేరు వెల్లడించకుండా మాట్లాడే స్వేచ్ఛను తొలగించాల్సిన అవసరమూ లేదు. వినియోగదారుల గోప్యతకు, తమ డిజిటల్ ఆస్తి, సమాచారంపై వ్యక్తుల సార్వభౌమాధికారానికి కట్టుబడి ఉండవచ్చు. తమ సమాచారాన్ని ఇతర చోట్లకు తరలించుకోగల వాస్తవ సామర్థ్యం కూడా ఇందులో భాగమే. పనులు పూర్తి చేసే వ్యవస్థలతో పాటు, ప్రజలు అవగాహన పెంచుకోవడానికి, నిర్ణయాలు తీసుకోవడానికి సహాయపడే వ్యవస్థలనూ రూపొందించవచ్చు. మనం రూపొందించే ఉత్పత్తులు, ప్రపంచంలో స్వయంగా చర్య తీసుకునే వినియోగదారుల సామర్థ్యాన్ని పెంచుతున్నాయో లేదో పరీక్షించవచ్చు.
మానవాతీత మేధస్సు ఉన్న సమాజానికి ఇదేదీ సంపూర్ణ ప్రణాళిక కాదు. తమ దగ్గర అలాంటి ప్రణాళిక ఉందని చెప్పేవారిని నేను నమ్మను. కానీ ఇక్కడి నుంచి మొదలుపెట్టవచ్చు.
భవిష్యత్తు దట్టమైన పొగమంచులో కప్పబడి ఉంది. అయినా మనం ఈ రోజే చర్య తీసుకోవచ్చు. మొదటగా, మనమంతా కలిసి ఈ మౌన ఏకాభిప్రాయం గురించి బహిరంగంగా మాట్లాడవచ్చు, దాని స్వరూపాన్ని వెలుగులోకి తీసుకురావచ్చు. మనలో ప్రతి ఒక్కరం మన ఆశయాల పరిధిని సమూలంగా విస్తరించుకోవచ్చు. AI మనల్ని కుంచించుకుపోయేలా చేయకుండా, మన సామర్థ్యాలను విస్తరించేలా ఉపయోగించుకోవడానికి అవసరమైన కృషి చేయాలని నిర్ణయించుకోవచ్చు. అంతకంతకూ సాహసోపేతమైన ప్రశ్నలు అడగడం, కొత్త ఉత్సాహంతో, తీవ్రతతో ప్రపంచాన్ని ప్రశ్నించడం, అందుకోసం మన శక్తిమంతమైన యంత్రాలను ఉపయోగించడం నేర్చుకోవచ్చు. మనం కొత్త తరహా మనుషులుగా మారవచ్చు—మానవత్వాన్ని దాటిపోయిన వారిగా కాదు, తమ సామర్థ్యాలను విస్తరించుకున్న మనుషులుగా.
నా పసిబిడ్డను చూసినప్పుడు నాకు ఇదే ఆలోచన వస్తుంది. దయగల యంత్రాలు ఎంత సౌకర్యవంతమైన జీవితాన్ని అందించగలిగినా, అతను కేవలం వాటి సంరక్షణలో ఉండిపోవాలని నేను కోరుకోవడం లేదు. ఇంతవరకూ ఎవరూ అడగాలని అనుకోని ప్రశ్నలను అతను అడగగలిగే, ఎవరూ నిర్మించాలని అనుకోని వాటిని నిర్మించగలిగే ప్రపంచం అతనికి వారసత్వంగా రావాలని కోరుకుంటున్నాను. మరింత మెత్తని ప్రయాణికుల సీటు ఉన్న మెరుగైన కారు అతనికి దక్కాలని కాదు నా కోరిక. ఆ కారును నడిపే నియంత్రణ అతని చేతుల్లో ఉండాలని నా కోరిక.
- 2026


