మా సూత్రాలు

AI సమాజంలోని అనేక అంశాలను గణనీయంగా మెరుగుపరచే సామర్థ్యాన్ని కలిగి ఉంది.

ఇతర సాంకేతికతల మాదిరిగానే, ఈ సాంకేతికత కూడా ప్రజలకు మరింత సామర్థ్యం, స్వాధీనత ఇస్తుంది; AIతో ప్రజలు చేయగలిగినది ఆవిరి యంత్రాలు లేదా విద్యుత్‌తో చేయగలిగిన దానికంటే ఎంతో విస్తృతంగా ఉంటుంది.

ప్రస్తుతం ఊహించుకోవడం కష్టమైన స్థాయిలో విస్తృత అభ్యుదయం ఉన్న ప్రపంచాన్ని, అలాగే వ్యక్తిగత సామర్థ్యం, స్వాధీనత, సార్థకత గణనీయంగా పెరిగిన ప్రపంచాన్ని మేము ఊహిస్తున్నాము. సైన్స్ ఫిక్షన్‌లో మాత్రమే కలగన్న ఎన్నో విషయాలు వాస్తవం కావచ్చు, ఇంకా నేడు చాలామందికి సాధ్యమయ్యేదానికంటే ఎక్కువ అర్థవంతమైన జీవితాలను ఎక్కువ మంది గడపగలరు.

కానీ ఈ ఫలితం హామీ ఇవ్వబడినది కాదు. భవిష్యత్తులో శక్తి సూపర్‌ఇంటెలిజెన్స్‌ను ఉపయోగించి నియంత్రించే కొద్దిమంది కంపెనీల చేతుల్లోనే ఉండవచ్చు, లేదా ప్రజల చేతుల్లో వికేంద్రీకృతంగా ఉండవచ్చు. మేము రెండో మార్గమే చాలా మెరుగైనదని నమ్ముతున్నాము, మరియు నిజమైన సాధారణ AIని సాధ్యమైనంత ఎక్కువ మంది చేతుల్లోకి తీసుకెళ్లడం మా లక్ష్యం. వర్తమానం లాగే, భవిష్యత్తు కూడా పూర్తిగా చెడు గాని పూర్తిగా మంచి గాని ఉండదు, కానీ ఇప్పుడు మనం తీసుకునే నిర్ణయాలు మంచిని గరిష్ఠం చేయడంలో సహాయపడతాయి.

AGI సమస్త మానవాళికి ఉపయోగపడేలా చూడటం మా లక్ష్యం. మా పనికి మార్గనిర్దేశం చేసే సూత్రాలు ఇవి.

1. ప్రజాస్వామ్యీకరణ. ఈ సాంకేతికత శక్తిని కొద్దిమందిలో కేంద్రీకరించే అవకాశాన్ని మేము ప్రతిఘటిస్తాము.

దీనర్థం, ప్రతి ఒక్కరికీ AI అందుబాటులో ఉంచడమే కాకుండా, AI గురించిన కీలక నిర్ణయాలు ప్రజాస్వామ్య ప్రక్రియల ద్వారా, సమానత్వ సూత్రాలతో తీసుకోబడాలని, కేవలం AI ల్యాబ్స్ చేత మాత్రమే కాకూడదని నిర్ధారించాలి.

2. సాధికారత. ప్రతి ఒక్కరూ తమ లక్ష్యాలను సాధించడానికి, మరింత నేర్చుకోవడానికి, మరింత సంతోషంగా మరియు సంతృప్తిగా ఉండడానికి, తమ కలలను అనుసరించడానికి AI సహాయపడగలదని, దీని వల్ల సమాజం మొత్తానికీ లాభం కలుగుతుందని మేము నమ్ముతున్నాము.

దీన్ని సాధించాలంటే, మన ముందున్న అపారమైన అవకాశాలను ప్రజలు అన్వేషించేందుకు వీలు కల్పించాలి, అలాగే దాన్ని సాధ్యంచేసే ఉత్పత్తులను మేము నిర్మించాలి. వినియోగదారులు మా సేవలతో పెరుగుతున్న విలువైన పనులను నమ్మదగిన విధంగా పూర్తి చేయగలగాలి.

ప్రపంచం వైవిధ్యభరితమైనది, ప్రజల అవసరాలు వేర్వేరు. మా వినియోగదారులకు వారికి అవసరమైన స్వాతంత్ర్యాన్ని ఇవ్వాలని, మాకు సాధ్యమైనంత వరకు అనుమతించాలని మేము కోరుకుంటున్నాము.

మా సేవలను వినియోగదారులు ఎలా ఉపయోగించాలో చాలా విస్తృత స్వేచ్ఛ ఇవ్వాలని, అలాగే మొత్తానికి AI ఎంతో ప్రయోజనకరమవుతుందని మేము గట్టిగా నమ్ముతున్నప్పటికీ, హానిని తగ్గించే విధంగా దాన్ని నిర్మించి అమలు చేయాల్సిన బాధ్యత మాపై ఉంది. ఇందులో విపత్తులకు దారితీసే హానిని నిరోధించడం మాత్రమే కాదు, స్థానిక హానులను తగ్గించడం, సమాజాన్ని లోపల నుంచి దెబ్బతీయగల ప్రభావాలను నివారించడం కూడా ఉన్నాయి. అంటే, అనిశ్చితి ఉన్నప్పుడు జాగ్రత్త వైపే మొగ్గు చూపాలి, మరింత ఆధారాలు లభించినప్పుడు పరిమితులను సడలించాలి.

3. సార్వత్రిక సౌభాగ్యం. ప్రతి ఒక్కరూ అద్భుతమైన జీవితం గడపగల భవిష్యత్తును మేము కోరుకుంటున్నాము.

ఎక్కువ కంప్యూట్ శక్తి కలిగిన, సులభంగా ఉపయోగించగల AI వ్యవస్థలను ప్రతి ఒక్కరి చేతుల్లోకి తీసుకెళ్తే, ముఖ్యంగా కొత్త విజ్ఞాన ఆవిష్కరణలతో, ప్రజలు విలువను సృష్టించే కొత్త మార్గాలను కనుగొని అందరి జీవన నాణ్యతను విపరీతంగా మెరుగుపరుస్తారని మేము నమ్ముతున్నాము.

సౌభాగ్యం పూర్తిగా సాకారమై విస్తృతంగా పంచబడాలంటే, 1) మన ముందున్న విలువ సృష్టిలో ప్రతి ఒక్కరూ భాగస్వామ్యం కావడానికి కొత్త ఆర్థిక నమూనాలను మా ప్రభుత్వాలు పరిగణించాల్సి రావచ్చు మరియు 2) AI మౌలిక వసతుల ఖర్చులను గణనీయంగా తగ్గించేందుకు విపరీతమైన AI మౌలిక వసతులను నిర్మించి, కొత్త సాంకేతికతను అభివృద్ధి చేయాలి అని మేము నమ్ముతున్నాము.

మేము చేసే కొన్ని పనులు వింతగా కనిపించవచ్చు—మా ఆదాయం తక్కువగా ఉన్నప్పటికీ విపరీతంగా కంప్యూట్ కొనుగోలు చేయడం, ఖర్చులు తగ్గించి మా సాంకేతికతను సులభంగా ఉపయోగించుకునేలా చేయడానికి నిలువు సమీకరణ చేయడం, ప్రపంచమంతటా డేటా సెంటర్లు నిర్మించడానికి కృషి చేయడం, ఇంకా చాలా మరిన్ని—ఇవి అన్నీ సార్వత్రిక సౌభాగ్య భవిష్యత్తుపై మా ప్రాథమిక నమ్మకంతో నడపబడుతున్నాయి.

4. స్థైర్యం. AI కొత్త ప్రమాదాలను తీసుకువస్తుంది, వాటిని పరిష్కరించడానికి మేము ఇతర కంపెనీలు, పర్యావరణ వ్యవస్థలు, ప్రభుత్వాలు, సమాజంతో కలిసి పని చేస్తాము. ఈ పనికి మద్దతు ఇవ్వడానికి మా Foundation వనరులను గణనీయంగా వినియోగిస్తాము.

మంచి భవిష్యత్తును ఏ AI ల్యాబ్ కూడా ఒంటరిగా నిర్ధారించలదు. స్పష్టమైన ఉదాహరణగా, కొత్త రోగకారకాన్ని సృష్టించడం సులభం చేసే అత్యంత సామర్థ్యవంతమైన మోడల్‌లు ఉండవచ్చు, దీనికి వ్యతిరేకంగా రోగకారక-నిరపేక్ష ప్రత్యుత్తర చర్యలతో సమాజం మొత్తం కలిసి రక్షణాత్మక దృక్పథాన్ని అవలంబించాలి. మరో ఉదాహరణగా, మోడల్‌ల సైబర్ భద్రతా సామర్థ్యాలు పెరుగుతున్న కొద్దీ, ఈ మోడల్‌లను ఉపయోగించి ఓపెన్ సోర్స్ సాఫ్ట్‌వేర్ మరియు కీలక మౌలిక వసతులను సురక్షితం చేయడంలో వేగంగా సహాయం తీసుకోవాలి, అలాగే ప్రతి ఒక్కరూ మరింత సురక్షితమైన సాఫ్ట్‌వేర్ సృష్టించేందుకు మోడల్‌లను శిక్షణ ఇవ్వాలి.

ఇది మేము చాలాకాలంగా అనుసరిస్తున్న పునరావృత అమలు వ్యూహానికి విస్తరణ; AI సామర్థ్యంలోని ప్రతి తదుపరి స్థాయిని సమాజం ఎదుర్కొని, దాన్ని అర్థం చేసుకుని, సమీకరించి, కలిసి ముందుకు వెళ్లడానికి ఉత్తమ మార్గాన్ని కనుగొనాలి అని మేము నమ్ముతున్నాము. ఇది శూన్యంలో చేయలేము; సమాజం, సాంకేతికత కలిసి పరిణామం చెందుతాయి, దానికి సమయం అవసరం.

ఇదే మా ఏకైక భద్రతా వ్యూహం అని మా ఉద్దేశం కాదు; మేము సురక్షిత వ్యవస్థలను కూడా తయారు చేయాలి మరియు సాంకేతిక అలైన్‌మెంట్‌పై గొప్ప పని కొనసాగించాలి.

మా పనిలో ముందుకు సాగేముందు, తీవ్రమైన అలైన్‌మెంట్, భద్రత, లేదా సామాజిక సమస్యలను తగినంతగా పరిష్కరించామని నిర్ధారించడానికి ప్రభుత్వాలు, అంతర్జాతీయ సంస్థలు, మరియు ఇతర AGI ప్రయత్నాలతో మేము కలిసి పనిచేయాల్సిన దశలు ఉంటాయని మేము భావిస్తున్నాము.

5. అనుకూలనశీలత. చాలా అనిశ్చితమైన భవిష్యత్తు సవాళ్లను ఎదుర్కొనే ఏకైక మార్గం, మరింత నేర్చుకుంటూ ఉండగా మా అభిప్రాయాలను నవీకరించడానికి సిద్ధంగా ఉండటమే అని మేము ఇంకా నమ్ముతున్నాము. కొన్ని సంవత్సరాల క్రితం కంటే ఇప్పుడు OpenAI ప్రపంచంలో చాలా పెద్ద శక్తిగా మారిందని కూడా మేము అంగీకరిస్తున్నాము, అలాగే మా కార్యాచరణ సూత్రాలు ఎప్పుడు, ఎలా, ఎందుకు మారుతున్నాయో స్పష్టంగా తెలియజేస్తాము. ఒక స్పష్టమైన ఉదాహరణగా, సార్వత్రిక సౌభాగ్యం చాలా ముఖ్యంగానే ఉంటుందని మాకు గట్టి నమ్మకం ఉన్నప్పటికీ, భవిష్యత్తులో కొన్ని దశల్లో మరింత స్థైర్యం కోసం కొంత సాధికారతను త్యాగం చేయాల్సి రావచ్చు అని మేము ఊహించగలము.

AI అభివృద్ధి అనేక ఆశ్చర్యాలను తీసుకువచ్చింది, ఇంకా మరెన్నో రావాల్సి ఉన్నాయి. సాంకేతికత పురోగమిస్తుండగా, దాని ఉద్భవిత ప్రవర్తనలను ముందుగానే అంచనా వేయడం మరింత కష్టమవుతుంది. మేము ఆ అనిశ్చితిని స్వీకరిస్తాము⁠, సామర్థ్యాలను జాగ్రత్తగా ముందుకు తీసుకెళ్లడం ద్వారా, వ్యవస్థలను పునరావృతంగా అమలు చేయడం ద్వారా, మరియు అవి ప్రపంచంతో చేసే పరస్పర చర్యల నుండి నేర్చుకోవడం ద్వారా.

GPT‑2 యొక్క weights విడుదల చేయడంపై మేము ఆందోళన చెందుతూ ఉన్న కాలం అంత దూరంలో లేదు, ఎందుకంటే దాని ప్రభావాలు సమాజంపై ఏమవుతాయో మాకు ఖచ్చితంగా తెలియదు. వెనక్కి తిరిగి చూస్తే అది తప్పుదారి పట్టిన ఆందోళన అని స్పష్టమే, కానీ అదే మాకు పునరావృత అమలు వ్యూహాన్ని కనుగొనడానికి దారితీసింది, అది మేము గుర్తించిన అత్యంత ముఖ్యమైన విషయాలలో ఒకటిగా నిలిచింది.

__

సాంకేతికత మెరుగుపడుతూనే ఉన్నందున, మేము అత్యంత ప్రభావవంతమైన దశలోకి అడుగుపెడుతున్నాము. మా ప్రతి నిర్ణయాన్ని విమర్శించడం పూర్తిగా సమంజసం; మేము చేస్తున్న పనికి ఉన్న ప్రాధాన్యం దృష్ట్యా, మమ్మల్ని అత్యంత కఠినంగా పరిశీలించడం సముచితం. ప్రతి విషయంలో మేము సరిగ్గా చేయలేము, కానీ మేము త్వరగా నేర్చుకుని దిశ సరిచేసుకుంటాము.

గతం కంటే భవిష్యత్తు మెరుగ్గా ఉండేలా మా వంతు చేయడానికి మేము కట్టుబడి ఉన్నాము; ఇంత ముఖ్యమైన పనిని చేయగలగడం మా అదృష్టంగా భావిస్తున్నాము.