OpenAI API

OpenAI అభివృద్ధి చేసిన కొత్త AI మోడల్స్‌కి యాక్సెస్ కోసం మేము APIని విడుదల చేస్తున్నాం. చాలా AI సిస్టమ్స్ ఒకే ఉపయోగం కోసం రూపొందించబడతాయి, కానీ ఈరోజు API ఒక సాధారణ “టెక్స్ట్ ఇన్, టెక్స్ట్ అవుట్” ఇంటర్‌ఫేస్ ఇస్తుంది, దీని ద్వారా యూజర్లు దాదాపు ఏ ఇంగ్లీష్ భాషా టాస్క్‌లోనైనా వాడవచ్చు. మీరు ఇప్పుడు APIని మీ ప్రొడక్ట్‌లో కలపడానికి, పూర్తిగా కొత్త అప్లికేషన్‌ను అభివృద్ధి చేయడానికి లేదా ఈ టెక్నాలజీ బలాలు మరియు పరిమితులను అన్వేషించడంలో మాకు సహాయం చేయడానికి యాక్సెస్ కోరవచ్చు.

మీరు ఇచ్చిన ఏ టెక్స్ట్ ప్రాంప్ట్‌కైనా, API టెక్స్ట్ కంప్లీషన్ ఇస్తుంది, మీరు ఇచ్చిన ప్యాటర్న్‌కి సరిపడేలా ప్రయత్నిస్తుంది. మీరు దాన్ని “ప్రోగ్రామ్” చేయవచ్చు, మీరు దానికి చేయించదలచుకున్న పనికి కొన్ని ఉదాహరణలు మాత్రమే చూపించి; సాధారణంగా, టాస్క్ ఎంత క్లిష్టమో దాని విజయవంతం దానిపైనే ఆధారపడి ఉంటుంది. API మీరు ఇచ్చే డేటాసెట్ (చిన్న లేదా పెద్ద) పై ట్రైనింగ్ చేయడం ద్వారా లేదా యూజర్లు, లేబులర్లు అందించే మానవ ఫీడ్బ్యాక్ నుండి నేర్చుకోవడం ద్వారా ప్రత్యేక టాస్కుల పనితీరును మెరుగుపరచుకోవడానికి కూడా అనుమతిస్తుంది.

APIని ఎవరైనా సులభంగా ఉపయోగించగలిగేలా, అలాగే మెషిన్ లెర్నింగ్ టీమ్‌లు మరింత ప్రొడక్టివ్‌గా ఉండేంత ఫ్లెక్సిబుల్‌గా మేము రూపొందించాం.నిజానికి, మా అనేక టీమ్స్ ఇప్పుడు API వాడుతున్నాయి, దాంతో డిస్ట్రిబ్యూటెడ్ సిస్టమ్స్ సమస్యలకన్నా మెషిన్ లెర్నింగ్ రీసెర్చ్‌పై ఫోకస్ చేయగలుగుతున్నాయి. ఈరోజు API GPT‑3⁠(కొత్త విండోలో తెరుచుకుంటుంది) ఫ్యామిలీకి చెందిన మోడల్స్‌ను రన్ చేస్తోంది, వీటిలో వేగం మరియు త్రూపుట్‌లో అనేక మెరుగులు ఉన్నాయి. మెషిన్ లెర్నింగ్ చాలా వేగంగా ముందుకు వెళ్తోంది, మా యూజర్లు ఎప్పటికప్పుడు అప్ టు డేట్‌గా ఉండేలా మేము టెక్నాలజీని నిరంతరం అప్‌గ్రేడ్ చేస్తున్నాం.

ఈ రంగం పురోగతిలోని వేగం వల్ల AIకి తరచూ ఆశ్చర్యకరమైన కొత్త అప్లికేషన్లు వస్తుంటాయి, వాటిలో సానుకూలమైనవి, ప్రతికూలమైనవి రెండూ ఉంటాయి. మేము స్పష్టంగా హానికరమైన ఉపయోగాల కోసం, ఉదాహరణకు వేధింపులు, స్పామ్, ర్యాడికలైజేషన్ లేదా అస్ట్రోటర్ఫింగ్ వంటి సందర్భాల్లో API యాక్సెస్‌ను రద్దు చేస్తాము. కానీ ఈ టెక్నాలజీ వల్ల వచ్చే అన్ని సాధ్యమైన ఫలితాలను మేము ముందుగానే ఊహించలేమని కూడా మాకు తెలుసు. అందువల్ల, మేము ఈరోజు దీన్ని సాధారణ అందుబాటులోకి తీసుకురావడం బదులు ప్రైవేట్ బీటా రూపంలో ప్రారంభిస్తున్నాము, మా API అందించే కంటెంట్‌పై యూజర్లు మెరుగ్గా నియంత్రణ పొందేందుకు సహాయపడే టూల్స్‌ను రూపొందిస్తున్నాము, అలాగే భాషా టెక్నాలజీకి సంబంధించిన భద్రతా అంశాలను (ఉదాహరణకు, హానికరమైన పక్షపాతతను విశ్లేషించడం, తగ్గించడం, మరియు దానిపై జోక్యం చూపడం) పరిశోధిస్తున్నాము. మేము నేర్చుకున్న విషయాలను పంచుకుంటాం, దాంతో మా యూజర్లు మరియు విస్తృతమైన కమ్యూనిటీ మరింత మానవానుకూల AI సిస్టమ్స్‌ని నిర్మించగలుగుతారు.

మా మిషన్ సాధనలో ఖర్చులు కవర్ చేయడంలో సహాయం చేసే ఆదాయ వనరుగా ఉండటంతో పాటు ఖర్చులు కవర్ చేయడానికి⁠, మా మిషన్⁠ కోసం, API మాకు జనరల్-పర్పస్ AI టెక్నాలజీపై మరింత ఫోకస్ పెట్టేలా చేసింది—టెక్నాలజీని ముందుకు తీసుకెళ్లడం, ఉపయోగించగలిగేలా చేయడం, నిజజీవితంపై దాని ప్రభావాలను పరిగణించడం. API ప్రయోజనకరమైన AI ఆధారిత ఉత్పత్తులను ఉత్పత్తి చేయడంలో ఉన్న అడ్డంకిని⁠(కొత్త విండోలో తెరుచుకుంటుంది) గణనీయంగా తగ్గిస్తుందని, ఫలితంగా నేడు ఊహించడానికి కూడా కష్టమైన సాధనాలు మరియు సేవలు అందుబాటులోకి వస్తాయని మేము ఆశిస్తున్నాము.

APIని ఎక్స్‌ప్లోర్ చేయాలనుకుంటున్నారా? మా private beta⁠(కొత్త విండోలో తెరుచుకుంటుంది)లో Algolia⁠(కొత్త విండోలో తెరుచుకుంటుంది), Quizlet⁠(కొత్త విండోలో తెరుచుకుంటుంది), Reddit⁠(కొత్త విండోలో తెరుచుకుంటుంది) వంటి కంపెనీలు, అలాగే Middlebury Institute⁠(కొత్త విండోలో తెరుచుకుంటుంది)లోని రీసెర్చర్‌లు చేరుతున్నారు.

చివరికి, మేము అత్యంత శ్రద్ధ పెట్టేది⁠ ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ అందరికీ లాభదాయకంగా ఉండాలని చూసే విషయమే. విజయవంతం కావడానికి సరిపడా ఫండింగ్ ఉండేలా చూసే మార్గాలలో ఒకటిగా మేము కమర్షియల్ ప్రొడక్ట్స్ అభివృద్ధిని చూస్తున్నాం.

శక్తివంతమైన AI సిస్టమ్స్‌ను ప్రపంచంలో సురక్షితంగా ఉపయోగించడం సులభం కాదని కూడా మేము నమ్ముతున్నాం. APIని విడుదల చేస్తూ, AI సిస్టమ్స్ నిజజీవితంలో వాడినప్పుడు ఏ సవాళ్లు వస్తాయో తెలుసుకోవడానికి మేము మా పార్ట్‌నర్స్‌తో కలిసి పనిచేస్తున్నాం. ఇది భవిష్యత్తులో AI సిస్టమ్స్ డిప్లాయ్ చేయడం ఎలా సాగుతుందో, వాటిని అందరికీ సురక్షితంగా, ఉపయోగకరంగా చేయడానికి మేము ఏం చేయాలో అర్థం చేసుకోవడంలో మాకు దారిని చూపుతుంది.

దీనికి మూడు ప్రధాన కారణాలు ఉన్నాయి. మొదట, టెక్నాలజీని కమర్షియల్ చేయడం వల్ల మేము చేస్తున్న AI రీసెర్చ్, సేఫ్టీ, పాలసీ ప్రయత్నాల ఖర్చులు భరించడానికి సహాయపడుతుంది.

రెండవది, APIకి ఆధారం అయిన అనేక మోడల్స్ చాలా పెద్దవి, వాటిని అభివృద్ధి చేసి అమలు చేయడానికి విపరీతమైన నైపుణ్యం అవసరం మరియు అవి నడపడానికి చాలా ఖరీదైనవి. దీని వలన పెద్ద కంపెనీలను మినహాయించి ఇతరులు ఈ టెక్నాలజీ లాభాలు పొందడం కష్టమవుతుంది. API శక్తివంతమైన AI సిస్టమ్స్‌ను చిన్న వ్యాపారాలు, సంస్థలకు మరింత సులభంగా అందుబాటులోకి తెస్తుందని మేము ఆశిస్తున్నాం.

మూడవది, API మోడల్ టెక్నాలజీ దుర్వినియోగాన్ని సులభంగా గుర్తించి స్పందించడానికి మాకు సహాయపడుతుంది. మా మోడల్స్ డౌన్‌స్ట్రీమ్ ఉపయోగాల్ని ముందుగా ఊహించడం కష్టం కావడంతో, వాటిని API ద్వారా విడుదల చేసి, కాలక్రమంలో యాక్సెస్‌ను విస్తరించడం సహజంగానే సురక్షితంగా ఉంటుంది. హానికరమైన ఉపయోగాలు ఉన్నట్లు తేలినప్పుడు యాక్సెస్‌ను మార్చలేని ఓపెన్ సోర్స్ మోడల్‌ను విడుదల చేయడం కంటే ఇది మంచిది.

GPT‑2 విషయంలో, మా ప్రధాన ఆందోళనల్లో ఒకటి మోడల్‌ను దురుద్దేశాలకు ఉపయోగించడం (ఉదా: తప్పుదారి పట్టించే సమాచారం కోసం) — ఒకసారి మోడల్ ఓపెన్ సోర్స్ అయ్యాక దాన్ని నివారించడం చాలా కష్టం.APIలో, ఆమోదించబడిన కస్టమర్స్, యూజ్-కేసులకు మాత్రమే యాక్సెస్ పరిమితం చేయడం ద్వారా మేము దుర్వినియోగాన్ని మెరుగ్గా నివారించగలుగుతున్నాం. ప్రతిపాదిత అప్లికేషన్లు లైవ్‌కి వెళ్లే ముందు మాకు తప్పనిసరి ప్రొడక్షన్ రివ్యూ ప్రక్రియ ఉంటుంది. ప్రొడక్షన్ రివ్యూలలో, మేము అప్లికేషన్‌లను కొన్ని కోణాల్లో మూల్యాంకనం చేస్తాం, ఇలా ప్రశ్నలు అడుగుతూ: ఇది ప్రస్తుతం సపోర్ట్ చేయబడే యూజ్ కేస్‌నా?, ఈ అప్లికేషన్ ఎంత ఓపెన్-ఎండెడ్‌గా ఉంది?, ఈ అప్లికేషన్‌లో ఎంత రిస్క్ ఉంది?, పొటెన్షియల్ మిస్‌యూజ్‌ను ఎలా ఎదుర్కోవాలని ప్లాన్ చేస్తున్నారు?, మరియు మీ అప్లికేషన్ యొక్క ఎండ్ యూజర్లు ఎవరు?.

ఫిజికల్, ఎమోషనల్, లేదా సైకాలజికల్ హాని కలిగించే (లేదా అలా చేయాలనే ఉద్దేశ్యంతో ఉన్న) యూజ్ కేస్‌లు—హరాస్మెంట్, ఉద్దేశపూర్వక మోసం, ర్యాడికలైజేషన్, ఆస్ట్రోటర్ఫింగ్, స్పామ్ తదితరాలు—కనుగొనబడితే, వాటికి API యాక్సెస్‌ను మేము నిలిపేస్తాం. అలాగే, ఎండ్ యూజర్‌ల మిస్‌యూజ్‌ను నిరోధించడానికి తగిన గార్డ్‌రైల్‌లు లేని అప్లికేషన్‌లకు కూడా API యాక్సెస్‌ను నిలిపేస్తాం.APIని ప్రాక్టీస్‌లో ఆపరేట్ చేయడంలో మాకు ఎక్కువ అనుభవం వస్తున్న కొద్దీ, మేము సపోర్ట్ చేయగల యూజ్-కేటగిరీలను నిరంతరం మెరుగుపరుస్తూ ఉంటాము — మేము సపోర్ట్ చేయగల అప్లికేషన్ల పరిధిని విస్తరించడానికి మరియు దుర్వినియోగ ఆందోళనలున్న వాటికి మరింత వివరమైన కేటగిరీలు సృష్టించడానికి.

API వినియోగాన్ని ఆమోదించే సమయంలో మేము పరిగణలోకి తీసుకునే ముఖ్య అంశాల్లో ఒకటి: సిస్టమ్ యొక్క జనరేటివ్ కేపబిలిటీస్‌ను ఒక అప్లికేషన్ ఎంతవరకు ఓపెన్-ఎండెడ్‌గా లేదా ఎంతవరకు కంట్రైన్‌డ్‌గా ఉపయోగిస్తుందన్నది.API యొక్క ఓపెన్-ఎండెడ్ అప్లికేషన్‌లు (అంటే యాదృచ్ఛిక ప్రాంప్ట్‌లతో పెద్ద మొత్తంలో కస్టమైజ్ చేయగల టెక్స్ట్‌ను ఎలాంటి అడ్డంకులు లేకుండా జనరేట్ చేసే అప్లికేషన్‌లు) ప్రత్యేకంగా మిస్‌యూజ్‌కి గురయ్యే అవకాశం ఎక్కువగా ఉంటుంది.జనరేటివ్ యూజ్-కేసులను సురక్షితంగా ఉంచే పరిమితులు: లూప్‌లో మానవుడిని ఉంచే సిస్టమ్స్ డిజైన్, ఎండ్-యూజర్ యాక్సెస్ పరిమితులు, అవుట్‌పుట్‌ల పోస్ట్-ప్రాసెసింగ్, కంటెంట్ ఫిల్ట్రేషన్, ఇన్‌పుట్/ఆవుట్‌పుట్ పొడవు పరిమితులు, యాక్టివ్ మానిటరింగ్, మరియు టాపికాలిటీ పరిమితులు.

మేము కూడా API ద్వారా అందించే మోడల్స్ యొక్క సంభావ్య దుర్వినియోగాలపై పరిశోధన కొనసాగిస్తున్నాం, ఇందులో మా అకడమిక్ యాక్సెస్ ప్రోగ్రామ్⁠(కొత్త విండోలో తెరుచుకుంటుంది) ద్వారా థర్డ్-పార్టీ రీసెర్చర్లతో కలిసి పనిచేస్తున్నాం. ప్రస్తుతం మేము చాలా పరిమిత సంఖ్యలో రీసెర్చర్లతో ప్రారంభించాము, మరియు ఇప్పటికే మా అకడమిక్ భాగస్వాములైన Middlebury Institute⁠(కొత్త విండోలో తెరుచుకుంటుంది), University of Washington, మరియు Allen Institute for AI⁠(కొత్త విండోలో తెరుచుకుంటుంది) నుండి కొన్ని ఫలితాలను పొందాము. ఈ ప్రోగ్రామ్‌కు ఇప్పటికే వేలాది దరఖాస్తులు వచ్చాయి, ప్రస్తుతం మేము ఫెయిర్‌నెస్ మరియు రిప్రజెంటేషన్ రీసెర్చ్‌పై దృష్టి పెట్టిన అప్లికేషన్లను ప్రాధాన్యంగా చూస్తున్నాం.

హానికరమైన బెయాస్ వంటి నెగటివ్ ప్రభావాలను తగ్గించడం కష్టమైన, మొత్తం ఇండస్ట్రీని ప్రభావితం చేసే మరియు అత్యంత ముఖ్యమైన సమస్య.మేము GPT‑3 పేపర్⁠(కొత్త విండోలో తెరుచుకుంటుంది) మరియు మోడల్ కార్డ్⁠(కొత్త విండోలో తెరుచుకుంటుంది)లో చర్చించినట్లుగా, మా API మోడల్స్ ఉత్పత్తి చేసే టెక్స్ట్‌లో ప్రతిఫలించే బైయాస్‌లను ప్రదర్శిస్తాయి. ఈ సమస్యలను పరిష్కరించడానికి మేము తీసుకుంటున్న దశలు ఇవి:

• పొటెన్షియల్ సేఫ్టీ ఇష్యూలను అర్థం చేసుకుని పరిష్కరించేందుకు డెవలపర్‌లకు సహాయపడే యూసేజ్ గైడ్‌లైన్‌లను మేము రూపొందించాం.
• యూజర్ల యూజ్-కేసులను అర్థం చేసుకోవడానికి, హానికరమైన బైయాస్‌ను గుర్తించడానికి, తగ్గించడానికి టూల్స్ అభివృద్ధి చేయడానికి మేము వారికి దగ్గరగా పనిచేస్తున్నాం.
• మేము హానికరమైన బైయాస్‌ ప్రదర్శనలు మరియు ఫెయిర్‌నెస్, రిప్రజెంటేషన్‌లోని విస్తృతమైన సమస్యలపై స్వయంగా పరిశోధన చేస్తున్నాము, ఇది ప్రస్తుత మోడల్స్ యొక్క మెరుగైన డాక్యుమెంటేషన్ మరియు భవిష్యత్ మోడల్స్‌లో వివిధ మెరుగులు చేయడంలో మా పనికి మార్గనిర్దేశం చేస్తుంది.
• బైయాస్ అనేది ఒక సిస్టమ్ మరియు దాని డిప్లాయ్ చేయబడిన కాంటెక్స్ట్ కలిసే చోట కనిపించే సమస్య అని మేము గుర్తిస్తున్నాం. మా టెక్నాలజీతో తయారైన అప్లికేషన్లు సోసియోటెక్నికల్ సిస్టమ్స్ కాబట్టి, డెవలపర్లు తగిన ప్రాసెస్‌లు మరియు హ్యూమన్-ఇన్-ది-లూప్ సిస్టమ్స్ అమలు చేసి ప్రతికూల ప్రవర్తనను మానిటర్ చేస్తున్నారని నిర్ధారించడానికి మేము వారితో కలిసి పనిచేస్తున్నాం.

ప్రతి ఉపయోగ సందర్భంలో API వల్ల కలిగే హానులను అర్థం చేసుకోవడంలో మా అవగాహనను నిరంతరం అభివృద్ధి చేయడం, వాటిని తగ్గించడానికి మా టూల్స్ మరియు ప్రక్రియలను నిరంతరం మెరుగుపరచడం మా లక్ష్యం.

అప్‌డేట్ చేయబడింది సెప్టెంబర్ 18, 2020