OpenAI API

OpenAI-ийн боловсруулсан шинэ AI загваруудад хандах API-г бид гаргаж байна. Нэг хэрэглээний тохиолдолд зориулагдсан ихэнх AI системээс ялгаатай нь, өнөөдрийн API нь ерөнхий зориулалтын «текст оруулах, текст гаргах» интерфэйсийг санал болгож, хэрэглэгчдэд үүнийг бараг ямар ч англи хэлний даалгаварт туршиж үзэх боломж олгодог. Та одоо API-г өөрийн бүтээгдэхүүнд нэгтгэх, цоо шинэ хэрэглүүр хөгжүүлэх, эсвэл энэ технологийн давуу тал ба хязгаарыг бидэнтэй хамт судлахын тулд хандалт хүсэх боломжтой.

Ямар ч текстэн өгөгдөл өгсөн тохиолдолд API нь таны өгсөн хэв маягт нийцүүлэхийг оролдсон текстийн үргэлжлэлийг буцаана. Та түүнд хийхийг хүссэн зүйлээ цөөн хэдэн жишээгээр үзүүлж “програмчилж” болно; амжилт нь ерөнхийдөө даалгаврын төвөгтэй байдлаас шалтгаалж өөр өөр байна. Мөн API нь таны өгсөн жишээ бүхий өгөгдлийн багцад (жижиг эсвэл том) сургах, эсвэл хэрэглэгчид эсвэл тэмдэглэгээ хийгчдийн өгсөн хүний санал хүсэлтээс суралцах замаар тодорхой даалгаврууд дээр гүйцэтгэлийг сайжруулах боломж олгодог.

Бид API-г хэн ч ашиглахад энгийн атлаа машин сургалтын багуудын бүтээмжийг нэмэгдүүлэхүйц уян хатан байхаар зохион бүтээсэн. Үнэндээ манай олон баг одоо API-г ашиглаж, тархсан системийн асуудлуудад бус машин сургалтын судалгаанд анхаарлаа төвлөрүүлж байна. Өнөөдөр API нь GPT‑3⁠(шинэ цонхонд нээгдэнэ) төрлийн загваруудыг олон хурд болон нэвтрүүлэх чадамжийн сайжруулалттайгаар ажиллуулж байна. Машин сургалт маш хурдтай хөгжиж байгаа бөгөөд хэрэглэгчдээ үргэлж хамгийн сүүлийн үеийн түвшинд байлгахын тулд бид технологио тасралтгүй шинэчилж байна.

Салбарын хөгжлийн хурд нь AI-ийн эерэг болон сөрөг олон шинэ, санаанд оромгүй хэрэглээ байнга гарч ирдэг гэсэн үг юм. Бид дарамт, спам, радикалчлал, эсвэл astroturfing зэрэг илт хортой ашиглах тохиолдлуудын API хандалтыг цуцална. Гэхдээ бид энэ технологийн бүх боломжит үр дагаврыг урьдчилан харж чадахгүй гэдгээ мөн мэдэж байгаа тул өнөөдөр ерөнхий нээлттэй байдлаар бус, хаалттай бета хувилбараар эхлүүлж, хэрэглэгчдэд манай API-гийн буцааж өгдөг агуулгыг илүү сайн хянахад туслах хэрэгсэл бүтээж, хэлний технологийн аюулгүй байдалтай холбоотой талуудыг (жишээлбэл, хортой хэвийлтийг шинжлэх, бууруулах, хөндлөнгөөс нөлөөлөх) судалж байна. Хэрэглэгчид маань болон өргөн хүрээний нийгэмлэг илүү хүнд ээлтэй AI систем бүтээж чаддаг байхын тулд бид сурсан зүйлсээ хуваалцах болно.

API нь зардлаа нөхөх⁠ замаар эрхэм зорилгоо⁠ хэрэгжүүлэхэд маань орлогын эх үүсвэр болохоос гадна, ерөнхий зориулалтын AI технологид анхаарлаа илүү хурц төвлөрүүлэхэд биднийг түлхэц болсон—технологийг ахиулах, ашиглахад бэлэн болгох, мөн бодит ертөнцөд үзүүлэх нөлөөг нь авч үзэхэд. API нь өгөөжтэй AI-д суурилсан бүтээгдэхүүн бүтээх босгыг⁠(шинэ цонхонд нээгдэнэ) ихээхэн бууруулж, өнөөдөр төсөөлөхөд ч бэрх хэрэгсэл, үйлчилгээнүүдийг бий болгоно гэж бид найдаж байна.

API-г сонирхон судалж байна уу? Манай хаалттай бета⁠(шинэ цонхонд нээгдэнэ)-д Algolia⁠(шинэ цонхонд нээгдэнэ), Quizlet⁠(шинэ цонхонд нээгдэнэ), Reddit⁠(шинэ цонхонд нээгдэнэ) зэрэг компаниуд, мөн Middlebury Institute⁠(шинэ цонхонд нээгдэнэ) зэрэг байгууллагын судлаачдын эгнээнд нэгдээрэй.

Эцсийн дүндээ бидний хамгийн их анхаардаг зүйл⁠ бол Ерөнхий хиймэл оюун ухаан хүн бүрт ашиг тустай байхыг баталгаажуулах явдал юм. Арилжааны бүтээгдэхүүн хөгжүүлэх нь амжилтад хүрэхэд хангалттай санхүүжилттэй байх нэг арга гэж бид үздэг.

Мөн хүчирхэг AI системүүдийг дэлхийд аюулгүй нэвтрүүлэх ажлыг зөв хийх амаргүй гэж бид үздэг. API-г гаргахдаа бид AI системүүдийг бодит ертөнцөд ашиглахад ямар сорилтууд гарч ирж байгааг харахын тулд түншүүдтэйгээ нягт хамтран ажиллаж байна. Энэ нь ирээдүйн AI системүүдийг нэвтрүүлэх явц хэрхэн өрнөх, мөн тэдгээрийг хүн бүрт аюулгүй, ашиг тустай байлгахын тулд юу хийх шаардлагатайг ойлгох бидний ажилд чиглэл өгнө.

Бид үүнийг хийсэн гурван үндсэн шалтгаан бий. Нэгдүгээрт, технологийг арилжаалах нь AI-ийн тасралтгүй судалгаа, аюулгүй байдал, бодлогын ажлын зардлыг нөхөхөд тусалдаг.

Хоёрдугаарт, API-ийн суурь болж буй олон загвар маш том хэмжээтэй тул хөгжүүлэх, нэвтрүүлэхэд ихээхэн туршлага шаарддаг бөгөөд ажиллуулах зардал нь маш өндөр байдаг. Ингэснээр суурь технологийн үр шимийг томоохон компаниудаас бусад нь хүртэхэд хүндрэлтэй болдог. API нь хүчирхэг AI системүүдийг жижиг бизнес, байгууллагуудад илүү хүртээмжтэй болгоно гэж бид найдаж байна.

Гуравдугаарт, API загвар нь технологийн буруугаар ашиглалтад илүү амархан хариу үйлдэл үзүүлэх боломж олгодог. Манай загваруудын дараагийн шатны ашиглах тохиолдлуудыг урьдчилан таамаглах хэцүү учраас, хортой хэрэглээ илэрвэл хандалтыг өөрчлөх боломжгүй нээлттэй эхийн загвар гаргахаас илүүтэйгээр, тэдгээрийг API-ээр гаргаж, цаг хугацааны явцад хандалтыг өргөжүүлэх нь угаасаа илүү аюулгүй санагддаг.

GPT‑2‑ын хувьд бидний гол санаа зовнилын нэг нь загварыг хорлонтойгоор ашиглах явдал байсан (жишээ нь, ташаа мэдээлэл түгээхэд), учир нь загварыг нээлттэй эх болгосны дараа үүнийг зогсоох хэцүү байдаг. API-ийн хувьд бид зөвшөөрөгдсөн хэрэглэгчид болон ашиглах тохиолдлуудад хандалтыг хязгаарласнаар буруугаар ашиглалтаас илүү сайн сэргийлж чадна. Санал болгож буй хэрэглүүрүүдийг нийтэд нэвтрүүлэхээс өмнө бид заавал үйлдвэрлэлийн хяналтын процесс явуулдаг. Үйлдвэрлэлийн хяналтын үеэр бид хэрэглүүрүүдийг хэд хэдэн хэмжүүрээр үнэлж, тухайлбал: Энэ одоогоор дэмжигдэж буй ашиглах тохиолдол мөн үү?, Хэрэглүүр хэр нээлттэй төгсгөлтэй вэ?, Хэрэглүүр хэр эрсдэлтэй вэ?, Та болзошгүй буруугаар ашиглалтыг хэрхэн шийдэхээр төлөвлөж байна вэ?, мөн Таны хэрэглүүрийн эцсийн хэрэглэгчид хэн бэ? зэрэг асуултуудыг асуудаг.

Бид хүмүүсийн бие махбодын, сэтгэл хөдлөлийн, эсвэл сэтгэлзүйн хор хөнөөл учруулдаг (эсвэл учруулахаар зориулагдсан) ашиглах тохиолдлуудын API хандалтыг цуцалдаг. Үүнд дарамт, санаатай хууран мэхлэлт, радикалчлал, astroturfing, спам зэрэг, мөн эцсийн хэрэглэгчдийн буруугаар ашиглалтыг хязгаарлах хангалттай хамгаалалтгүй хэрэглүүрүүд багтана, гэхдээ үүгээр хязгаарлагдахгүй. Бодит хэрэглээнд API-г ажиллуулж буй туршлага маань нэмэгдэхийн хэрээр бид дэмжиж чадах хэрэглээний ангиллуудаа байнга нарийвчлан сайжруулна—нэг талаас дэмжиж чадах хэрэглүүрийн хүрээг тэлэх, нөгөө талаас буруугаар ашиглагдах эрсдэлтэй гэж үзэж буй хэрэглээг илүү нарийн ангилах зорилгоор.

API-ийн хэрэглээг зөвшөөрөхдөө бидний авч үздэг нэг чухал хүчин зүйл бол тухайн хэрэглүүр системийн суурь үүсгэх чадвартай холбоотойгоор нээлттэй төгсгөлтэй эсвэл хязгаарлагдмал зан төлөв хэр зэрэг үзүүлж байгаагийн хэмжээ юм. API-ийн нээлттэй төгсгөлтэй хэрэглээнүүд (өөрөөр хэлбэл, дурын өгөгдлөөр их хэмжээний өөрчилж болох текстийг саад багатайгаар үүсгэх боломж олгодог хэрэглээнүүд) нь буруугаар ашиглагдах өндөр эрсдэлтэй. Үүсгэх хэрэглээг аюулгүй болгоход туслах хязгаарлалтуудад хүнийг үйл явцад оролцуулсан системийн дизайн, эцсийн хэрэглэгчийн хандалтын хязгаарлалт, гаралтын дараах боловсруулалт, агуулгын шүүлтүүр, оролт/гаралтын уртын хязгаарлалт, идэвхтэй хяналт, сэдвийн хязгаарлалт зэрэг орно.

Мөн бид API-ээр хүргэж буй загваруудын болзошгүй буруугаар ашиглалтыг, тэр дундаа манай академик хандалтын хөтөлбөр⁠(шинэ цонхонд нээгдэнэ)-өөр дамжуулан гуравдагч талын судлаачидтай хамтран үргэлжлүүлэн судалж байна. Одоогоор бид маш цөөн тооны судлаачдаас эхэлж байгаа бөгөөд Middlebury Institute⁠(шинэ цонхонд нээгдэнэ), University of Washington, and Allen Institute for AI⁠(шинэ цонхонд нээгдэнэ) дахь академик түншүүдээсээ зарим үр дүнг аль хэдийн авсан. Энэ хөтөлбөрт хэдийн арван мянга гаруй өргөдөл ирсэн бөгөөд одоогоор бид шударга байдал болон төлөөллийн судалгаанд чиглэсэн өргөдлүүдийг тэргүүн ээлжид авч үзэж байна.

Хортой хэвийлт зэрэг сөрөг нөлөөг бууруулах нь салбар даяарх, шийдвэрлэхэд хэцүү боловч туйлын чухал асуудал юм. GPT‑3 paper⁠(шинэ цонхонд нээгдэнэ) болон загварын карт⁠(шинэ цонхонд нээгдэнэ)-д дурдсанчлан, манай API загварууд үнэхээр хэвийлт агуулдаг бөгөөд энэ нь үүсгэсэн текстэд тусна. Эдгээр асуудлыг шийдэхийн тулд бид дараах алхмуудыг хийж байна:

• Бид хөгжүүлэгчдэд аюулгүй байдлын болзошгүй асуудлыг ойлгож, шийдвэрлэхэд туслах ашиглалтын удирдамж боловсруулсан.
• Бид хэрэглэгчидтэй нягт хамтран тэдний ашиглах тохиолдлуудыг ойлгож, хортой хэвийлтийг илрүүлж, бууруулахад хөндлөнгөөс оролцох хэрэгслүүдийг хөгжүүлж байна.
• Бид хортой хэвийлтийн илрэл болон шударга байдал, төлөөллийн өргөн хүрээний асуудлуудын талаар өөрсдөө судалгаа хийж байгаа бөгөөд энэ нь одоогийн загваруудын баримтжуулалтыг сайжруулах, мөн ирээдүйн төрөл бүрийн загварыг сайжруулах замаар ажлаа чиглүүлэхэд тусална.
• Хэвийлт нь систем болон ашиглалтад орсон орчны огтлолцолд илэрдэг асуудал гэдгийг бид хүлээн зөвшөөрдөг; манай технологиор бүтээгдсэн хэрэглүүрүүд нь нийгэм-техникийн системүүд тул сөрөг зан төлөвийг хянахад тохирох процесс болон хүнийг оролцуулсан системүүдийг нэвтрүүлж байгаа эсэхийг баталгаажуулахын тулд бид хөгжүүлэгчидтэйгээ хамтран ажилладаг.

Бидний зорилго бол ашиглалтын нөхцөл бүр дэх API-ийн учруулж болзошгүй хор нөлөөний талаарх ойлголтоо үргэлжлүүлэн гүнзгийрүүлж, тэдгээрийг багасгахад туслах хэрэгсэл, процессоо байнга сайжруулах явдал юм.

2020 оны 9-р сарын 18-нд шинэчилсэн