OpenAI waxay la wareegaysaa Promptfoo
Dardargelinta awoodaha tijaabinta amniga iyo qiimeynta ee wakiilada gudaha OpenAI Ugu Casriyeysan
Waxaan la wareegaynaa Promptfoo, oo ah madal amniga AI ah oo ka caawisa shirkadaha inay ogaadaan oo ay xalliyaan nuglaanshaha nidaamyada AI inta lagu jiro horumarinta. Marka la dhammeystiro la wareegistu, waxaan si toos ah ugu dhex dari doonaa tignoolajiyada Promptfoo OpenAI Frontier, oo ah madalkeenna lagu dhiso laguna maamulo AI coworkers.
Maadaama shirkaduhu ay AI coworkers ku dabaqayaan habsocodyo dhab ah, qiimeyn, amni, iyo u hoggaansanaan waxay noqdaan shuruudo aasaasi ah. Shirkaduhu waxay u baahan yihiin habab nidaamsan oo lagu tijaabiyo habdhaqanka wakiil, lagu ogaado khataraha ka hor hirgelinta, laguna hayo diiwaanno cad oo taageera kormeerka, maamulka, iyo isla-xisaabtanka waqti ka dib.
Kooxda Promptfoo, oo ay hoggaaminayaan Ian Webster iyo Michael D’Angelo, waxay dhiseen qalab awood leh oo ay ku kalsoon yihiin in ka badan 25 boqolkiiba shirkadaha Fortune 500, iyo sidoo kale il-furan(ku furmaa daaqad cusub) CLI iyo maktabad si loogu qiimeeyo looguna sameeyo red-teaming codsiyada LLM (Qaabka Luuqadda Ballaaran). Wadajir ahaan, waxaan sii wadi doonnaa dhismaha mashruuca il-furan annagoo sidoo kale horumarinayna awoodaha shirkadeed ee isku dhafan ee Frontier.
“Promptfoo waxay keentaa khibrad injineernimo oo qoto dheer oo ku saabsan qiimeynta, sugidda, iyo tijaabinta nidaamyada AI ee baaxadda shirkadaha. Shaqadoodu waxay ka caawisaa ganacsiyada inay hirgeliyaan codsiyo AI oo ammaan ah oo la isku hallayn karo, waxaana nagu farxad ah inaan awoodahan si toos ah u keenno Frontier.”
Waxaan ku dhisi doonnaa dhowr awoodood oo aasaasi u ah shirkadaha ka dhisaya wakiillo Frontier:
- Tijaabinta amniga iyo badqabka ee ku dhex dhisan madasha: Awoodaha tijaabinta amniga ee otomaatiga ah iyo red-teaming waxay noqon doonaan qayb asal ah oo ka mid ah madasha Frontier, iyagoo ka caawinaya shirkadaha inay ogaadaan oo ay xalliyaan khataraha sida weerarka weydiinta, jailbreaks, daadashada xogta, si khaldan u adeegsiga qalabka, iyo habdhaqannada wakiilka ee ka baxsan siyaasadda.
- Amniga iyo qiimeynta oo ku dhex jira habsocodyada horumarinta: Frontier waxay si qoto dheer ula midoobi doontaa habsocodyada loo baahan yahay si loo ogaado, loo baaro, loona xalliyo khataraha wakiilka goor hore, taasoo amniga ka dhigaysa qayb aasaasi ah oo ka mid ah sida nidaamyada AI ee shirkadaha loo horumariyo loona maamulo.
- Kormeer iyo isla-xisaabtan: Warbixinno isku dhafan iyo raadraac waxay ka caawin doonaan ururrada inay diiwaangeliyaan tijaabinta, la socdaan isbeddellada waqti ka dib, oo ay buuxiyaan filashooyinka sii kordhaya ee maamulka, khatarta, iyo u hoggaansanaanta AI.
“Waxaan bilownay Promptfoo sababtoo ah horumariyayaashu waxay u baahnaayeen hab wax-ku-ool ah oo lagu sugo nidaamyada AI. Maaddaama wakiillada AI ay sii badanayaan ku xirnaanshaha xogta iyo nidaamyada dhabta ah, sugiddooda iyo xaqiijintoodu way ka adag tahay kana muhiimsan tahay weligeed. Ku biirista OpenAI waxay noo oggolaanaysaa inaan dardargelinno shaqadan, annagoo keenayna awoodaha amniga, badqabka, iyo maamulka oo ka xooggan kooxaha dhisaya nidaamyada AI ee dunida dhabta ah.”
Waxaan ku faraxsanahay inaan soo dhoweyno kooxda Promptfoo oo aan sii wadno dhismaha qalabka ay shirkaduhu u baahan yihiin si ay u hirgeliyaan AI ammaan ah oo la isku hallayn karo.
Dhammaadka la wareegistu wuxuu ku xiran yahay shuruudaha caadiga ah ee xiritaanka.
