Promptfoo ለማግኘት OpenAI

ድርጅቶች በልማት ወቅት በሰው ሠራሽ አስተውሎት (AI) ሥርዓቶች ውስጥ ያሉ ተጋላጭነቶችን እንዲለዩ እና እንዲያርሙ የሚያግዝ Promptfoo የተባለ የሰው ሠራሽ አስተውሎት (AI) ደኅንነት መድረክ እየገዛን ነው። ግዥው ከተጠናቀቀ በኋላ የፕሮምፕትፉ ቴክኖሎጂን በቀጥታ ከOpenAI ግንባር ቀደም ጋር እናዋህዳለን፣ የሰው ሠራሽ አስተውሎት (AI) የሥራ ባልደረቦችን ለመገንባት እና ለማስተዳደር የእኛ መድረክ ያካትታል።

ድርጅቶች የሰው ሠራሽ አስተውሎት (AI) የሥራ ባልደረቦችን ወደ እውነተኛ የሥራ ፍሰቶች ሲያሰማሩ፣ ግምገማ፣ ደኅንነት እና ተገዢነት መሰረታዊ መስፈርቶች ይሆናሉ። ድርጅቶች የወኪል ባህሪን ለመፈተሽ፣ ከማሰማራቱ በፊት አደጋዎችን ለመለየት እና ክትትልን፣ አስተዳደርን እና ተጠያቂነትን ለመደገፍ ግልጽ የሆኑ መዝገቦችን ለማቆየት ስልታዊ መንገዶች ያስፈልጋቸዋል።

በIan Webster እና በMichael D'Angelo የሚመራው የPromptfoo ቡድን ከ25 በመቶ በላይ በሆኑ የፎርቹን 500 ኩባንያዎች የሚታመኑ ኃይለኛ የመሣሪያዎች ስብስብ፣ እንዲሁም በስፋት ጥቅም ላይ የዋለ ክፍት ምንጭ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) CLI እና በእሳት መፈተን የLLM መተግበሪያዎችን ለመገምገም እና ለማቀናጀት ቤተ-መጽሐፍት ገንብቷል። በጋራ በመሆን፣ በክፍት ምንጭ ፕሮጀክት ግንባታ እንቀጥላለን፣ እንዲሁም በግንባር ቀደም ውስጥ የተቀናጀ የኢንተርፕራይዝ አቅምን እናሳድጋለን።

በግንባር ቀደም ላይ ለኢንተርፕራይዞች የግንባታ ወኪሎች በርካታ ዋና ዋና ችሎታዎችን እንገነባለን፦

• በመድረኩ ውስጥ የተገነባ የደህንነት እና የደህንነት ሙከራ፦በራስ-ሰር የደኅንነት ሙከራ እና በእሳት መፈተን ችሎታዎች የግንባር ቀደም መድረክ ተወላጅ አካል ይሆናሉ፣ ይህም ድርጅቶች እንደ ፈጣን መርፌ፣ የjailbreaks፣ የውሂብ መፍሰስ፣ የመሣሪያ አላግባብ መጠቀም እና ከፖሊሲ ውጪ የሆኑ ወኪሎች ባህሪያት ያሉ አደጋዎችን እንዲለዩ እና እንዲያርሙ ያግዛቸዋል።
• በልማት የሥራ ፍሰቶች ውስጥ የተዋሃደ ደህንነት እና ግምገማ፦ ግንባር ቀደም ቀደም ሲል የወኪል አደጋዎችን ለመለየት፣ ለመመርመር እና ለማስተካከል ከሚያስፈልጉ የሥራ ፍሰቶች ጋር በጥልቀት ይዋሃዳል፣ ይህም ደኅንነት የኢንተርፕራይዝ ሰው ሠራሽ አስተውሎት (AI) ሥርዓቶች እንዴት እንደሚዘጋጁ እና እንደሚሠሩ ዋና አካል ያደርገዋል።
• ክትትል እና ተጠያቂነት፦ የተቀናጀ ሪፖርት ማድረግ እና ክትትል ድርጅቶች ምርመራን እንዲመዘግቡ፣ በጊዜ ሂደት ለውጦችን እንዲከታተሉ እና እያደገ የመጣውን የአስተዳደር፣ የአደጋ እና የተገዢነት ግምቶችን እንዲያሟሉ ይረዳል።

የPromptfoo ቡድንን በደስታ እንቀበላለን እና ኢንተርፕራይዞች ደኅንነት እና አስተማማኝነት ያላቸውን ሰው ሠራሽ አስተውሎት (AI) ለማሰማራት የሚያስፈልጋቸውን መሣሪያዎችን መገንባታችንን ለመቀጠል እንቀጥላለን።

የግዢው መዝጊያ በተለመደው የመዝጊያ ሁኔታዎች መሰረት ነው።