OpenAI Promptfoo-ஐ கையகப்படுத்துகிறது
OpenAI ஃப்ரண்டியர் ஏஜென்டிக் பாதுகாப்பு சோதனை மற்றும் மதிப்பீட்டு திறன்களை துரிதப்படுத்துதல்
உருவாக்கத்தின் போது AI முறைமைகளில் உள்ள பாதிப்புகளை நிறுவனங்கள் கண்டறிந்து சரிசெய்ய உதவும் ஒரு AI பாதுகாப்புத் தளமான Promptfoo-வை நாங்கள் கையகப்படுத்துகிறோம். கையகப்படுத்தல் இறுதிப்படுத்தப்பட்டவுடன் Promptfoo-வின் தொழில்நுட்பத்தை OpenAI Frontier, AI சக ஊழியர்களை உருவாக்கவும் இயக்கவும் பயன்படும் எங்கள் தளத்தில் நேரடியாக ஒருங்கிணைப்போம்.
நிறுவனங்கள் AI சக ஊழியர்களை உண்மையான பணிப்பாய்வுகளில் செயல்படுத்தும் போது, மதிப்பீடு, பாதுகாப்பு மற்றும் இணக்கம் அடிப்படை தேவைகளாக மாறுகின்றன. நிறுவனங்களுக்கு ஏஜென்ட் நடத்தைச் சோதிக்க, வெளியீட்டுக்கு முன் அபாயங்களை கண்டறிய, மேலும் காலப்போக்கில் மேற்பார்வை, ஆளுகை மற்றும் பொறுப்புக்கூறலை ஆதரிக்க தெளிவான பதிவுகளை பராமரிக்க முறையான வழிகள் தேவை.
Ian Webster மற்றும் Michael D’Angelo தலைமையிலான Promptfoo குழு, Fortune 500 நிறுவனங்களில் 25 சதவீதத்திற்கும் மேற்பட்டோர் நம்பும் சக்திவாய்ந்த கருவிகளின் தொகுப்பை உருவாக்கியுள்ளது, மேலும் பரவலாகப் பயன்படுத்தப்படும் திறந்த மூல(புதிய சாளரத்தில் திறக்கும்) CLI மற்றும் LLM பயன்பாடுகளை மதிப்பீடு செய்வதற்கும் ரெட் டீமிங் செய்வதற்கும் நூலகத்தையும் உருவாக்கியுள்ளது. ஒன்றாக, Frontier-ல் ஒருங்கிணைந்த நிறுவன திறன்களை முன்னேற்றுவதோடு, திறந்த மூலத் திட்டத்தையும் தொடர்ந்து உருவாக்குவோம்.
“Promptfoo நிறுவன அளவில் AI அமைப்புகளை மதிப்பீடு செய்வதில், பாதுகாப்பாக்குவதில், மற்றும் சோதிப்பதில் ஆழமான பொறியியல் நிபுணத்துவத்தை கொண்டுள்ளது. அவர்களின் பணி நிறுவனங்களுக்கு பாதுகாப்பான மற்றும் நம்பகமான AI பயன்பாடுகளை செயல்படுத்த உதவுகிறது, மேலும் இந்த திறன்களை நேரடியாக Frontier -ல் கொண்டு வருவதில் நாங்கள் உற்சாகமாக இருக்கிறோம்.
Frontier தளத்தில் ஏஜென்ட்களை உருவாக்கும் நிறுவனங்களுக்காக, பல முக்கிய திறன்களை அடிப்படையாகக் கொண்டு நாங்கள் கட்டமைப்போம்
- தளத்தில் உட்பொதிக்கப்பட்ட பாதுகாப்பு மற்றும் சேஃப்டி சோதனைகள்: தானியக்க பாதுகாப்பு சோதனை மற்றும் ரெட் டீமிங் திறன்கள் Frontier தளத்தின் இயல்பான பகுதியாக மாறும். இதன் மூலம் நிறுவனங்கள் ப்ராம்ப்ட் இன்ஜெக்ஷன், ஜெயில்பிரேக்குகள், தரவு கசிவுகள், கருவி தவறான பயன்பாடு, மற்றும் கொள்கைக்கு புறம்பான ஏஜென்ட் நடத்தைகள் போன்ற அபாயங்களை கண்டறிந்து சரிசெய்ய உதவும்.
- உருவாக்க பணிப்பாய்வுகளில் பாதுகாப்பும் மதிப்பீடும் ஒருங்கிணைப்பு: Frontier ஏஜென்ட் அபாயங்களை முன்கூட்டியே அடையாளம் காணவும், விசாரிக்கவும், சரிசெய்யவும் தேவையான பணிப்பாய்வுகளுடன் ஆழமாக ஒருங்கிணைக்கப்படும், நிறுவன AI அமைப்புகள் உருவாக்கம் மற்றும் செயல்பாட்டின் மையமாக பாதுகாப்பை மாற்றும்.
- கண்காணிப்பு மற்றும் பொறுப்புக்கூறல்: ஒருங்கிணைந்த அறிக்கையிடல் மற்றும் தடமறிதல், நிறுவனங்கள் பரிசோதனைகளை ஆவணப்படுத்தவும், காலப்போக்கில் மாற்றங்களை கண்காணிக்கவும், மேலும் AI-க்கான அதிகரித்து வரும் நிர்வாகம், அபாயம் மற்றும் ஒழுங்குமுறை எதிர்பார்ப்புகளை பூர்த்தி செய்ய உதவும்.
டெவலப்பர்களுக்கு AI அமைப்புகளை பாதுகாக்க ஒரு நடைமுறை வழி தேவைப்பட்டதால் நாங்கள் Promptfoo-வை தொடங்கினோம். AI ஏஜென்ட்கள் உண்மையான தரவுகளுடன் மேலும் இணைக்கப்படும்போது, அவற்றை பாதுகாப்பதும் சரிபார்ப்பதும் இதுவரை இல்லாத அளவுக்கு சவாலாகவும் முக்கியமாகவும் உள்ளது. OpenAI-யில் இணைவது இந்தப் பணியை வேகப்படுத்துகிறது, நிஜ உலக AI அமைப்புகளை உருவாக்கும் குழுக்களுக்கு வலுவான பாதுகாப்பு மற்றும் நிர்வாகத் திறன்களை கொண்டு வருகிறது.
Promptfoo அணியை வரவேற்பதில் நாங்கள் மகிழ்ச்சியடைகிறோம்; மேலும் நிறுவனங்கள் பாதுகாப்பான மற்றும் நம்பகமான AI-ஐ செயல்படுத்த தேவையான கருவிகளை உருவாக்குவதை தொடர்கிறோம்.
கையகப்படுத்தலின் நிறைவு, வழக்கமான நிறைவு நிபந்தனைகளுக்கு உட்பட்டது.
