OpenAI Promptfoo ಅನ್ನು ಸ್ವಾಧೀನಪಡಿಸಿಕೊಳ್ಳಲಿದೆ
OpenAI Frontier ನಲ್ಲಿ ಏಜೆಂಟಿಕ್ ಭದ್ರತಾ ಪರೀಕ್ಷೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ವೇಗಗೊಳಿಸುವುದು
ನಾವು Promptfoo ಅನ್ನು ಸ್ವಾಧೀನಪಡಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದೇವೆ, ಇದು AI ಭದ್ರತಾ ವೇದಿಕೆಯಾಗಿದ್ದು, ಅಭಿವೃದ್ಧಿಯ ಸಮಯದಲ್ಲಿ AI ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿನ ದುರ್ಬಲತೆಗಳನ್ನು ಗುರುತಿಸಲು ಮತ್ತು ಪರಿಹರಿಸಲು ಎಂಟರ್ಪ್ರೈಸ್ಗಳಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಸ್ವಾಧೀನ ಪ್ರಕ್ರಿಯೆ ಅಂತಿಮಗೊಂಡ ನಂತರ ನಾವು Promptfoo ನ ತಂತ್ರಜ್ಞಾನವನ್ನು ನೇರವಾಗಿ OpenAI Frontier, AI ಸಹೋದ್ಯೋಗಿಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸಲು ನಮ್ಮ ವೇದಿಕೆಯಲ್ಲಿ ಸಂಯೋಜಿಸುತ್ತೇವೆ.
ಎಂಟರ್ಪ್ರೈಸ್ಗಳು AI ಸಹೋದ್ಯೋಗಿಗಳನ್ನು ನೈಜ ವರ್ಕ್ಫ್ಲೋಗಳಲ್ಲಿ ನಿಯೋಜಿಸುವಂತೆ, ಮೌಲ್ಯಮಾಪನ, ಭದ್ರತೆ ಮತ್ತು ಅನುಗುಣತೆ ಮೂಲಭೂತ ಅಗತ್ಯಗಳಾಗುತ್ತವೆ. ಎಂಟರ್ಪ್ರೈಸ್ಗಳಿಗೆ ಏಜೆಂಟ್ ವರ್ತನೆಯನ್ನು ಪರೀಕ್ಷಿಸಲು, ನಿಯೋಜನೆಯ ಮೊದಲು ಅಪಾಯಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಮತ್ತು ಕಾಲಕ್ರಮೇಣ ಮೇಲ್ವಿಚಾರಣೆ, ಆಡಳಿತ, ಮತ್ತು ಜವಾಬ್ದಾರಿತ್ವವನ್ನು ಬೆಂಬಲಿಸಲು ಸ್ಪಷ್ಟ ದಾಖಲೆಗಳನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳಲು ವ್ಯವಸ್ಥಿತ ವಿಧಾನಗಳ ಅಗತ್ಯವಿದೆ.
ಇಯಾನ್ ವೆಬ್ಸ್ಟರ್ ಮತ್ತು ಮೈಕೆಲ್ ಡಿ'ಏಂಜೆಲೊ ಅವರ ನೇತೃತ್ವದ Promptfoo ತಂಡವು ಫಾರ್ಚೂನ್ 500 ಕಂಪನಿಗಳಲ್ಲಿ 25 ಶೇಕಡಕ್ಕಿಂತ ಹೆಚ್ಚು ಕಂಪನಿಗಳು ನಂಬಿರುವ ಶಕ್ತಿಶಾಲಿ ಪರಿಕರಗಳ ಸಮೂಹವನ್ನು ನಿರ್ಮಿಸಿದೆ, ಜೊತೆಗೆ LLM ಅನ್ವಯಿಕೆಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಮತ್ತು ರೆಡ್ ಟೀಮಿಂಗ್ ಮಾಡಲು ವ್ಯಾಪಕವಾಗಿ ಬಳಸಲಾಗುವ ಓಪನ್-ಸೋರ್ಸ್(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) CLI ಮತ್ತು ಲೈಬ್ರರಿಯನ್ನೂ ನಿರ್ಮಿಸಿದೆ. ಒಟ್ಟಿಗೆ, ನಾವು ಓಪನ್-ಸೋರ್ಸ್ ಪ್ರಾಜೆಕ್ಟ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದನ್ನು ಮುಂದುವರಿಸುವುದರ ಜೊತೆಗೆ Frontier ಒಳಗಿನ ಏಕೀಕೃತ ಎಂಟರ್ಪ್ರೈಸ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಕೂಡ ಮುಂದುವರಿಸಿ ಮುನ್ನಡೆಸುತ್ತೇವೆ.
“Promptfoo ಎಂಟರ್ಪ್ರೈಸ್ ಮಟ್ಟದಲ್ಲಿ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ, ಭದ್ರಗೊಳಿಸುವಿಕೆ ಮತ್ತು ಪರೀಕ್ಷಿಸುವಲ್ಲಿ ಆಳವಾದ ಎಂಜಿನಿಯರಿಂಗ್ ಪರಿಣತಿಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ಅವರ ಕೆಲಸವು ವ್ಯವಹಾರಗಳಿಗೆ ಸುರಕ್ಷಿತ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹ AI ಅನ್ವಯಿಕೆಗಳನ್ನು ನಿಯೋಜಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ ಮತ್ತು ಈ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ನೇರವಾಗಿ Frontier ಗೆ ತರುವುದಕ್ಕೆ ನಾವು ಸಂತೋಷವಾಗಿದ್ದೇವೆ.”
Frontier ಮೇಲೆ ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸುವ ಎಂಟರ್ಪ್ರೈಸ್ಗಳಿಗಾಗಿ ನಾವು ಹಲವು ಮೂಲ ಸಾಮರ್ಥ್ಯಗಳ ಮೇಲೆ ನಿರ್ಮಿಸುತ್ತೇವೆ:
- ಪ್ಲಾಟ್ಫಾರ್ಮ್ನಲ್ಲಿ ಅಂತರ್ನಿರ್ಮಿತ ಭದ್ರತೆ ಮತ್ತು ಸುರಕ್ಷತಾ ಪರೀಕ್ಷೆ: ಸ್ವಯಂಚಾಲಿತ ಭದ್ರತಾ ಪರೀಕ್ಷೆ ಮತ್ತು ರೆಡ್ ಟೀಮಿಂಗ್ ಸಾಮರ್ಥ್ಯಗಳು ಅತ್ಯಾಧುನಿಕ ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಮೂಲಭೂತ ಭಾಗವಾಗುತ್ತವೆ, ಇದರಿಂದ ಎಂಟರ್ಪ್ರೈಸ್ಗಳು ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ಗಳು, ಜೈಲ್ಬ್ರೇಕ್ಗಳು, ಡೇಟಾ ಲೀಕ್ಗಳು, ಟೂಲ್ ದುರುಪಯೋಗ ಮತ್ತು ನೀತಿಗೆ ವಿರುದ್ಧವಾದ ಏಜೆಂಟ್ ವರ್ತನೆಗಳಂತಹ ಅಪಾಯಗಳನ್ನು ಗುರುತಿಸಿ ಮತ್ತು ಸರಿಪಡಿಸಲು ಸಹಾಯವಾಗುತ್ತದೆ.
- ಅಭಿವೃದ್ಧಿ ಕಾರ್ಯಪ್ರವಾಹಗಳಲ್ಲಿ ಭದ್ರತೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನವನ್ನು ಏಕೀಕರಿಸಲಾಗಿದೆ: ಅತ್ಯಾಧುನಿಕವು ಏಜೆಂಟ್ ಅಪಾಯಗಳನ್ನು ಮೊದಲೇ ಗುರುತಿಸಲು, ತನಿಖೆ ನಡೆಸಲು ಮತ್ತು ಪರಿಹರಿಸಲು ಅಗತ್ಯವಿರುವ ಕಾರ್ಯಪ್ರವಾಹಗಳೊಂದಿಗೆ ಆಳವಾಗಿ ಏಕೀಕರಿಸುತ್ತದೆ, ಇದರಿಂದ ಎಂಟರ್ಪ್ರೈಸ್ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೇಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸಲಾಗುತ್ತದೆ ಎಂಬುದರ ಕೇಂದ್ರ ಭಾಗವಾಗಿ ಭದ್ರತೆಯನ್ನು ಮಾಡುತ್ತದೆ.
- ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ಹೊಣೆಗಾರಿಕೆ: ಏಕೀಕೃತ ವರದಿಗೊಳಿಸುವಿಕೆ ಮತ್ತು ಟ್ರೇಸಬಿಲಿಟಿಯು ಸಂಸ್ಥೆಗಳಿಗೆ ಪರೀಕ್ಷೆಯನ್ನು ದಾಖಲಿಸಲು, ಸಮಯದೊಂದಿಗೆ ಬದಲಾವಣೆಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಲು ಮತ್ತು AI ಗಾಗಿ ಹೆಚ್ಚುತ್ತಿರುವ ಆಡಳಿತ, ಅಪಾಯ ಮತ್ತು ಅನುಸರಣೆ ನಿರೀಕ್ಷೆಗಳನ್ನು ಪೂರೈಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
“ನಾವು Promptfoo ಅನ್ನು ಆರಂಭಿಸಿದ್ದೇವೆ ಏಕೆಂದರೆ ಡೆವಲಪರ್ಗಳಿಗೆ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸಲು ಪ್ರಾಯೋಗಿಕ ವಿಧಾನ ಬೇಕಾಗಿತ್ತು. AI ಏಜೆಂಟ್ಗಳು ನೈಜ ಡೇಟಾ ಮತ್ತು ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ ಹೆಚ್ಚು ಸಂಪರ್ಕಿತರಾಗುತ್ತಿರುವಂತೆ, ಅವುಗಳನ್ನು ಭದ್ರಗೊಳಿಸುವುದು ಮತ್ತು ಮಾನ್ಯಗೊಳಿಸುವುದು ಎಂದಿಗಿಂತಲೂ ಹೆಚ್ಚು ಸವಾಲು ಮತ್ತು ಮುಖ್ಯವಾಗಿದೆ. OpenAI ಗೆ ಸೇರುವುದರಿಂದ ನಾವು ಈ ಕೆಲಸವನ್ನು ವೇಗಗೊಳಿಸಬಹುದು, ನೈಜ-ಜಗತ್ತಿನ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸುವ ತಂಡಗಳಿಗೆ ಬಲವಾದ ಭದ್ರತೆ, ಸುರಕ್ಷತೆ ಮತ್ತು ಆಡಳಿತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ತರುತ್ತೇವೆ."
Promptfoo ತಂಡವನ್ನು ಸ್ವಾಗತಿಸಲು ನಾವು ಸಂತೋಷವಾಗಿದ್ದೇವೆ ಮತ್ತು ಎಂಟರ್ಪ್ರೈಸ್ಗಳಿಗೆ ಸುರಕ್ಷಿತ, ವಿಶ್ವಾಸಾರ್ಹ AI ಅನ್ನು ನಿಯೋಜಿಸಲು ಅಗತ್ಯವಿರುವ ಸಾಧನಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮುಂದುವರಿಸುತ್ತೇವೆ.
ಸ್ವಾಧೀನದ ಮುಕ್ತಾಯವು ಸಾಮಾನ್ಯ ಮುಕ್ತಾಯದ ಶರತ್ತುಗಳಿಗೆ ಒಳಪಟ್ಟಿರುತ್ತದೆ.
