GPT‑5.6 ಮುಂಚೂಣಿ ಬುದ್ಧಿಮತ್ತೆ ಹಾಗೂ ದಕ್ಷತೆಯನ್ನು ಹೇಗೆ ಸಂಯೋಜಿಸುತ್ತದೆ

ಜನರು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳನ್ನು ಬಳಸುವ ವಿವಿಧ ಕಾರ್ಯಗಳಾದ್ಯಂತ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ವೆಚ್ಚದ ಸಮತೋಲನ ಸಾಧಿಸಲು GPT‑5.6 ಮಾಡೆಲ್ ಕುಟುಂಬವನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿದ್ದೇವೆ. ನಮ್ಮ ಫ್ಲಾಗ್‌ಶಿಪ್ ಮಾದರಿಯಾದ GPT‑5.6 Sol, Max ರೀಜನಿಂಗ್‌ನೊಂದಿಗೆ ಅರ್ಧಕ್ಕಿಂತ ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ Artificial Analysis Coding Agent Indexನಲ್ಲಿ Claude Fable 5ಗಿಂತ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. Terra ಅರ್ಧ ಬೆಲೆಯಲ್ಲಿ ಇಂಟೆಲಿಜೆನ್ಸ್ ಮಾನದಂಡಗಳಲ್ಲಿ GPT‑5.5ಗೆ ಸಮನಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. Luna ನಮ್ಮ ಅತಿ ವೇಗದ ಮತ್ತು ಅತ್ಯಂತ ಕೈಗೆಟುಕುವ ಮಾಡೆಲ್ ಆಗಿದ್ದು, ಅದರ ಬೆಲೆ Solನ ವೆಚ್ಚಕ್ಕಿಂತ 80% ಕಡಿಮೆ. ಈ ದಕ್ಷತೆಗಳನ್ನು ಒದಗಿಸಲು, ನಮ್ಮ ಸಂಶೋಧನಾ ಮತ್ತು ತಾಂತ್ರಿಕ ತಂಡಗಳು ನಮ್ಮ ತಂತ್ರಜ್ಞಾನ ಪದರಗಳ ಪ್ರತಿಯೊಂದು ಪ್ರಮುಖ ಹಂತದಲ್ಲೂ ಗಣನೀಯ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳನ್ನು ಮಾಡಿವೆ. ಈ ಸುಧಾರಣೆಗಳು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು, ಇನ್‌ಫರೆನ್ಸ್ (ಔಟ್‌ಪುಟ್ ರಚಿಸಲು ಮಾಡೆಲ್‌ಗಳನ್ನು ಚಲಾಯಿಸುವ ವಿಧಾನ) ಮತ್ತು Codex ಹಾಗೂ ChatGPT Work ಎರಡೂ ಬಳಸುವ ನಮ್ಮ ಏಜೆಂಟ್ ಆಧಾರಿತ ಪೂರಕ ವ್ಯವಸ್ಥೆಯನ್ನು ಒಳಗೊಂಡಿವೆ.

ಕಳೆದ ನಾಲ್ಕು ವರ್ಷಗಳಲ್ಲಿ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳ ಬಳಕೆಯನ್ನು 1 ಬಿಲಿಯನ್ ಸಕ್ರಿಯ ಬಳಕೆದಾರರು ಮತ್ತು 2 ಮಿಲಿಯನ್‌ಗೂ ಹೆಚ್ಚು ವ್ಯವಹಾರಗಳಿಗೆ ವಿಸ್ತರಿಸಿದಂತೆ, ಇಂಟೆಲಿಜೆನ್ಸ್‌ನ ಪ್ರಯೋಜನಗಳನ್ನು ಎಲ್ಲರಿಗೂ ತಲುಪಿಸುವಲ್ಲಿ ದಕ್ಷತೆ ಕೇಂದ್ರಸ್ಥಾನದಲ್ಲಿದೆ. ಆರ್ಟಿಫಿಷಿಯಲ್ ಜನರಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್‌ನ ಪ್ರಯೋಜನಗಳು ಇಡೀ ಮಾನವಕುಲಕ್ಕೆ ದೊರೆಯುವುದನ್ನು ಖಚಿತಪಡಿಸುವುದೇ ನಮ್ಮ ಧ್ಯೇಯ. ಈ ವರ್ಷಗಳಲ್ಲಿ, ವೆಚ್ಚ-ಇಂಟೆಲಿಜೆನ್ಸ್ ವಕ್ರರೇಖೆಯ ಪ್ರತಿಯೊಂದು ಹಂತದಲ್ಲೂ ಅತ್ಯುತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಮಾಡೆಲ್‌ಗಳನ್ನು ನೀಡಲು ನಮ್ಮ ತಂತ್ರಜ್ಞಾನ ಪದರಗಳಾದ್ಯಂತ ಹೆಚ್ಚಿನ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳನ್ನು ನಿರಂತರವಾಗಿ ಸಾಧಿಸಲು ಶ್ರಮಿಸಿದ್ದೇವೆ. ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಹೆಚ್ಚು ಕೆಲಸ ಸಾಧಿಸಲು ತರಬೇತಿ ಪಡೆದ GPT‑5.6 ಮೂಲಕ, ಇಂಟೆಲಿಜೆನ್ಸ್-ಪ್ರತಿ-ಟೋಕನ್ ದಕ್ಷತೆಯಲ್ಲಿ ಇದುವರೆಗಿನ ನಮ್ಮ ಅತ್ಯುತ್ತಮ ಸಾಧನೆ ಮಾಡಿದ್ದೇವೆ. ತರಬೇತಿಯ ವೇಳೆ ಕಾರ್ಯದ ಯಶಸ್ಸು ಮತ್ತು ದಕ್ಷತೆ ಎರಡನ್ನೂ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಿ, ಕಾರ್ಯವನ್ನು ಹೆಚ್ಚು ನೇರವಾಗಿ ಪೂರ್ಣಗೊಳಿಸುವಂತೆ ಮಾಡೆಲ್ ಅನ್ನು ರೂಪಿಸುತ್ತೇವೆ.

ಈ ಲೇಖನವು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳ ಆಚೆಗೆ ನೋಡಿ, ತಂತ್ರಜ್ಞಾನ ಪದರಗಳ ಇತರ ಎರಡು ಪ್ರಮುಖ ಭಾಗಗಳ ಪ್ರಗತಿಯ ಮೂಲಕ ದಕ್ಷತೆಗಾಗಿ ನಾವು ಹೇಗೆ ವಿನ್ಯಾಸಗೊಳಿಸಿದ್ದೇವೆ ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ. ಅವುಗಳೆಂದರೆ 1) ಅದೇ ಹಾರ್ಡ್‌ವೇರ್‌ನಿಂದ ಹೆಚ್ಚು ಔಟ್‌ಪುಟ್ ಪಡೆಯಲು ಲೋಡ್ ಬ್ಯಾಲೆನ್ಸಿಂಗ್, ಊಹಾತ್ಮಕ ಡಿಕೋಡಿಂಗ್, ಕ್ಯಾಶಿಂಗ್ ಮತ್ತು ಕರ್ನಲ್ ಆಪ್ಟಿಮೈಸೇಶನ್‌ನಂತಹ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಸುಧಾರಿಸುವ ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು 2) ಸಂದರ್ಭದ ಅನಗತ್ಯ ವಿಸ್ತರಣೆ, ಪರಿಕರ ಬಳಕೆ ಹಾಗೂ ಪುನರಾವರ್ತಿತ ಕೆಲಸವನ್ನು ಉತ್ತಮವಾಗಿ ನಿರ್ವಹಿಸುವ ನಮ್ಮ ಏಜೆಂಟ್ ಆಧಾರಿತ ಪೂರಕ ವ್ಯವಸ್ಥೆ. ಈ ಲಾಭಗಳಲ್ಲಿ ಹಲವನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಸಾಧಿಸುವಲ್ಲಿ GPT‑5.6 Sol ವಹಿಸಿದ ಪಾತ್ರವನ್ನೂ ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ. ಪ್ರತ್ಯೇಕವಾಗಿ ನೋಡಿದಾಗ ಯಾವುದೇ ಸುಧಾರಣೆ ಸೀಮಿತವಾಗಿ ಕಾಣಬಹುದು. ಆದರೆ ಈ ಯಶಸ್ಸುಗಳು ಒಟ್ಟುಗೂಡಿ, ಇಂಟೆಲಿಜೆನ್ಸ್ ಮತ್ತು ದಕ್ಷತೆ ಎರಡರಲ್ಲೂ ಅತ್ಯಾಧುನಿಕ ಮಟ್ಟವನ್ನು ಒದಗಿಸಲು ನಮಗೆ ನೆರವಾಗುತ್ತವೆ.

ಸಾಮರ್ಥ್ಯಕ್ಕಿಂತ ಮಾಡೆಲ್‌ಗಳ ಬೇಡಿಕೆಯೇ ವೇಗವಾಗಿ ಬೆಳೆಯುತ್ತಿರುವ, ಗಣನಾ ಸಂಪನ್ಮೂಲದ ಕೊರತೆಯ ಜಗತ್ತಿನಲ್ಲಿ ಪ್ರತಿಯೊಂದು ವ್ಯವಸ್ಥೆಯ ವಿನ್ಯಾಸಕ್ಕೂ ದಕ್ಷತೆಯೇ ಮೂಲವಾಗಿದೆ. ತರಬೇತಿ ಪಡೆದ ಮಾಡೆಲ್‌ಗಳನ್ನು ಚಲಾಯಿಸಿ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ರಚಿಸುವ ನಮ್ಮ ಇನ್‌ಫರೆನ್ಸ್ ತಂತ್ರಜ್ಞಾನ ಪದರಕ್ಕೆ ಇದು ವಿಶೇಷವಾಗಿ ಅನ್ವಯಿಸುತ್ತದೆ. ಬಳಕೆದಾರರು ನಿರೀಕ್ಷಿಸುವ ಇಂಟೆಲಿಜೆನ್ಸ್, ವಿಳಂಬ, ಲಭ್ಯತೆ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ಉಳಿಸಿಕೊಂಡೇ ಅದೇ ಹಾರ್ಡ್‌ವೇರ್‌ನಿಂದ ಹೆಚ್ಚು ಟೋಕನ್‌ಗಳನ್ನು ಒದಗಿಸುವುದು ನಮ್ಮ ಮುಖ್ಯ ಗುರಿಯಾಗಿದೆ.

ಇದನ್ನು ಸಾಧಿಸಲು ಇಡೀ ವ್ಯವಸ್ಥೆಯನ್ನು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಬೇಕು. ಪ್ರತ್ಯೇಕವಾಗಿ ನೋಡಿದಾಗ ಮಾಡೆಲ್ ಅತ್ಯಂತ ದಕ್ಷವಾಗಿರಬಹುದು. ಆದರೆ ವಿನಂತಿಗಳನ್ನು ಸರಿಯಾಗಿ ವಿತರಿಸದಿದ್ದರೆ, ಹಾರ್ಡ್‌ವೇರ್ ನಿಷ್ಕ್ರಿಯವಾಗಿದ್ದರೆ ಅಥವಾ ಡೇಟಾ ಚಲನೆಯು ಗಣನೆಯನ್ನು ನಿಧಾನಗೊಳಿಸಿದರೆ, ಅದನ್ನು ಒದಗಿಸುವುದು ದುಬಾರಿಯಾಗಬಹುದು. ಪ್ರತಿ ಪದರದ ಸುಧಾರಣೆಗಳೂ ಒಟ್ಟುಗೂಡುತ್ತವೆ. ರೂಟಿಂಗ್‌ನಲ್ಲಿ (ವಿನಂತಿಗಳನ್ನು ಎಲ್ಲಿಗೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ), ಶೆಡ್ಯೂಲಿಂಗ್‌ನಲ್ಲಿ (ವಿನಂತಿಗಳನ್ನು ಯಾವಾಗ ಕಳುಹಿಸಲಾಗುತ್ತದೆ), ಕರ್ನಲ್‌ಗಳಲ್ಲಿ (GPUಗಳಲ್ಲಿ ಚಲಿಸುವ ಸಾಫ್ಟ್‌ವೇರ್), ಕ್ಯಾಶಿಂಗ್‌ನಲ್ಲಿ (ಉಳಿಸಿ ಮರುಬಳಕೆ ಮಾಡಿದ ಕೆಲಸ) ಮತ್ತು ಮಾಡೆಲ್ ಅನುಷ್ಠಾನದಲ್ಲಿ (GPU ಕೋಡ್‌ನ ಕ್ರಮ) ಮಾಡಿದ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳಿಂದ ಲಾಭ ದೊರೆಯುತ್ತದೆ. Codexನಲ್ಲಿನ GPT‑5.6 Sol ಈ ಎಲ್ಲ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳಲ್ಲಿ ಪ್ರಮುಖ ಪಾತ್ರ ವಹಿಸಿದೆ.

ಮೊದಲ ಪ್ರಮುಖ ಉದಾಹರಣೆ ಲೋಡ್ ಬ್ಯಾಲೆನ್ಸಿಂಗ್. ಜಾಗತಿಕವಾಗಿ, ಭೌಗೋಳಿಕ ಸ್ಥಳ, ಲಭ್ಯ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಅಕ್ಸಿಲರೇಟರ್ ಪ್ರಕಾರದಂತಹ ಅಂಶಗಳ ಆಧಾರದಲ್ಲಿ ನಾವು ವಿನಂತಿಗಳನ್ನು ರೂಟ್ ಮಾಡುತ್ತೇವೆ. ಅಕ್ಸಿಲರೇಟರ್ ಎಂದರೆ ಮಾಡೆಲ್ ಅನ್ನು ಚಲಾಯಿಸುವ GPU ಅಥವಾ ವಿಶೇಷ ಚಿಪ್‌ನ ಪ್ರಕಾರ. ಕ್ಲಸ್ಟರ್‌ನೊಳಗೆ, ಲೋಡ್, ಸಂದರ್ಭದ ಉದ್ದ, ಕ್ಯಾಶ್ ಲಭ್ಯತೆ ಮತ್ತು ವಿನಂತಿಯ ಇತರ ಗುಣಲಕ್ಷಣಗಳ ಆಧಾರದಲ್ಲಿ ಮಾಡೆಲ್ ಇನ್‌ಸ್ಟೆನ್ಸ್‌ಗಳ ನಡುವೆ ಕೆಲಸವನ್ನು ವಿತರಿಸುತ್ತೇವೆ. ನಂತರ ಪ್ರತಿ ಇನ್‌ಸ್ಟೆನ್ಸ್‌ನೊಳಗೆ ಕೆಲಸವನ್ನು ಅಕ್ಸಿಲರೇಟರ್‌ಗಳು, ಮಾಡೆಲ್‌ನ ಉಪ-ಜಾಲಗಳು ಮತ್ತು ಗಣನಾ ಕೋರ್‌ಗಳ ನಡುವೆ ದಕ್ಷವಾಗಿ ವಿಭಜಿಸಬೇಕು. Codexನಲ್ಲಿನ GPT‑5.6 Sol ಉತ್ಪಾದನಾ ಟ್ರಾಫಿಕ್ ವಿಶ್ಲೇಷಿಸಲು, ಹಿಂದೆ ಗಮನಕ್ಕೆ ಬಾರದ ಅಸಮತೋಲನದ ಮೂಲಗಳನ್ನು ಗುರುತಿಸಲು, ಹೊಸ ರೂಟಿಂಗ್ ತಂತ್ರಗಳನ್ನು ಪರೀಕ್ಷಿಸಲು ಮತ್ತು ಈ ಹ್ಯೂರಿಸ್ಟಿಕ್‌ಗಳನ್ನು ನಿರಂತರವಾಗಿ ಹೊಂದಿಸಲು ನಮಗೆ ನೆರವಾಗುತ್ತದೆ. ಈ ಲೋಡ್ ಬ್ಯಾಲೆನ್ಸಿಂಗ್ ಸುಧಾರಣೆಗಳು ಮಾತ್ರವೇ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳನ್ನು ಒದಗಿಸುವ ವೆಚ್ಚವನ್ನು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆ ಮಾಡಿವೆ.

ಇನ್‌ಪುಟ್‌ಗಳನ್ನು ಮುಂದಿನ ಟೋಕನ್ ಮುನ್ಸೂಚನೆಗಳಾಗಿ ಪರಿವರ್ತಿಸುವ ಲೆಕ್ಕಾಚಾರವಾದ ಮಾಡೆಲ್‌ನ ಫಾರ್ವರ್ಡ್ ಪಾಸ್ ಅನ್ನು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲು GPT‑5.6 Sol ಅನ್ನು ಬಳಸಿದ್ದೇವೆ. ಪ್ರತ್ಯೇಕ ಕಾರ್ಯಾಚರಣೆಗಳು ವೇಗವಾಗಿದ್ದರೂ, ಅತಿಯಾದ ಮೆಮೊರಿ ಚಲನೆ, ಸಿಂಕ್ರೊನೈಸೇಶನ್ ಮತ್ತು ಅಸಮರ್ಥ ಡೇಟಾ ವಿನ್ಯಾಸಗಳು GPUಗಳನ್ನು ನಿಷ್ಕ್ರಿಯವಾಗಿಸಬಹುದು. ಇದನ್ನು ತಪ್ಪಿಸಲು, ಮುಂಚಿತವಾಗಿ ಲೆಕ್ಕಾಚಾರ ಮಾಡಬಹುದಾದ, ಕೈಬಿಡಬಹುದಾದ ಅಥವಾ ಸಮಾನಾಂತರವಾಗಿ ನಡೆಸಬಹುದಾದ ಕೆಲಸವನ್ನು GPT‑5.6 Sol ಗುರುತಿಸಿತು. Codexನೊಂದಿಗೆ GPT‑5.6 Sol ನಮ್ಮ ಉತ್ಪಾದನಾ ಕರ್ನಲ್‌ಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಮರುಬರೆದು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಿತು. ಈ ಕರ್ನಲ್‌ಗಳು ಮಾಡೆಲ್‌ನ ಮೂಲಭೂತ ಗಣಿತ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಪ್ರಧಾನ ಕೋಡ್ ಆಗಿವೆ. OpenAI ನಿರ್ವಹಿಸುವ ಎರಡು ಮುಕ್ತ-ಮೂಲ GPU ಪ್ರೋಗ್ರಾಮಿಂಗ್ ಭಾಷೆಗಳಾದ Triton⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಮತ್ತು Gluon⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ)ನಲ್ಲಿ ಕರ್ನಲ್‌ಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಬರೆಯಲು ಮತ್ತು ಸುಧಾರಿಸಲು GPT‑5.6ಗೆ ತರಬೇತಿ ನೀಡಿರುವುದು ಇದಕ್ಕೆ ಭಾಗಶಃ ಕಾರಣವಾಗಿದೆ. GPT‑5.6 Solನ ವ್ಯಾಪಕ ಕರ್ನಲ್ ಪ್ರಗತಿಗಳೊಂದಿಗೆ ಸೇರಿದ ಈ ಪ್ರಯತ್ನಗಳು, ಆರಂಭದಿಂದ ಅಂತ್ಯದವರೆಗಿನ ಸೇವಾ ವೆಚ್ಚವನ್ನು 20% ಕಡಿಮೆ ಮಾಡಿವೆ. GPT‑5.6 Sol ಬರೆದ ಕರ್ನಲ್‌ಗಳ ನಿಖರತೆಯನ್ನು ಮೌಲ್ಯೀಕರಿಸಲು ನೆರವಾಗುವಂತೆ, ಮುಕ್ತ-ಮೂಲ ಪರಿಕರವಾದ FpSan⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) (ಫ್ಲೋಟಿಂಗ್-ಪಾಯಿಂಟ್ ಸ್ಯಾನಿಟೈಸರ್) ಸೇರಿದಂತೆ ಪರಿಶೀಲನಾ ಪರಿಕರಗಳಲ್ಲಿ ನಾವು ಹೆಚ್ಚಿನ ಹೂಡಿಕೆ ಮಾಡಿದ್ದೇವೆ.

ಊಹಾತ್ಮಕ ಡಿಕೋಡಿಂಗ್ ವೇಗ ಮತ್ತು ದಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸುವ ಮತ್ತೊಂದು ವಿಧಾನವಾಗಿದೆ. ಈ ತಂತ್ರದಲ್ಲಿ ಪ್ರಧಾನ ಮಾಡೆಲ್‌ನೊಂದಿಗೆ ಸಣ್ಣ ಕರಡು ಅಥವಾ «ಊಹಿಸುವ» ಮಾಡೆಲ್ ಅನ್ನು ಚಲಾಯಿಸಿ, ಪ್ರಧಾನ ಮಾಡೆಲ್ ಸಮಾನಾಂತರವಾಗಿ ಪರಿಶೀಲಿಸಲು ಹಲವು ಟೋಕನ್‌ಗಳನ್ನು ಪ್ರಸ್ತಾಪಿಸಲಾಗುತ್ತದೆ. ಆ ಪ್ರಸ್ತಾವನೆಗಳನ್ನು ಸ್ವೀಕರಿಸಿದಾಗ, ಒಂದೇ ಪ್ರಧಾನ ಮಾಡೆಲ್ ಪಾಸ್‌ನಿಂದ ವ್ಯವಸ್ಥೆಯು ಹಲವು ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳನ್ನು ರಚಿಸಬಹುದು. ಇದರಿಂದ ದುಬಾರಿ ಅನುಕ್ರಮ ಲೆಕ್ಕಾಚಾರದ ಪ್ರಮಾಣ ಕಡಿಮೆಯಾಗುತ್ತದೆ. GPT‑5.6 Sol ತನ್ನ ಆರ್ಕಿಟೆಕ್ಚರ್ ಕುರಿತು ನೂರಾರು ಪ್ರಯೋಗಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿ ಚಲಾಯಿಸುವ ಮೂಲಕ ಮತ್ತು ಗಾತ್ರ, ರಚನೆ ಹಾಗೂ ವೈಶಿಷ್ಟ್ಯಗಳ ಬದಲಾವಣೆಗಳನ್ನು ಪರೀಕ್ಷಿಸುವ ಮೂಲಕ ತನ್ನದೇ ಕರಡು ಮಾಡೆಲ್ ಅನ್ನು ಸುಧಾರಿಸಿತು. ಇದಲ್ಲದೆ, GPT‑5.6 Sol ಊಹಿಸುವ ಮಾಡೆಲ್‌ನ ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಆರಂಭಿಸಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿತು. ಹಾರ್ಡ್‌ವೇರ್ ವೈಫಲ್ಯಗಳು ಮತ್ತು ತರಬೇತಿಯ ಅಸ್ಥಿರತೆ ಸೇರಿದಂತೆ ಸಮಸ್ಯೆಗಳು ಎದುರಾದಾಗ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಮಧ್ಯಪ್ರವೇಶಿಸಿತು. ಇದರಿಂದಾದ ಸುಧಾರಣೆಗಳು ಟೋಕನ್ ರಚನೆಯ ದಕ್ಷತೆಯನ್ನು 15%ಗಿಂತ ಹೆಚ್ಚು ಹೆಚ್ಚಿಸಿವೆ.

ಕ್ಯಾಶ್ ಮಾಡದ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳನ್ನು ಸಂಸ್ಕರಿಸುವಾಗ, ಮಾಡೆಲ್ ಗಣನಾ-ತೀವ್ರವಾದ ಒಂದೇ ಪಾಸ್‌ನಲ್ಲಿ ಕೀ-ವ್ಯಾಲ್ಯೂ (KV) ಕ್ಯಾಶ್ ಅನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ; ಔಟ್‌ಪುಟ್ ರಚಿಸುವಾಗ ಆ ಕ್ಯಾಶ್‌ನಿಂದ ಪದೇಪದೇ ಓದಿ ಅದನ್ನು ವಿಸ್ತರಿಸುತ್ತದೆ. ಬ್ಯಾಚಿಂಗ್, ಶಾರ್ಡಿಂಗ್ ಮತ್ತು KV ನಿರ್ವಹಣೆಯಂತಹ ಸೂಕ್ತ ಸೇವಾ ಸಂರಚನೆಯು ಕೆಲಸದ ಹೊರೆಯನ್ನು ಬಹಳವಾಗಿ ಅವಲಂಬಿಸಿದೆ. ಇದರಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಉದ್ದ, ಬ್ಯಾಚ್ ಗಾತ್ರ, ಕ್ಯಾಶ್ ಹಿಟ್ ದರ, ಕ್ವೆರಿ ಗುಣಲಕ್ಷಣಗಳು ಮತ್ತಿತರ ಅಂಶಗಳು ಸೇರಿವೆ. ಆದರೆ ಸಂರಚನೆಯ ವ್ಯಾಪ್ತಿ ಹಿಂದೆ ವ್ಯವಸ್ಥಿತವಾಗಿ ಹೊಂದಿಸಲು ಅತಿ ದೊಡ್ಡದಾಗಿದ್ದರಿಂದ, ಎಂಜಿನಿಯರ್‌ಗಳು ವ್ಯಾಪಕ ಹ್ಯೂರಿಸ್ಟಿಕ್‌ಗಳನ್ನು ಅವಲಂಬಿಸಬೇಕಾಗಿತ್ತು. Codexನಲ್ಲಿನ GPT‑5.6 Sol ಮೂಲಕ ಉತ್ಪಾದನಾ ಕೆಲಸದ ಹೊರೆಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಿ, ಸಂಭಾವ್ಯ ಸಂರಚನೆಗಳನ್ನು ರಚಿಸಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಮತ್ತು ಪ್ರತಿ ಸನ್ನಿವೇಶಕ್ಕೂ ಎಂಜಿನ್ ಹಾಗೂ ಮಾಡೆಲ್‌ನ ಸಂರಚನೆಯನ್ನು ಅತ್ಯಂತ ನಿಖರವಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲು ಸಾಧ್ಯವಾಯಿತು. ಇದು ಕೆಲಸದ ಹೊರೆಗೆ ನಿರ್ದಿಷ್ಟವಾದ ಹೊಸ ಮಟ್ಟದ ಆಪ್ಟಿಮೈಸೇಶನ್ ಅನ್ನು ಪ್ರಾಯೋಗಿಕವಾಗಿಸಿ, ಅದೇ ಹಾರ್ಡ್‌ವೇರ್‌ನಿಂದ ಹೆಚ್ಚು ಉಪಯುಕ್ತ ಇನ್‌ಫರೆನ್ಸ್ ಪಡೆಯಲು ನೆರವಾಗುತ್ತದೆ.

ಇನ್‌ಫರೆನ್ಸ್ ಆಪ್ಟಿಮೈಸೇಶನ್ ನಿರಂತರ ಪ್ರತಿಕ್ರಿಯಾ ಚಕ್ರವಾಗಿದೆ. ನಾವು ಉತ್ಪಾದನಾ ವರ್ತನೆಯನ್ನು ಅಳೆಯುತ್ತೇವೆ, ಅತಿ ದೊಡ್ಡ ಕೊರತೆಗಳನ್ನು ಗುರುತಿಸುತ್ತೇವೆ, ಬದಲಾವಣೆಗಳನ್ನು ಜಾರಿಗೊಳಿಸುತ್ತೇವೆ ಮತ್ತು ಅವು ಪ್ರತ್ಯೇಕ ಮಾನದಂಡವನ್ನಷ್ಟೇ ಅಲ್ಲದೆ ಇಡೀ ವ್ಯವಸ್ಥೆಯನ್ನು ಸುಧಾರಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಪರಿಶೀಲಿಸುತ್ತೇವೆ. GPT‑5.6 Sol ಮತ್ತು Codex ಆ ಚಕ್ರದ ಪ್ರತಿಯೊಂದು ಭಾಗವನ್ನೂ ವೇಗಗೊಳಿಸುತ್ತವೆ. ಇದರಿಂದ ನಮ್ಮ ತಂಡವು ಹೆಚ್ಚು ಆಲೋಚನೆಗಳನ್ನು ಅನ್ವೇಷಿಸಬಹುದು, ಬದಲಾಗುತ್ತಿರುವ ಕೆಲಸದ ಹೊರೆಗಳಿಗೆ ವೇಗವಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸಬಹುದು ಮತ್ತು ಬಳಕೆದಾರರಿಗೆ ಕಡಿಮೆ ವಿಳಂಬ, ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯ ಹಾಗೂ ಕಡಿಮೆ ವೆಚ್ಚದ ಇನ್‌ಫರೆನ್ಸ್ ತಂತ್ರಜ್ಞಾನ ಪದರವನ್ನು ರಚಿಸಬಹುದು.

ChatGPT Work ಮತ್ತು Codex ಹಲವು ಮಾಡೆಲ್ ವಿನಂತಿಗಳು ಹಾಗೂ ಪರಿಕರ ಕರೆಗಳ ಮೂಲಕ ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸುತ್ತವೆ. ಬಳಕೆದಾರರ ವಿನಂತಿಯಿಂದ ಅಂತಿಮ ಪ್ರತಿಕ್ರಿಯೆಯವರೆಗಿನ ಒಂದೇ ತಿರುವಿನಲ್ಲಿ, Codex ಮೂಲ ಕೋಡ್ ಪರಿಶೀಲಿಸಬಹುದು, ನಿಯೋಜನೆ ಇತಿಹಾಸ ಹುಡುಕಬಹುದು, ಘಟನೆ ವರದಿಗಳನ್ನು ಓದಬಹುದು, ಫೈಲ್ ಸಂಪಾದಿಸಬಹುದು ಮತ್ತು ಪರೀಕ್ಷೆಗಳನ್ನು ಚಲಾಯಿಸಬಹುದು. ಪ್ರತಿ ಹಂತಕ್ಕೂ ಒಂದು ವಿನಂತಿ ಬೇಕಾಗಬಹುದು.

ಸಂದರ್ಭ ಸಿದ್ಧಪಡಿಸುವುದು, ಡೇಟಾ ರವಾನಿಸುವುದು, ಇನ್‌ಫರೆನ್ಸ್ ಚಲಾಯಿಸುವುದು, ಪರಿಕರಗಳನ್ನು ಕರೆಯುವುದು ಮತ್ತು ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಆರಂಭಿಸುವುದು—ಇವೆಲ್ಲಕ್ಕೂ ಸಮಯ ಮತ್ತು ಗಣನಾ ಸಂಪನ್ಮೂಲ ಬೇಕಾಗುತ್ತದೆ. ಒಂದು ಕಾರ್ಯಕ್ಕೆ 30 ಮಾಡೆಲ್ ವಿನಂತಿಗಳು ಬೇಕಿದ್ದರೆ, ಪ್ರತಿ ವಿನಂತಿಗೆ ತಗಲುವ ಒಂದು ಹೆಚ್ಚುವರಿ ಸೆಕೆಂಡ್ ಕೂಡ ಒಟ್ಟುಗೂಡುತ್ತದೆ. ಒಟ್ಟಾರೆ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸುಧಾರಿಸುವುದೆಂದರೆ ಮಾಡೆಲ್ ಅನ್ನು ವೇಗಗೊಳಿಸುವುದಷ್ಟೇ ಅಲ್ಲ, ಇಡೀ ವ್ಯವಸ್ಥೆಯಾದ್ಯಂತ ಪುನರಾವರ್ತಿತ ಕೆಲಸವನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು.

ಈ ಗುಣಕಗಳನ್ನು ಆಧರಿಸಿ ನಮ್ಮ ಏಜೆಂಟ್ ಆಧಾರಿತ ಪೂರಕ ವ್ಯವಸ್ಥೆಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿದ್ದೇವೆ. ಇದು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು, ಪರಿಕರಗಳು ಮತ್ತು ಬಳಕೆದಾರರ ಪರಿಸರವನ್ನು ಸಂಪರ್ಕಿಸುವ Rust ಆರ್ಕೆಸ್ಟ್ರೇಷನ್ ಪದರವಾಗಿದೆ. ಮುಂದೆ, ಸಂದರ್ಭದ ಅನಗತ್ಯ ವಿಸ್ತರಣೆಯನ್ನು ತಪ್ಪಿಸುವುದು, ಪರಿಕರಗಳನ್ನು ಲೋಡ್ ಮಾಡುವುದು ಮತ್ತು ಕೆಲಸವನ್ನು ಮರುಬಳಕೆ ಮಾಡುವುದು ಪ್ರತಿ ವಿನಂತಿಯನ್ನು ಹೇಗೆ ಹೆಚ್ಚು ದಕ್ಷಗೊಳಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತೇವೆ.

ಏಜೆಂಟ್‌ಗಳಿಗೆ ಹೆಚ್ಚು ಪರಿಕರಗಳು, ಕೌಶಲ್ಯಗಳು, ಪ್ಲಗಿನ್‌ಗಳು ಮತ್ತು ಸಂಭಾಷಣೆಯ ಇತಿಹಾಸಕ್ಕೆ ಪ್ರವೇಶ ನೀಡಿದಂತೆ, ಕಾನ್ಟೆಕ್ಸ್ಟ್ ವಿಂಡೋಗಳು ಸುಲಭವಾಗಿ ವಿಸ್ತರಿಸಬಹುದು. ಇದು ವೆಚ್ಚವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ, ಮಾಡೆಲ್‌ನ ಗಮನವನ್ನು ಬೇರೆಡೆ ಸೆಳೆಯುತ್ತದೆ ಮತ್ತು ಅನಗತ್ಯ ರೀಜನಿಂಗ್‌ಗೆ ಕಾರಣವಾಗುತ್ತದೆ. ಅಗತ್ಯವಿದ್ದಾಗ ಮಾತ್ರ ಇಂಟಿಗ್ರೇಷನ್‌ಗಳು, ಕಸ್ಟಮ್ MCP ಪರಿಕರಗಳು, ಕೌಶಲ್ಯಗಳು ಮತ್ತು ಪ್ಲಗಿನ್‌ಗಳು ಗೋಚರಿಸುವಂತೆ ಮಾಡುವ ವಿಳಂಬಿತ ಅನ್ವೇಷಣೆಯ ಮೂಲಕ ಪೂರಕ ವ್ಯವಸ್ಥೆಯು ಈ ಹೆಚ್ಚುವರಿ ಹೊರೆಯನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದು. ಪ್ರತ್ಯೇಕ ಪರಿಕರಗಳು ಮತ್ತು MCP ಇಂಟಿಗ್ರೇಷನ್‌ಗಳು ಅನಿರೀಕ್ಷಿತವಾಗಿ ಕಾನ್ಟೆಕ್ಸ್ಟ್ ವಿಂಡೋವನ್ನು ಬಳಸುವುದನ್ನೂ ಪೂರಕ ವ್ಯವಸ್ಥೆಯು ತಡೆಯುತ್ತದೆ. ಮಾಡೆಲ್ ಬೇರೆ ಮಿತಿಯನ್ನು ವಿನಂತಿಸದಿದ್ದರೆ, ಪರಿಕರದ ಔಟ್‌ಪುಟ್‌ಗೆ ಪೂರ್ವನಿಯೋಜಿತವಾಗಿ 10,000 ಟೋಕನ್‌ಗಳ ಮಿತಿ ಇರುತ್ತದೆ.

ಈಗಾಗಲೇ ತಿಳಿಸಿದಂತೆ, ಒಂದು ಏಜೆಂಟ್ ಲೂಪ್ ಒಂದೇ ತಿರುವಿನೊಳಗೆ ಅದೇ ಸೂಚನೆಗಳು, ಸಂಭಾಷಣೆಯ ಇತಿಹಾಸ, ಪರಿಕರ ವ್ಯಾಖ್ಯಾನಗಳು ಮತ್ತು ಹಿಂದಿನ ಫಲಿತಾಂಶಗಳನ್ನು GPUಗಳಿಗೆ ಹಲವು ಬಾರಿ ಕಳುಹಿಸಬಹುದು. ಈ ಪುನರಾವರ್ತಿತ ಇನ್‌ಪುಟ್‌ಗಳ ಸಂಸ್ಕರಣೆ ದುಬಾರಿಯಾದ್ದರಿಂದ, ಪ್ರಾಂಪ್ಟ್ ಕ್ಯಾಶಿಂಗ್ ಹಿಂದೆ ಸಂಸ್ಕರಿಸಿದ ಪ್ರಾಂಪ್ಟ್ ಪೂರ್ವಪ್ರತ್ಯಯಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಲೆಕ್ಕಾಚಾರವನ್ನು ಮರುಬಳಕೆ ಮಾಡುತ್ತದೆ. ಆ ಪೂರ್ವಪ್ರತ್ಯಯವನ್ನು ಉಳಿಸಲು, ಪೂರಕ ವ್ಯವಸ್ಥೆಯು ಮಾಡೆಲ್‌ಗೆ ಗೋಚರಿಸುವ ಎಲ್ಲ ಇತಿಹಾಸವನ್ನೂ ಕೊನೆಯಲ್ಲಿ ಮಾತ್ರ ಸೇರಿಸಬಹುದಾದಂತೆ ಪರಿಗಣಿಸುತ್ತದೆ: ಹೊಸ ಸಂದೇಶಗಳು, ಪರಿಕರ ಫಲಿತಾಂಶಗಳು ಮತ್ತು ಪರಿಸರದ ನವೀಕರಣಗಳನ್ನು ಹಿಂದಿನ ಸಂದರ್ಭದೊಳಗೆ ಸೇರಿಸುವ ಬದಲು ಕೊನೆಯಲ್ಲಿ ಸೇರಿಸಲಾಗುತ್ತದೆ. ಪರಿಕರಗಳನ್ನು ನಿರ್ಣೀತ ಕ್ರಮದಲ್ಲಿ ಪ್ರಸ್ತುತಪಡಿಸಲಾಗುತ್ತದೆ; ಅನುಮೋದನೆ ನೀತಿಗಳಂತಹ ರನ್‌ಟೈಮ್ ಸೆಟ್ಟಿಂಗ್‌ಗಳನ್ನು ಪರಿಕರ ವ್ಯಾಖ್ಯಾನಗಳಲ್ಲಿ ಅಳವಡಿಸುವ ಬದಲು ಕಾರ್ಯಗತಗೊಳಿಸುವಾಗ ಅನ್ವಯಿಸಲಾಗುತ್ತದೆ. ಈ ವಿನ್ಯಾಸದ ಆಯ್ಕೆಯು Codex ಮತ್ತು ChatGPT Workನ ಒಟ್ಟಾರೆ ಹೆಚ್ಚಿನ ಪ್ರಾಂಪ್ಟ್-ಕ್ಯಾಶ್ ಹಿಟ್ ದರಗಳಿಗೆ ಕೊಡುಗೆ ನೀಡುತ್ತದೆ.

GPT‑5.6 ಮೂಲಕ ನಾವು ಸಾಧಿಸಿದ ದಕ್ಷತೆಯ ಲಾಭಗಳು ಸಂಶೋಧನೆ, ಇನ್‌ಫರೆನ್ಸ್ ಮತ್ತು ನಮ್ಮ ಏಜೆಂಟ್ ಆಧಾರಿತ ಪೂರಕ ವ್ಯವಸ್ಥೆ ಸೇರಿದಂತೆ ಇಡೀ ತಂತ್ರಜ್ಞಾನ ಪದರಗಳಲ್ಲಿ ವರ್ಷಗಳಿಂದ ಒಟ್ಟುಗೂಡಿದ ಸುಧಾರಣೆಗಳ ಫಲಿತಾಂಶವಾಗಿವೆ. ಈ ಸುಧಾರಣೆಗಳಲ್ಲಿ ಅನೇಕವನ್ನು ಒದಗಿಸುವಲ್ಲಿ GPT‑5.6 ವಹಿಸಿದ ಪಾತ್ರವು ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳ ವೇಗ ಇನ್ನಷ್ಟು ಹೆಚ್ಚಲಿದೆ ಎಂಬ ವಿಶ್ವಾಸವನ್ನು ನಮಗೆ ನೀಡುತ್ತದೆ. ನಮ್ಮ ತಂತ್ರಜ್ಞಾನ ಪದರಗಳ ಮೂಲಭೂತ ಸುಧಾರಣೆಗಳ ಜೊತೆಗೆ, ಕರ್ನಲ್ ಆಪ್ಟಿಮೈಸೇಶನ್‌ನಂತಹ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಇನ್ನಷ್ಟು ದೊಡ್ಡ ಆಪ್ಟಿಮೈಸೇಶನ್‌ಗಳನ್ನು ಮಾಡುತ್ತಲೇ ಇರುತ್ತೇವೆ. ಆಂತರಿಕವಾಗಿ ನಿರಂತರವಾಗಿ ನಡೆಯುತ್ತಿರುವ ಈ ಸುಧಾರಣೆಗಳನ್ನು ಹೆಚ್ಚು ವ್ಯಾಪಕವಾಗಿ ಲಭ್ಯವಿರುವ, ವೆಚ್ಚ-ದಕ್ಷ ಇಂಟೆಲಿಜೆನ್ಸ್ ರೂಪದಲ್ಲಿ ನಮ್ಮ ಬಳಕೆದಾರರು ಮತ್ತು ಗ್ರಾಹಕರಿಗೆ ತಲುಪಿಸಲು ನಾವು ಉತ್ಸುಕರಾಗಿದ್ದೇವೆ.

ಈ ಲೇಖನಕ್ಕೆ ಕೊಡುಗೆ ನೀಡಿದ ತಾಂತ್ರಿಕ ಸಿಬ್ಬಂದಿ ಸದಸ್ಯರಾದ Matthew Ferrari, Philippe Tillet, Ahmed Ibrahim, Joe Gershenson ಮತ್ತು Steve Coffey ಅವರಿಗೆ ವಿಶೇಷ ಧನ್ಯವಾದಗಳು.