OpenAI సాంకేతికతతో Block AI-ఆధారిత భద్రతను ఎలా నిర్మిస్తోంది

స్క్వేర్, క్యాష్ యాప్, ఆఫ్టర్‌పేలను అందిస్తున్న Block సంస్థలోని భద్రతా బృందం OpenAI డిఫెన్స్ ఫ్యాక్టరీని ఉపయోగిస్తోంది. దీనిలో AI భద్రతా లోపాలను వెలికితీయడం, ముప్పులను గుర్తించడం, స్పందించడం వంటి పనులను ఏ మానవ బృందమూ అందుకోలేనంత విస్తృత స్థాయిలో నిర్వహిస్తుంది. OpenAI Daybreakతో సహా AI వ్యవస్థల సాయంతో, గతంలో వారాలు పట్టే పనిని Block ఇప్పుడు కేవలం గంటల్లో పూర్తి చేస్తోంది.

కోడ్ రూపొందించడం నుంచి భద్రతా కార్యకలాపాల వరకు అన్ని పని ప్రక్రియల్లో AIని బాధ్యతాయుతంగా ప్రవేశపెట్టడంపై Block భద్రతా బృందం దృష్టి పెట్టింది. “పని పెరిగే కొద్దీ మీతో పాటు ఆ పని చేయగల కొత్త సహచరుడిని పొందడమే ఇందులో ప్రధాన విషయం,” అని ముఖ్య సమాచార భద్రతా అధికారి జేమ్స్ నెట్టెస్‌హైమ్ అంటారు. “ఇది ప్రతి దశనూ విడివిడిగా నిర్దేశించాల్సిన సంప్రదాయ ఆటోమేషన్ లాంటిది కాదు. మీ అవసరాలకు ప్రత్యేకమైన, స్పష్టత తక్కువగా ఉన్న సమస్యను కూడా దీనికి ప్రాంప్ట్ రూపంలో వివరించి, కలిసి పరిష్కరించవచ్చు.”

సాఫ్ట్‌వేర్ లోపాన్ని సమీక్షించడం లేదా లాగ్‌ను పార్స్ చేయడం వంటి ప్రాజెక్ట్‌లను పూర్తి చేయడానికి గతంలో రోజులు లేదా వారాలు పట్టేది. ఇప్పుడు ప్రతి ఫలితాన్ని ఇప్పటికీ ఒక మానవుడు ధృవీకరిస్తూనే, బృందం ఆ ప్రాజెక్ట్‌లను చాలా తక్కువ సమయంలోనే పూర్తి చేయగలదు.

ఉదాహరణకు, ముప్పు గుర్తింపు విధానాన్ని మెరుగుపరిచేందుకు ప్రతి దర్యాప్తులోనూ క్వెరీ ద్వారా లభించిన అసలు ఆధారాలను నిల్వ చేస్తారు. దీంతో గుర్తింపు విధానంలో ప్రతిపాదించిన మార్పును, వాడుకలో ఉన్న వ్యవస్థల నుంచి ఏడు నెలలుగా సేకరించిన టెలిమెట్రీ సమాచారంపై గంటలోపే తిరిగి పరీక్షించగలుగుతున్నారు. గతంలో ఈ పని కోసం వందలాది పాత కేసులపై మనుషులే మళ్లీ క్వెరీలు నడపాల్సి వచ్చేది. దానికి ఎంతో సమయం పట్టడంతో, ఆచరణలో ఆ పని అరుదుగానే జరిగేది.

ఏ పనికి ఏ మోడల్‌ను ఉపయోగించాలనే విషయంలోనూ బృందం ఇప్పుడు మరింత శ్రద్ధగా ఎంపిక చేస్తోంది. “గతంలో మేం అత్యంత కొత్త మోడల్‌నే ఉపయోగించేవాళ్లం. కానీ ఇప్పుడు అలా చేయాల్సిన అవసరం లేదు,” అని ఆయన అంటారు. “వేర్వేరు పనులకు వేర్వేరు మోడళ్లను ఎంచుకోవడం మాకు ఒక నేర్చుకునే అనుభవంగా నిలిచింది.” పనులను తగిన మోడల్‌కు కేటాయించేందుకు Block భద్రతా హార్నెస్‌ను Daybreakపై నిర్మించారు. అవసరమైనప్పుడు మనుషులు పనిని స్వీకరించడానికి, ఏజెంట్లు ఒకదాని పనిని మరొకటి తనిఖీ చేయడానికి ఇందులో ఏర్పాట్లు ఉన్నాయి. బృందం అంతర్గత ప్రమాణాలు, వాస్తవ వినియోగంలో పనితీరు ఆధారంగా ఈ వ్యవస్థలను నిరంతరం మదింపు చేస్తూ, అవసరమైనప్పుడు తన విధానాన్ని సర్దుబాటు చేస్తుంది. మనుషుల సమీక్షకు పంపడమే బాధ్యతాయుతమైన మార్గమైనప్పుడు పనిని అలా మళ్లిస్తుంది.

ఆటోమేటెడ్ ప్రాథమిక పరిశీలన వ్యవస్థ వల్ల పని (మరింత ఎక్కువగా) మరింత వేగంగా పూర్తవుతోంది. Block భద్రతా బృందంలో ప్రాథమిక పరిశీలన థ్రూపుట్ 50% పెరిగింది. ముప్పుల సమాచార సేకరణ, దర్యాప్తులు 50% పెరిగాయి. స్వతంత్రంగా ముప్పులను అన్వేషించే సరికొత్త సామర్థ్యం కూడా అందుబాటులోకి వచ్చింది. “ఇది ప్రతి త్రైమాసికంలో విశ్లేషకులకు సుమారు 1,100 గంటలు పట్టే దర్యాప్తు పనిని చేస్తోంది. ఎందుకంటే ఇప్పుడు ప్రతి హెచ్చరికకు సంబంధించిన అన్ని అంశాలపైనా పూర్తి స్థాయిలో, లోతుగా దర్యాప్తు జరుగుతోంది. మా వ్యవస్థ ప్రతి హెచ్చరికనూ ఆ రోజు మాకు వచ్చిన ఏకైక హెచ్చరిక అన్నంత శ్రద్ధతో పరిశీలిస్తుంది” అని నెట్టెస్‌హైమ్ తెలిపారు.

సంప్రదాయ స్కానింగ్ సాధనాలు ఒక్కో భద్రతా లోపాన్ని విడిగా గుర్తిస్తాయి. కానీ Daybreakతో Block భద్రతా బృందం అంతకంటే ఎంతో ముందుకు వెళ్లగలుగుతోంది. దాడులు ఎలా జరగవచ్చో ఊహించడంలో, వరుస దాడులను అనుసంధానించి వ్యవస్థను ఛేదించేందుకు మొదటి నుంచి చివరి వరకు పూర్తి మార్గాన్ని రూపొందించడంలో మోడల్ సాయపడుతుంది. తద్వారా ఏళ్ల తరబడి ఉండివుండగల భద్రతా లోపాలను బయటపెడుతుంది.

ఒక సందర్భంలో, ఒక ల్యాప్‌టాప్‌పై వచ్చిన హెచ్చరికను విడిగా చూస్తే అది చిన్న విధాన ఉల్లంఘనలా కనిపించింది. కానీ సహచర సమీక్ష సమయంలో, ఆధారాల్లో యాదృచ్ఛికంగా మాత్రమే కనిపించిన ఒక సూచనను మోడల్ అనుసరించింది. దాన్ని Block గుర్తింపు లాగ్‌లతో సరిపోల్చి, చాలా పెద్ద సంఖ్యలో సమస్యలను బయటపెట్టింది. “ఒక అంతిమ పరికరంపై వచ్చిన సాధారణ హెచ్చరిక, మొత్తం దాడుల పరంపరను అడ్డుకునే స్థాయికి దారితీసింది. ఏ ఒక్క సాధనమూ సొంతంగా ఆ సంబంధాన్ని గుర్తించదు. రెండు ఉత్పత్తుల లాగ్‌లను కలిపి చూస్తేనే ఆ సంకేతం బయటపడుతుంది,” అని జేమ్స్ అంటారు.

Daybreak సాయపడిన మరో ఉదాహరణ ఇటీవల జరిగిన రెడ్ టీమింగ్ సాధనలో కనిపించింది. మోడల్‌కు ఒక అంతర్గత వ్యవస్థ గురించి కొన్ని సూచనలు ఇచ్చారు. దాదాపు రెండు గంటల్లోనే అది SQL ఇంజెక్షన్, అధిక ప్రవేశ హక్కులు పొందడం, వ్యవస్థలో పట్టు సాధించడం, ప్రవేశ ఆధారాలను వెలికితీయడం, ఇతర వ్యవస్థల్లోకి చొరబడడం వంటి దశలను అనుసంధానించి పూర్తి దాడి మార్గాన్ని రూపొందించింది. సాధారణంగా ఇదే పని చేయడానికి ఒక రెడ్ టీమింగ్ నిపుణుడికి చాలా రోజులు పడుతుంది. ఇటీవల జరిగిన రెడ్ టీమింగ్ సాధనల్లో, భద్రతా లోపం స్థూల వివరాలను సమర్పించినప్పటి నుంచి ఆటోమేటెడ్ పరిష్కారాన్ని ప్రతిపాదించే వరకు 18 నిమిషాలు పట్టింది.

భద్రతా లోపాలను గుర్తించడం వల్ల కలిగే ప్రయోజనం, వాటిని సరిచేయగల సామర్థ్యంపైనే ఆధారపడి ఉంటుంది. గుర్తించిన ప్రతి లోపం విషయంలో తన బృందం అనుసరించే ప్రక్రియను నెట్టెస్‌హైమ్ వివరిస్తారు: కోడ్‌లో సమస్య ఎక్కడ ఉందో, దానికి ఎవరు బాధ్యులో గుర్తించి, ఆ తర్వాత పరిష్కారానికి వెళ్లడం. “మీరు పరిష్కార సవరణను ప్రతిపాదిస్తారు, లోపాన్ని దాడికి వాడుకోగలరా అని నిర్ధారిస్తారు, ఆ తర్వాత అది సరిచేయబడిందో లేదో తనిఖీ చేస్తారు. ఈ ప్రక్రియలో ఒక మనిషి మార్గనిర్దేశం చేస్తూ, కోడ్ మార్పులను అమల్లోకి తెస్తారు.”

ఏజెంట్లకు సాంకేతిక సామర్థ్యం ఉన్నప్పటికీ, సంస్థ నేపథ్యం లేదా గత నిర్ణయాల వెనుక రీజనింగ్ వాటికి తెలియవు. ఆ నేపథ్యాన్నీ, వ్యూహాన్నీ మనిషి అందిస్తారు. అక్కడే ఆయన బృందం రంగంలోకి దిగి, మానవ సమీక్షను అందిస్తుంది. AI నిర్ణయ సామర్థ్యం ఆచరణలో నిరూపితమయ్యే కొద్దీ, “మేం అంగీకరించే ప్రమాద స్థాయిని క్రమంగా పెంచుతూ, మరింత సున్నితమైన వ్యవస్థల్లోనూ దీన్ని ఉపయోగిస్తాం,” అని నెట్టెస్‌హైమ్ అంటారు.

• ప్రతిపాదిత ముప్పు గుర్తింపు మార్పును ఏడు నెలల టెలిమెట్రీ సమాచారంపై తిరిగి పరీక్షించడానికి గంటలోపు సమయం మాత్రమే పట్టింది.

• ఇటీవలి రెడ్ టీమింగ్ సాధనల్లో భద్రతా లోపం స్థూల వివరాలను సమర్పించినప్పటి నుంచి ఆటోమేటిక్‌గా పరిష్కారాన్ని ప్రతిపాదించే వరకు 18 నిమిషాలు.

• తప్పుడు హెచ్చరికల ప్రాథమిక పరిశీలనలో ప్రతి త్రైమాసికానికి విశ్లేషకుల పని సమయం దాదాపు 600 గంటలు ఆదా.

• ప్రతి త్రైమాసికంలో విశ్లేషకులకు సుమారు 1,100 గంటలు పట్టే దర్యాప్తు పని పూర్తి.

• ప్రాథమిక పరిశీలన థ్రూపుట్‌లో 50% పెరుగుదల.

• ముప్పుల సమాచార సేకరణ, దర్యాప్తుల్లో 50% పెరుగుదల.

ముప్పు గుర్తింపు, ప్రతిస్పందన పనుల్లో మార్పులతోనే ప్రతి త్రైమాసికానికి విశ్లేషకుల పని సమయం దాదాపు 600 గంటలు ఆదా అయింది. గతంలో ఈ సమయం తప్పుడు హెచ్చరికల ప్రాథమిక పరిశీలనకు ఖర్చయ్యేది. ఆ సమయం ఆదా కావడంతో, బృందం ఇప్పుడు మరింత లోతైన దర్యాప్తులకు, బాధ్యతాయుతంగా మరిన్ని ఆటోమేషన్ వ్యవస్థలను రూపొందించడానికి ఎక్కువ సమయం కేటాయిస్తోంది.

దాడుల వేగం పెరుగుతూ, AI మోడళ్లు అభివృద్ధి చెందుతున్న నేపథ్యంలో, భద్రతా లోపాలు అసలు ఏర్పడటాన్నే తగ్గించే అవకాశం ఉందని నెట్టెస్‌హైమ్ భావిస్తున్నారు. దీనివల్ల భద్రతా బృందాలు లోపాలను సరిచేయడానికి తక్కువ సమయం వెచ్చించి, నివారణ చర్యలకు, వ్యూహాత్మక పనికి ఎక్కువ సమయం కేటాయించగలుగుతాయి.

“ఈ అధునాతన సామర్థ్యాలను అందరికీ అందుబాటులోకి తెస్తూ, OpenAI రక్షణ బృందాలకు పైచేయి కల్పిస్తోంది,” అని ఆయన అంటారు. “సాధారణంగా ఇవి అత్యంత ప్రముఖ సాంకేతిక సంస్థలు, ప్రభుత్వాల చేతుల్లోనే ఉండేవి. కానీ ఇప్పుడు కీలక మౌలిక వసతుల నిర్వాహకులు, పాఠశాలలు, చిన్న బిజినెస్‌లతో సహా అందరూ తమ నెట్‌వర్క్‌లను రక్షించుకోవడానికి ఈ సాంకేతికతను ఉపయోగించడం ప్రారంభించవచ్చు.”