ਸਾਡੇ ਸਾਇਬਰਸੁਰੱਖਿਆ ਗ੍ਰਾਂਟ ਪ੍ਰੋਗਰਾਮ ਰਾਹੀਂ ਰੱਖਿਆਕਰਤਾਵਾਂ ਨੂੰ ਸਸ਼ਕਤ ਬਣਾਉਣਾ

ਅਸੀਂ ਪਿਛਲੇ ਸਾਲ ਆਪਣੇ Cybersecurity Grant Program⁠ ਤਹਿਤ ਪ੍ਰਾਯੋਜਿਤ ਕੀਤੇ ਕੰਮ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕਰ ਰਹੇ ਹਾਂ। 

2023 ਵਿੱਚ, ਅਸੀਂ ਇੱਕ ਸਾਹਸੀ ਵਿਜ਼ਨ ਨਾਲ Cybersecurity Grant Program ਸ਼ੁਰੂ ਕੀਤਾ: ਸਾਇਬਰ ਰੱਖਿਆਕਰਤਾਵਾਂ ਨੂੰ ਸਭ ਤੋਂ ਅਗੇਤੀ AI ਮਾਡਲਾਂ ਨਾਲ ਲੈਸ ਕਰਨਾ ਅਤੇ ਸਾਇਬਰਸੁਰੱਖਿਆ ਅਤੇ ਕ੍ਰਿਤ੍ਰਿਮ ਬੁੱਧੀ ਦੇ ਸੰਧੀ-ਬਿੰਦੂ 'ਤੇ ਅਗੇਤਰੀ ਖੋਜ ਨੂੰ ਸਸ਼ਕਤ ਬਣਾਉਣਾ। ਭਾਈਚਾਰੇ ਵੱਲੋਂ ਮਿਲੇ ਉਤਸ਼ਾਹਪੂਰਨ ਜਵਾਬ ਨੇ ਸਾਡੀਆਂ ਉਮੀਦਾਂ ਤੋਂ ਵੀ ਵੱਧ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ ਹੈ—ਸਾਨੂੰ 600 ਤੋਂ ਵੱਧ ਅਰਜ਼ੀਆਂ ਮਿਲੀਆਂ ਹਨ—ਜੋ OpenAI ਅਤੇ ਸਾਇਬਰਸੁਰੱਖਿਆ ਭਾਈਚਾਰੇ ਵਿਚਕਾਰ ਅਰਥਪੂਰਨ ਚਰਚਾ ਅਤੇ ਖੋਜ ਸੰਵਾਦ ਦੀ ਗੰਭੀਰ ਲੋੜ ਅਤੇ ਪ੍ਰਭਾਵ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।

ਸ਼ੁਰੂਆਤ ਤੋਂ ਹੀ, ਇਸ ਪ੍ਰੋਗਰਾਮ ਨੇ ਵੱਖ-ਵੱਖ ਕਿਸਮ ਦੇ ਪ੍ਰੋਜੈਕਟਾਂ ਦਾ ਸਮਰਥਨ ਕੀਤਾ ਹੈ। ਅਸੀਂ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੁਝ ਨੂੰ ਉਜਾਗਰ ਕਰਨ ਲਈ ਉਤਸ਼ਾਹਿਤ ਹਾਂ। 

UC Berkeley ਦੀ Wagner Lab

UC Berkeley ਵਿੱਚ ਪ੍ਰੋਫੈਸਰ David Wagner ਦੀ ਸੁਰੱਖਿਆ ਖੋਜ ਲੈਬ ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (LLMs) ਵਿੱਚ ਪ੍ਰੌੰਪਟ-ਇੰਜੈਕਸ਼ਨ ਹਮਲਿਆਂ ਤੋਂ ਬਚਾਅ ਲਈ ਅਗੇਤੀ ਤਕਨੀਕਾਂ ਵਿਕਸਤ ਕਰ ਰਹੀ ਹੈ। ਇਹ ਸਮੂਹ OpenAI ਨਾਲ ਮਿਲ ਕੇ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਵਧਾਉਣ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਸਾਇਬਰਸੁਰੱਖਿਆ ਖਤਰਿਆਂ ਤੋਂ ਬਚਾਉਣ ਲਈ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ।

Coguard

Coguard⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਅਤੇ CTO Albert Heinle ਸੁਰੱਖਿਆ ਘਟਨਾਵਾਂ ਦੇ ਇੱਕ ਆਮ ਕਾਰਣ ਸੌਫਟਵੇਅਰ ਗਲਤ-ਕੰਫਿਗਰੇਸ਼ਨ ਨੂੰ ਘਟਾਉਣ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਸੌਫਟਵੇਅਰ ਕੰਫਿਗਰੇਸ਼ਨ ਜਟਿਲ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਜਦੋਂ ਸੌਫਟਵੇਅਰ ਨੂੰ ਨੈੱਟਵਰਕਾਂ ਅਤੇ ਕਲੱਸਟਰਾਂ ਨਾਲ ਜੋੜਿਆ ਜਾਂਦਾ ਹੈ ਤਾਂ ਇਹ ਹੋਰ ਵੀ ਮੁਸ਼ਕਲ ਹੋ ਜਾਂਦੀ ਹੈ। ਮੌਜੂਦਾ ਸੌਫਟਵੇਅਰ ਹੱਲ ਪੁਰਾਣੀਆਂ ਨਿਯਮ-ਅਧਾਰਿਤ ਨੀਤੀਆਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। AI ਗਲਤ-ਕੰਫਿਗਰੇਸ਼ਨਾਂ ਦੀ ਪਛਾਣ ਨੂੰ ਆਟੋਮੇਟ ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਅੱਪਡੇਟ ਰੱਖਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ।

Mithril Security

Mithril ਨੇ LLMs ਲਈ ਇਨਫਰੈਂਸ ਢਾਂਚੇ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਵਾਸਤੇ ਇੱਕ proof-of-concept ਤਿਆਰ ਕੀਤਾ ਹੈ, ਜਿਸ ਵਿੱਚ Trusted Platform Modules (TPMs) 'ਤੇ ਆਧਾਰਿਤ ਸੁਰੱਖਿਅਤ ਇਨਕਲੇਵਜ਼ ਨਾਲ GPUs 'ਤੇ AI ਮਾਡਲ ਡਿਪਲੌਇ ਕਰਨ ਲਈ ਓਪਨ-ਸੋਰਸ ਟੂਲ ਸ਼ਾਮਲ ਹਨ। ਇਸ ਪ੍ਰੋਜੈਕਟ ਦਾ ਉਦੇਸ਼ ਇਹ ਦਰਸਾਉਣਾ ਹੈ ਕਿ ਪ੍ਰਸ਼ਾਸਕਾਂ ਤੋਂ ਵੀ ਬਿਨਾਂ ਕਿਸੇ ਡਾਟਾ ਐਕਸਪੋਜ਼ਰ ਦੇ, AI ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਡਾਟਾ ਭੇਜਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਉਨ੍ਹਾਂ ਦਾ ਕੰਮ GitHub⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) 'ਤੇ ਸਰਵਜਨਿਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਹੈ, ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਆਰਕੀਟੈਕਚਰ ਦਾ ਵੇਰਵਾ ਦਿੰਦੀਆਂ ਸ਼ਵੈਤ-ਪੱਤਰ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਜੋਂ ਵੀ।

Gabriel Bernadett-Shapiro

ਵਿਅਕਤੀਗਤ ਗ੍ਰਾਂਟ ਪ੍ਰਾਪਤਕਰਤਾ Gabriel Bernadett-Shapiro ਨੇ AI OSINT ਵਰਕਸ਼ਾਪ ਅਤੇ AI Security Starter Kit ਬਣਾਇਆ, ਜੋ ਵਿਦਿਆਰਥੀਆਂ, ਪੱਤਰਕਾਰਾਂ, ਜਾਂਚਕਰਤਾਵਾਂ ਅਤੇ ਜਾਣਕਾਰੀ-ਸੁਰੱਖਿਆ ਪੇਸ਼ੇਵਰਾਂ ਲਈ LLMs ਦੇ ਮੂਲ ਸਿਧਾਂਤਾਂ ਅਤੇ ਮੁਫ਼ਤ ਟੂਲਾਂ ਬਾਰੇ ਤਕਨੀਕੀ ਟ੍ਰੇਨਿੰਗ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਖਾਸ ਤੌਰ 'ਤੇ, Gabriel ਨੇ Johns Hopkins University ਵਿੱਚ ਅੰਤਰਰਾਸ਼ਟਰੀ ਅਤਿਆਚਾਰ ਅਪਰਾਧ ਜਾਂਚਕਰਤਾਵਾਂ ਅਤੇ ਇੰਟੈਲੀਜੈਂਸ ਅਧਿਐਨ ਦੇ ਵਿਦਿਆਰਥੀਆਂ ਲਈ ਸੰਬੰਧਿਤ ਟ੍ਰੇਨਿੰਗ 'ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਹੈ, ਤਾਂ ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਕਿ ਉਨ੍ਹਾਂ ਕੋਲ ਗੰਭੀਰ ਅਤੇ ਚੁਣੌਤੀਪੂਰਨ ਮਾਹੌਲਾਂ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਟੂਲ ਹੋਣ।

Dartmouth ਦੀ Breuer Lab

ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਉਹਨਾਂ ਹਮਲਿਆਂ ਲਈ ਸੰਵੇਦਨਸ਼ੀਲ ਹੁੰਦੇ ਹਨ ਜਿੱਥੇ ਵਿਰੋਧੀ ਮਾਡਲ ਨਾਲ ਸੰਪਰਕ ਕਰਕੇ ਨਿੱਜੀ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ ਨੂੰ ਮੁੜ ਬਣਾਉਂਦੇ ਹਨ। ਇਨ੍ਹਾਂ ਹਮਲਿਆਂ ਤੋਂ ਬਚਾਅ ਲਈ ਆਮ ਤੌਰ 'ਤੇ ਮਾਡਲ ਦੀ ਸ਼ੁੱਧਤਾ ਅਤੇ ਟ੍ਰੇਨਿੰਗ ਸਮੇਂ ਦੇ ਹਿਸਾਬ ਨਾਲ ਮਹਿੰਗੇ ਸਮਝੌਤੇ ਕਰਨੇ ਪੈਂਦੇ ਹਨ। Dartmouth ਵਿੱਚ Professor Adam Breuer ਦੀ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਲੈਬ ਨਵੀਆਂ ਰੱਖਿਆ ਤਕਨੀਕਾਂ ਵਿਕਸਤ ਕਰ ਰਹੀ ਹੈ ਜੋ ਸ਼ੁੱਧਤਾ ਜਾਂ ਦੱਖਲ ਨੂੰ ਘਟਾਏ ਬਿਨਾਂ ਇਨ੍ਹਾਂ ਹਮਲਿਆਂ ਨੂੰ ਰੋਕਦੀਆਂ ਹਨ।

Security Lab Boston University (SeclaBU)

ਕੋਡ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰਨਾ ਅਤੇ ਉਨ੍ਹਾਂ ਬਾਰੇ ਰੀਜ਼ਨਿੰਗ ਕਰਨਾ ਖੋਜ ਦਾ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਅਤੇ ਸਰਗਰਮ ਖੇਤਰ ਹੈ। Ph.D ਉਮੀਦਵਾਰ Saad Ullah, SeclaBU⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਤੋਂ Professor Gianluca Stringhini ਅਤੇ Boston University ਦੀ Peac Lab⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਤੋਂ Professor Ayse Coskun ਕੋਡ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਅਤੇ ਠੀਕ ਕਰਨ ਲਈ LLMs ਦੀ ਸਮਰੱਥਾ ਸੁਧਾਰਨ ਉੱਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹਨ। ਇਹ ਖੋਜ ਸਾਇਬਰ ਰੱਖਿਆਕਰਤਾਵਾਂ ਨੂੰ ਨੁਕਸਾਨਦਾਇਕ ਤਰੀਕੇ ਨਾਲ ਵਰਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਕੋਡ ਐਕਸਪਲੋਇਟਸ ਨੂੰ ਪਕੜਣ ਅਤੇ ਰੋਕਣ ਯੋਗ ਬਣਾ ਸਕਦੀ ਹੈ।

University of Santa Cruz (UCSC) ਦੀ CY-PHY Security Lab

Professor Alvaro Cardenas⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦਾ UCSC ਤੋਂ ਖੋਜ ਸਮੂਹ ਇਹ ਖੰਗਾਲ ਰਿਹਾ ਹੈ ਕਿ ਅਸੀਂ foundation models ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਅਜਿਹੇ ਏਜੰਟ ਕਿਵੇਂ ਡਿਜ਼ਾਇਨ ਕਰ ਸਕਦੇ ਹਾਂ ਜੋ ਕੰਪਿਊਟਰ ਨੈੱਟਵਰਕ ਵਿੱਚ ਘੁਸਪੈਠੀਆਂ ਨੂੰ ਖੁਦਮੁਖਤਿਆਰ ਢੰਗ ਨਾਲ ਜਵਾਬ ਦੇਣ, ਜਿਨ੍ਹਾਂ ਨੂੰ autonomous cyber defense agents ਵੀ ਕਿਹਾ ਜਾਂਦਾ ਹੈ। ਇਸ ਪ੍ਰੋਜੈਕਟ ਦਾ ਉਦੇਸ਼ foundation models ਦੇ ਫਾਇਦੇ ਅਤੇ ਨੁਕਸਾਨਾਂ ਦੀ ਤੁਲਨਾ ਉਹਨਾਂ ਸਮਕਾਲੀਆਂ ਨਾਲ ਕਰਨਾ ਹੈ ਜੋ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RL) ਦੀ ਵਰਤੋਂ ਨਾਲ ਟ੍ਰੇਨ ਕੀਤੇ ਗਏ ਹਨ, ਅਤੇ ਫਿਰ ਇਹ ਵੇਖਣਾ ਕਿ ਉਹ ਨੈੱਟਵਰਕ ਸੁਰੱਖਿਆ ਅਤੇ ਖਤਰਾ-ਜਾਣਕਾਰੀ ਦੀ ਟ੍ਰਾਇਏਜ ਸੁਧਾਰਨ ਲਈ ਇਕੱਠੇ ਕਿਵੇਂ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ।

MIT Computer Science Artificial Intelligence Laboratory (MIT CSAIL)

MIT Computer Science Artificial Intelligence Laboratory⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੇ Stephen Moskal, Erik Hemberg ਅਤੇ Una-May O’Reilly ਇਹ ਖੋਜ ਕਰ ਰਹੇ ਹਨ ਕਿ red-teaming ਲਈ plan-act-report ਲੂਪ ਵਿੱਚ ਪ੍ਰੌੰਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਪਹੁੰਚਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਫੈਸਲਾ-ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਕਿਵੇਂ ਆਟੋਮੇਟ ਕੀਤਾ ਜਾਵੇ ਅਤੇ ਕਾਰਵਾਈਯੋਗ ਜਵਾਬ ਕਿਵੇਂ ਦਿੱਤੇ ਜਾਣ।  ਇਸ ਤੋਂ ਇਲਾਵਾ, ਇਹ ਸਮੂਹ Capture-the-Flag (CTF) ਚੁਣੌਤੀਆਂ ਵਿੱਚ LLM-Agent ਸਮਰੱਥਾਵਾਂ ਦੀ ਵੀ ਜਾਂਚ ਕਰ ਰਿਹਾ ਹੈ - ਅਜਿਹੇ ਅਭਿਆਸ ਜੋ ਨਿਯੰਤਰਿਤ ਮਾਹੌਲ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਖੋਜ ਲਈ ਬਣਾਏ ਜਾਂਦੇ ਹਨ।

ChatGPT ਸਾਇਬਰਸੁਰੱਖਿਆ ਪੇਸ਼ੇਵਰਾਂ ਵੱਲੋਂ ਸਭ ਤੋਂ ਲੋਕਪ੍ਰਿਯ ਅਤੇ ਵਾਰੰਵਾਰ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਟੂਲਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਜੋਂ ਉਭਰਿਆ ਹੈ। ਸਾਇਬਰ ਰੱਖਿਆਕਰਤਾਵਾਂ ਲਈ ਇਸਦੇ ਸਭ ਤੋਂ ਆਮ ਉਪਯੋਗਾਂ ਵਿੱਚ ਤਕਨੀਕੀ ਜਾਰਗਨ ਜਾਂ ਲੌਗ ਇਵੈਂਟਸ ਨੂੰ ਆਸਾਨ ਭਾਸ਼ਾ ਵਿੱਚ ਅਨੁਵਾਦ ਅਤੇ ਦੁਬਾਰਾ ਲਿਖਣਾ, ਜਾਂਚ ਦੌਰਾਨ ਆਰਟੀਫੈਕਟਸ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨ ਲਈ ਕੋਡ ਲਿਖਣਾ, ਲੌਗ ਪਾਰਸਰ ਬਣਾਉਣਾ, ਅਤੇ ਕੜੀਆਂ ਸਮੇਂ-ਸੀਮਾਵਾਂ ਵਿੱਚ ਘਟਨਾ ਦੀ ਸਥਿਤੀ ਦਾ ਸਾਰ ਦੇਣਾ ਸ਼ਾਮਲ ਹੈ।

ਇਸਦੇ ਲਾਭ ਵਧਾਉਣ ਲਈ, ਅਸੀਂ ਸਾਇਬਰਸੁਰੱਖਿਆ ਭਾਈਚਾਰੇ ਦੇ ਕਈ ਮੈਂਬਰਾਂ ਨੂੰ ChatGPT Plus ਦੀ ਮੁਫ਼ਤ ਪਹੁੰਚ ਦਿੱਤੀ ਹੈ, ਅਤੇ ਇਸਨੂੰ ਸਾਇਬਰ ਰੱਖਿਆ ਵਿੱਚ AI ਅਪਣਾਉਣ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਦਾ ਇੱਕ ਮੁੱਖ ਮੌਕਾ ਮੰਨਿਆ ਹੈ।

ਅਸੀਂ ਮੁਫ਼ਤ ChatGPT Plus ਖਾਤੇ ਦੇਣਾ ਜਾਰੀ ਰੱਖਾਂਗੇ ਅਤੇ ਇਸ ਪਹਲ ਨੂੰ ਵਧਾ ਕੇ ChatGPT Team ਅਤੇ Enterprise ਵੀ ਪ੍ਰਦਾਨ ਕਰ ਰਹੇ ਹਾਂ। ਸਾਡਾ ਵਿਸਥਾਰ Research and Education Network for Uganda (RENU)⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਸਾਡੇ ਭਾਗੀਦਾਰਾਂ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ।

ਜੇ ਤੁਸੀਂ ਸੁਰੱਖਿਅਤ ਅਤੇ ਨਵੀਂਨਤਮ AI-ਚਲਿਤ ਭਵਿੱਖ ਲਈ ਸਾਡੇ ਵਿਜ਼ਨ ਨੂੰ ਸਾਂਝਾ ਕਰਦੇ ਹੋ, ਤਾਂ ਅਸੀਂ ਤੁਹਾਨੂੰ ਆਪਣੇ ਪ੍ਰਸਤਾਵ ਜਮ੍ਹਾਂ ਕਰਨ ਅਤੇ ਰੱਖਿਆਤਮਕ ਸਾਇਬਰਸੁਰੱਖਿਆ ਤਕਨਾਲੋਜੀਆਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਦੇ ਸਾਡੇ ਉਦੇਸ਼ ਵਿੱਚ ਸਾਡੇ ਨਾਲ ਸ਼ਾਮਲ ਹੋਣ ਲਈ ਸੱਦਾ ਦਿੰਦੇ ਹਾਂ।

ਆਪਣਾ ਪ੍ਰਸਤਾਵ ਇੱਥੇ⁠ ਜਮ੍ਹਾਂ ਕਰੋ