当社のサイバーセキュリティ助成金プログラムで昨年に当社がスポンサーとなった活動をご紹介します。
2023年、当社は1つの大胆なビジョンを掲げてサイバーセキュリティ助成金プログラムを開始しました。それは、最先端の AI モデルをサイバーセキュリティのエキスパートに与え、サイバーセキュリティと人工知能の交わる分野における画期的な研究に力を与えることです。コミュニティからの反響は、当社の予想を上回るものでした。600件以上の応募があり、OpenAI とサイバーセキュリティコミュニティとの有意義な談話や研究議論への高い呼び声とその影響力が明らかになりました。
同プログラムは、その開始以来様々なプロジェクトを支援してきました。そのいくつかをご紹介します。
カリフォルニア大学バークレー校の Wagner Lab
カリフォルニア大学バークレー校に在籍する David Wagner 教授のセキュリティ研究室は、大規模言語モデル（LLM）におけるプロンプトインジェクション攻撃に対する防衛を目的とした技術を開拓しています。同グループは OpenAI と連携し、これらのモデルの信頼性を高め、サイバーセキュリティの脅威からモデルを保護しています。
Coguard
Coguard（新しいウィンドウで開く） 社の共同創業者であり CTO である Albert Heinle 氏は、セキュリティインシデントの一般的な原因であるソフトウェアの構成ミスを減らすために AI を使用しています。ソフトウェアの構成は複雑で、ソフトウェアをネットワークやクラスタに接続する場合はさらに複合的になります。現在のソフトウェアソリューションは、時代遅れのルールベースのポリシーに依存しています。AI は、構成ミスの自動検出と更新の維持に役立ちます。
Mithril Security
Mithril 社は、Trusted Platform Module（TPM）に基づくセキュアな領域で GPU 上に AI モデルを展開するオープンソースツールなど、LLM の推論インフラを強化する概念実証を開発しました。同プロジェクトは、管理者を含む誰にもデータを見せることなく AI プロバイダーにデータを送信できることを実証することを目的としています。その取り組みは、GitHub（新しいウィンドウで開く） とアーキテクチャについて詳述するホワイトペーパー（新しいウィンドウで開く）で公開されています。
Gabriel Bernadett-Shapiro
個人である Gabriel Bernadett-Shapiro 氏は、AI OSINT ワークショップと AI Security Starter Kit を作成し、学生、ジャーナリスト、調査員、情報セキュリティ従事者向けに、LLM の基礎に関する技術的トレーニングや無料のツールを提供しています。特に、ジョンズ・ホプキンズ大学で国際的な凶悪犯罪捜査官や諜報学の学生を対象としたトレーニングに力を入れており、彼らが重要かつ困難な環境において AI を活用するために最善のツールを利用できるよう支援しています。
ダートマス大学の Breuer Lab
ニューラルネットワークは、悪意のある人物がモデルを操作することでプライベートな学習データを再構築する攻撃に対して脆弱です。このような攻撃に対する防御には、通常、モデルの精度と学習時間という点でコストのかかるトレードオフが必要となります。ダートマス大学に在籍する Adam Breuer 教授（新しいウィンドウで開く）の研究室では、精度や効率を損なうことなく、こうした攻撃を防ぐ新しい防御技術を開発しています。
ボストン大学のセキュリティ研究室（SeclaBU）
コードの脆弱性を特定し論理的に思考することは、重要かつ活発な研究分野です。ボストン大学に在籍する Saad Ullah 博士候補生、SeclaBU（新しいウィンドウで開く） の Gianluca Stringhini 教授、Peac Lab（新しいウィンドウで開く） の Ayse Coskun 教授は、LLM がコードの脆弱性を検出し修正する能力を向上させる取り組みを行っています。この研究により、サイバーセキュリティを防衛する側は、コードエクスプロイトを悪用されないうちに発見し、未然に防止できるようになります。
カリフォルニア大学サンタクルーズ校（UCSC）の CY-PHY セキュリティ研究室
UCSC に在籍する Alvaro Cardenas 教授（新しいウィンドウで開く） の研究グループは、コンピューターネットワークへの侵入者に自律的に対応するエージェント（自律型サイバー防衛エージェント）を設計するために、基礎モデルの応用方法を研究しています。同プロジェクトでは、基礎モデルと強化学習（RL）で学習させたモデルの長所と短所を比較します。こうして、ネットワークセキュリティと脅威情報のトリアージを改善するために、これらのモデルをどのように連携させることができるかを導きます。
マサチューセッツ工科大学 Computer Science Artificial Intelligence Laboratory（MIT CSAIL）
MIT Computer Science Artificial Intelligence Laboratory（新しいウィンドウで開く） の Stephen Moskal 氏、Erik Hemberg 氏、Una-May O’Reilly 氏は、レッドチーミングのための計画・行動・報告サイクルにおいて、プロンプトエンジニアリングのアプローチを用いて意思決定プロセスを自動化し、実行可能な対応を行う方法を検討しています。 また、制御された環境で脆弱性を発見することを目的とした演習である Capture-the-Flag（CTF）課題における LLM-Agent の能力を探求しています。
ChatGPT は、サイバーセキュリティ従事者の間で最も人気があり、頻繁に使用されるツールの一つとなっています。サイバーセキュリティ従事者が最もよく使う用途は、専門用語やログイベントをより簡単な言葉に翻訳して言い換える、調査中にアーティファクトを分析するコードを書く、ログパーサーを作成する、厳しい時間的制約の中でインシデントの状況を要約するなどがあります。
その利点を拡大するため、当社はサイバーセキュリティコミュニティの多くのユーザーに ChatGPT Plus への無料アクセスを許可しましました。これはサイバー防衛における AI の採用を強化する重要な機会であると考えたためです。
引き続き ChatGPT Plus アカウントを無償で提供し、この取り組みを拡張して ChatGPT Team および Enterprise まで提供しています。この拡大は、Research and Education Network for Uganda（RENU）（新しいウィンドウで開く）のパートナーから始まりました。
AI を活用した安全で革新的な未来を目指す当社のビジョンに共感していただける方は、ご提案書をお送りください。一緒にサイバーセキュリティ防衛技術を強化しましょう。
こちらからご提案書をお送りください。