IEEE が大規模言語モデル LLM による自律サイバー推論システムの可能性に期待「高度なサイバー攻撃対処を24時間365日かつ完全自動化」

世界最大の技術専門家の組織で、160か国、40万人以上のエンジニアや技術専門家の会員をようする非営利団体 IEEE（アイ・トリプル・イー）は、東京都内で2024年10月4日、近年注目を集める人工知能（AI）とサイバーセキュリティの最新動向を伝えた。

解説してくれたのは、IEEEメンバー・情報セキュリティ大学院大学 大塚玲 教授。

キーワードは大規模言語モデル LLM

IEEE は、今回の説明会について、人工知能（AI）とサイバーセキュリティの現況と注目トピックスについて、こう前説している。

「大規模言語モデルの驚異的な知的能力の高さが社会に衝撃を与え、スケーリング則に勇気づけられてさらに大規模化した言語モデル（LLM：Large Language Models）が社会に爆発的に浸透し始めている。

また、複雑とされていた囲碁や将棋においても、敵対的な深層強化学習を通じて AI が人間の能力を凌ぐ能力を獲得できることが実証されている。

今後、高度な専門技能が要求されるサイバー攻撃対応においても、AI が人間の能力を超えた性能を発揮することが期待できる。

米国防高等研究計画局（DARPA）も AI サイバーチャレンジ（AIxCC）を立ち上げ、同分野の活性化を推進している」

こうした現況のなか、IEEE は、AI とサイバーセキュリティの最新動向や、大規模言語モデル（LLM）により自律的にサイバー攻撃に対応するシステム（自律サイバー推論システム）の可能性を調査した結果を伝えた。

Gemini Pro 1.5 がマルウェア解析レポ自動生成

IEEEメンバー・情報セキュリティ大学院大学 大塚玲 教授は、AIを使ったサイバー攻撃対応の最新動向について、大規模言語モデルにもとづくCTF（Capture The Flag）ソルバー／マルウェアレポートの自動生成／マルウェア･リバースエンジニアリング支援 の3つのトレンドをあげ、Google BERT Gemini や、OpenAI GPT-3 などの大規模言語モデル（LLM）は、大量のデータとディープラーニング（深層学習）技術で、「自律的にサイバー攻撃に対応できる可能性も確認できた」（大塚教授）という。

大塚教授が注目している話題のひとつが、「Gemini Pro 1.5 によるマルウェア解析レポート自動生成」。

Gemini Pro 1.5 は、未知バイナリを逆コンパイルしマルウェア解析レポート自動生成できたことを確認。

「未知マルウェアの逆コンパイルコードには、無意味な変数名や関数名が付与されるが、Gemini Pro は特徴的な値やプログラム構造をもとに、未知マルウェア（バイナリ）の特徴を根拠（推定の根拠にしたプログラム部分）を添えて推定できる」（大塚教授）

ローカル実行できる「RevLlama」に注目

IEEEメンバー・情報セキュリティ大学院大学 大塚玲 教授らは、Meta 社のコード生成LLM「Code Llama」をファインチューニングした、コンパクトでローカル実行できる「RevLlama」を研究・開発。

「RevLlama は、すべての指標において Gemini Pro の性能を上回った。

つまり、モデルサイズの小さいローカル LLM でも、タスクに特化させれば、Closed-Source LLM の性能をも上回ることが期待できる」（大塚教授）

自律サイバー推論システムの可能性まとめ

大塚教授は、こうした大規模言語モデル（LLM）で自律的にサイバー攻撃に対応するシステム（自律サイバー推論システム）の可能性について、現状をこうまとめた。

◆近年の大規模言語モデルや深層強化学習の進展を踏まえれば、人間の能力の限界を超えた高度なサイバー攻撃対処を実現できる可能性が高い。

◆これまで少数の情報セキュリティ技術者しかなし得なかった高度なサイバー攻撃対処が、24時間365日、連続かつ大規模分散的に可能になる。

◆将来的には、重大な意思決定が必要な領域を除く、多くの領域においてサイバー攻撃対処の完全自動化が期待できる。

資料画像：情報セキュリティ大学院大学　INSTITUTE of INFORMATION SECURITY.

――― IEEE は、電気・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2000以上の現行標準を策定し、年間1300を超える国際会議を開催している。

http://www.ieee.org

関連記事リンク（外部サイト）

IEEE が大規模言語モデル LLM による自律サイバー推論システムの可能性に期待「高度なサイバー攻撃対処を24時間365日かつ完全自動化」