“AI同士で仕事をこなす”新時代のセキュリティを切り拓くLakera、資金調達には著名SaaS企業らが参加

生成AIアプリケーション同士が人手を介さずに自律的にやりとりをする「IoA（Internet of Agents）」の登場と普及が、今後、私たちの生活にとって不可欠なものになるという近未来図を描くスタートアップがある。チューリッヒおよびサンフランシスコに拠点を置くLakeraだ。

同社は一方で、IoAが、生成AIの中核であるLLM（Large Language Model）が持つセキュリティ脆弱性の問題を、より複雑にし、深刻化させると警告する。ネットワークの相互接続性により、障害の影響は前例のないレベルにまで拡大するとしている。

今年7月24日、LakeraはシリーズAラウンドで2,000万ドルの資金を調達したことを発表。この資金を活用して製品開発を加速し、シリコンバレーに拠点をもつ米国市場の開拓を拡大する計画だ。

IoAはサイバーセキュリティ脆弱性を大規模複雑化する

現在、人手で問い合わせをして人手で対応しているカスタマーサービスや、部分的に自動化されているコーディングなどが、人間の戦略的な指示だけで完全に自動化される近未来が見込まれている。しかしこの革新をもたらすLLMの特徴が、同時に深刻なサイバーセキュリティ脆弱性の源泉になるのだ。

従来は、経験豊富でコーディングができなければブラックハッカーになれなかった。しかしいまや、自然言語で読み書きさえできれば、“誰でもハッキングができる”のだ。たとえば受信ボックスにあるメールをAIで要約する機能は、同時に受信ボックスをハッキングする機能に容易に転用できるのである。

IoAの発展は、同時に相互接続され自動化されたシステムの規模拡大を意味する。攻撃者が、ある脆弱性を突いて突破できれば、攻撃者はネットワークをたどって、あらゆる場所での大規模な攻撃が可能になる。あるいはLLMを侵食すれば、そのLLMを利用しているアプリケーションに影響が拡大する可能性がある。同社は、「IoAの動作速度を考えれば、ネットワーク内で侵害されたノードは、非常に急速に大規模に伝播する可能性がある」としている。

IoAにむけて急速に発展が進むいまこそ、新しい考え方で、新しいツールの開発をすすめる必要があるのだ。

AI教育プラットフォーム「Gandalf」

こうした背景のなか、Lakeraは、AIセキュリティツール「Lakera Guard」のほか、AI教育プラットフォームGandalfを運営している。同サービスはMicrosoftをはじめとする多くの企業でセキュリティ教育に使われるなど、世界中で25万人以上のユーザーに利用されている。

Gandalfは、LLMと対話する能力を試されるゲームである。ゲームのゴールは、巧妙なプロンプト（質問）を打ち込むことによって、LLMが隠している秘密のパスワードを開示させることだ。ゲームはレベル7まで用意されており、レベルがあがるごとに、より巧妙なプロンプトの発行が求められる。

Gandalfには毎日10万件以上の攻撃が繰り返されており、その攻撃から学んだ結果からデータベースを構築している。また、この成果をLakeraセキュリティツールに取り込んでいる。これによって、Lakeraの顧客は脅威に先んじて脆弱性の防御が可能になる。

思想的リーダーとして新時代を切り拓く

Lakeraの投資パートナーAtomicoのSasha Vidoborskiy氏は次のように述べる。

LakeraはDropboxや米国の銀行トップ3などの顧客を獲得し、Fortune 100企業の35％以上がLakeraのドアをノックしているなど、商業的な成功を収めています。業界最高のパフォーマンスを特長とするLakeraのツールですが、最も重要なことは、共同創業者兼CEOのDavid Haber氏と彼のチームが、この分野の思想的リーダーであることです。

Atomicoが主導した今回の資金調達は、Citi Ventures、Dropbox、redalpineを含む既存の投資家が参加。同ラウンドは、シードラウンド発表からわずか数か月で終了したという。同社は「大手金融サービス企業のベンチャー部門と有名なSaaS企業の参加は、企業向け生成AIアプリケーションのセキュリティ確保の緊急性と重要性を浮き彫りにしている」と語った。

参考元：
Lakera
Gandalf

（文・五条むい）