人に危害を与えるAI〜大人のビジネス教養として知っておきたい「人工知能」

2018/09/02 15:00 ガジェ通ウェブライター

「キーワードで読み解く人工知能『AIの遺電子』から見える未来の世界』」（MdN刊）では、人間とヒューマノイドが登場する山田胡瓜先生のSF医療物語『AIの遺電子』（少年チャンピオン・コミックス全8巻／秋田書店）、『AIの遺電子 RED QUEEN』（別冊少年チャンピオンで連載中／秋田書店）の漫画キャラやストーリーとともに、大人がビジネス教養として知っておきたい「人工知能」の基本を、わかりやすく解説しています。
本書の「人に危害を与えるAI」の項目では、人工知能を搭載した兵器が戦場で活躍する可能性と、開発の規制について言及しています。

人に危害を与えるAI

【関連ワード：自律型兵器、ドローン】

執筆：松本健太郎

『AIの遺電子』の第76話「あるAIの結末」では、誤って人間を傷つけてしまった自動運転車と、事故に巻き込まれた人間の物語が描かれている。本来あってはならない重大事件として話は進み、最後は悲しい展開が待ち受けている。

▼第7巻第76話「あるAIの結末」より

人工知能が人間に危害を与える事件は起きるだろうか。誤動作や不具合が起きて、あるいはアルゴリズム通りに、人が怪我をしてしまう可能性はまったくないと言い切れるだろうか。

SFの世界では、人工知能の反乱は定番だ。『2001年宇宙の旅』『ターミネーター』では、人工知能をもつロボットが人間に反乱を起こす。こうした映画の影響なのか、自我をもった人工知能が人間を駆逐するかもしれないと考える人もいる。
そのような反乱が起きないよう、人工知能に対してさまざまな規制をかけるべきだろうか。

戦争で活躍するかもしれない「自律型兵器」

人間に危害を与えるどころか、戦場で大活躍する人工知能の可能性は大いにあり得る。
ミサイルなどの爆撃機能を搭載したドローンに、自律して動く元となる人工知能が組み合わされば、お手製の小型爆撃機が完成する。通常、戦場などで使われる兵器は数億円以上かかるらしいが、お手製であれば数十万程度で作ることができる。兵器の価格破壊だ。

もし人工知能に、特定の宗教でよくある格好をしている人や、特定の宗派特有の建物を認知すればロックオンする機能を備えていればどうだろうか。自動運転の例を引き合いに出すまでもなく、事前に学習さえ済ませておけば、認識するのはそんなに難しい話でもない。あとは搭載された爆弾を発射するだけだ。基地に帰還する必要もないだろうし、街中に向かうアルゴリズムさえあれば十分だ。

人工知能の自我なんてまったく問題ではない。目下の課題は、詳しく命令せずとも、あるいは人間が目視せずとも勝手に人を殺しまくる兵器の存在だ。人工知能があれば十分に製造可能だと言える。
すでにシリア、イラク、ウクライナなどの戦場では民生ドローンの軍事転用が起きている。人工知能によって、戦争は民主化される可能性があるのだ。後はそれを実際に作るか否か、に過ぎない。自律型兵器が人に都度命令されるわけでもなく、特定の人にのみ攻撃する恐ろしい未来を絶対に迎えてはならない。

どうすれば防げるのか？

どんな道具だって、使い道を間違えれば人を傷つける可能性をもっている。包丁にしろ自動車にしろ人の命を奪う凶器にもなれば、素晴らしい料理を披露したり、高速で人を移動したりする便利な道具になる。あるいはフライパンやゴルフクラブですら、強く振り下ろせば立派な凶器だ。

そうした道具が人工知能と違うのは、人間が自らの意志で使う点だ。自動車であればさまざまな規制を設けて、安全が確保された環境を確保して、人間と共存を図っている。人間を傷つけないという意志が何より大切だ。しかし人工知能は違う。道具を作った人間に悪意さえあれば、完成さえすれば後は自働で人間を傷つける。ほかの人間が制御できない可能性もある。
どうすれば、そうした自律型兵器の乱造は防げるだろうか。例えば日本の人工知能学会では、開発者が守るべき倫理規程を作った。しかし正義の定義なんて国や人によって変わるので、どこまで意味があるのか疑問に感じる。

この問題に敏感に反応している1人が電気自動車起業で知られるテスラモーターズ（テスラ）の創設者であるイーロン・マスク氏（※1）だ。彼は2015年7月には「自律兵器に対する公開状」の1人に名を連ねている。公開状には次のような警告を発している。

（※1）アメリカの起業家、実業家、投資家。オンライン決裁システムのPayPal（ペイパル）の前身となる企業を設立したほか、電気自動車事業、宇宙事業、太陽光エネルギー事業などの各分野で企業を創設している。

では、イーロン・マスク氏らの警告を各国政府や巨大企業は真剣に受け止めているだろうか。いや、ほとんどが無視していると言ってもいい。人工知能の開発に規制を設けてしまえば、これから起こるイノベーションを阻害するからだ。つまり人工知能の開発に規制をかけるのは、現時点ではほぼ不可能だと考えるべきだ。

加えて各国の軍隊が、実際に自律型兵器を研究しているという背景もある。非人道的な兵器は、国連特定通常兵器使用禁止制限条約（通称CCW）によって使用が禁止されている。しかし自律型兵器は未だ完成しておらず空想上の産物のため、規制をかけようがない。もしかしたら核のように「使ってみてその威力に驚いたから禁止する」まで規制されないのだろうか。それは、人間特有の「想像力」の放棄でしかない。

▼続編『AIの遺電子 RED QUEEN』は、人工知能が国家間の対立や武力紛争の火種となる未来の世界を描いている（『AIの遺電子 RED QUEEN』第1巻第1話「ロビジア」より）

もし戦場に人工知能を搭載された自律型兵器が登場したら、人間が傷つかずに済む。機械同士で戦うのだから。そんな言葉で国民を納得させようとする為政者が登場するかもしれない。もし、その技術がテロに使われたら？　でも、銃口が国民に向けられたら？　疑問は尽きない。

POINT：結局は使う人間次第なのか？

どんな技術も最後は使う人間次第なのかもしれない。自律型兵器に銃を向けられてからでは遅すぎる。「一度開発されてしまえば、武力による紛争はこれまで以上の規模で、人間の理解を超えた速度で行うことが可能」なのだ。これは今、解決しなければならない課題だ。

＊以上の記事は「キーワードで読み解く人工知能『AIの遺電子』から見える未来の世界』」からの抜粋です。
＊本記事で使用されている『AIの遺電子』の画像の著作権は、すべて原作者である山田胡瓜氏に帰属します。

「キーワードで読み解く人工知能　『AIの遺電子』から見える未来の世界」
著者：松尾公也、松本健太郎
定価：（本体1,500円＋税）
エムディエヌコーポレーション刊

PROFILE
松尾公也
ITmedia NEWS編集部デスク、ポッドキャスター。『MacUser』編集長などを経て、現在はITmedia NEWS編集部デスク。プライベートではテック系ポッドキャストbackspace.fmに参加。妻が遺した録音をもとにした歌声合成で「新曲」を作る、マッドな超愛妻家。妻との新しい思い出を作るため、AIの発展を願っている。

松本健太郎
株式会社デコムR&D部門マネージャー。龍谷大学法学部政治学科、多摩大学大学院経営情報学研究科卒。株式会社デコムで、インサイトリサーチとデータサイエンスを用いて、ビッグデータからは見えない「人間を見に行く」業務に従事。野球、政治、経済、文化など多様なデータをデジタル化し、分析・予測することが得意。テレビやラジオ、雑誌に登場している。