ロボドクター、自動運転… AI社会の到来に備えておくべきこと

2017/10/12 17:00 BOOKSTAND

　ここ数年で著しい進歩を見せているAI（人工知能）技術。そんなAIを身近に感じられるもののひとつが、自動運転車ではないでしょうか。すでに日本でも部分的な自動運転機能を備えた自動車が実用化されています。しかしAIの進歩が進むと、気になるのはそれによるリスク。もしAIが誤作動したら？自動運転車が暴走したら？小林雅一さんの著書『AIが人間を殺す日』には、そうしたAIのリスクや具体的な技術などについて詳しくつづられています。

　例えば自動運転車に関しては、2016年にアメリカの電気自動車メーカー「テスラ」が起こした自動運転中の死亡事故を挙げ、その背景を徹底検証しています。これには様々な要因があるのですが、中でも衝撃的だったひとつが、本書で挙げている「公道でのテスト走行が不十分だった」という点。実はこの事故が起こる数カ月前に、カルフォルニア州の車両局は自動運転技術を開発中の複数の企業に対し、走行テストのデータ提出を求めていました。データの中にはテスト走行の距離や、走行1マイルあたりの人間の介入回数などがあり、安全性を考えた場合、もちろんテスト走行距離は長い方がよく、そして人間の介入回数は少ない方が、安定した自動運転が行われているということになります。しかしこのデータにおいて、テスラは走行距離、人間の介入回数いずれも「0」だったことが判明。それはつまり、テスラが少なくともカリフォルニア州の公道上ではまったくテストをしていなかったことを意味しています。

　テスラの自動運転車には「オートパイロット」と呼ばれる部分的な自動運転機能が搭載されており、テスラはこれを他社に先駆けて実用化していました。それなのに公道テストをしていないというのはどういうことなのでしょうか。これについて、米ワシントン・ポスト紙は「テスラは（オートパイロットをリリースした後で）ユーザーをモルモット（guinea pig：実験材料）にして公道テストを実施しているのではないか」という衝撃的な見解を明らかにしています。

　しかしこの事故のあと、米政府機関が行った事故の調査では「オートパイロットという製品自体に欠陥はなかった」とする裁定が下されました。この背景には、テスラがあらかじめユーザーに対し「オートパイロットは（自動運転ではなく）あくまで運転支援機能であり、これができることには限界がある」と断っていたことや、事故が、幹線道路でありながらT字路があるという、オートパイロットの対応能力を超えた特殊な条件下で起きていたことなどがあります。さらに、死亡ドライバーが（一定時間ハンドルを握らないと鳴る）警告音を無視して手放し運転していたことも、外せない要因となっているようです。

　また、本書では「ドライバーの混乱」も大きな原因のひとつと捉えています。これは運転中に、自分が運転しているのか、AIが運転しているのかを混乱してしまったり、部分的な自動運転の場合、どのケースで人が介入すべきで、どのケースでAIに任せていいのか判断に迷い、混乱してしまうことを言います。

　今回の事故では自動運転が部分的だったことも影響しているようですが、しかしこれが仮に完全な自動運転だったとしても、絶対にバグの起こらないシステムというのはないはず。どんなに便利な機能であっても、使う私たちがその機能のリスクをあらかじめ知っておくことは、今後重要になってきそうです。

　本書ではこのほかにも、医療にAIを導入した「ロボ・ドクター」や、AIを搭載した「自律的兵器」が人間を攻撃するリスクなどについてもつづられており、SFのような世界が確実に近づいていることを感じさせます。かつては”夢”だった技術が現実になった時に何が起こるのか。この一冊で今起きようとしていること、そして少しだけ先の未来を見ることができるかもしれません。