米サイランスCEOと語る
※本記事はZDNet Japan 2017年12月掲載の編集記事を転載したものです。
ロボットやスマートスピーカーなど身の回りのさまざまな分野で利用されはじめたAI（人工知能）。利便性向上に大きな期待が寄せられる中、関心が高いのがサイバーセキュリティの分野だ。サイバーセキュリティにおけるAI活用は今どこまで進んでいるのか。また、AIを悪用する犯罪にどれほど対抗できるのか。2017年11月29日に都内で開催された日立ソリューションズ主催のセミナー「Cylanceエグゼクティブパートナー会」で行われたパネルディスカッションの内容から、AI活用の今を追う。
CEO、ジャーナリスト
パネルディスカッションに登壇したのは、米サイランスの会長兼CEOのスチュアート・マクルアー氏と、作家・ジャーナリストの小林雅一氏だ。
サイランスは、AIを用いたアンチマルウェア製品を開発して、今大きく注目を集めるセキュリティベンダーだ。マクルアー氏は、米マカフィーのCTOとして製品開発とセキュリティ研究者のエリートチームを率いた経歴を持つ。サイランス設立後はCEOとして新市場を切り開きつつ、サイバーセキュリティにおけるAI活用に積極的に取り組んでいる。
また、小林氏は、情報セキュリティ大学院大学客員准教授を務めるほか、ITやAIに関する多数の論考で知られる。近著には『AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能』（集英社新書）や『AIの衝撃 人工知能は人類の敵か』（講談社現代新書）などがある。
本パネルディスカッションでは、ZDNet Japan編集部の國谷武史をモデレータ－に、AIの現状やサイバーセキュリティにおける活用のあり方、今後の可能性について意見を交わした。研究開発や事業経営、アカデミア、ジャーナリズムなど、さまざまな視点でAIに関わる両者の議論は「AIの現在位置と将来を正しく知る」うえで格好のヒントを与えるものとなった。次項からその中身に触れていこう。
AIは善悪の判断ができない―
小林 雅一 氏
作家／ジャーナリスト
最初のテーマは「AI活用の現状」だ。ソフトバンクのPepperやソニーのaiboなど、身の回りには「AI搭載」を謳う製品が増えている。現在は「第三次AIブーム」と言われている中、小林氏は次のように解説する。
「昔と今のAIの違いは、ニューラルネットやディープラーニング（深層学習）を使うかどうかです。ディープラーニングが得意なのはパターン認識です。そのため、さまざまなビジネスに応用することができます。身の回りのロボットよりも、むしろ産業用ロボットなどで活用が本格化しています」
マクルアー氏もこれに同意したうえで、米国の現状について、「金融、製造、小売、防災などさまざまな業種で活用が進んでいます。例えば、保険の計算や、自動車やドローンの制御、自然言語処理などです」と解説した。
ただ、こうした現状には懸念もあるという。1つは、AIという言葉の定義が不明確であり、誰もがAIという言葉を使うようになったことだ。
サイランス
会長 兼 CEO（最高経営責任者）
スチュアート・マクルアー 氏
「AIという言葉が乱用され、顧客に正しく意味を説明できなくなっています。ベンダーなどが本当にAIを知っているかを確認するのは簡単です。『なぜAIがその答えを導いたのか説明してください』と聞くのです。現状のAIは善悪の判断ができません。だから、もし相手がAIの答えの理由を説明できたとしたらそれは偽りです。正しい答えは『理由はわからない』になります」（マクルアー氏）
そこで重要になってくるのが、現状のAIは何ができて何ができないかの峻別だ。小林氏は「もしAIでなんでもできると考えてビジネスに乗り出すと失敗するでしょう。AIを理解して、用途を見極めて活用していくことが大切です」とアドバイスした。
AIの課題は「判断理由を
続くテーマは、AIとサイバーセキュリティの関係だ。
この分野では、迷惑メールのフィルタリングなどで、機械学習が活用されてきた歴史がある。マクルアー氏は、機械学習の特徴について「パターン認識が得意で、人間ではとてもできないような特徴抽出を行うことができます」と説明する。
これをさらに進化させたのが、サイランスのAIアンチウイルスである。仕組みとしては、ディープラーニングを使って膨大な数のマルウェアファイルとそうでないファイルをAIに学習させる。そうしてファイル内に含まれる何百万もの特性を解析・分類してファイルを“DNA”レベルまで分解することで、「良性」か「悪性」かを判別する。従来のパターンマッチングの手法では検知できなかった新種のマルウェアも、これによって高精度で検知できるようにしたのである。
「5年前に新しいアルゴリズムを作り、学習しながらどんどん改良を重ねていきました。現在は、既知も未知も関係なく99.7%の精度でマルウェアを検知することができており、改良は今も続けています。もっとも、課題はあります。なぜそれがマルウェアなのか説明できないということです」（マクルアー氏）
この課題は、GoogleやFacebookなどが取り組んだ、AIを用いて例えば猫などをパターン認識する問題に似ているという。Googleでは、猫の膨大な写真を集めて、その特徴をディープラーニングによって学習させ、そのうえで新しい猫の写真を与えたときに、それが猫だと判断できるようにした。
「確かに、猫の写真かどうかを判定はできるのですが、なぜ猫だと判断したかはわかりません。人間は、耳がとがっているから、髭があるから、猫背だから、などといったポイントを見て猫と判断しているかもしれません。でもAIになぜ猫とわかったと聞いても答えられません。マルウェアの判断でも同じ問題をはらみます」（マクルアー氏）
これについて、小林氏は「理由を説明しないことは特定分野において、ある種の恐ろしさにつながる」と指摘する。
「医療分野でのディープラーニングの応用例として、CTスキャンの画像解析で悪性腫瘍を発見したり、病気の発症予測を行ったりするものがあります。人間より精度が高いのですが、なぜそう診断したかの理由を説明できません。わからないものに命を託していくことは、ある意味で脅威になります」（小林氏）
AIの限界を超える鍵は「Explainable AI」
こうしたAIの限界はどう超えていくことができるのか。小林氏は、現在のAI研究におけるトピックスの1つに「Explainable AI」というものがあると説明した。「説明できるAI」といったものだが、技術的には、以前のAIの方法論と現在のAIの方法論を組み合わせた折衷型だという。
「どのくらいの精度がでるかはまだはっきりわかりませんが、さまざまな方法で、AIの課題を乗り越えようと研究が重ねられています」（小林氏）
それを受けてマクルアー氏は、サイランスでは現在、「なぜ（Why）」を説明できる技術開発に取り組んでいることを明かした。
「実は今、なぜ（Why）を説明できる早期の段階まで開発が進んでいます。数学的な手法を使ってなぜこのマルウェアが良くないのか、悪なのかを説明していく。2年以内には何らかの成果が発表できると考えています」（マクルアー氏）
AIによるサイバー攻撃は
AIとサイバーセキュリティについては、サイランスのように防御側がAIを活用するだけでなく、サイバー攻撃者がAIを使うことも懸念されている。これについて、マクルアー氏は「時期はわからないが、まず間違いなくAIは使われる」と話す。
「われわれは敵よりも早く動き出していて、対策の検討も行っています。対策には2つのポイントがあります。1つは、情報を重要度に応じてきちんと分類することです。情報セキュリティにおける情報資産のラベリングにあたるものですが、それにより、脅威の度合いに応じた対策が可能になります。もう1つは特定領域の専門家の存在です。攻撃者はたった1つの脆弱性をついてきます。極めて『細く、深い』攻撃です。これに対し、広く浅い防御はあまり意味がありません。情報のラベリングをしっかり行い、深い知識を持った専門家が対処していく必要があります」（マクルアー氏）
マクルアー氏によると、AIを使った対策としては、IDを窃取する攻撃、パスワードを破る攻撃、DDoS攻撃などに有効になるはずだと今後の展望を述べた。また、小林氏は、内部犯罪や情報漏えいの兆候を検知することなどにも活用できるだろうと述べた。
そのほか、2人の議論は、AIを活用しやすい業種や業界は何か、機械学習のなかでどう文化や倫理、国ごとの違いを盛り込んでいくかなどにも及んだ。
最後にマクルアー氏は「AIがどういったものなのか、誤解も大きい。正しい理解を広げていくことは大事であり、みなさんの力を貸してほしい。説明できないからといって恐れないことが大事です」と訴えた。また、小林氏も「ブームのときは過大評価され、ブームが過ぎ去ると過小評価されるのがAIです。実力を把握してビジネスをすることが重要です」とアドバイスし、これからの展開に期待を示した。
