【シリコンバレー・AIセキュリティ最前線】
AIの脅威！新世代サイバー攻撃と防衛技術〜AIへの攻撃とAIを使った攻撃が米国社会を脅かす、AIで防衛できるか、次の標的は日本〜
米国 VentureClef社 代表／アナリスト
宮本 和明（みやもと かずあき） 氏
AIの脆弱性と危険性が顕著になった。知的能力を持つAIであるが、そのアルゴリズムは脆弱で、サイバー攻撃の標的となる。AIへのサイバー攻撃は「Adversarial ML Threat」と呼ばれ、被害が拡大している。その手口は多彩で、教育データを改ざんしたり、アルゴリズムを盗み取るなど、AIは無防備であることが明らかになった。攻撃の対象は、ソフトウェアだけでなく、自動運転車やロボットなどに及び、社会生活が危険にさらされる。
同時に、高度なAIを悪用した攻撃が広がり米国社会が不安定になっている。人間の言語能力に匹敵するAIが開発され、人間と同レベルのフェイクニュースが大量に生成されている。これは「Disinformation Explosion」と呼ばれFacebookなどを介して拡散している。更に、本人と見分けのつかないビデオや音声が生成され、AI世代の「振り込め詐欺」として被害が広がっている。各国でAI開発が加速する中、攻撃対象も広がり、次のターゲットは日本とも言われる。
サイバー攻撃を防衛するAIの開発が進んでいるが、防御技術は未熟で、その効果は限定的である。このため、米国はサイバー攻撃を国家安全保障の危機と捉え、IT大手と共同で技術開発を急いでいる。
このセミナーはビデオや音声などマルチメディアを用い、最新技術を分かりやすくビジュアルに解説する。
＜１＞AIへの攻撃：ソフトウェア
１．AIへの攻撃手法と分類
２．アルゴリズム教育プロセスへの攻撃
３．アルゴリズム実行プロセスへの攻撃
４．AIシステムを防御する技術
＜２＞AIへの攻撃：ハードウェア
５．自動運転車への攻撃
６．ロボットへの攻撃
７．顔認識AIカメラへの攻撃
＜３＞AIを使った攻撃ほか
８．大規模言語モデルを悪用した攻撃
９．シンセティックメディアを悪用した攻撃
１０．ケーススタディ：AIが社員を解雇することは許されるか
１１．ランサムウェアによる大規模な攻撃
＜４＞AIでサイバー攻撃を防御
１２．Facebookの偽情報検知技術
１３．スパムフィルター
１４．フィッシングメール検知技術
１５．米国政府のサイバー攻撃防衛戦略
広島県出身。大阪大学基礎工学部卒業。１９８０年 富士通に入社。１９８５年 富士通関連会社Amdahl Corp．（カリフォルニア州サニーベール）に出向し、アメリカでスーパーコンピュータ事業の立ち上げに従事。
２００３年３月 富士通を退社し、リサーチ会社VentureClef (カリフォルニア州マウンテンビュー) を設立。アナリストとしてコンピュータ技術の最新動向を追う。シリコンバレーのベンチャー企業にフォーカスし、時代を変える技術の発掘と解析を行う。２５年に及ぶアメリカでのキャリアを背景に技術トレンドをレポート。
【著書等】『機械学習・人工知能 業務活用の手引き（共著）』（情報機構）２０１７。『人工知能アプリケーション総覧（共著）』（日経ＢＰ社）２０１５。最新技術をブログ「Emerging Technology Review」で発信。 日経新聞に寄稿「宮本和明のシリコンバレー最先端技術報告」
http://itpro.nikkeibp.co.jp/article/COLUMN/20130326/466162/
日経新聞に寄稿「未来の技術の実験場-シリコンバレー最先端を追う」
http://itpro.nikkeibp.co.jp/article/COLUMN/20140603/561130/
