近年、AI技術を利用した多くの製品やサービスが世の中に浸透してきており、AIの意思決定が人々の生命や多くの産業に影響を与えるものになっている。AIによる自律的な意思決定から人間が徐々に排除されていく中で、設計原理としてAIのセキュリティを考慮する必要性が高まっています。本セッションでは、AIのセーフティとセキュリティに関する誤動作、攻撃、防御、追跡、分析を含む新しいアイデアを広く模索し、研究を深めることを目的としています。
AI Safety & Securityは人工知能学会の二種研究会への申請を予定しています。ご興味のある方は下のフォームにメールアドレスをご記入下さい。
オーガナイザ：
大塚 玲（情報セキュリティ大学院大学）
櫻井 幸一（九州大学）
榊 剛史（株式会社ホットリンク）
開催日：
11月26日（金） 10:00 – 12:00 zoomミーティング: https://us02web.zoom.us/j/82162686350
10:00
オープニング
○大塚 玲（情報セキュリティ大学院大学）
ライトニングトーク(セッション紹介) スライド
10:00-10:30
【招待講演】：自動車業界におけるAI Safety動向とデンソーの取り組み
○中江 俊博（株式会社デンソー・ソフト生産革新部 ）
近年、深層学習などの機械学習技術の発展に伴い、様々なシステムで機械学習モデルが利用されています。演繹的にロジックを書き下す従来のソフトウェアと異なり、大量のデータから帰納的にロジックが構築されるという性質をもつ機械学習を、自動運転などのセーフティクリティカルなシステムに活用したとき、どのように品質や安全性を確保し説明責任を果たしていくかが社会的な課題となっています。本発表では、AI/機械学習システムの品質・安全性に関する法規・標準化動向、技術動向、およびデンソーの取り組みについて紹介します。
講演スライド
10:30-11:00
【招待講演】：機械学習システムの脆弱性とセキュリティ・リスク
○菅 和聖（日本銀行金融研究所）
機械学習システムは、膨大な入出力データからそれらの関係を自動的に抽出する帰納的な計算パラダイムであり、従来の情報システムにはない特有の脆弱性とそれに伴うセキュリティ・リスクが存在する。機械学習システムのセキュリティ・リスクでは、システム内部における脆弱性の所在を必ずしも特定できるとは限らない。また、多様な攻撃手法がもたらすセキュリティ、プライバシー、トラストといった問題を分離することができない。また、攻撃者と正規のユーザの区別が難しく、攻撃の検知も容易ではない。
機械学習のセキュリティ・リスクを包括的に捉えるためには、システム全体の現象として、機能特性の喪失（障害）を切り口に分類するアプローチが有用である。セキュリティ対策においては、セキュリティや倫理の専門家とモデル開発の専門家の協働が必要となる。対策技術の方向性としては、学習アルゴリズムの安全性を高めるアプローチと、周辺装置と組合せてフェールセーフなシステムを志向するアプローチがありうると考える。
講演スライド
11:00-11:30
【招待講演】：機械学習を使用した不正プログラムの開発環境推定手法の提案
○大坪雄平（警察大学校／警察庁）
サイバー空間は国民の日常生活の一部となっている一方、サイバー犯罪・攻撃の脅威が深刻化している現状にある。サイバー犯罪・攻撃の特徴として、実行者の特定が困難、被害が潜在する傾向及び国境を容易に越えて実行可能という特徴があり、その痕跡の収集に課題を抱えている状況である。そこで研究の目的を、様々な情報を組み合わせてサイバー犯罪・攻撃をする人物・団体を推測する、いわゆるアトリビューションに資する情報を収集できる技術の開発とした。具体的には、機械学習を使用し、不正プログラムの断片から不正プログラムの開発に使用した環境を推定する手法を研究した。実験では、わずか16個の機械語命令だけで18種類の開発環境を高精度に分類できている。さらに、公開情報を使用しEmdivi（日本年金機構の情報漏えい事案でも使用された不正プログラム）148個を収集し、分析を行った結果、攻撃グループ内の動向の推察の一助となることが確認できた。
講演スライド
11:30-12:00
【招待講演】：AI Safety & Securityの国際研究動向
○櫻井 幸一（九州大学 ）
12:00-13:00
昼休み／スポンサー企画（12:10-12:50）
13:00-14:00
【合同企画】トップカンファレンス紹介セッション
フォロー
新しいコンテンツを直接メールでお届けします。
大塚研究室 