みぞメモ

ブログ作成用のメモ登録

勉強会:【CSA勉強会】 説明可能なAI (XAI)

第56回CSA勉強会 「説明可能なAI(XAI)」

■ 日時:2019/9/27 18:00ー20:00
■ 感想

 → AIの実行がブラックボックスなのは周知の事実
   その回答に対する説明責任は重要な課題である
 → ビジネス的な必然性の話がだけで終わった勉強会
   講師がマーケの人だから仕様がない気はしたが
   技術の話が3行だけ
 → これで有料はひどすぎる
   次から【CSA勉強会】の参加はよく考えよう

■ 開催・資料

第56回CSA勉強会 「説明可能なAI(XAI)」 – csajapan



● 説明可能なAI(XAI)

概要:
 昨今、拡大しているAIのビジネス活用において、期待される役割とそれに伴う責任の所在、
 そのために必要なAIの思考プロセス(ロジック)の透明性について、
 事例を交えて紹介していただきます。

講師: 田辺剛氏 日本電気株式会社 AIアナリティクス事業部 マネージャ

・AIにもとめられる説明性
 → 労働力人口の減少 → 創造的な作業の代替
 → 人工知能 → 人間の知的活動 → 知る/分析/動かす
 → 人工知能/機械学習/ディープラーニング
 → DL → ニューラルネット処理(特徴抽出)
  → 特徴抽出のアルゴリズムブラックボックス
 → XAI(説明可能なAI)
  → ブラックボックス問題 → 結果重視
  → XAI → DARPA → 倫理的問題(AIの結果の判断が難しい)
  → 人に対する説明方法
    → 解釈性のある手法 → 決定木、重回帰の重み付け
    → モデル事後分析 → 重要因子の説明
    → モデルの出力から推論

・産業界に求められるXAI
 → IT技術による知性の高度化
   → 知性(AA)、知識(BA)、情報(BI)、データ(DWH)
 → ROI

・事例の紹介
 → AI活用検査支援(製造)
 → AI発注最適化(流通)
 → 不正検知(金融)
 → 電力需要予測(電力)→ VPP
 → 解約予防(通信)
 → 人材マッチング(マーケティング

● 資料
 https://www.cloudsecurityalliance.jp/site/?page_id=7394

以上