AIを使いこなすには？　過度な期待は禁物

消費者庁の公表した「消費者のデジタル化への対応に関する検討会AIワーキンググループ報告書」によると以下のようなAIに関するトラブルが予想されるとのことです。

想定される利活用	想定されるリスク
人の在・不在、居場所に応じたエアコンの運転や温度・湿度の自動調整	在宅・不在や生活習慣等に関する情報が明らかになりプライバシーが侵害されるおそれ
子供や高齢者などの見守り支援	ロボットの想定外の動作により、子供等が怪我をしたり、家具が壊れるおそれ
執事ロボットによるおすすめのニュースの紹介、テレビ番組のレコメンド等	生活者の趣味・趣向を誤って判断し、必要な情報・関心の高い情報を提供できないおそれ
スマートスピーカーによる家電操作、買物	・音声の誤認識により、家電を誤操作するおそれ・ウェイクワードと誤認識して日常の会話が収集されてしまうおそれ・音声の誤認識によって、頼んでいない商品を購入してしまうおそれ
生活者の帰宅時間の予測に応じた空調の自動調整や家事の自動化	・料理ロボットや掃除ロボットやペットロボットなど異なるロボット間の連携・調整が十分でなく、ロボット同士が衝突したり、破損するおそれ・家事を AI に依存しすぎると、災害発生等で AI が利用できなくなった場合、生活が困難になるおそれ
健康支援アプリによる食生活の管理と提案	アドバイスや食事の提案が必ずしも個人の体質・アレルギーや健康状態全てを考慮できず、不適切な提案をしてしまうおそれ
AI による融資審査	・従来借入れが困難だった消費者も借入れが可能となる一方で、過重債務に陥るおそれ・審査の根拠が不明な場合、どう改善すれば審査を通過するか分からない

上記の想定されるリスクからは、問題点としていくつかのパターン分けができるかと思います。

個人情報の流出、プライバシー侵害というセキュリティ上の問題
災害発生等でAIが利用できない場合の緊急措置に関する問題
AIによる誤動作・誤判断による事故、不適切な情報提供や取引の発生
AIに頼りすぎることによる運用上の問題

このうち、１番目のセキュリティ上の問題と２番目の緊急措置に関する問題はAIというよりIT全般として取り組むべき対策と考えます。

セキュリティであれば、通信の暗号化・盗聴の防止などの対策、緊急措置に関する問題であれば、バックアップシステムの確保などが対策になるかと思います。

残り２つに関しては、AIの本来的な問題であろうと思われます。

ここでAIに実用上期待できることは、ドラえもんやターミネーターのような意思を持った”強いAI”ではなく、「AlphaGo」のような”弱いAI”であるという点です。

つまり、特定の分野・状況下に限定し、その中で判断ができるレベルが現在のAIであるということです。
碁や将棋、チェスなどのゲームの世界、データの入力項目をチェックする等の単純作業などです。

私たちの生活の上で起こることや変化を全てAIが理解・判断することはできないという前提でAIを使いこなす必要があります。

最後はやはり人の目、人の判断がまだまだ必要な段階です。

次に”AIに頼りすぎることによる運用上の問題”ですが、これも悩ましい点です。

複雑な計算プロセスをAIが全て引き受けてくれて、人は結果だけを受け取ればよいというのは、ある意味AIのメリットでもあります。

ですが、上表のケースのように「審査の根拠が不明な場合、どう改善すれば審査を通過するか分からない」というのでは、金融機関として顧客と折衝することもできません。

このような場合、AIシステムを導入するにあたり、AI開発ベンダーに丸投げするのではなく、先々の運用を考えて開発段階から、金融機関担当者とAI開発ベンダーが意思疎通をしておくことが必要です。

例えば、AIシステムを開発するときに使用するテストデータ項目（これを”特徴量”といいます）の選定、またどの特徴量を動かすとどのように結果が変わるのかを試すテストデータを実験してみる、各特徴量の結果に与えるインパクトを計測する、などの後の運用フェーズで必要になりそうな情報をしっかりとAI開発ベンダーと共有しておくことが重要です。