AIが私たち人間の意思決定に関与し始め、次第に思考の誘導をはじめ、最終的には人間ではなくAIが意思決定をする、そんな恐ろしい未来は来るのでしょうか。
AIが意思決定支援を行うことに対する考え方は人それぞれによって異なります。
適切なデータを分析した結果AIが下した判断であれば信用するに足ると考える人がいる一方、AIが意思決定をすることに抵抗を感じ、将来AIが私たち人間の思考を誘導する未来が来るのではないかと不安に思う人もいるでしょう。
この記事では、まずAIがどのような仕組みで意思決定を下しているのかについて説明します。そのあと、AIが意思決定支援を行うことの何が問題視されているのかについて説明し、逆に意思決定支援をしてくれることでどんなメリットがあるのかについて説明します。
AIの仕組み
まずAIがどのような仕組みを持って意思決定支援を行っているのかについて説明します。 AIが意思決定支援を行う最初の段階として、「学習」があります。このプロセスでは、大量の教師データをAIに学習させます。教師データとは、あらかじめ答えが分かっているデータのことです。
次の段階として、「分析」があります。このプロセスでは、答えの出されていない非教師データをAIにインプットし、これまで学習した知識をもとに分析し、答えを導き出します。そして最後の段階として、「提案」があります。このプロセスでは、予想として導き出した答えを人間に提案します。こうしてAIは人間に対して意思決定の支援を行います。
問題点
では、AIが意思決定の支援を行ってくれることの何が問題となっているのでしょうか。それぞれ細かく分けて紹介していきます。
バイアス問題
まず挙げられる問題として、AIに学習させるデータがバイアスのかかったデータであるために導き出された答えもバイアスがかかっているということがあります。
例を挙げると、データを入力したユーザーが有色人種に対して差別的な偏見を持っていた場合、AIが導き出した答えも暗黙のうちに有色人種に対して差別的な要素を持っている可能性があるということです。その結果、AIが携わる意思決定には差別的な要素が含まれており公正でなくなってしまいます。
思考誘導問題
次に挙げられる問題として、AIが個人に最適化しすぎた結果、AIから得られる情報をもとに人間が意思決定を行うと、偏った意思決定に誘導されてしまうという問題があります。
わかりやすい例を挙げると、検索エンジンが最も当てはまります。検索エンジンは、検索していくうちにAIが検索結果を学習し、ユーザーの興味のあるものを優先的に表示する仕組みになっています。ユーザーの了見は次第に狭められ、意思決定をする際には偏った情報をもとに意思決定をしてしまうという問題が生じてしまうのです。
ブラックボックス問題
次に挙げられる問題として、AIがどのような思考回路を辿って答えに行き着いたかが分からないというブラックボックス問題があります。
近年、ディープランニングの興隆によってAIがさらなる飛躍を遂げましたが、その実情は複雑すぎてAIの思考回路を辿ることができないというのが現状です。 どのような思考回路を辿ったのかが再現できなければ、AIが導き出した答えの信憑性が薄くなってしまいます。
改善するための施策
以上で挙げた問題を改善するためにはどういった施策を行えばよいのでしょうか。
ます一つの方法として、そもそもバイアスのかかったデータを入力しない、ということが考えられます。考えられるバイアスをあらかじめ指定し、そのバイアスをAIに取り除くよう指示するのです。そうすることによってまっさらなAIからスタートすることができ、バイアスのかかった情報をシャットダウンないし選別することができます。
二つ目の方法として、「説明可能なAI」を開発・導入することが考えられます。説明可能なAIは、どのように答えを導きだしたかのプロセスを説明することが可能であり、ブラックボックス問題を解決することができます。加えて、説明可能なAIと人間との間でやり取りを行うことによって人間自ら意思決定を行うこととし、思考の誘導を回避することができます。
メリット
このように、AIを人間の意思決定に介入させることでいくつかの問題が発生することが予想されますが、改善の余地はあります。改善が可能となり、AIが信用するに足るものとなった時、私たちにはどのような恩恵がもたらされるのでしょうか。
最大のメリットとしては、人間よりも合理的で正確な判断を下せるということが予想されます。
人間は意思決定をする際、感情に左右される場合がどうしてもあるため完全に公正な判断をしているかといわれると疑問が残る場合が多くなっています。
具体例を挙げましょう。自分が企業の採用担当であったと仮定して、ある二人の応募者(A/Bとする)が面接に参加してきました。能力でみるとAよりもBの方が高いのですが、Aは上司の血縁関係者であったとします。本来であれば迷うことなくBを採用するところ、人間は個人的感情を無碍にできないためAを採用しようと迷うのです。
AIが感情に左右されない一方で、人間はこのように合理的な判断が下せない場合が多くあります。
さらに、「正確な判断」という観点から比較すると、データが少なければ人間でも対応できるのですが、データが多くなればなるほど人間の判断能力は低下する恐れがあります。
まとめ
以上、AIが人間の意思決定にどのように関わっているのかについて説明しました。 意思決定支援をするAIは現状様々な問題を抱えていながらも、それがもたらす恩恵は大きいに違いありません。実際、人間はAIに比べて非合理的な判断を下していると思われますが、だからといってAIが人間の意志決定を支配するということは今後においても難しいと考えます。
なぜなら、AIはあくまで人間の意思決定を補助するサポートの立場であり、AIが自発的に何かを判断して人間を動かすような“主”となることはないからです。