定義
フレーム問題とは、『有限の情報処理能力しかないAIは、現実に起こりうる問題全てに対処することができない』問題のことを指します。この問題は、1969年に人工知能研究者であるJohn McCarthy氏とPatrick Hayes氏が数理論学の問題として定義したことを始まりとしています。
もう少しかみ砕いて説明すると、「現実世界では様々な事象が絶えず発生しており、処理能力に限度があるコンピューターが何らかのタスクを遂行するためにはそのタスク以外の事象を排除した枠、すなわちフレームを人間が設定しなければならない」ということです。
以下で具体例を交えながらより詳細に説明していきます。
具体例
フレーム問題を説明する際によく引用されている例として、哲学者Daniel Dennett氏が発表した論文『Cognitive Wheels : The Frame Problem of AI』にて示された「ロボットと爆弾」の話があります。
この話は、「人工知能ロボットが洞窟内にある予備のバッテリーを取るよう指示され、バッテリーの上には時限爆弾が付いている」という状況から始まります。登場するのは人工知能ロボット初号機から三号機までの3体です。
それぞれどのように対処し、成功もしくは失敗したのかについて説明します。
1.人工知能ロボット初号機R1
R1はプログラムされていた通り洞窟内に入りバッテリーを取り出すことには成功したものの、バッテリーを運ぶ際に時限爆弾も一緒に運んでしまいバッテリーを爆発させてしまいました。
R1は「洞窟内からバッテリーを取り出す」という目的については理解していましたが、「バッテリーを取り出すことによって時限爆弾も一緒に運び出される」という副次的な事象については理解していなかったのです。
2.人工知能ロボット二号機R1-D1
R1の失敗を受け開発されたR1-D1は副次的な事象も考慮するよう改良されましたが、洞窟内に入りバッテリーを前にしたところで動作しなくなり時限爆弾と共に爆発してしまいました。
R1-D1はバッテリーの前で「このバッテリーを動かすことで上にある爆弾は爆発しないのか」「バッテリーを動かす前に爆弾を移動させるべきか」「爆弾を動かそうとすると天井が落ちてきたりしないか」「爆弾に近づくと壁の色が変わったりしないか」といったように、目的を遂行する上で発生しうる副次的な事象を無限に考慮し始め、その結果処理が追い付かなくなり停止してしまったのです。特に「爆弾に近づくと壁の色が変わったりしないか」といったような事象は目的を遂行する上で全く関係なく、処理をするうえで最も無駄なものにあたります。
3.人工知能ロボット三号機R2-D1
R1、R1-D1の失敗を受け開発されたR2-D1は目的を遂行する上で無関係な事象は一切考慮しないよう改良されましたが、今度は洞窟内に入る前に動作しなくなりました。
R2-D1はどの事象が目的を遂行する上で関係して、また無関係なのかということを検証するために起こり得る全ての事象を洗い出してしまった結果、処理能力がそれに追いつかず停止してしまいました。
人間とフレーム問題
以上の具体例で説明したように、AIには情報処理能力に限度があるため枠(フレーム)を設定しなければならないということがご理解いただけたかと思います。
では人間は日常生活においてどのように対処しているのでしょうか。人間は無意識のうちに無関係な事象を排除し目的を遂行するための最適な行動を取ります。その際発生した予想外な事象についてはその都度思考し、これまでの経験を基に対処しています。
フレーム問題の今後
これまで説明してきたフレーム問題については、人間がフレームを設定することによって何とか対処してきました。
例えば自動運転の場面では、AIを搭載した車が道路を走行する上で直面する様々な問題、例えば横から急に人が出てきたり、リアルタイム情報として出回っていない道路交通規制が急に出てきたりといった問題に都度対処するために、人間がフレームを設定します。
今後、AIが人間のように自らの経験を基に思考し、自らフレームを設定するようになる日は来るのでしょうか。もし仮にそのような日が訪れるならばそれは、AIの歴史における技術特異点、すなわちシンギュラリティが達成される日がより近づくことに違いありません。