ヒューリスティクスとフレーム問題

life tips & 雑記 旅と歴史 禅とライフティップ 経済とビジネス 本ブログのナビ 人工知能技術 デジタルトランスフォーメーション 深層学習技術 機械学習技術

ヒューリスティクスとフレーム問題

ヒューリクティクスとは、問題を解決したり、不確実な事柄に対して判断を下す必要があるけれども、そのために明確な手がかりがない場合に用いる便宜的あるいは発見的な方法のことであり、日本語では方略、簡便法、発見法、目の子算、近道などと呼ばれる。

このヒューリスティクスに対比されるのがアルゴリズムである。これは手順を踏めば厳格な回が得られる方法のことをいい、例えば三角形の面積を求める公式がアルゴリズムの好例となり、(底辺x高さ)÷2という公式に当てはめれば三角形の面積は必ず求めることができるものとなる。

これに対してヒューリスティクスは例えば、「急がば回れ」とか「とにかくやってみよう」といった諺や格言の類のものも指し、日常生活で役立つ一面の真理を捉えているものとなる。

ヒューリスティクスを用いるシーンの多くは、ある程度満足のいく、あるいは完全な答えが素早くかつ大した労力もなしに得たいという時に使われるものとなる。このような現在の状態から将来の可能性を予測するような不確実な意思決定の問題を解く際には、確率を考えることが重要となる。我々が普段の生活で確率という言葉を使う場合には、景気が良くなる見込み、試合で一方が勝つ公算等「見込み」を表現する場合が多い。通常の確率は何らかの根拠に基づいて客観的に判断されるべきものであるが、このヒューリスティクスでの確率は大部分は直感的に判断される「主観的確率」と呼ばれるものとなる。

この主観的な確率を理論的に用いたものがベイズ理論となる。そこでは絶対的な確率の値ではなく、相対的な確率(事前確率と事後確率)の組み合わせが理論の根本となり、ステップを踏むことでより確かな確率に近づいていくという理屈が公式化され、様々な場面で活用化されてきた。

また、ヒューリスティクスは完全な解法でないために、時にはとんでもない間違いを生み出す原因ともなり、さきほどの主観的確率も客観的な正しい評価とはかけ離れたものになることがある。これは「バイアス(偏り)が生じる」と呼ばれる。

このようなバイアスに対して、ヒューリスティクスに囚われない「固定概念を捨てろ」のようなスローガンが唱えられることもあり、ヒューリスティクスは不要なものであるとのイメージを持たれることも多い。

しかしながら、現実世界の事例では全ての要件を全て考慮して考える(確率の計算を行うにはすべての要件を並べる必要がある)ことは困難で、仮にそれが並べられたとしても考慮すべきことが多すぎて計算に莫大な時間がかかる。未来は不確実性が大きすぎて確定的な結論は出ず、ヒューリスティクスに基づく決定が必要なプロセスの方がむしろ多かったりする。

これが顕著に現れるのが、人工知能のフレーム問題となる。これは、哲学者のダニエル・デネットが考えた思考実験によるもので、ある部屋の中にいる人間の代わりに危険な作業をするロボットを考え、爆弾が仕掛けてられている部屋から貴重な美術品を運び出させるタスクを行わせるものとなる。

ここてで、ロボット1号は、美術品を取り出す為に台車を動かせば良いことが分かり、台車を押して美術品を部屋から出したが、台車に爆弾がしかけられており、爆弾が爆発しまう。これはロボット1号が美術品を取り出すという目的については理解していたが、それによって副次的に発生する事項(美術品を運び出すと、同時に爆弾を運び、それが爆発してしまうこと)を理解していなかった為に失敗したものとなる。

ここでロボット2号として目的を遂行するにあたって副次的に発生する事項も考慮するものを作成すると、前述のような問題(爆弾が爆発する)は生じなくなるように思われるが、そのようなアルゴリズムを作ってしまうと、副次的に発生しうるあらゆる事項を考え始めてしまい、無限に思考し続けて、やはり爆弾は爆発する結果に陥る。これは、副次的に発生しうる事項というのが無限にあり、それら全てを考慮するには無限の計算時間を必要とするからとなる。

更に2号の失敗を踏まえて、目的を遂行するにあたって無関係な事項は考慮しないように改良したロボット3号を開発して動作させると、目的と無関係な事項を全て洗い出そうとして、無限に思考し続けてしまい、動作が止まってしまうという結果に陥る。

このようにフレーム問題を定義すると「考慮すべき空間が有限でない限り、無限の可能性について考えざるを得ない」というものとなる。機械に無限の可能性の問題を投げるといつまでも止まらずに作業をし続けてしまい「暴走」状態となってしまう。これに対して人間の行うヒューリスティックなアプローチでは、無限大の問題に対して、どれほど未来が未確定でも、まがりなりにも回答を見つけるという利点がある。

以前推論のいくつかのパターンについて述べたが、ここで述べたヒューリスティックによるフレーム問題へのブレークスルーのアプローチはそれらの中で、アブダクション等の非演繹アプローチになる。

真の(どんな問題でも解ける)人工知能を作る為には、このようなヒューリスティクス的なアルゴリズムを作ることが必須となる。