日本のみならず世界各国でAI（人工知能）の研究が進められており、自動運転をはじめとしてさまざまなサービス、商品も登場してきています。
しかし一方で、人間と同じように高度な判断ができるAIは実現が難しく、さまざまな課題を解決しなければなりません。そのなかでも大きな課題とされているのが、AIにおける「フレーム問題」とよばれるもの。
今回はフレーム問題とは何なのか、具体的な事例を紹介しながら詳しく解説していきます。
目次
フレーム問題とは？
フレーム問題とは一言で表すと「AIによって解決しようとしている問題について関連性のある事象や項目をどこまで検討すべきなのか」という問題や課題のことを指します。これは1969年の段階ですでに指摘されていた問題なのですが、当時の哲学者であるダニエル・デネットという人物は美術館から作品を運び出す例をもとに説明しました。
人工知能を搭載したロボットに「台車を使って美術品を運び出す」という指示を与えたところ、誤って爆発物まで台車で運び出してしまい、その途中で爆発の被害に遭ってしまいます。そこで、このロボットを改良し安全性を向上させようとしたのですが、ロボットは爆発物以外に危険が潜んでいないかをその場で考えているうちに爆発してしまい、同じ結果になってしまったというものです。
私たち人間は台車に異常があったり、不審な物音、爆発物のような異物をその場で臨機応変に判断できますが、ロボットの場合は何が危険で何が安全なのかが定義されておらず判断することができません。また、たとえば美術品を台車で運んでいる際に、天井や壁が崩落しないか、床が抜け落ちる可能性はないかなど、人工知能はあらゆる可能性を考えてしまいます。
たしかにそのような危険は100%あり得ないとは断言できないものの、極めて可能性が低い以上は当面懸念する必要性はないものです。しかし、実際に人工知能を活用する場面においては、何をどこまで考慮すれば良いのかを定義付けすることは難しく、このような問題を総称してフレーム問題と呼んでいるのです。
フレーム問題として考えられる事例
フレーム問題の基本的な内容は先ほど説明した通りですが、美術品を運び出す際に爆弾が爆発するというケースは極端な事例と言わざるを得ません。もう少しフレーム問題の本質を分かりやすく説明するために、実際の身近な事例を紹介しましょう。今回はAIの代表的な活用事例としても取り上げられることの多い「自動運転」と「遠隔診療」をベースに説明します。
自動運転
自動運転は人の命にも直結するテクノロジーであるため、危険予測は避けて通れない問題です。たとえば道路を走行中に人が飛び出してこないか、前を走行しているトラックが急ブレーキを踏んで衝突しないか、真冬の凍結した路面でタイヤがスリップして事故を起こさないかなど、さまざまな事象が予想されます。
人の飛び出しや急ブレーキへの対応などは、道路の制限速度を守り車間距離を十分とっておくなどすれば解決できるほか、路面の状況は外の気温や天候などからも予測できます。しかし、たとえば車のエンジンをかけたことによって路面が陥没して事故に巻き込まれないか、空から飛行機が墜落してこないかなど、可能性として少しでも考えられることを挙げればきりがありません。
自動運転のフレーム問題を考えるうえで、これらのような不測の事態はどこまで考慮すべきなのか、その線引きは非常に難しいポイントといえるのです。
遠隔診療
地方などの遠隔地の医療格差を是正するための取り組みとして、AIを活用した遠隔診療が検討されています。遠隔診療は患者と医師が映像や音声でコミュニケーションをとりながら診察を行う方法が一般的ですが、それ以外にもCTスキャンやX線画像をAIに取り込み、画像解析などのツールを活用してガンやその他疾病の診断を行うシステムも検討されています。
このとき、当然のことながら患者によっても病状の進行や腫瘍の位置、大きさなども異なり、AIはあらゆる可能性をもとに診察を行う必要があります。しかし、あまりにも多くの可能性がある場合、結局どの病名の可能性が高いのかを診察することができず、その役割を十分果たせないという事態も考えられるのです。
最終的な診断はあくまでも医師の最終確認によって行うという前提はあるものの、果たしてAIを活用したシステムとして価値が見出せるのかは疑問が残ってしまいます。
これは少しフレーム問題の本質とはずれてしまう内容なのですが、たとえば耳鼻科に特化したAIの診断システムを開発したとき、耳鼻科とは関連がないものの重大な疾病の診断を見落としてしまう可能性も考えられます。どの診察科目でどこまでの診断を予測するのか、その範囲を決める際には慎重な判断が求められるのです。
フレーム問題を解決するための考え方
フレーム問題を解決しようとしたとき、開発するAIのシステムによっても対策の方法は異なってきます。
たとえば自動運転のフレーム問題であれば、とりあえず目に見えている範囲内の事象や天候、気象条件などを根拠に、問題の本質とは直接的に関わりのない項目は排除して考えることが必要になるでしょう。たとえば「道路が陥没する」「空から落下物が落ちてくる」といった問題は排除しても良く、自分自身の周囲にある車や歩行者、その他障害物などの状況について画像認識技術を活用しながら適切に判断できるシステムが求められます。
医療用のAIシステムにおいては、しばらくは医師の診察とAIを併用しながら、診断結果のビッグデータを集めつつ精度を高めていくことが大前提となります。そのうえで、もし誤った診断の可能性が懸念される場合には複数の診察科目のAIシステムを併用しながらフレーム問題のリスクを潰していくことが求められるでしょう。
フレーム問題が根本から解決したときに考えられる世界とは
私たちが現在「AI」「人工知能」と呼んでいるものは、その全てが特化型人工知能に相当するものです。これは「弱いAI」とよばれることも多く、機械学習の仕組みを進化させて特定の用途に特化したAIシステムとして活用するものです。自動運転や遠隔診療のように、ある一つの目的を達成するために開発しているものに過ぎません。
弱いAIがあるということは当然のことながら「強いAI」も存在するのですが、これは私たちがこれまでアニメや映画の世界で見てきた従来のイメージのロボットのことを指します。すなわち「ドラえもん」や「鉄腕アトム」のように、まるで人間と同じような意思をもったロボット。しかし、彼らのような存在を誕生させるためには、私たち人間のように想定外のことが起こっても適切に判断できる能力や倫理観、経験が要求されます。
そのためには今回取り上げたようなフレーム問題が立ちはだかり、これを解決して初めて強いAI、意思をもったロボットが登場すると考えられているのです。