crackerjack a.i.
先日、「予防」のことを少し書くと、Ｄ君が「予防って、ある意味きりがないよね」というようなことを言ってくれたので、予防というのが哲学だか人工知能だかでいうフレーム問題に相当することに気が付きました。
フレーム問題というのは、間違っているかもしれませんけれど、だいたいこういうお話です。
ある開発チームがロボットを開発していました。なるべく賢い人工知能を搭載したロボットを目指しています。この世界にはいたるところにドアがあるので、ドアくらいは自分で開けられるようにプログラムしました。そうしてプログラムしたロボットを研究所に置いておくと、困ったことに次々とどのドアもお構いなしに開けてしまいます。トイレのドアだって何だってです。遂には研究所の機密事項が仕舞われていて、勝手に開けると爆発するドアまで開けてしまい。そのロボットは粉々に吹き飛んでしまいました。
研究チームは新しいロボットを作り始めたのですが、今度はちゃんとドアを開けてもいいかどうかを判断するプログラムを組み込みました。「あの扉には、”開けたら爆発する”ってちゃんと書いてあったんだから、それをきちんと読んで判断するようにしよう」
新型ロボットは、今度は機密事項の部屋の前に行っても、注意書きを読んで開けることはしませんでした。ついでにトイレも開けないようにプログラムされています。ロボットはトイレに行かないので別に困りません。ところが、今度は研究員の宿舎の部屋を次々に開け始めました。
やや腹を立て気味の研究チームは話し合いました。
「一個一個何に注意してドアを開けなくてはならないのかプログラムしていてはきりがない。自分で考えるようにプログラムしよう」
ドアを開ける失礼なロボットは、今度はドアを開ける前にそのドアを開けても大丈夫か考えるようにプログラムされました。そうして、研究所の中をうろうろし始めたロボットを、研究員達もじっと見守ります。「今度は大丈夫だろう」
さて、一つ目のドアの前にロボットはやってきました。
コレハ トイレ デハ ナイカ？
コレハ バクハツ デハ ナイカ？
コレハ プライベート ナ ヘヤ デハ ナイカ？
コレヲ アケテモ ダレモ コマラナイカ？
コレヲ アケテモ アイスクリーム ハ ショウメツシナイカ？
コレヲ アケテモ タイヨウ ハ バクハツシナイカ？
コレヲ アケテモ ウミ ハ ヒアガラナイカ？
コレヲ アケテモ ペンギン ハ ビョウキニナラナイカ？
・・・
・・・
・・・
「おかしいなあ」研究員は言いました。「動かなくなっちゃったぞ」
「わあ、駄目だこれは。今人工知能を解析してみたら、どうでもいい心配ばかりしてるよ」
「ああ、本当だ。よし、関係ないことは考えないようにプログラムしなおそう」
優秀な研究者達はさっそくプログラムを書き換えました。
コレハ トイレ デハ ナイカ？
コレハ バクハツ デハ ナイカ？
コレハ プライベート ナ ヘヤ デハ ナイカ？
コレヲ アケテモ ダレモ コマラナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ アイスクリーム ハ ショウメツシナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ タイヨウ ハ バクハツシナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ ウミ ハ ヒアガラナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ ペンギン ハ ビョウキニナラナイカ？ ハ イマ カンケイナイカ？
・・・
・・・
・・・
僕達は普段どうやってドアを開けて良いかどうか決めているのだろう。
フレーム問題というのは、間違っているかもしれませんけれど、だいたいこういうお話です。
ある開発チームがロボットを開発していました。なるべく賢い人工知能を搭載したロボットを目指しています。この世界にはいたるところにドアがあるので、ドアくらいは自分で開けられるようにプログラムしました。そうしてプログラムしたロボットを研究所に置いておくと、困ったことに次々とどのドアもお構いなしに開けてしまいます。トイレのドアだって何だってです。遂には研究所の機密事項が仕舞われていて、勝手に開けると爆発するドアまで開けてしまい。そのロボットは粉々に吹き飛んでしまいました。
研究チームは新しいロボットを作り始めたのですが、今度はちゃんとドアを開けてもいいかどうかを判断するプログラムを組み込みました。「あの扉には、”開けたら爆発する”ってちゃんと書いてあったんだから、それをきちんと読んで判断するようにしよう」
新型ロボットは、今度は機密事項の部屋の前に行っても、注意書きを読んで開けることはしませんでした。ついでにトイレも開けないようにプログラムされています。ロボットはトイレに行かないので別に困りません。ところが、今度は研究員の宿舎の部屋を次々に開け始めました。
やや腹を立て気味の研究チームは話し合いました。
「一個一個何に注意してドアを開けなくてはならないのかプログラムしていてはきりがない。自分で考えるようにプログラムしよう」
ドアを開ける失礼なロボットは、今度はドアを開ける前にそのドアを開けても大丈夫か考えるようにプログラムされました。そうして、研究所の中をうろうろし始めたロボットを、研究員達もじっと見守ります。「今度は大丈夫だろう」
さて、一つ目のドアの前にロボットはやってきました。
コレハ トイレ デハ ナイカ？
コレハ バクハツ デハ ナイカ？
コレハ プライベート ナ ヘヤ デハ ナイカ？
コレヲ アケテモ ダレモ コマラナイカ？
コレヲ アケテモ アイスクリーム ハ ショウメツシナイカ？
コレヲ アケテモ タイヨウ ハ バクハツシナイカ？
コレヲ アケテモ ウミ ハ ヒアガラナイカ？
コレヲ アケテモ ペンギン ハ ビョウキニナラナイカ？
・・・
・・・
・・・
「おかしいなあ」研究員は言いました。「動かなくなっちゃったぞ」
「わあ、駄目だこれは。今人工知能を解析してみたら、どうでもいい心配ばかりしてるよ」
「ああ、本当だ。よし、関係ないことは考えないようにプログラムしなおそう」
優秀な研究者達はさっそくプログラムを書き換えました。
コレハ トイレ デハ ナイカ？
コレハ バクハツ デハ ナイカ？
コレハ プライベート ナ ヘヤ デハ ナイカ？
コレヲ アケテモ ダレモ コマラナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ アイスクリーム ハ ショウメツシナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ タイヨウ ハ バクハツシナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ ウミ ハ ヒアガラナイカ？ ハ イマ カンケイナイカ？
コレヲ アケテモ ペンギン ハ ビョウキニナラナイカ？ ハ イマ カンケイナイカ？
・・・
・・・
・・・
僕達は普段どうやってドアを開けて良いかどうか決めているのだろう。
