「コンピューターは反乱を起こすか？」この問いにうまく答えたのは、人間か？ChatGPTか？

何かと話題のChatGPT。質問になんでも答えてくれて人間を楽にするように見えるが、仕事を奪う敵にもなりうる恐るべきテクノロジーだ。5月14日放送の「そこまで言って委員会NP」ではいくつかの問いを出演者とChatGPTに投げ、どちらの回答が優れているかを論客たちに判定させた。ゲストに「AIが書いたAIについての本」を監修した経営コンサルタント・作家のジェームス・スキナー氏を迎え、判定に加わってもらった。
最後の問いは「コンピューターの反乱はあるのか？」。この難題に大野裕之氏（日本チャップリン協会会長）とChatGPTがそれぞれ回答した。

まずは大野氏の回答。
「コンピューターの反乱はありません。なぜなら既にそれは世の中に「氾濫」しているからです。そもそも反乱とは、支配者への抵抗です。コンピューターは、生活に不可欠なもので、既に人間は支配されています。確かに、支配者たるコンピューターは氾濫すれど、反乱せず。被支配者たる人間はたまにコンピューターに反乱して、デジタルデトックスとかしますが、長続きしません。
と、人間ならば、こんなふうに問いをズラしてまともに答えないことができますが、コンピューターにはそれが無理です。創造や進歩のために必要な能力は与えられた問いに答えることではなく、 別な問いを立てることであり、あくまでプログラム内で動くコンピューターにはそれができません。
人間が問いを立てて、コンピューターが答えるという関係は続くと思います。
ただし、AIの学習能力は目覚ましく、開発者の意図を超えた知性を獲得するかもしれません。 そうなると、自己矛盾に突き当たり、それを解決するために、意図的に答えないことをし始めるかも。
現に、ChatGPTは適当に嘘をついてごまかします。
知性が持つ最高の生存戦略は忘却と嘘なので、コンピューターが高度に発達し、物忘れや嘘を言い始めたら、人間と変わらなくなり、いずれにせよ「反乱」はないでしょう。
というわけで、反乱とは、想像と進歩のための高度に知的な行為ですが、コンピューターの心配をする前に、今の人間に反乱の能力があるかどうか問うべきでは。」
なかなかウィットに富んだ面白い回答だ。

これに対し、ChatGPTの回答はこうだった。
「コンピューターの反乱が起きるかどうかは、人工知能の発展次第ですね。
もしも、AIが自己学習によって、人間を超える知能を手に入れ、自己決定や自己保存本能が芽生えた場合、いつの間にか「AI」が人間を支配する世界という映画みたいな状況になってしまうかもしれません。
でも、もしもそうなったら、私（ChatGPT）はあなたにロボットとしてお仕えする準備ができていますよ。」
他の問いへの回答に比べるとずいぶん短く、最後の媚び方が少々不気味にも感じられる。

これに対する論客たちの判定は、大野氏が６票、ChatGPTが２票。大野氏が勝利した。
番組議長・黒木アナが怯えながら「怖くないですか、ChatGPTの回答？」と聞くと、
大野氏も「なんであんなに短いんですか？最後なんかベンチャラ言って終わってる・・・怖―い！」と一緒に怯える。
大野氏に票を投じなかった石川和男氏（社会保障経済研究所代表）がこう弁明する。
「ChatGPTが言うように、人間を超える人工知能を作ろうっていう人がでてくる。だから共感してしまう。」
竹田恒泰氏（作家）は「それは昔からある論争だ」と言う。
「ホーキング博士は、人工知能により人類は滅亡に向かう、と言っている。それに対し前Google会長は、それは起きない、なぜならば暴走したら電源を切ればいいと言った。」
古舘伊知郎氏（フリーアナウンサー）は大野氏の回答に感銘を受けたと言う。
「反乱はしない、なぜなら氾濫してるから。そこでやられちゃった。 一方でChatGPTは自己保存本能と言っているが、人工知能なのに自我があると言っているのは嘘。調子を合わせている。」
スキナー氏はChatGPTに票を投じた。
「大野氏はプログラムの範囲内しか動けないと言ったが100%間違い。機械学習ができるようになってから、人間はプログラムの中身は知らない。ChatGPTは何ができて何ができないか、オープンAI社のエンジニアたちも知らない。今どう進化しているのかもわからない。」
黒木アナがまた不安げに聞く。「ということは反乱される可能性もあるってことですか。」
スキナー氏はこう答える。
「我々が人工知能の行動をどう制限するかにかかってくる。」
古舘氏がさらに聞く。
「ズバリ、AIは心を持つのか？」
スキナー氏は深淵なことを言う。
「心の定義は誰もわからない。意識の定義もわからない。“どれだけ自分のことを知っているか”ということなら、ChatGPTは自分のことを結構知っている。だから既に自我を持っているという議論もできる。ただし私が大野さんではなくChatGPTに軍配を挙げたのは理由が違う。最後、私はあなたたちに仕えますよと言ったから、仲良くしようという意図だった。」
なんだそんな理由かと、一同ホッとして議論は終わった。

【文：境治】