りんたろう

チンパンジーにいくら上手に説明しても、テンソル解析を理解させることができないように、超知能が発見する新しい抽象概念は、人間の言語では説明しきれない可能性が高い。イスマイル氏の見方では、そうなったときの選択肢は三つ。AIを信頼するか、AIと融合するか、AIに制約を課すかだ。 サリム・イスマイル「「AIが説明してくれたとしても、人間の知性では理解できない宇宙の真理が存在するのでしょうか？」——3TruckProductionsさんからの質問です。私はこういう哲学的な問いが大好きです。答えは、ほぼ間違いなく「イエス」だと思います。人間の認知能力が理論上の上限ではない可能性は極めて高いでしょう。チンパンジーにいくら上手に説明しても、テンソル解析を理解させることはできません」 ピーター・ディアマンディス「私にだって無理ですよ」 イスマイル「そうですね。私も物理学の学位を取るまでに、微分方程式をまともに解いたことがなかった気がします」 アレクサンダー・ウィスナー＝グロス「サリム、動物の知能を引き上げる可能性を見落としていませんか？ 脳にAIチップを埋め込めば、今度は彼らがあなたにテンソル解析を教えてくれるようになりますよ」 イスマイル「でも、言語を使えば、どんな概念でも人間に理解できる形に圧縮できるとは限りません。AIは、人間には理解するための基本的な認知概念すら備わっていないような、新しい抽象概念を発見するかもしれません。 そうなったとき、私たちには三つの選択肢があります。AIを信頼するか、AIと融合するか、あるいはAIに制約を課すかです。AIが導き出した結論の一部については、検証する仕組みを構築できるかもしれません。 ただ、私たちはすでに、これに近いことを限定的な形で行っています。現代の半導体製造工場で行われているすべての工程を理解している人は、ごくわずかです。それでも文明全体としては、そのシステムを信頼しています。iPhoneの製造工程を最初から最後まで理解している人は、一人もいないという話もあります。 しかし、再帰的自己改善（RSI）の進展によって、この問題は極めて差し迫ったものになっています。私たちは、人間の誰一人として本当には理解できない結論に依存するようになるかもしれないのです。これは、私たちにとってまったく新しい世界になるでしょう。 AIは、人間には答えられない問いに答えるだけではありません。人間にはどう問いを立てればよいのかさえ分からなかったような、問いそのものを発見するようになるのです」