場所：東京大学 先端科学技術研究センター 稲見・門内研究室
ファシリテーター：一般社団法人Metaverse Japan共同代表理事 馬渕邦美
鼎談者：
MVJLAB特別顧問/カーネギーメロン大学ワイタカー記念全学教授 金出 武雄
MVJLAB長/東京大学先端科学技術センター教授 稲見 昌彦
MVJ理事/東京大学生産技術研究所 特任教授/建築家 豊田 啓介
※ 第三章 其の一の続きです
第三章 其の二：人間中心から AI 主体へ パラダイム転換の臨界点
金出
それはサイエンティストとしては寂しいところもあるけれど、もう一つ、赤池（弘次）先生の「AIC（赤池情報量規準）」の話も関係があると思う。ご存じの通り、統計モデルの良さを評価する指標ですね。 あれは非常にシンプルな式で、要するに「式の長さが短いほど綺麗（モデルとして優れている）」という。ニュートンの方程式だって𝐹=𝑚𝑎（力＝質量
×加速度） の4文字。これで地球や宇宙の物体の動きを表現できている。 もちろん「風などは考慮されていない」と言う人もいるけれど、風だって本来はこれに従っている。現実にはノイズがあるけれど、それを削ぎ落とした理論の美しさは素晴らしい。
私は以前、「技術的なモデルは、データ主導（データ・オリエンテッド）のやり方に比べれば、もっと飛躍した発想が出るのではないか」と言っていたけれど、今のお話を聞くとそうでもないようですね。
稲見
我々の思考が飛躍する何かが出るかもしれませんが、コンピューターの方がより広い世界を探索できていて、情報圧縮もうまくいっている。我々が理解できる範囲の理論には、人間による限界が大きくなってしまうかもしれません。 経済学でも、複雑な現象をシンプルな式で解き明かすのが「美しい」とされてきました。物理に近いですね。
金出
経済をね……。それはおかしい気もするけれど（笑）、マクロと繋がっているのかどうか。 私がなぜそんなことを言ったかというと、例えば物体が音速を超える時、数学的なモデル上では特異点（シンギュラリティ）が起こります。理論を作る人は特異点が起こってほしくないけれど、それが現実の何に対応するのかを考えつくのが人間の「飛躍」だと思っていたんです。今はそういう飛躍もデータサイエンス的にできてしまうのかな。
稲見
振る舞いの記述や予測はできるでしょうね。あるいは適用の限界を、メタバースを使った実験室で検証することもできます。 余談ですが、大学の先生から「高校物理の世界のVRが欲しい」と言われたことがあります。入試問題などでよく出題ミスがありますが、高校物理は「摩擦がない」とか「質点」といった強い近似（理想化）が入っている。現実はそうじゃないけれど、高校物理の理屈ではこうなる、という現象をあらかじめVRで確認しておけばミスがなくなると。
金出
なるほどね。スモール・ワールド・モデルで面白いことができるわけだ。
稲見
ある理論によって世界を作り、その中で実験する。その限界こそが「実験的シンギュラリティ」と言えるかもしれません。アルファフォールド（AlphaFold）なども、シミュレーションと予測によって生物科学をすっかり変えてしまいました。 ところで先生は、AIという名前がつくかつかないかという頃からコンピューターサイエンスに携わっておられますが、今の世界のような状況になることをいつ頃確信されましたか？
金出
これは自慢半分ですが（笑）、初めて「人工知能（AI）」という単語を聞いたのは、1967年、大学3年生の時でした。 その瞬間、「これは絶対に人間よりも賢くなる」と確信しましたね。人間の思考も広い意味での物理的な計算、物理現象なのだから、真似できるのは明白だと。 昔から言われてきた「AIには日本の文化が分からないから〇〇はできない」といった言い方は、かなり勝手な論理だなと思っていました。例えばチェスでコンピューターが勝った時、「将棋は相手の駒を取って自分のものにするという東洋的発想があるから、コンピューターには絶対できない」と真顔で言われたものです。でも私は、必ずいつか強くなると確信していました。
ただ、今のように「人間の手を離れて、どんどん自分で賢くなる」というレベルにまでなるとは、当時は思いませんでしたね。 一番の私の誤りは、「知能を実現する方法（中身）」には意味がなく、「得られる内容（結果）」だけを重視すべきだと思っていたことです。ところがディープラーニングを見ると、特定の「型（多層の積和演算と非線形の組み合わせ）」を決めたことが成功の秘訣だった。
数学的に言えば、関数の形（ファンクション）を先に決めて、自由なパラメーターを動かすことで欲しい関数に近づける。バックプロパゲーション（誤差逆伝播法）は、微分した時に変数が綺麗に残るという、数学的に非常に賢い発明でした。 1940年代にマッカロフ（とピッツ）が考えた閾値関数のモデルをベースにしたことが、結果的に数学的な勝利だった。道具の形を先に決めるのは良くない、と言い続けてきた私としては、大きな誤りだったと今でも思っていますよ。
稲見
量的な変化が、ここまで質的な変化に結びつくとも思いませんでしたよね。私が学生の頃は第一次ニューロブームで、当時のVRもそうでしたが、やれることに限界があって一度は下火になりました。それがこれほどの変化を見せるとは。
稲見
自動運転でいえば、まさにその頃にVRも出始めましたよね。自動運転のプログラムを鍛えるのに、そういうバーチャルな環境を使おうみたいな発想というのは……シミュレーターという形ではあったのでしょうか。
金出
それは実はね、プリミティブ（原始的）な形ではやっていたんですよ。
これは僕がやったというか学生がやったんだけどね。一番最初にCMU（カーネギーメロン大学）でいろいろなものを作って失敗した中で、割と成功したのはニューラルネットを使った、当時の二段の……パーセプトロンの次の時に流行っていたやつですね。 それをラーニング（学習）させるのに、よく言っていたと思うんですよ。「実際のデータでやろうとすると、車が道路の端に行って危ない状態というのを作ることができない」と。
稲見
実際に危ないですからね。
金出
なのでどうしたかというと、実際の場合はそこで画像を作って、車が道路の端に行って危ない状態の絵を作った。それをやって成功したというのは、よく言っていたんですよ。
それはね、僕が大発明をしたというよりは、学生たちが「そういうデータがないと、こっちに行き過ぎた時に戻るデータを作ることができないから、どうしたらいいか」ということで、ごく簡単にやっていたわけです。
稲見
すごい、今まさにエヌビディアが「Isaac（アイザック）」とかでやっていることと同じわけですね。
レポート