Forum Report

未来はテクノロジーでコントロールできるのか
第2回会議 レビュー②

NEC未来創造会議の第2回有識者会議では、未来社会におけるテクノロジーと人の関係性を軸に話が展開しました。会議の後半では、シミュレーションゲーム「シムシティ」と実社会への影響、そしてデジタルツインの可能性について言及されました。

NEC未来創造会議メンバーの写真

第2回有識者会議参加メンバー

ソフィアバンク代表

藤沢 久美 氏

ファシリテーター

Ignition Angels マネージングディレクター
EDGEof 共同創業者

ダニエル・
ゴールドマン 氏

慈眼寺住職 大阿闍梨

塩沼 亮潤 氏

ロフトワーク 代表取締役

林 千晶 氏

岡山大学文学部准教授

松村 圭一郎 氏

NEC CTO

江村 克己

Topic1
社会をシミュレートするゲーム
「シムシティ」では何が行われていたのか

第2回会議の後半では、まず始めに都市育成シミュレーションゲーム「シムシティ」が実社会に影響を及ぼした影響やシミュレーションによる未来予測の可能性について、同ゲームの開発メンバーのひとり、ダニエル・ゴールドマン氏に話を聞くところから始まりました。「シムシティ」は、プレーヤーが市長となって街の育成、都市開発を行いますが、その内容は実社会に基づいていることから、「デジタルツイン」の実用に向けた大きなヒントになることが期待されます。

ゴールドマン:
ここからデジタルツインや、人と社会のシミュレーションについて話をしていこうと思います。まず「シムシティ」ですが、シムシティの前身となるゲームはウィル・ライト氏というクリエイターによって作られました。当初、上空を飛行して街を俯瞰するというもので、商業、工業、居住の3つのゾーンに分かれた街に、鉄道路線や電線、道路があるだけの非常にシンプルなものでした。そこに、それまで人々が持っていなかった感覚を入れたのです。それは、センシビリティ(感性、感受性、感情)のようなものでした。それぞれのタイプのゾーン間のつながりなど、表面上はとても退屈に聞こえるかもしれませんが、それが当時一番人気のゲームになっていったのです。
その後、私は世界保健機構(WHO)と協力して、マラリアに次いで2番目に多い住血吸虫症(寄生虫を病原体とした感染症)の治療に関するプロジェクトに参加しました。これは、私たちが今日の会議で話してきたことの中で最も人間的なことだと思います。そのプロジェクトで取り組んだのは、人々が必要とする薬を届けるために、あるいは必要なところに手を差し伸べるためには、どのようにして現場の人々を訓練するかといった内容で、技術的な問題ではありませんでした。例えば、薬が盗まれた場合、ラベルを付け間違えた場合、服用の仕方がわからない場合など、すべてはヒューマンエラーを想定したシミュレーションでした。そこから、私たちが今日ここで議論していることに近いもの、EarthStormが生まれたのです。
それは私たちにとって、どのようにして地球をシミュレーションするかということに取り組んだ初めてのプロジェクトでした。しかし、どうしたら社会をシミュレートできるのか、その要因をどう見るか、どうやったらみんなで一緒にプレーできるか……。それは、世界を正しく予測しようとしているのではなく、物事がどのようにつながっているかをより理解しようとすることです。
「シムアース」では温暖化による影響がどのようなものかを観察し、「シムライフ」では遺伝的特徴がどのように機能して、それが消滅するときにどんなことが起こるかといったことを見てきました。これらのすべては、実際に予測するのではなく、人間の内面の感情から得られるものなのです。

ダニエル・ゴールドマン氏の写真

「社会のシミュレートとは、世界を正しく予測しよう とするのではなく、物事がどのようにつながっているかをよりよく理解しようとすること」

ダニエル・ゴールドマン氏

藤沢:
今お話いただいたように、シムシティは皆さんが参加することによってシミュレーションするソフトです。AIを使ってシミュレーションする世界もある中で、こうして人が実際に関わってシミュレートすることをシムシティという形で実現されたわけです。
実際に私はシムシティをプレーしたことがありますが、市民の人たちが幸せになるように一生懸命いろいろなものをつくるのですが、よかれと思ってやるのに人が減るんです。プレーヤーとしては、そこに矛盾のようなものを感じるわけですね。ちょっと種明かしみたいになってしまうかもしれませんが、シムシティのシミュレーションにビルトインされたもの、条件はいったい何だったのか、その思想などを教えていただきたいです。

ゴールドマン:
面白い質問ですね。そこには個人からコミュニティ、そして再び個人へとつながる動きがあると思います。仮に、あなたが何かの管理責任者であったとします。それがコミュニティにおける役割になります。しかし、その管理が度を超えたものになってしまうと、管理者として失格になってしまうかもしれません。そうした矛盾は、どうやってバランスを取っていくかという点にかかっているとも言えます。
いろいろな方法があると思いますが、私は自分の市民のために街をプログラムすることにしました。当初は、何に気を付けて、どのように秩序を保ち、予測し、安定したものにするかといった枠組に注意を払っていましたが、そこにはどうしてもトレードオフが生じます。そこで、人々が自分たちの望みを実現させるにはどのように働きかければ良いのか、という風に考え方を変えたのです。「再び個人へ」と言ったのは、そういうことです。

藤沢:
予測というお話が最後にありましたが、いったい何をされていたのでしょうか。私がゲームを拝見する限り、安全というものがすごく重視されているような気がします。消防署や警察署などをつくることが優先で、実はレクリエーションのカジノはすごく後半にしか出てこなくて、人のエンターテインメントは後回しになっている。街をつくるというシミュレーションにおいて、何を最も大切なファクターにされていたのでしょうか?

ゴールドマン:
まず、現実社会と同じで、特にひとつのものが重要であったわけではないんですね。消防署と警察は、最初はそれほど重要ではなく、住居のほうが重要であったかもしれません。しかし、安定させるという観点からすると、会議の前半で話したエコシステムの構築と同様に、より多くの要素が増えれば増えるほど複雑になります。それは、それ以降のバージョンが難しくなっていった理由のひとつになっています。
私は、アートのように人々が直接的に金銭的な価値を見出さないかもしれないプロジェクトにも多く関わっています。それは人々の感情、心にとって非常に重要なものだからです。そしてそれは、社会にとっても重要です。それが成熟し、生活の質や江村さんが話したマズローの欲求五段階説の階層が上がると、人々のニーズも高まってきます。そして、いろいろな要素が混ざってきて、なるべくベストな社会をつくろうという動きになります。ちなみに、ある物理学者による都市についての研究では、都市幸福の最大決定要因となるものは公共交通機関だという報告があります。

藤沢:
ありがとうございます。交通機関が重要になるというのは、移動やコミュニティーの拡大といったことになるのかもしれません。そこでさらに質問したいのですが、実際にシミュレーションをやってみて、リアル社会にシミュレーションの結果を取り入れることができるような現象が出てきたのでしょうか? シムシティでつくったものがリアル社会に生かされるというような現象はありましたか?

ゴールドマン:
現在も多くのシミュレーションが行われていますが、使用された例がいくつかあります。そのひとつは、シミュレーションが人々により良い内的理解を与えるために使用されることです。われわれがAIと人々のパートナーシップについて話してきたことに近い使い方ですね。こうしたシミュレーションは、それによって何が起こり得ることを示唆する点で、「AI」と考えることができます。
すべてはサイコロを振るような確率の問題で、すべてを予測することはできません。その一方で、示唆を与えられることによってただのデータの山が情報へ、知識へと変化し、本当の知恵と深い洞察につなげていくことができます。シムシティやシムアースをたくさんプレーしてきた人たちは、このシステムがどのように動作しているかを感じ取っていたと思います。すべてを把握していたわけではありませんが、世界中のそうしたプレーヤーを観察してみると、彼らはそこで得た情報や知識を調整し、世界の仕組みにそれらを組み込むこともできるようになる。そのレベルにおいて、非常に高い価値があると言えます。彼らが起業家や政治家、科学者であるかどうかに関係なく、シミュレーションやそれらを扱うツールがあれば、世の中で起こることをより深く理解することができるはずです。
もうひとつは、予測の部分です。これがどういったところに使われているかというと、交通情報はもちろん、スポーツや天気なんかもそうですね。皆さんが使っている天気アプリなんかは、シミュレーションがあるからこそうまく動いているわけです。

藤沢:
非常に面白いポイントを教えていただいたと思います。シミュレーションを通じて、みんながその仕組みを知ったというのはすごく大事なポイントです。今までは、より情報が多くなることで自分が関わっている世界がわかると思っていたけれど、仕組みがわかるというのが、シミュレーションのひとつの価値だったのかもしれませんね。

藤沢 久美氏の写真

「より情報が多くなることで自分が関わっている世界がわかると思っていたが、仕組みがわかるということが、シミュレーションのひとつの価値だったのかもしれない」

藤沢 久美氏

Topic2
AIは示唆を与えるが
決定はヒトが行う

ゴールドマン氏によるシムシティの解説により、社会のシミュレーションを行う際に盛り込まれた要素と、その先の発展的なシミュレートの方向性、その影響などが紹介されました。そこから、実際の社会におけるシミュレーションの意義について議論が続きます。

松村:
私はシムシティをプレーしたことはないのですが、ゲームの中ではひとりで意思決定するのでしょうか? それとも複数の意思決定者がいるんですか? 例えば、私が市長だとしたら、私ひとりで何でもできるのか、あるいは議会と折衝したりして、いろいろなステークホルダーとネゴシエーションすることが必要なのか。その辺りが気になった点です。

ゴールドマン:
もともとシムシティは一方通行のゲームでしたが、90年代半ばに公開したオンライン版では、複数のプレーヤーでコラボレートできるようになりました。多くの戦争ゲームでは、相反する人々がそれぞれ敵や味方を作ります。そういうシナリオのほうが簡単だからなのですが、こうやってシステム上でガバナンスを学べるのは良いことだと思います。政治の場合でも、社会をこのように治めたらどうなるのか、民主主義というのはどうなっていくのか、そして議会の仕組みはどうなっているのかということがわかります。また、自分たちが何を持っていて、何を変えたいと思っているのかといった気づきを与えるのはすばらしいことです。

松村:
シムシティでシミュレーションされた結果が社会のある状態を改善するときに、ひとつの答えというか、ソリューションを提供するようになったときに、民主主義というものがたぶん変わるのかなと思ったのです。つまり、意思決定者は有権者ではなくて、そこにAIやシミュレーションの結果が選択肢のひとつとして提示される。私たちはそれを選ぶのか。また、そういうことになっていった場合、市民それぞれが意思決定するのとは少し違う民主主義の姿に近づくのかなと聞いていて思ったのですが、その辺りをどう思われますか?

ゴールドマン:
意思決定のループには必ず人間が入ります。私の友人がある開発をしています。それは、AIに「抑制と均衡(Checks and Balances)」を組み込む仕組みです。それは何かことが起こる前に動作するもので、彼は「AIのエアバッグ」と呼んでいます。ことが起こる前かどうかというのは、それが意識的なのか無意識的なのかで判断できます。私は、意思決定の大部分を占めるのは「無意識」だと考えています。つまり、あなたが実際に意思決定を下すのは、今自分が意思決定をしたと自覚するより前だということです。この考えについては、関連する文献も多数あります。
皆さんが再三おっしゃっているように、AIは示唆を与えるもので、意思決定は人間が行います。少なくともヒトは人間の価値観を持っているからです。一方AIの場合、なぜその意思決定に至ったのかがわれわれにはわかりません。AIは天気を見て晴れているかどうかを判断するだけで、それによって人間がハッピーになるかどうかを考えているわけではありませんからね。

抑制と均衡(Checks and Balances)
立法・行政・司法の権限のバランスを取るためのシステムのこと。

松村:
今の社会はものすごく複雑で、ひとつの国がやっていることは、ほかの国のことと連動しているため、アメリカの国内政治は日本の経済状況などに当然影響を与えるわけですよね。つながり合っていることで、要素は非常に複雑になる。人間の計算能力を超えた要素を考慮しなければならないときに、おそらくAIのほうが要素の複雑な関係を取り込んで答えを出すことができるかもしれない。
では、AIの出したサジェスチョンをもとに、人間は何を基準にして選択するのか、ということですよね。そこで人間の価値観がどれほどの意味を持ちうるのか、考えるべきかもしれません。人間的な感情みたいなもので決めていくことになるのか。それとも、心情的には抵抗があっても客観的にデータで見ればこちらのほうがウェルビーイングにつながるとAIは言っているという、すごくジレンマのある決断を迫られる可能性がある。
哲学的な問いかもしれないけど、例えば確実に犠牲者は生まれるけれども、こちらのほうが犠牲になる人が少ないといったような決断を人間は迫られるのだとしたら、なかなか大変な意思決定だなという気もします。

松村 圭一郎氏の写真

「心情的には抵抗があっても客観的にデータで見ればこちらのほうがウェルビーイングにつながるとAIは言っているとき、ヒトはすごくジレンマのある決断を迫られる可能性がある」

松村 圭一郎氏

江村:
私はもう少しシンプルに考えていて、例えば選挙です。選挙の論点はそのときの風潮で決まったりします。でも、この人が市長なり首相なりになったとしたら、どんな社会になるかということが、たぶん今は複雑すぎてイメージできない。ひとつのパートを出して、例えば、今の日本だとお年寄りに受ける政策を出したら政権が取りやすいといった構造になっている。最後のdecisionは人間がするのだけど、そのときに提示するものは、合理的にサイロ化されたものをもう少しつないでわれわれが作っていく、ぐらいなことでいいのではないかなと、今の話を聞きながら思ったんですね。
AIで全部解いてしまうようなことはきっとなくて、最後は人なんだけど、人があまりに社会の複雑性についていけなくなって、超感覚的になっているのをもう少し合理的に整理する。そうすると、またいろいろな主張が出てきますよね。そういったことをイメージしたときに、今よりもう一歩進んだものができそうな気がします。

林:
人間の今の状態では複雑すぎて、これをやるとどうなるのかが見えなくなっていることが今の社会にはたくさんある。それに関して、日本かアメリカかといったことは関係なく、AIには進化していく領域がいっぱいあるなと。
人間ができない領域のところを補完する。それは今の工場でもありますよね。正確なことをやるのは人間は得意ではなくて、でも人間が作った機械がより正確に何コンマ1でも繰り返しやってくれるということが起こっているのと同じように、私たちの判断あるいは学びの中でも、苦手なところを助けてくれるAIの領域と、より安心、より幸せ、より愛が増える、より愛が深まるみたいな、AIでは解けない人間の領域があるから、そこを今は混ぜがちなのだけど、混ぜて考えてはいけないところなのかと思います。

林 千晶氏の写真

「私たちの苦手なところを助けてくれるAIの領域と、より安心で幸せ、より愛が深まるといった、AIでは解けない人間の領域がある。そこを今は混ぜがちなのだけど、混ぜて考えてはいけない」

林 千晶氏

Topic3
ヒトとAIの共存のために私たちが考えるべきこと

デジタルツインにも関わる、AIなどのテクノロジーによるシミュレーションに対して、ヒトはどのように対応するべきなのか。議論は、ヒトとAIの関係がどうあるべきかという方向に進んでいきます。

藤沢:
たぶん人間は直感的におかしいなと思っていることはたくさんあって、それをAIが証明してくれるというプロセスのような気もします。人間が直感的にも気づいていないことをAIが気づかせてくれるという可能性はあるんでしょうか?

林:
先ほどダニエルが言っていたように、予測するためではないよと。predictのためではなくて、センシビリティを上げるマインドセットが変わるという部分は、とても重要なのかなと思っていて。この情報を持っているからこの判断をするというセンシビリティのトレーニングは、判断を迫られたときにとても寄与してくれるのかなという気がしています。だけど、愛とか安心のセンシビリティが高まるかどうかというところは別で、そこは塩沼さんの言うようにAIではなかなか厳しいのかもしれないし、そこさえもできるのかどうか、逆にみんなの議論が必要ではないかと。

江村:
人とAIの役割分担みたいなものは必要な気がしています。今言われた、愛などの部分を除いても、結構やれることがあるじゃないですか。そういうことをやりながら、少しずつ人間の意思みたいなものを入れていく中で、ウェルビーイングとかそういったものがどう入っていくかということを、これはチャレンジだけれど、研究していく。先ほどダニエルさんが「human based tool」と言ったのかな、ツールとしてそういうものをデザインするというのはありそうだなと思います。

林:
と言いながらも、今シミュレーションしているのは、例えば「車というものがつくれそう」となって、「移動も早くなる。突然具合が悪くなってもすぐに移動できる。でも、事故で人を殺す」という予測も出された場合に、これを社会に入れるのか、入れないのか。そういうマイケル・サンデル的な問いになるのかな。要は、100人の命を助けるけど、毎年100人の便利のために10人死にますということがシミュレーション上で予測されたときに、どうするか。

松村:
人間が意思決定をするときに、先ほど選挙の話がありましたが、投票をする高齢の有権者向けにアピールできる選択肢を政治家が選んでしまうというようなことは排除できない。つまり、複数の選択肢があって、最終的にすべての人がハッピーになる選択肢は、たぶんほとんど世の中にはないと思うんですよね。誰かが得をする/損をするという選択肢の中で、結局人間が「この人たちに利益をもたらすようにしたい」という判断をする。どこまでいってもそういう意思決定がついて回るとしたら、シミュレーションがどんなに進歩しても、おそらく現在の状況とあまり変わらないのではないかという気がします。その人の狙っているゴールに合理的にたどり着くことはできるけど、それはその人の考える利益や願望でしかない。
でも一方ですべてがAIの言うとおりにする社会を想像したら、それはそれで恐ろしくて、それこそ、国民主権ではなくAI主権みたいになってしまう。結局、人間的な要素、例えば自分の国民のことだけを考えるのか、そういう「for us」に誰を含めるかという話がありましたが、それはやはりどこまでいっても政治的な問いになってしまう。それを人間的な問いと言ってもいいかもしれないですが、そこから逃れることはできないのかなと。

林:
シムシティと一緒ですね。インディビジュアル→コミュニティ→インディビジュアルに戻るという。

ゴールドマン:
政治に(人の意思を)持ち込むということについてですが、私が知っている人たちの中に、投票に関するテクノロジーを持ったグループがいます。彼らがそのシステムに何かを投入するとしたら、「有権者が最も心配していること」と答えるでしょう。
例えば、アメリカの移民の件に関して投票するとします。イエスなのかノーなのか、そこで論争が起こります。その上のレベルを見ると、人々がそれぞれ懸念しているのは、仕事のことや安全や幸せ、ほかの人たちが苦しまないかといったことです。それらを彼らの技術を使って橋渡ししたなら、それは政治的な論点を変えることになるでしょう。
シミュレーションとテクノロジー、データに取り入れるためのリソースを持っているということ、そしてデジタルツイン──これらのすばらしい点のひとつは、ある程度の透明性を持って、人々は少なくともトレードオフを行えるところです。
私たちは皆、シミュレートします。人間も多くの動物たちもそうです。コンピュータ自体はその理解する能力を拡張するだけです。

藤沢:
デジタルツインが一番機能する場所はどこなのでしょうか? 常にトレードオフを提示してくれて、自己未来の実現のアクションにつながるのか。全体に関わるのか、みんなで何かを決めるときだけ関わるのか。

松村:
その「みんな」の中に誰が入りそうかということですよね。例えば、アメリカの社会で移民を受け入れるオプションを考えるときに、私はアフリカのエチオピアという場所を研究しているのですが、アメリカには毎年くじで何人かを移民として受け入れる枠があって、その時期はエチオピアの人たちはみんなその申請に夢中になります。豊かな国で暮らしたいという夢をかなえるために。彼らにとってアメリカの移民のチャンスを得るということは、ものすごい成功だし、ハッピーなことだし、家族も助かる。でも、彼らの幸福度がアメリカの有権者の判断材料になるとは思えない。それもfor usに誰が入るのかという問いで、それを乗り越えるのはなかなか難しいなと思うんですよね。

林:
何となくイメージ的に、AIはマクロの大きいビジョンの中でどっちに向かっていくのか、つまりデジタルツインでの活動が地球規模だとこんなに変わるんだという、どこに向かうべきなのかという意思づくりにはすごくAIは有効だけど、個人の今日やることの判断にまであまり入ってこないのかもしれない。特に初期の段階は。
例えば、今日、塩沼さんとご飯を食べるのが良いか、松村さんと会うのが良いか、どちらが私にとって得なのかのシミュレーションみたいな。そういう話よりは、もっと大きな地球規模で、これまで人間のエゴ、国のエゴがあってずっとできなかったところに、もっと地球規模のデータによるトレードオフとかベターは何かということを神に頼むのではなく、大統領だけに頼むのでもなくて、人間が初めて地球という規模で考えられるかなということは想像ができる気がします。

藤沢:
そうすると、より大きなfor usというのは、デジタルツインとかを使いながらみんなのセンシビリティを上げていくということはできるだろうけど、こちら側に戻るところに関しては、またデジタルの世界ではない何かが必要ということになるのか。そこもサポートしてくれるのでしょうか?

江村:
両方だと思っています。私たちがよく言うのが、人間が主体のときにAIがサポートする例として、会社の社長とか組織のトップみたいな人がデシジョンする場合がありますよね。選択肢がAとBとあったときに、たぶん51:49ぐらいの確率問題みたいなものもありますよね。でも、どちらかに決めなければならない。最後に決めるのはやはり人なわけで、それは直感で決めてもいい。でも、より確度を上げたいとか、自分の納得感を高めたいというときに、AIにサポートをしてもらうというイメージを持っています。
AIがこっちがベターだと言っていても、でも自分はこっちだと思うというなら、そっちが良いわけで。でも、「よくわからないけど、まあいいや」と決めるよりは良くなる。あるいは、多くの人にベターな解になるみたいなものを情報として得るということなのではないかなという部分、そういう使い方をする領域がいっぱいあるような気がするんですよね。

江村 克己の写真

「最後に決めるのはやはり人わけで、それは直感で決めてもいい。でも、より確度を上げたいとか、自分の納得感を高めたいというときに、AIにサポートをしてもらうというイメージを持っている」

江村 克己

林:
そういう意味では、今人間がつくらなければならないのは、世界のデータが合わさったデジタルツインであって、日本が日本だけのデータで見たデジタルツインはデジタルツインではないし、アメリカがアメリカの最適解でやるとよりコンフリクトになってしまう。AIなりいろいろなシミュレーションをするときに、global simulation one worldの下にデータがあり、個別最適の、要はそのデータを基にビジネス特化はありだと思うのですけど、データバイアスなしというところは世界が協調しないと駄目なのではないかなと。

藤沢:
確かに問題提起として、for usの範囲をどこまでという話があったけど、シミュレーションをするのだったら、usはグローバルでなければならないというご提案ですね。

塩沼:
人生は必ず岐路に立たされるときがあります。AかBかの選択肢になるのですが、Aに行く場合はとても簡単で、自分にとっても利益がある。けれども、他者に対して、今までお世話になった人に少し義理を欠くかなという道。Bはとても面倒くさくて、難しくて、でもやはり人としての義理がちゃんと立つ遠回りな道。皆さんこれで悩むんです。どちらを選ぶかはその人に選択肢があるのですが、明らかに遠くて面倒くさいこちらの道を歩んで、人生の岐路に立たされて、でも自分は面倒くさくてもこっちで行くんだとこっちの道を歩いてきた人は、人間的にすごく大きな器になっているというのも事実なんですよね。これをAIで「絶対こっちのほうが良いよ」となったら、人としてどうなのかなと。

塩沼 亮潤氏の写真

「人生の岐路に立たされて、面倒くさくても困難な道を歩いてきた人は、人間的にすごく大きな器になっているというのも事実。AIで楽な道を選ぶのは、人としてどうなのか」

塩沼 亮潤氏

藤沢:
こちら側の大変なほうの道を、AIが導き出すということはないんでしょうか?

林:
いや、あると思う。道は示さなくて方向だから、だいたいみんなにとって良い方向は大変な道になる気がする。

江村:
それはやはり何のデータを持ってきて、何を見るかということですよね。短期のイージーなほうが良いという価値観でいうと、おっしゃるようになるのだけど、それが先ほどおっしゃったようなグローバルにデータをちゃんと取って、ひとりひとりの満足度だかハッピー度みたいなものをマキシマムにしようという構造にすれば、AIを使っても遠回りな結果が出てくるのかもしれません。

松村:
でも、そこでAIが出した答えだからそちらを選ぶというのでは駄目だと思うんですよ。つまり、選択肢が示されたときに、どこまでいっても人間はある種の価値観とかフィロソフィーを求められるということ。AIが何かのサジェスチョンをするということは、便利で簡単な世の中を実現するわけではないということを認識しておく必要がある。そこを便利で簡単になる道だと捉えてしまうと、すごく安易で、哲学も価値観も失った選択しかできない人間が残ってしまう。だから、どんなにAIによって無数の要素が計算し尽くされても、なお人間が選択するということは、そこでどんな価値観を持つのか、あるいは私たちはどんな社会を実現したいのかという、この議論から逃げられないということかなとお話を聞いていて思いました。

ゴールドマン:
ひとつ、先ほどの“49:51”の話で、確率が高いほうを取るという話がありましたが、私はAIやシミュレーションを選択肢から外すとは思っていません。安全・安心についてもそうです。クッキーを食べないほうが良いとわかっていても、食べるときもありますよね。悪い決断をする権利もあるからです。実際、いろいろな可能性を理解する能力を持っているということは、本当に重要です。
医療のコンプライアンスに関して、もし薬を飲まなかったら体の中がどうなるかという例を患者に見せた場合、時間が経つにつれて彼らは薬を飲むようになるという研究があります。これはAIですらありません。シミュレーションでもありません。いや、シミュレーションの一種ではありますが、想像できることが人々の助けになるわけです。同様に、ツールを持つことで、理解を深めて、世界への信頼度を深めることができる。それによって、より自由がもたらされるということでもあります。AIはもう使わない、AIのサジェスチョンには従わないというのも人間の自由です。そのとき、人が社会の中において個人でいられる、どんな選択をしたとしても安全でいられる社会を作っていく必要もあります。

実際にシミュレーションゲームの開発に携わったゴールドマン氏による具体的な解説は、シミュレーションへの理解をより深めました。過去の事象のシミュレーションと未来に備えるための予測と決断──。会議を通して、そこに人々が豊かに暮らしていくためのテクノロジーとヒトと関係性のヒントがあることが導き出されました。
さて、「NEC未来創造会議 2018」は、次回いよいよ大詰めを迎えます。これまでの熱い議論がどのように結実するのか、次回のレポートで報告します。