安心感シンポに参加(ネットシンポ)
安心感シンポに参加(ネットシンポ)した。
今年の5月15日に日本学術会議のHPを見ていた時に上記のシンポ(2020/5/28((木))13時から17時まで)の案内があった。
特別講演で人工知能AIのことが語られるようだったので、その場ですぐに申込をした。
すると案内メールが来て、ネットシンポのアクセス方法が説明されており、講演資料も添付されていた。
事前に予習しようとしたら、資料にパスワードがかけられていて、当日のシンポ開始前に表示する、とのことで、見られなかった。
(でも後でパスワード解除してみたが、あまり大した内容はなかった。)
プログラムは末尾に添付する。
当日午後にマイボトルのお茶を用意し、トイレに行った後、12時50分くらいにメールに記載のURLをクリックした。
すると、ネット会議システム「Zoom」の画面にアクセスした。
と同時にその画面操作のソフトがダウンロードされたらしかった。
しばらくすると、主催者がパソコン画面上に出てきて、あいさつした。
最初画面中央に主催者がアップで登場した。
その後にパワーポイント資料を使う時には、右側に縦の列で、5，6人くらいの人の顔が見えた。
ある人は画面なしの人の影が見える画面で、各画面の下にカメラとマイクのボタンがあって、カメラのボタンを押すと、登録者の人の顔が映る。
マイクのボタンを押すと、登録者の音声が聞こえるようになっていた。
またチャット機能が下部に備えられていて、何か講演者に質問がある時はチャット機能を利用して欲しい、とのことであった。
視聴者は予め、このカメラとマイクはOFFにしておいてください、と案内メールにあった。
というより、何も操作しないと、カメラとマイクは元々OFF設定になっていた。
図1 ネット会議システムの一例(今回のものではなく、他の例)
最初に挨拶として芝浦工業大学の大倉女史が行った。
日本学術会議の第三部の理工系の部会の一つに安全・安心・リスク検討分科会がある。
今まではリスク管理と感性工学という観点から検討してきたが、今期に新たに安心感のテーマも加わった。
感性は世界的に注目が集まっている。
〇〇感、安全、安心等があるが、定義があいまいである。
安全にも主観が入る。
広く意見を求める、ということで今回のシンポを企画した。
理研の甘利氏に講演依頼した後に甘利氏は文化勲章を受章され、栄誉ある方に講演いただくことになった。
当初今年の2月29日開催を予定していたが、コロナ騒動で延期となり、今日オンラインで行うことになった。
その関係で、今回の取りまとめということは難しい。
今年10月から来期(第25期)が始まるが、継続して行いたい。
なお、質問はチャットでお願いする、と 説明した。
(1)では特別講演「人工知能と社会―安心と安全の面から考える」というタイトルで、理化学研究所の甘利氏が講演した。
こういうシステムは初めてである。
人工知能AIの衝撃という言葉がある。
今は第4次産業革命の時代であろうか。
AIは人間の知能を超えるか。
世界はこの現実をどう受け止めるか。
技術は止まらない。
生命技術、遺伝子、情報技術等が高度に発達している。
社会はどう対応するか。
AIに人間は支配されるのか。
社会で考えるべき問題である。
人間とは何か。
思考、言語、宇宙史と脳の働きを紐解く。
138億年前にビッグバンが起こった。
そこから時間と空間が出来上がった。
46億年前に地球が誕生した。
生命誕生は36億年前である。
生命は情報と物質でできている。
自分の情報をDNAの中に持った。
生命は揺らいできた。
生命はその揺らぎでどんどん進化してきた。
この進化は物理学の法則には当てはまらない。
生命科学の分野の問題である。
単細胞から多細胞に進化した。
恐竜が栄えた時期もあった。
しかし、恐竜が滅びて、人類が登場したのは約700万年前である。
旧人類、新人類等を経て、ホモサピエンスが出てきた。
ロボットに意識はあるのか。
宇宙は物質の法則で成り立つ。
生命の法則は情報と物質の相互作用で、進化する。
文明の法則は情報と物質と心が関係する。
文明は社会と文化をもたらす。
脳の神経系はコンピューターの発達を促した。
AIと脳のモデルは歴史的な流れがある。
最初にプログラムを作って知能の代替を考えた。
でもうまくいかなかった。
人間の脳は教育と学習で多く形作られる。
次に神経系モデルを作って学習させた。
でもうまくいかない。
パソコンの能力不足があった。
1970年から1980年に第2次ブームが起きた。
学習能力は上がったが、実用には至らなかった。
第3次ブームが2010年頃から始まった。
深層学習という概念が出てきて、人間以上の識別能力を持つようになった。
囲碁や将棋ではAIにかなわなくなった。
層状学習の回路網を作ってやれるのが、深層学習のいいところである。
情報表現の獲得ができた。
でも透明性があるわけではない。
やってみて、たまたまうまくいったというようなところもある。
スマホは今やものすごい能力を持っている。
大規模系の特徴はランダムな初期回路の近傍に正解がある。
大規模回路の極小解は最小解の付近に集まる。
深層学習は大規模なデータを基にした計算力が優れている。
実験式の生成は、入力を基に正解に導く。
現象の予測として、例えば日食の予測等がある。
ケプラーの法則だけで人間は満足しないで、ニュートン力学、アインシュタインの相対性理論等へと進んでいく。
原理の創出、理解は人間の特徴である。
速度、加速度、力の概念を作り上げた。
それから、電磁気学、量子力学、相対性理論へと続く。
深層学習はブラックボックスか。
だから危険なのか。
仕組はわかっている。
式は再現可能である。
でも現象の原理は示さない。
ニュートンがやったことをAIがしようとしても無理である。
脳は基本原理の探求ができる。
脳において、計算論的神経科学を考える。
AIは技術による原理の実現はできる。
脳をゆさぶる。
新しい方向が見えれば、そちらに向かう。
脳は進化し、停滞し、古いものを捨てる。
数理脳科学ができる。
AIは脳に何を学ぶか。
パターン認識は脳より優れている。
でも脳は原理を求める。
意識の発生がある。
AIに意識はあるか。
人間は共同作業で自分の意図を自分で知る。
言語という論理的思考や数学を使う。
心の理論がある。
共通理解の上に社会は成り立つ。
葛藤する心がある。
究極のゲームを例に挙げる。
10万円をAとBの2人で分けるとする。
Aは自分が7万円、Bに3万円と提案する。
Bは同意、または拒否する。
この時にBは自分の立場や今後のAとの関係等を考慮した上で判断する。
公正であるべきか、後の利益のことを考えるか。
Libetの自由意志の実験がある。
人間の脳の決定がどのように行われているか調べようとした。
今から30年前の実験である。
時計を６で止めるか、９で止めるか。
ボタンを押すと、時計は止まる。
９で止めたとする。
あなたはそれをいつ(when)決めたか。
６あたりで、と答える。
でも脳は３くらいで決めている。
脳のダイナミクス、意志決定と行動、反省・正当化・論理の間に相関がある。
予測(先付け)と後付けの問題がある。
AIが脳に学ぶことはあるか。
心を持ったロボットが作れるか。
人の心の動きを理解する。
ロボットが心を持つように見える。(感情移入)
ロボットは私の心をよくわかっていると勘違いする。
心は不合理である。
喜びや苦悩や愛がある。
ロボットは合理的である。
ただ一度の人生である。
人間の心は進化の産物である。
ロボットは部品が壊れれば取り換える。
AIの計算能力はすでに人間を上回る。
人間はすばらしいが、愚かである。
歴史的に何度失敗しても懲りない。
AIの安全性、制御可能性が求められる。
暴走するとすれば、それは人間の暴走を範としているからである。
AIは面白いとして世界中で研究されている。
社会に組み込まれている。
技術は止まらない。
AIは仕事を奪うか。
格差の拡大は起きる。
べーシックインカムと人類の家畜化が始まる。
働く喜びが失われる。
家畜化は社会の崩壊を招く。
社会や文明は脆弱性崩壊へと進む。
我々は何をすべきか。
AIブームは終わるか。
文化国家としてAIをどう活かすか。
物量作戦はだめである。
理論とアイデアの勝負になる。
産業の情報化が欠かせない、と説明した。
(この後、会場のチャットから司会が質問を拾い上げ、甘利氏に質問、以下同じ形式)
〇〇の解はあるか。(〇〇はよく聞き取れなかった) ニュートン力学はあらゆるものを含む法則である。
どういう原理で実験は成立するか。
人間の心の葛藤はAIで作れるのか。
おそらく合理的に考えるだろう。
シンギュラリティ(特異点だが、ここでは人間の能力をしのぐ性能を持つこと)は来るか。
来ないと思う。
人間の方が賢いからである。
ABC予想やフェルマーの最終定理は、解くのに350年かかっている。
AIも解くかもしれないが、解きたいとは思わないだろう。
意欲、喜び、達成感が人間の特徴である。
(筆者もAIと化学の関連はどうか、とチャット質問を出してみたが、司会は取り上げなかった。というよりわからなかったかもしれない。今の化学はまだ論理性に乏しく、化学反応も複雑なものはよくわからない状況である。そういう化学の性質は、おそらくAIが一番不得手とする非合理性の世界が充満しているからである。)
(2)の講演では、「安心感の考え方」というタイトルで、横浜国立大学の野口氏が講演した。
「安心」という考え方を日本学術会議で考え出した。
その議論は難しいので、「安全」と一緒に考える。
視点としてはより良い社会を創ることである。
では、より良い、とは何か。
活力があり、安全な社会である。
納得性の高い社会である。
コロナがまん延している社会では、医療に対して安心していない。
でも経済活動を始めるというと、みんな納得する。
安心感と安心は本来使い分ける必要があるが、今日の話では、全部安心として扱う。
整理する視点は以下の3つである。
①安全と安心
②イノベーションと安心
③安心の社会を構築する仕組
まず①から見ていく。
(安心)＝(安全)×(信頼)
という式を仮定する。
(信頼)＜１であれば、不安になる。
(信頼)＞１であれば、過信となる。
(信頼)としては、制度、組織に対する信頼、専門家への信頼、科学への信頼、自分の知識への信頼、等がある。
安全は許容できないリスクを小さくすることである。
(社会が実感する安全)＝(安全)×(安心)
(安心)＝１で安定、(安心)＜１であれば不安、(安心)＞１であれば過信になる。
(安心)＜１の１つに科学の限界への警報の意味がある。
励起する(安心)と阻止する(安心)がある。
(安心)は市民と技術を分かつものか。
市民と技術者を結ぶ通訳が必要と考える。
②のイノベーションと安心では、安心は得られるのか。
変化や変革を求める社会で、安心社会にできるのか。
成長や変化の不確かさは安心を損なう。
イノベーションと安心の両立は可能か。
リスクコミュニケーションの開発が必要である。
③の社会の仕組について、安心の社会の構築には安心を脅かすリスクについて知ることである。
原子力についてはエネルギー供給の考え方もある。
変化が緩やかであればいいのか。
しかし、グローバル化が急速に進み、100％安心できる社会はできるか。
どうやって構築するか。
行政、企業、専門家の責任は大きい。
マスコミの役割も大きい。
リスクの全貌の喚起が必要である。
世論の不安がある。
不安なので反対、というのもある。
市民の役割は重要で、安心をどこまで考えられるか、である、と説明した。
会場からは、安心は数式で表されるのか。
わからない。
(安心)＝(安全)×(信頼)を関係式と考えて欲しい。
安全の時間軸は今である。
安心はその時その時で変わる。
安全もよくわからない。
安全目標の議論をすると、安心の議論も深まる。
国によって安心は異なるかもしれない。
イノベーションと安心では、高いものを要求すると不安になる。
オリンピックがいい例である。
高い技術を要求され、試合が始まるまで安心とはいえない心理状態に置かれる。
安心を扱うサイエンスはあるのか。
このシンポ等を通して、安心の学問体系の骨格を作るのではないかと思う、と説明した。
(3)の講演では「モノづくりにおける安全と安心の世界」というタイトルで、明治大学の向殿氏が講演した。
モノづくりにおける安心は安全と切り離せない。
消費者は安心を求め、企業や国は安全を確保する責任を負う。
安全は客観的、合理的、科学的であり、安心は主観的である。
安全と安心は根本では連結しているのではないか。
安全も安心も共に価値観が関係している。
安全の基本は情報公開である。
良いも悪いも公開し、隠さない。
市民がパニックを起こすから、隠すのは正しくない。
正当に怖がることが大事である。
(安全)×(信頼)＝(安心)＜1となるようなことは困る。
リスクコミュニケーションが重要になる。
安全と安心を結ぶ方程式がある。
モノづくりにリスクゼロはあり得ない。
安全も信頼もマイナスだと掛け算でプラスという指摘があったが、安全も信頼もマイナスだとみんな安心しない。
市民の科学知識の問題がある。
みんなが正しく理解するというのは非現実的である。
安全ビジネスの存在がある。
自然食品だから安全、添加物を使っていないから安心、という。
安全より危険の方がニュースバリューが高い。
工学システムに必要な３つの機能として、本来機能、安全機能、安心機能がある。
安心装置等があるのか。
安全、安心は天から降ってこない、と説明した。
会場からは原発災害で専門家はどれだけ信頼できるか、と質問があったが回答を聞き逃した。
筆者は安心にユニバーサルデザイン(UD)は関係するか、とチャット質問した。
司会がこれを取り上げてくれたが、向殿氏は重要な概念である、と短く答えただけであった。
(4)の講演では「安全目標と安心感」というタイトルで、宇都宮大学の松岡氏が講演した。
安全目標とは何か。
達成すべき安全のレベルを示したものである。
安全目標⇔安全⇔安心⇔安心感の関連性がある。
安全目標を誰が決めるか。
どのように判断するか。
安心と安心感は同じか。
絶対安全は存在しない。
機器の劣化、故障、ヒューマンエラー、異常気象等安全を脅かす要因は際限なく存在する。
リスクが残っている状態のどこかで安全と判断する。
国際基準では、安全とは許容不可能なリスクのないこと、と決められている。
ISO/IEC Guide51である。
図2 安全に関するISO/IEC Guide51の図(ALARP：As Low As Reasonaboly Practicable：合理的に実行可能な範囲)
安全は社会的なコンセンサスを基に判断する。
しかし主観を離れることはできない。
安全目標は社会的な合意の取れた安全である。
ステークホルダーを考慮に入れる。
安心とは、安全であることが信じられることである。
安全と安心は一対一対応である。
信じられるという要素がある。
安心感とは個人が持っている感覚であり、自分で感じるものである。
錯覚で安心することもある。
航空機は安全とみることができる。
でも一抹の不安を持っている人もいる。
何回も利用することで、安全でなくとも安心感ができる。
広く受け入れられる安全基準でも、リスクゼロではない、と説明した。
会場からは、コロナ死亡は800人だが、自転車事故で500人亡くなっている。
なぜ取り上げ方が違うのか。
コロナは新しい現象である。
自転車は安全と錯覚しているところもある。
利便性や制御可能性で考えると、自転車はより安全と言えなくもない。
非常時と通常時の安全、安心は異なるか、という問いに、その通り、と答えた。
筆者は安心と正常性バイアス(自分だけはひどい災害には遭わないという思い込み)は関係あるか、と聞くと、大いに関係があると答えた。
(5)の講演では「東京大学での安全教育プログラム」というタイトルで、東京大学の辻女史が講演した。
社会背景として、全体最適、人の多様化、グローバル化の問題がある。
ジェンダーという点では、タイには18のジェンダーがある。
予期せぬ災害もある。
ビジョン開発の必要性があった。
人々に対する教育、法整備、コロナ感染リスク等をどうすればいいか。
学際研究の加速が必要である。
社会の複雑多様化が進む。
エネルギー面でいえば、水素社会の到来が想定されている。
水素社会のためにどうやって水素を作るか。
水素の輸送、保管はどうするか。
多様なエネルギー源がある。
GHG(温室効果ガス)排出削減もある。
技術イノベーションや水素情報が望まれている。
市民教育も必要である。
産業界は事故が多くなっている。
メンテナンスのところで起きている。
大学は24時間非定常時である。
大学も産業界も同じで、非定常時に事故は起きる。
非定常状態の連続である。
想定外の状況で事故は起こる。
学問の自由、研究の社会への還元が求められる。
人材輩出、情報発信、情報開示が求められる。
大学での知識の習得、環境安全の知識を得ることが必要である。
広い視野を持ち、安全教育を行う。
環境安全教育プログラムがある。
段階的に教育していくが、その基礎はしっかりしておく必要があり、その上で各論がある。
座学＋実習・演習で行う。
VR(バーチャルリアリティー)も組合せる。
VRの教材作りも必要になる。
もらい事故、相互作用事故等についてVRを活用する。
溶媒使用時の環境安全に留意する。
CO2の排出量、安全性と経済性についても考えさせる。
人材輩出、イノベーションを起こす研究も必要である、と説明した。
会場から、事故の隠ぺいの心配はないのか、との問いに、そういうことも含めて考える、との答えであった。
筆者は事故推定にAI活用はあるかと聞いたら、トライしている最中である、との答えだった。
この後に休憩に入った。
そこでネット参加者約170名くらいにアンケート要請があった。
参加年代、男女別、職業(会社員、研究者、大学関係等)を問うものであった。
その後に、パネル討論があったが、そこでパネリスト3人が紹介され、一人ずつ簡単な専門分野の講演があった。
東京都市大学の中川女史は電気が専門で、「ブラックアウトから考えるレジリエンス」というタイトルで講演した。
エネルギーセキュリティが大事である。
物事に100％はない。
停電したら、レジリエンス(対策の柔軟性の意味)の要点は２つある。
ロバストネス(強靭性)とリダンダンシー(多重性)である。
停電対応では２つのことが大事で、ラピッド(迅速に)、リソース(ヒト、モノ、カネ)である。
リソースに注目した。
2年前の北海道のブラックアウト(大地震で北海道最大の火力発電所が停止、それから連鎖してブラックアウト)が起きた。
技術論はしない。
生活の安心感への影響を見る。
インフラの停止があった。
地震というより、その後の停電でシステムが動かない。
物流が停止した。
食料への不安があった。
この時の優れた対応例を紹介する。
北海道のあるコンビニ店約1000店が通常営業をしていた。
図3 コンビニ店が北海道ブラックアウト時に営業の例(Fukkoの日々雑感HPより抜粋)
車から電気を供給してレジを動かした。
ガス窯を準備していた。
重油も準備していた。
安心感がある例である。
日常生活のレジリエンスの例でユーザー側でも対応可能である。
危険のタネを、カネをかけて100％つぶすのは無理である。
グレーデッドアプローチ(等級別扱い、優先順位付け)が大事で、何段かは準備する。
コトは起こるもの、ということを前提とする。
知らしむべからず、ボーッと生きる、今はSNSの時代である。
疑心暗鬼の社会、安心感の対極の社会である、と説明した。
続いて、原子力安全研究協会の矢川氏が「知らぬが仏、から知る権利へ」というタイトルで、講演した。
サービスの受け手と預け手がある。
レシピエントとプロバイダーである。
プロバイダーの安全提供とレシピエントの理解・納得で社会は成り立つ。
ここで第三者の見識と中立性をはさむ。
半世紀前には医師への絶対信頼から、現代のセカンドオピニオンへの変化がある。
「ドクターＸ」のドラマにも見られるようにレシピエントの知識レベルが向上している。
原発の信頼性でも3.11以前の安全神話が崩壊した。
新型コロナウイルス対策でPCR検査を増やせ、と要求して、本音の部分では医療崩壊になると思っている。
安心感の向上に逆行している。
保健所で検査してくれない。
不安なままである。
コロナ感染で日本は死亡者数が少ない。
BCGの影響か。
安心感向上の裏側で医療側は大変である。
古代ローマのタラゴナ水道橋は楔型土台の設計である。
図4 タラゴナ水道橋の概要
笹子トンネルの崩落では、天井のコンクリートが落下した。
ローテクだと人は安心する。
今原子力業界では、SMR(小型原子炉)を研究している。
電動ポンプを使わないで、自然循環冷却である。
大型炉は開発が止まっている。
ローテクに戻っている。
目で確かめられるかどうかである。
放射線やコロナはできない。
リベット接合は安心で、溶接接合は不安である。
溶接接合はハイテクだがいいわけではない、と説明した。
3人目は中央大学の庄司女史が「安心感と社会」というタイトルで、講演した。
(安全)×(信頼)＝(安心)の関係式がある。
安全は大前提であり、信頼は透明性が大事である。
エンジニアは安全から安心へと志向する。
ノイズをできるだけ小さくする。
でも今はノイズとかはSNS社会で無視できない。
一旦崩壊すると信頼は回復がやっかいである。
子育てとの類似性を思う。
親の理屈を押し付けると、子どもの気持ちを無視してしまう。
理屈でなくて気持ちが大事である。
親子の信頼関係をどう修復するか。
何も否定しない。
子どもの気持ちを理解する。
すると親の言うことを聞いてくれるようになる。
このことから、安全と安心の対策を３つ考えた。
①まず心を知る
②信頼関係の回復
③伝えたいことが理解される
と、説明した。
この後ディスカッションとなった。
感性価値創造性イニシアティブという言葉がある。
作り手と受け手の関係が大事になる。
ブラックアウト時のコンビニの社長がすばらしい。
でも高価なものは配備していない。
墓石安全というのがある。(筆者注：誰か犠牲者が出てからでないと、行政は動かないということ。)
未然防止は少ないのではないか。
3.11の原発事故でも同じ事故が起こらないという発想だと、起きた時に何もできない。
社会のデザインはどういうものがいいか。
すべてオープンにしておくことである。
20世紀では特許は隠しておくこととされた。
初等教育からの連続性も大事である。
ケーススタディの例を多く、具体的なものから入るのがよい。
VR体験の活用は考えるべきである。
アミューズメントからの転用である。
思考力が身につく教育が必要である。
検査データの改ざんは社会的な制裁を受ける。
急がば回れ、の教育が必要になる。
改ざんの現場はひとりぼっちの例が多い。
情報共有していれば防げたかもしれない。
今の教育自体も泥縄式では無理である。
コ・クリエーション(共に創る)という概念が大事なのではないか、ということで議論は終了した。
今回のネットシンポはZoomというネット会議システムを使った初めての経験であった。
主催者もまだ使い勝手がよくわかっていなかったようで、途中で画面がフリーズしたり、講演者以外の顔が映っていたり(カメラボタンをオフにしていない)した。
質問もチャット形式で行う、途中にネットアンケート等あれもこれも、という印象を受けた。
ただ、このネット会議システムZoomはテレビでもたびたび報道されていたりしたので、どんなものか、という野次馬根性のような感覚もあった。
今後はこうした形式のネットシンポが増えていくように感じた。
安心感自体は主観的な感覚なので、これを以下に客観性を持たせるかが重要なポイントであろう。
今回の私の質問は「AIと化学の関係性」、「安心感と正常性バイアスの関係」、「新型コロナウイルス対策で電気集じん装置」、「安心感とユニバーサルデザイン」「安心感と国連の持続可能な開発目標SDG」等を想定した。
防災に関して少し抜けていたかなと思う。
正常性バイアスは防災に関連しているといえば、いえなくもない。
今後はAIと人間の間で、安心と不安の葛藤が始まるように思い、人間の特性である『原理を知りたい』というニュートン力学のようなものが、AIを凌駕できるポイントなのかな、と思う。
＜公開シンポジウム＞
「安心感等検討シンポジウム－「安心感」とは？－」
1.日時：2020/5/28（木）13:00-17:10
2.場所：オンライン開催
3.対象：どなたでも参加いただけます。
4.主催：日本学術会議 総合工学委員会・機械工学委員会合同 安全・安心・リスク検討分科会
5.共催：日本感性工学会
6.協賛：電気学会、日本原子力学会、日本バーチャルリアリティ学会、ヒューマンインタフェース学会
7.プログラム
13：00 挨拶
大倉典子(芝浦工業大学)
13：10 (1)特別講演「人工知能と社会―安心と安全の面から考える」
甘利俊一(理化学研究所)
14：00 (2)講演「安心感の考え方」
野口和彦(横浜国立大学)
14：30 (3)講演「モノづくりにおける安全と安心の世界」
向殿政男(明治大学)
14：50 (4)講演「安全目標と安心感」
松岡猛(宇都宮大学)
15：10 (5)講演「東京大学での安全教育プログラム」
辻佳子(東京大学)
15：30－15：45 ( 休憩 )
15：45 パネル討論「安心感と社会」
（司会）大倉典子(前掲)
（パネリスト）中川聡子(東京都市大学)
矢川元基(原子力安全研究協会)
庄司裕子(中央大学)
17：00 閉会
柴山悦哉(東京大学)
－以上－
今年の5月15日に日本学術会議のHPを見ていた時に上記のシンポ(2020/5/28((木))13時から17時まで)の案内があった。
特別講演で人工知能AIのことが語られるようだったので、その場ですぐに申込をした。
すると案内メールが来て、ネットシンポのアクセス方法が説明されており、講演資料も添付されていた。
事前に予習しようとしたら、資料にパスワードがかけられていて、当日のシンポ開始前に表示する、とのことで、見られなかった。
(でも後でパスワード解除してみたが、あまり大した内容はなかった。)
プログラムは末尾に添付する。
当日午後にマイボトルのお茶を用意し、トイレに行った後、12時50分くらいにメールに記載のURLをクリックした。
すると、ネット会議システム「Zoom」の画面にアクセスした。
と同時にその画面操作のソフトがダウンロードされたらしかった。
しばらくすると、主催者がパソコン画面上に出てきて、あいさつした。
最初画面中央に主催者がアップで登場した。
その後にパワーポイント資料を使う時には、右側に縦の列で、5，6人くらいの人の顔が見えた。
ある人は画面なしの人の影が見える画面で、各画面の下にカメラとマイクのボタンがあって、カメラのボタンを押すと、登録者の人の顔が映る。
マイクのボタンを押すと、登録者の音声が聞こえるようになっていた。
またチャット機能が下部に備えられていて、何か講演者に質問がある時はチャット機能を利用して欲しい、とのことであった。
視聴者は予め、このカメラとマイクはOFFにしておいてください、と案内メールにあった。
というより、何も操作しないと、カメラとマイクは元々OFF設定になっていた。
図1 ネット会議システムの一例(今回のものではなく、他の例)
最初に挨拶として芝浦工業大学の大倉女史が行った。
日本学術会議の第三部の理工系の部会の一つに安全・安心・リスク検討分科会がある。
今まではリスク管理と感性工学という観点から検討してきたが、今期に新たに安心感のテーマも加わった。
感性は世界的に注目が集まっている。
〇〇感、安全、安心等があるが、定義があいまいである。
安全にも主観が入る。
広く意見を求める、ということで今回のシンポを企画した。
理研の甘利氏に講演依頼した後に甘利氏は文化勲章を受章され、栄誉ある方に講演いただくことになった。
当初今年の2月29日開催を予定していたが、コロナ騒動で延期となり、今日オンラインで行うことになった。
その関係で、今回の取りまとめということは難しい。
今年10月から来期(第25期)が始まるが、継続して行いたい。
なお、質問はチャットでお願いする、と 説明した。
(1)では特別講演「人工知能と社会―安心と安全の面から考える」というタイトルで、理化学研究所の甘利氏が講演した。
こういうシステムは初めてである。
人工知能AIの衝撃という言葉がある。
今は第4次産業革命の時代であろうか。
AIは人間の知能を超えるか。
世界はこの現実をどう受け止めるか。
技術は止まらない。
生命技術、遺伝子、情報技術等が高度に発達している。
社会はどう対応するか。
AIに人間は支配されるのか。
社会で考えるべき問題である。
人間とは何か。
思考、言語、宇宙史と脳の働きを紐解く。
138億年前にビッグバンが起こった。
そこから時間と空間が出来上がった。
46億年前に地球が誕生した。
生命誕生は36億年前である。
生命は情報と物質でできている。
自分の情報をDNAの中に持った。
生命は揺らいできた。
生命はその揺らぎでどんどん進化してきた。
この進化は物理学の法則には当てはまらない。
生命科学の分野の問題である。
単細胞から多細胞に進化した。
恐竜が栄えた時期もあった。
しかし、恐竜が滅びて、人類が登場したのは約700万年前である。
旧人類、新人類等を経て、ホモサピエンスが出てきた。
ロボットに意識はあるのか。
宇宙は物質の法則で成り立つ。
生命の法則は情報と物質の相互作用で、進化する。
文明の法則は情報と物質と心が関係する。
文明は社会と文化をもたらす。
脳の神経系はコンピューターの発達を促した。
AIと脳のモデルは歴史的な流れがある。
最初にプログラムを作って知能の代替を考えた。
でもうまくいかなかった。
人間の脳は教育と学習で多く形作られる。
次に神経系モデルを作って学習させた。
でもうまくいかない。
パソコンの能力不足があった。
1970年から1980年に第2次ブームが起きた。
学習能力は上がったが、実用には至らなかった。
第3次ブームが2010年頃から始まった。
深層学習という概念が出てきて、人間以上の識別能力を持つようになった。
囲碁や将棋ではAIにかなわなくなった。
層状学習の回路網を作ってやれるのが、深層学習のいいところである。
情報表現の獲得ができた。
でも透明性があるわけではない。
やってみて、たまたまうまくいったというようなところもある。
スマホは今やものすごい能力を持っている。
大規模系の特徴はランダムな初期回路の近傍に正解がある。
大規模回路の極小解は最小解の付近に集まる。
深層学習は大規模なデータを基にした計算力が優れている。
実験式の生成は、入力を基に正解に導く。
現象の予測として、例えば日食の予測等がある。
ケプラーの法則だけで人間は満足しないで、ニュートン力学、アインシュタインの相対性理論等へと進んでいく。
原理の創出、理解は人間の特徴である。
速度、加速度、力の概念を作り上げた。
それから、電磁気学、量子力学、相対性理論へと続く。
深層学習はブラックボックスか。
だから危険なのか。
仕組はわかっている。
式は再現可能である。
でも現象の原理は示さない。
ニュートンがやったことをAIがしようとしても無理である。
脳は基本原理の探求ができる。
脳において、計算論的神経科学を考える。
AIは技術による原理の実現はできる。
脳をゆさぶる。
新しい方向が見えれば、そちらに向かう。
脳は進化し、停滞し、古いものを捨てる。
数理脳科学ができる。
AIは脳に何を学ぶか。
パターン認識は脳より優れている。
でも脳は原理を求める。
意識の発生がある。
AIに意識はあるか。
人間は共同作業で自分の意図を自分で知る。
言語という論理的思考や数学を使う。
心の理論がある。
共通理解の上に社会は成り立つ。
葛藤する心がある。
究極のゲームを例に挙げる。
10万円をAとBの2人で分けるとする。
Aは自分が7万円、Bに3万円と提案する。
Bは同意、または拒否する。
この時にBは自分の立場や今後のAとの関係等を考慮した上で判断する。
公正であるべきか、後の利益のことを考えるか。
Libetの自由意志の実験がある。
人間の脳の決定がどのように行われているか調べようとした。
今から30年前の実験である。
時計を６で止めるか、９で止めるか。
ボタンを押すと、時計は止まる。
９で止めたとする。
あなたはそれをいつ(when)決めたか。
６あたりで、と答える。
でも脳は３くらいで決めている。
脳のダイナミクス、意志決定と行動、反省・正当化・論理の間に相関がある。
予測(先付け)と後付けの問題がある。
AIが脳に学ぶことはあるか。
心を持ったロボットが作れるか。
人の心の動きを理解する。
ロボットが心を持つように見える。(感情移入)
ロボットは私の心をよくわかっていると勘違いする。
心は不合理である。
喜びや苦悩や愛がある。
ロボットは合理的である。
ただ一度の人生である。
人間の心は進化の産物である。
ロボットは部品が壊れれば取り換える。
AIの計算能力はすでに人間を上回る。
人間はすばらしいが、愚かである。
歴史的に何度失敗しても懲りない。
AIの安全性、制御可能性が求められる。
暴走するとすれば、それは人間の暴走を範としているからである。
AIは面白いとして世界中で研究されている。
社会に組み込まれている。
技術は止まらない。
AIは仕事を奪うか。
格差の拡大は起きる。
べーシックインカムと人類の家畜化が始まる。
働く喜びが失われる。
家畜化は社会の崩壊を招く。
社会や文明は脆弱性崩壊へと進む。
我々は何をすべきか。
AIブームは終わるか。
文化国家としてAIをどう活かすか。
物量作戦はだめである。
理論とアイデアの勝負になる。
産業の情報化が欠かせない、と説明した。
(この後、会場のチャットから司会が質問を拾い上げ、甘利氏に質問、以下同じ形式)
〇〇の解はあるか。(〇〇はよく聞き取れなかった) ニュートン力学はあらゆるものを含む法則である。
どういう原理で実験は成立するか。
人間の心の葛藤はAIで作れるのか。
おそらく合理的に考えるだろう。
シンギュラリティ(特異点だが、ここでは人間の能力をしのぐ性能を持つこと)は来るか。
来ないと思う。
人間の方が賢いからである。
ABC予想やフェルマーの最終定理は、解くのに350年かかっている。
AIも解くかもしれないが、解きたいとは思わないだろう。
意欲、喜び、達成感が人間の特徴である。
(筆者もAIと化学の関連はどうか、とチャット質問を出してみたが、司会は取り上げなかった。というよりわからなかったかもしれない。今の化学はまだ論理性に乏しく、化学反応も複雑なものはよくわからない状況である。そういう化学の性質は、おそらくAIが一番不得手とする非合理性の世界が充満しているからである。)
(2)の講演では、「安心感の考え方」というタイトルで、横浜国立大学の野口氏が講演した。
「安心」という考え方を日本学術会議で考え出した。
その議論は難しいので、「安全」と一緒に考える。
視点としてはより良い社会を創ることである。
では、より良い、とは何か。
活力があり、安全な社会である。
納得性の高い社会である。
コロナがまん延している社会では、医療に対して安心していない。
でも経済活動を始めるというと、みんな納得する。
安心感と安心は本来使い分ける必要があるが、今日の話では、全部安心として扱う。
整理する視点は以下の3つである。
①安全と安心
②イノベーションと安心
③安心の社会を構築する仕組
まず①から見ていく。
(安心)＝(安全)×(信頼)
という式を仮定する。
(信頼)＜１であれば、不安になる。
(信頼)＞１であれば、過信となる。
(信頼)としては、制度、組織に対する信頼、専門家への信頼、科学への信頼、自分の知識への信頼、等がある。
安全は許容できないリスクを小さくすることである。
(社会が実感する安全)＝(安全)×(安心)
(安心)＝１で安定、(安心)＜１であれば不安、(安心)＞１であれば過信になる。
(安心)＜１の１つに科学の限界への警報の意味がある。
励起する(安心)と阻止する(安心)がある。
(安心)は市民と技術を分かつものか。
市民と技術者を結ぶ通訳が必要と考える。
②のイノベーションと安心では、安心は得られるのか。
変化や変革を求める社会で、安心社会にできるのか。
成長や変化の不確かさは安心を損なう。
イノベーションと安心の両立は可能か。
リスクコミュニケーションの開発が必要である。
③の社会の仕組について、安心の社会の構築には安心を脅かすリスクについて知ることである。
原子力についてはエネルギー供給の考え方もある。
変化が緩やかであればいいのか。
しかし、グローバル化が急速に進み、100％安心できる社会はできるか。
どうやって構築するか。
行政、企業、専門家の責任は大きい。
マスコミの役割も大きい。
リスクの全貌の喚起が必要である。
世論の不安がある。
不安なので反対、というのもある。
市民の役割は重要で、安心をどこまで考えられるか、である、と説明した。
会場からは、安心は数式で表されるのか。
わからない。
(安心)＝(安全)×(信頼)を関係式と考えて欲しい。
安全の時間軸は今である。
安心はその時その時で変わる。
安全もよくわからない。
安全目標の議論をすると、安心の議論も深まる。
国によって安心は異なるかもしれない。
イノベーションと安心では、高いものを要求すると不安になる。
オリンピックがいい例である。
高い技術を要求され、試合が始まるまで安心とはいえない心理状態に置かれる。
安心を扱うサイエンスはあるのか。
このシンポ等を通して、安心の学問体系の骨格を作るのではないかと思う、と説明した。
(3)の講演では「モノづくりにおける安全と安心の世界」というタイトルで、明治大学の向殿氏が講演した。
モノづくりにおける安心は安全と切り離せない。
消費者は安心を求め、企業や国は安全を確保する責任を負う。
安全は客観的、合理的、科学的であり、安心は主観的である。
安全と安心は根本では連結しているのではないか。
安全も安心も共に価値観が関係している。
安全の基本は情報公開である。
良いも悪いも公開し、隠さない。
市民がパニックを起こすから、隠すのは正しくない。
正当に怖がることが大事である。
(安全)×(信頼)＝(安心)＜1となるようなことは困る。
リスクコミュニケーションが重要になる。
安全と安心を結ぶ方程式がある。
モノづくりにリスクゼロはあり得ない。
安全も信頼もマイナスだと掛け算でプラスという指摘があったが、安全も信頼もマイナスだとみんな安心しない。
市民の科学知識の問題がある。
みんなが正しく理解するというのは非現実的である。
安全ビジネスの存在がある。
自然食品だから安全、添加物を使っていないから安心、という。
安全より危険の方がニュースバリューが高い。
工学システムに必要な３つの機能として、本来機能、安全機能、安心機能がある。
安心装置等があるのか。
安全、安心は天から降ってこない、と説明した。
会場からは原発災害で専門家はどれだけ信頼できるか、と質問があったが回答を聞き逃した。
筆者は安心にユニバーサルデザイン(UD)は関係するか、とチャット質問した。
司会がこれを取り上げてくれたが、向殿氏は重要な概念である、と短く答えただけであった。
(4)の講演では「安全目標と安心感」というタイトルで、宇都宮大学の松岡氏が講演した。
安全目標とは何か。
達成すべき安全のレベルを示したものである。
安全目標⇔安全⇔安心⇔安心感の関連性がある。
安全目標を誰が決めるか。
どのように判断するか。
安心と安心感は同じか。
絶対安全は存在しない。
機器の劣化、故障、ヒューマンエラー、異常気象等安全を脅かす要因は際限なく存在する。
リスクが残っている状態のどこかで安全と判断する。
国際基準では、安全とは許容不可能なリスクのないこと、と決められている。
ISO/IEC Guide51である。
図2 安全に関するISO/IEC Guide51の図(ALARP：As Low As Reasonaboly Practicable：合理的に実行可能な範囲)
安全は社会的なコンセンサスを基に判断する。
しかし主観を離れることはできない。
安全目標は社会的な合意の取れた安全である。
ステークホルダーを考慮に入れる。
安心とは、安全であることが信じられることである。
安全と安心は一対一対応である。
信じられるという要素がある。
安心感とは個人が持っている感覚であり、自分で感じるものである。
錯覚で安心することもある。
航空機は安全とみることができる。
でも一抹の不安を持っている人もいる。
何回も利用することで、安全でなくとも安心感ができる。
広く受け入れられる安全基準でも、リスクゼロではない、と説明した。
会場からは、コロナ死亡は800人だが、自転車事故で500人亡くなっている。
なぜ取り上げ方が違うのか。
コロナは新しい現象である。
自転車は安全と錯覚しているところもある。
利便性や制御可能性で考えると、自転車はより安全と言えなくもない。
非常時と通常時の安全、安心は異なるか、という問いに、その通り、と答えた。
筆者は安心と正常性バイアス(自分だけはひどい災害には遭わないという思い込み)は関係あるか、と聞くと、大いに関係があると答えた。
(5)の講演では「東京大学での安全教育プログラム」というタイトルで、東京大学の辻女史が講演した。
社会背景として、全体最適、人の多様化、グローバル化の問題がある。
ジェンダーという点では、タイには18のジェンダーがある。
予期せぬ災害もある。
ビジョン開発の必要性があった。
人々に対する教育、法整備、コロナ感染リスク等をどうすればいいか。
学際研究の加速が必要である。
社会の複雑多様化が進む。
エネルギー面でいえば、水素社会の到来が想定されている。
水素社会のためにどうやって水素を作るか。
水素の輸送、保管はどうするか。
多様なエネルギー源がある。
GHG(温室効果ガス)排出削減もある。
技術イノベーションや水素情報が望まれている。
市民教育も必要である。
産業界は事故が多くなっている。
メンテナンスのところで起きている。
大学は24時間非定常時である。
大学も産業界も同じで、非定常時に事故は起きる。
非定常状態の連続である。
想定外の状況で事故は起こる。
学問の自由、研究の社会への還元が求められる。
人材輩出、情報発信、情報開示が求められる。
大学での知識の習得、環境安全の知識を得ることが必要である。
広い視野を持ち、安全教育を行う。
環境安全教育プログラムがある。
段階的に教育していくが、その基礎はしっかりしておく必要があり、その上で各論がある。
座学＋実習・演習で行う。
VR(バーチャルリアリティー)も組合せる。
VRの教材作りも必要になる。
もらい事故、相互作用事故等についてVRを活用する。
溶媒使用時の環境安全に留意する。
CO2の排出量、安全性と経済性についても考えさせる。
人材輩出、イノベーションを起こす研究も必要である、と説明した。
会場から、事故の隠ぺいの心配はないのか、との問いに、そういうことも含めて考える、との答えであった。
筆者は事故推定にAI活用はあるかと聞いたら、トライしている最中である、との答えだった。
この後に休憩に入った。
そこでネット参加者約170名くらいにアンケート要請があった。
参加年代、男女別、職業(会社員、研究者、大学関係等)を問うものであった。
その後に、パネル討論があったが、そこでパネリスト3人が紹介され、一人ずつ簡単な専門分野の講演があった。
東京都市大学の中川女史は電気が専門で、「ブラックアウトから考えるレジリエンス」というタイトルで講演した。
エネルギーセキュリティが大事である。
物事に100％はない。
停電したら、レジリエンス(対策の柔軟性の意味)の要点は２つある。
ロバストネス(強靭性)とリダンダンシー(多重性)である。
停電対応では２つのことが大事で、ラピッド(迅速に)、リソース(ヒト、モノ、カネ)である。
リソースに注目した。
2年前の北海道のブラックアウト(大地震で北海道最大の火力発電所が停止、それから連鎖してブラックアウト)が起きた。
技術論はしない。
生活の安心感への影響を見る。
インフラの停止があった。
地震というより、その後の停電でシステムが動かない。
物流が停止した。
食料への不安があった。
この時の優れた対応例を紹介する。
北海道のあるコンビニ店約1000店が通常営業をしていた。
図3 コンビニ店が北海道ブラックアウト時に営業の例(Fukkoの日々雑感HPより抜粋)
車から電気を供給してレジを動かした。
ガス窯を準備していた。
重油も準備していた。
安心感がある例である。
日常生活のレジリエンスの例でユーザー側でも対応可能である。
危険のタネを、カネをかけて100％つぶすのは無理である。
グレーデッドアプローチ(等級別扱い、優先順位付け)が大事で、何段かは準備する。
コトは起こるもの、ということを前提とする。
知らしむべからず、ボーッと生きる、今はSNSの時代である。
疑心暗鬼の社会、安心感の対極の社会である、と説明した。
続いて、原子力安全研究協会の矢川氏が「知らぬが仏、から知る権利へ」というタイトルで、講演した。
サービスの受け手と預け手がある。
レシピエントとプロバイダーである。
プロバイダーの安全提供とレシピエントの理解・納得で社会は成り立つ。
ここで第三者の見識と中立性をはさむ。
半世紀前には医師への絶対信頼から、現代のセカンドオピニオンへの変化がある。
「ドクターＸ」のドラマにも見られるようにレシピエントの知識レベルが向上している。
原発の信頼性でも3.11以前の安全神話が崩壊した。
新型コロナウイルス対策でPCR検査を増やせ、と要求して、本音の部分では医療崩壊になると思っている。
安心感の向上に逆行している。
保健所で検査してくれない。
不安なままである。
コロナ感染で日本は死亡者数が少ない。
BCGの影響か。
安心感向上の裏側で医療側は大変である。
古代ローマのタラゴナ水道橋は楔型土台の設計である。
図4 タラゴナ水道橋の概要
笹子トンネルの崩落では、天井のコンクリートが落下した。
ローテクだと人は安心する。
今原子力業界では、SMR(小型原子炉)を研究している。
電動ポンプを使わないで、自然循環冷却である。
大型炉は開発が止まっている。
ローテクに戻っている。
目で確かめられるかどうかである。
放射線やコロナはできない。
リベット接合は安心で、溶接接合は不安である。
溶接接合はハイテクだがいいわけではない、と説明した。
3人目は中央大学の庄司女史が「安心感と社会」というタイトルで、講演した。
(安全)×(信頼)＝(安心)の関係式がある。
安全は大前提であり、信頼は透明性が大事である。
エンジニアは安全から安心へと志向する。
ノイズをできるだけ小さくする。
でも今はノイズとかはSNS社会で無視できない。
一旦崩壊すると信頼は回復がやっかいである。
子育てとの類似性を思う。
親の理屈を押し付けると、子どもの気持ちを無視してしまう。
理屈でなくて気持ちが大事である。
親子の信頼関係をどう修復するか。
何も否定しない。
子どもの気持ちを理解する。
すると親の言うことを聞いてくれるようになる。
このことから、安全と安心の対策を３つ考えた。
①まず心を知る
②信頼関係の回復
③伝えたいことが理解される
と、説明した。
この後ディスカッションとなった。
感性価値創造性イニシアティブという言葉がある。
作り手と受け手の関係が大事になる。
ブラックアウト時のコンビニの社長がすばらしい。
でも高価なものは配備していない。
墓石安全というのがある。(筆者注：誰か犠牲者が出てからでないと、行政は動かないということ。)
未然防止は少ないのではないか。
3.11の原発事故でも同じ事故が起こらないという発想だと、起きた時に何もできない。
社会のデザインはどういうものがいいか。
すべてオープンにしておくことである。
20世紀では特許は隠しておくこととされた。
初等教育からの連続性も大事である。
ケーススタディの例を多く、具体的なものから入るのがよい。
VR体験の活用は考えるべきである。
アミューズメントからの転用である。
思考力が身につく教育が必要である。
検査データの改ざんは社会的な制裁を受ける。
急がば回れ、の教育が必要になる。
改ざんの現場はひとりぼっちの例が多い。
情報共有していれば防げたかもしれない。
今の教育自体も泥縄式では無理である。
コ・クリエーション(共に創る)という概念が大事なのではないか、ということで議論は終了した。
今回のネットシンポはZoomというネット会議システムを使った初めての経験であった。
主催者もまだ使い勝手がよくわかっていなかったようで、途中で画面がフリーズしたり、講演者以外の顔が映っていたり(カメラボタンをオフにしていない)した。
質問もチャット形式で行う、途中にネットアンケート等あれもこれも、という印象を受けた。
ただ、このネット会議システムZoomはテレビでもたびたび報道されていたりしたので、どんなものか、という野次馬根性のような感覚もあった。
今後はこうした形式のネットシンポが増えていくように感じた。
安心感自体は主観的な感覚なので、これを以下に客観性を持たせるかが重要なポイントであろう。
今回の私の質問は「AIと化学の関係性」、「安心感と正常性バイアスの関係」、「新型コロナウイルス対策で電気集じん装置」、「安心感とユニバーサルデザイン」「安心感と国連の持続可能な開発目標SDG」等を想定した。
防災に関して少し抜けていたかなと思う。
正常性バイアスは防災に関連しているといえば、いえなくもない。
今後はAIと人間の間で、安心と不安の葛藤が始まるように思い、人間の特性である『原理を知りたい』というニュートン力学のようなものが、AIを凌駕できるポイントなのかな、と思う。
＜公開シンポジウム＞
「安心感等検討シンポジウム－「安心感」とは？－」
1.日時：2020/5/28（木）13:00-17:10
2.場所：オンライン開催
3.対象：どなたでも参加いただけます。
4.主催：日本学術会議 総合工学委員会・機械工学委員会合同 安全・安心・リスク検討分科会
5.共催：日本感性工学会
6.協賛：電気学会、日本原子力学会、日本バーチャルリアリティ学会、ヒューマンインタフェース学会
7.プログラム
13：00 挨拶
大倉典子(芝浦工業大学)
13：10 (1)特別講演「人工知能と社会―安心と安全の面から考える」
甘利俊一(理化学研究所)
14：00 (2)講演「安心感の考え方」
野口和彦(横浜国立大学)
14：30 (3)講演「モノづくりにおける安全と安心の世界」
向殿政男(明治大学)
14：50 (4)講演「安全目標と安心感」
松岡猛(宇都宮大学)
15：10 (5)講演「東京大学での安全教育プログラム」
辻佳子(東京大学)
15：30－15：45 ( 休憩 )
15：45 パネル討論「安心感と社会」
（司会）大倉典子(前掲)
（パネリスト）中川聡子(東京都市大学)
矢川元基(原子力安全研究協会)
庄司裕子(中央大学)
17：00 閉会
柴山悦哉(東京大学)
－以上－
この記事へのコメント