「科学と倫理」セミナーに参加
「科学と倫理」セミナー(10/26(土))に参加した。
8月8日(木)に日本原子力学会から上記セミナーの案内メールが来た。
原子力学会でも倫理関係でいろいろ活動しているので、その関係で来たのかと思った。
しかし、かなり先なので覚えていられるかな、と思った。
一応参加申し込みをして、手帳とスマホに記録しておいた。
10月20日(土)午前はマンションでサロンを開いたが、誰も来なかった。
セミナーは午後からで、多少早めに家を出た。
会場の日本財団ビルは前に行った記憶があるのだが、道に迷った。
東京メトロ銀座線の虎ノ門駅を降りて虎ノ門病院の近く、というのがわかっていたが、それでも行く途中に道を1個手前で曲がったようで、徒歩5分のところを15分くらいウロウロしていた。
でも予め30分前に着くように家を出たので、開会10分前くらいには同ビルに着いた。
途中で500mlのペットボトルのお茶を買って行った。
会場受付で名前を言うと、入門カードをくれた。
プログラムは末尾に添付する。
このビルのセキュリティ上、土日は閉館しているようで、今回は特別にセキュリティドアを通過するようになっていた。
会場に入ると、前の方の席に座った。
すぐにアンケートと質問票に記入した。
アンケートは事前にわかることはすべて書いた。
質問票はすべての講演が終わった後に回収するもので、前もって書けないものであるが、事前に質問点を数点用意していたので、それを書いておいた。
初めに、日本科学協会会長の大島女史が開催の挨拶をした。
3年前からこのシリーズを検討してきた。
シリーズの第一弾は「科学と宗教」であった。
第二弾が本セミナーの「科学と倫理」である。
第三弾は「科学とアート」を予定している、とのことであった。
続いて、概要説明をコーディネーターの酒井氏が行った。
今回のテーマの「科学と倫理」を市民目線でみんなで考えてもらいたい、とのことだった。
第1部は研究者の科学倫理である。
第2部は未来の科学倫理である。
(1)では基調講演「3 .11以後の科学技術と社会倫理」というタイトルで、東北大学の野家 (のえ)氏が講演した。
科学技術の倫理としては、内部倫理と外部倫理がある。
前者は職業倫理である。
後者は科学者と社会的な影響との関係に関するもので、3.11の福島原発事故後に大きく取り上げられた。
科学技術の巨大化と社会的な影響が問題となってきた。
湯川秀樹博士はパグウォッシュ会議という科学者の核兵器と平和に関する運動に関わってきた。
今は生命科学とiPS細胞に関するプロジェクトがある。
17世紀に科学革命があった。
西洋近代科学の始まりがあった。
サイエンスSCIENCEという言葉ができた。
19世紀の半ばにサイエンティストという言葉ができた。
それまではフィロソファ(哲学者)と呼ばれていた。
ニュートンもフィロソファであった。
トランスサイエンス(科学と技術の融合、原爆製造計画のマンハッタン計画がその例)という言葉が出てきた。
キュリーもアインシュタインも単独レポートを書いた。
今は共同研究者がたくさんいる。
一つの装置で何千万円、何億円という費用がかかる。
政府の予算の重点配分が4部門ある。
研究プロジェクトのリーダーは中小企業の社長みたいなものである。
ピアレビューのような評価があるし、研究費を受け取ることにより、社会的な責任が生じる。
1980年にアメリカでバイ・ドール法が成立して、研究者は金もうけしてよいことになった。
広島と福島の爆発は文明災、と梅原猛は言った。
3.11後に科学者の信頼は低下した。
イギリスでは狂牛病騒ぎの時に科学者が人間に感染しないとしていたのに、人間感染が起きた。
Crisis of Confidence(信頼の危機)であった。
科学技術白書の調査において、科学の方向性を誰に任せるか、というアンケートがあった。
専門家に任せる、は20％にすぎなかった。
トランスサイエンス(領域横断的科学)が今問題となっている。
ワインバーグの言葉に「科学には、問えるが答えられない問題がある」というのがある。
低線量放射線の生物影響等がその例である。
事実と価値を切り分けできない。
科学と政治・経済・社会が切り分けられない時代になっている。
自然科学と人文・社会科学の連携が必要になる。
ドイツのベックはリスク社会を提言した。
近代社会では国家の課題は貧富の差の解消であったが、第二の近代化の現代ではリスクの分配が国家の課題とする。
組織化された無責任が出てきた。
光化学スモッグ、PM2.5、酸性雨、福島の放射能汚染がある。
リスクは空間的・時間的制限はない。
一社では解決できない。
東電は政府の管理下にある。
3.11後の科学倫理が問題である。
原子炉の過酷事故はトランスサイエンスの例である。
安全にはコストがかかる。
コストには政治が関わってくる。
放射能による大気汚染、土壌汚染、国土の一部喪失、生命権の破壊、生活圏の破壊(コミュニティ文化の喪失)の問題が出ている。
伏見氏が原子力は東海村で始まったといった。
原子力三原則、自主、民主、公開ができた。
放射能処理は未だにできていない。
オルキルオト(フィンランドの高レベル廃棄物処分場)に行った小泉元首相は反原発に転じた。
関電のリスクの地域間と世代間の公平はあるか。
受益圏と受苦圏の差がある。
福島の電気は東京に行く。
福島の電気は東北電力が供給している。
世代間倫理、未来世代に責任がある。
イロクォイ族という米の先住民族がいる。
7世代後にも影響が及ぼすことを考えて行動するように代々伝えてきた。
7世代は約200年である。
科学者が守るべき原則かもしれない。
科学者が守るべき一つの原則がある。
マートンの「CUDOS」という科学者が守るべき４つの原理を提案している。
共有性(Communalism)、普遍性(Universalism)、無私性(Disinterestedness)、組織的懐疑(Organized Skepticism)である。
かつて宗教が科学に介入した歴史がある。
天動説と地動説等がその例である。
世界的な会議としてアシロマ会議がある。
(これは以前遺伝子組み換えに関するガイドラインを議論したことがあり、その後にAIに関する議論を行った。筆者注)
アシロマAI23原則が提案された。
(この23原則は以前このブログで解説したような気がする。筆者注)
日本で製造物責任法(PL法)というものがある。
医療分野でインフォームドコンセント(患者に理解できる医師の説明)やセカンドオピニオン(主治医以外の医師の意見)がある。
科学のシビリアンコントロールが必要である、と説明した。
(2)では「科学者三原則」というタイトルで東京大学の酒井氏が講演した。
ここで提案された「科学者三原則」の文については末尾に添付しておく。
海外の倫理規範の提案等は多すぎる。
必要最小限でいい。
ここに提案するのは３つのことだけである。
第1条 証拠保持の原則、第2条 他者尊重の原則、第3条 研究自由の原則
である。
第2条の他者を傷つけるという例で、注射を挙げてみる。
注射は他者を害するが、注射によって健康という利益があるので、OKである。
第3条の研究の自由では、政治や宗教の介入を排除する。
地動説、進化論は宗教との闘いの歴史であった。
(3)の「鼎談(ていだん)」では野家氏、酒井氏、そしてディスカッサントの廣野氏が対談した。
内部規範は(2)の科学者3原則でカバーされる。
ドローンの石油施設攻撃のような軍事利用が問題となる。
E=mc2という相対性理論により核兵器ができた。
マンハッタン計画はその直接利用である。
軍事研究に関してやってはいけないこととして、日本学術会議が声明を出した。
ただ軍事利用できるかどうかグレーなものをあるので、予防原則を用いるべきではないか。
科学のシビリアンコントロールについて、外国では進んでいるのに日本ではなぜ進まないのか。
原発の例では国策として推進した。
市民は単なるデマにも踊らされる。
NGO/NPOの役割が外国では強い。
日本もNGO/NPOが頑張るのを期待したい。
第2部は「未来の科学倫理」というテーマで3人の講演があった。
(4)では「合成生物学の衝撃」というタイトルで、毎日新聞記者の須田女史が講演した。
(須田女史には以前から注目していた。文春データによると、早大物理学科修士のリケジョである。小保方晴子さんのSTAP細胞事件の時に追跡取材して、本まで出している。筆者注)
以前はSTAP細胞を追っていた。
今はゲノム編集に注目している。
ゲノムは生命の設計図である。
DNAの2％が遺伝子である。
DNAは二重らせん構造である。
塩基4個の組合せで構成されている。
今ミニマルセルというものがある。
(文字通り訳せば最小のセルという意味であるが、人工生命体を作り出した実験装置のことを指すらしい。筆者注)
2000年頃から合成生物学という分野が発展してきた。
図１ 「合成生物学の衝撃」の本の表紙
そのベースになる考え方がファインマンの「自分で作れないものを、私は理解していない」という工学的な思考である。
それを生物学の分野に持ち込んだ。
ゲノムを読んで解読することから、ゲノム編集へと発展した。
クリスパーキャス9というゲノム編集に必要な技術が開発されて、一気にゲノム編集が現実味を帯びてきた。
今合成生物学の分野は２つの大きな流れがある。
①生物学の工学化、
②設計したゲノムを一から合成する
というものである。
①では生物を使ってコンピュータを作ることである。
シリコンチップであれば1千億個必要だが、マイコプラズマという肺炎を起こす最近は10億個の細胞でできている。
これならば理解できるとMITの工学者は思った。
MITで合成生物学の講座を開いた。
それに合わせてDNA合成会社ができた。
DNA設計図をDNA合成会社に送る。
その会社で人工DNAを作り、MITに戻す。
それを大腸菌に埋め込んで実験する。
生物版ロボコン(ロボットコンテスト)である。
図２ 合成生物学の流れの一例(筑波サイエンスニュースより抜粋)
これらの考え方を応用すると火星環境を地球と同じにしたり、海のプラスチックゴミ問題を解決したりできる。
ベンチャーも多く参加している。
投資熱も出て、1800億円くらいになっている。
マラリア特効薬等を開発しようとしている。
従来ゲノム編集は効率が低かった。
オフターゲットといって、狙ったところ以外の部分の改変が起きていたりした。
でもクリスパーキャス9という技術が出てきた。
これを使って、中国でゲノム編集の双子の情報が出てきた。
人の受精卵を変えていいのか。
デザイナーベビーの映画「ガタカ」があった。
旧ソ連で生物兵器の研究があった。
2つの生物の組合せで新しい生物を作った。
天然痘に似たウィルスを作った。
今、米DARPA(国防総省の機関)が合成生物学の最大のパトロンである。
NIH(米国立衛生研究所)でも公にはなっていないが、研究しているかもしれない。
１つの種を絶滅させられる。
ヒトゲノムを合成することの是非が問われている。
ベンターのミニマルセルの動画を見せられた。
図３ ミニマルセルの絵(動画ではない：東洋経済ONLINEより抜粋)
試験管の中で細胞分裂のようなことが起こっている動画であった。
人工生命ができる可能性が出てきている。
新たに生物を作ることが可能になってきている。
ベンターは「神はいない。あるのは社会の基準だけだ」という。
今、議論の場を作ろうとしている。
社会の基準は刻々と変化している。
デザイナーベビーは許されるのか。
火星に行くと、放射能や重力が地球と違う。
そういう環境に耐えられるように人類の改変は許されるのか、ということで講演は終わった。
この後、須田女史と廣野氏の対談があった。
STAP細胞等、研究にははやりすたりがある。
廣野氏はシロアリの研究をしている。
人が人を意図的に作れる時代なのか。
合成生物学を短期・中期・長期で考えてみたい。
長期的にはヒトゲノムをコンピュータ上で設計していいのか。
直近では産業応用が始まっている。
どういう問題が起きるか。
生物学の予測不可能性を危惧する。
自然に放出しても消滅できると過大評価している気がする。
蚊の一種を絶滅させる研究もある。
難病を直すのであれば、ゲノム編集は許されると考える科学者は多い。
(5)では「AI時代の科学技術倫理」というタイトルで、慶應義塾大学の前野氏が講演した。
AIの心が人間を超えたらどうなるか。
幸せの研究をしている。
今日のトピックはシンギュラリティで、ディープラーニングの開発、量子コンピュータの開発で加速する。
シンギュラリティは元々「特異点」という意味だが、AI分野では人間がAIに負ける時を示す。
この時、人間は何もできないことになる。
今のAIはパターン認識が得意である。
がんの診断、自動運転、自動翻訳等がある。
心はどう作ったらよいか。
今は第3次AIブームだが、50次くらいで人間を超えられるかもしれない。
イノベーションは予測不能である。
脳は1千億個の電源スイッチである。
2045年にはAIは人間を超えない？
人類はAIに超えられるとNO.2になる。
情報のコストは減少し続けている。
仏教の、インドから中国へ、中国から日本へ伝来するのに千年かかった。
エネルギーコストも減少し続けている。
なんでも安価で高水準にある。
人類の未来はパラダイスか？
GAFA(グーグル、アマゾン、フェイスブック、アップル)がAIを作ると金持ちになる。
貧富の差が拡大する。
多くの人はAIに職を奪われる。
古代ギリシアと似ている。
昔の哲人は哲学、アート、スポーツに勤しんだ。
ロボット、AIが人間を管理してくれる社会になる。
環境に配慮しないのは犯罪になる。
犯罪は抑止される。
この後に、前野氏と東大の酒井氏が対談した。
未来は幸福になるのか、不幸になるのか。
未来予測は倫理問題である。
あなたに向いている仕事は〇○である。
命令によるか、親切か。
誰が支配しているのか、による。
結婚もAIが見つける？
最大多数の最大幸福である。
将棋やチェスは名人でもAIに負ける。
AIの判断をプラスにするようにしていけばいい。
上から目線のAIは嫌だ。
車の指示に人は従うべきか。
メーカーにより、強気のAIと弱気のAIができる。
市民は置いていかれる。
技術者を信用するべきか。
車も時々わからないことがある。
自動運転の電車は安全である。
一般道路も人に介入させない方がよいか。
首都高はAIに限定した方がよい？
人間に説明できるようなAIがあればいい。
ディープラーニングはブラックボックスである。
ある売り場に行くと、売り上げが2割伸びる。
AIがタクシーの場所を指定する。
ロボットは人間に従う？
シンギュラリティの世界がある。
AIの進展は子どもの教育にかかっている。
(6)では「人類の生存と宇宙進出の問題点」というタイトルで、南山大学の神崎氏が講演した。
宇宙倫理を研究している。
大学では宇宙のサステナビリティ・スタディ(持続可能な研究)を教えている。
宇宙開発は生きている条件を変える。
倫理を変える可能性を持っている。
手塚治虫は21世紀の夢ということで、人間はいつ月世界を征服できるか、宇宙倫理学は21世紀にできると予言した。
今年のノーベル物理学賞は系外惑星の発見に贈られた。
この惑星は数10光年の距離にある。
今の技術では何年で到達できるか。
宇宙開発は地球に住めなくなった時のバックアップである。
宇宙のサステナビリティがある。
例としてJJ-FASTがある。
宇宙開発機構JAXAが熱帯雨林監視システムを動作させて、森林伐採の監視を行っている。
衛星のモニタリングでクジラの監視を行っている。
生物多様性の保全に衛星モニタリングは役立つ。
1972年に万博があったが、当時は米ソ開発競争の時代であった。
宇宙から地球を見ると、ブルーマーブルな地球があった。
有限で閉じ込められている。
今まで宇宙に行った人は500～600人である。
我々は宇宙に行かない。
地球は有限である。
地球のサステナビリティが大事である。
宇宙条約と月協定がある。
国家活動を律するものである。
プライベートセクターの参入で活性化している。
人類/国家/企業のそれぞれの論理がある。
論点は２つある。
資源の公正配分と8分の１原則である。
後者は資源必要量の最大値の8分の1になる段階で制限を設けるということである。
この後に神崎氏と大阪府立大学の金子氏が対談した。
系外惑星は論外である。
地球こそ大事である。
スーパーアースを含め、2千億個の惑星がある。
ボイジャーは18km/sの速度で宇宙を航行している。
4.37光年のところに行くのに、7万年かかる。
手塚さんに2，3回会ったことがある。(金子氏)
宇宙資源の有効性は疑問がある。
コストを無視した議論になっている。
希少金属の持ち帰りは意味がある。
米の宇宙ホテル構想がある。
弾丸旅行になる。
宇宙は24時間生活する場所ではない。
短期滞在型である。
宇宙はロボットに任せればいい。
宇宙への旅の途中で生まれた子どもの意見はどうなるか。
この後、講演者が全員壇上に上がり、会場からの質疑応答となった。
私は予め、人間の身体に葉緑体を埋め込み、食料危機に食料不要の人間を作るのはどうか、台風19号のように被害が大きい自然災害は環境制御して熱帯低気圧程度に下げるのはどうか、等を質問で書いておいた。
すると、この両方の質問について、司会が取り上げて、講演者に聞いていた。
さすがにこれらの質問には面食らったようで、誰も即答ということもなく、あいまいな答えであったように思う。
ただ誰だったかは覚えていないが、(1)の野家氏のイロクォイ族という米先住民族の7世代後にも影響が及ぼすこと、ということを取り上げ、もし葉緑素型人間ができたとしても、7代後までの責任が持てるか、というようなことを言っていた。
以上のことで、このセミナーは終了した。
今の時代は既存の価値観が崩壊している時代である。
例えば、インターネットの普及によって、テレビとラジオの権威が落ちた。
Youtubeを見ることで、テレビとラジオを見聞きしなくてもよくなった。
新聞の速報性についても、インターネットのプロバイダのヤフーやビッグローブ等で、ニュースは2、3時間おきに更新されて、新聞に載る頃には新規なニュースではなくなっている。
自動運転やカーシェアリング等は自動車業界の崩壊の可能性や再編による市場縮小など安定した職場でなくなっている。
またタクシー運転手や電車・バスの運転手は不要になるかもしれない。
医師のがん診断やダヴィンチロボットによる手術等は医師の不要につながる可能性がある。
今株のトレーダーはパソコン数台があれば事足りる状態のようである。
アナウンサーのニュース読みもAIにとって代わられる可能性が出ている。
融資相談等も一部AIが代用する時代となっている。
何が安定しているか、親方日の丸、寄らば大樹の陰、がなくなっている。
価値観が激変しているので、親は子どもに自分が得てきた価値観を教えられない。
これからの若者は自分の目、耳、頭を使って、自分の未来を切り開いていかなくてはならない。
ユニバーサルデザインに見られるように、身体障害者の人権に配慮、外国人の受け入れに配慮、災害の大きさに対応した対策等従来の価値観を根本から問い直す時代にある。
またグローバル化によって、外国の企業と国際的な競争力や地球的な視野(例えば、国連の持続可能な開発目標SDGs等)に基づく価値観を自分の力で獲得していかないといけない。
私自身も少しでもそうした動きに対応して、従来の価値観を少しずつでも変更して、自分の子どもたちへの無形の資産として残していきたいと思う。
今後もこうしたセミナーに参加して、自分の価値観の更新に努めていきたいと思う。
＜日本科学協会主催セミナー＞
「未来をひらく 科学と倫理」セミナー
1.日時：2019年(令和元年)10月26日(土) 13:00-17:00
2.会場：日本財団ビル2階大会議室(銀座線虎ノ門駅付近)
3.参加費：無料(事前登録制)
4.主催：公益財団法人日本科学協会
5.助成：日本財団
6.協賛：公益社団法人 日本天文学会 / 一般社団法人 日本機械学会 / 一般社団法人 人工知能学会 / 科学技術社会論学会 / 日本公益学会
7.後援：宇宙航空研究開発機構（JAXA) / 日本生命倫理学会
8.プログラム：
開催挨拶 日本科学協会 会長：大島 美恵子
概要説明 コーディネーター：酒井 邦嘉
第1部 研究者の科学倫理13:10～
モデレーター：岡本 拓司 東京大学教授
(1)「3 .11以後の科学技術と社会倫理」基調講演 野家 啓一 東北大学 名誉教授
ディスカッサント 廣野 喜幸【東京大学大学院総合文化研究科 教授】
(2)「科学者三原則」講師：酒井 邦嘉【東京大学大学院総合文化研究科 教授】
(3)「鼎談」野家 啓一 × 酒井 邦嘉 × 廣野 喜幸
第2部 未来の科学倫理 14:30～
モデレーター：安藤 礼二 多摩美術大学 教授
正木 晃 慶應義塾大学 非常勤講師
(4)「合成生物学の衝撃」講師：須田 桃子【毎日新聞 記者】
対談 須田 桃子 × 廣野 喜幸
(5)「AI時代の科学技術倫理」講師：前野 隆司 慶應義塾大学 教授
対談 前野 隆司 × 酒井 邦嘉
(6)「人類の生存と宇宙進出の問題点」講師：神崎 宣次 南山大学 教授
対談 神崎 宣次 × 金子 務
閉会挨拶 総合コーディネーター：金子 務【大阪府立大学 名誉教授】
9.概要
科学を宗教・倫理・芸術の3つの哲学テーマから考える科学隣接領域、第二弾は「科学と倫理」です。
研究者が直面している倫理的な問題や、社会に大きな影響をもたらしつつある「生命・A I・宇宙」の倫理を取り上げます。
未来に向けて科学研究者倫理と社会倫理のあり方を一緒に考えてみませんか。
10.「科学者三原則」 Ver. 2.0
2019.10.26「未来をひらく 科学と倫理」セミナーにて発表
ここで言う科学者とは、自然科学・人文科学・社会科学の研究に携わる者を指す。
第一条（証拠保持の原則）
科学者は、対象となる事実（実験や調査の結果）の証拠と、心理（法則や規則等）や着想を示す証拠（試料やノート）を一定期間保管する必要がある。また、これらを偽ったり、不正な剽窃（ひょうせつ）で歪めたりしてはならない。
第二条（他者尊重の原則）
科学者は、研究の直接的な利用（たとえば化学兵器や生物兵器の開発）によって、他人の体や心を傷つけてはならない。ただし、本人の同意を得て治療効果が期待できる場合（比較実験を含む）は、この限りでない。
第三条（研究自由の原則）
科学者は、自由な研究と知的好奇心ができる限り保証される必要がある。ただし、第一条や第二条に反する場合と、公共善（ぜん）（福祉や安全等）に反する場合は、この限りでない。
－以上－
8月8日(木)に日本原子力学会から上記セミナーの案内メールが来た。
原子力学会でも倫理関係でいろいろ活動しているので、その関係で来たのかと思った。
しかし、かなり先なので覚えていられるかな、と思った。
一応参加申し込みをして、手帳とスマホに記録しておいた。
10月20日(土)午前はマンションでサロンを開いたが、誰も来なかった。
セミナーは午後からで、多少早めに家を出た。
会場の日本財団ビルは前に行った記憶があるのだが、道に迷った。
東京メトロ銀座線の虎ノ門駅を降りて虎ノ門病院の近く、というのがわかっていたが、それでも行く途中に道を1個手前で曲がったようで、徒歩5分のところを15分くらいウロウロしていた。
でも予め30分前に着くように家を出たので、開会10分前くらいには同ビルに着いた。
途中で500mlのペットボトルのお茶を買って行った。
会場受付で名前を言うと、入門カードをくれた。
プログラムは末尾に添付する。
このビルのセキュリティ上、土日は閉館しているようで、今回は特別にセキュリティドアを通過するようになっていた。
会場に入ると、前の方の席に座った。
すぐにアンケートと質問票に記入した。
アンケートは事前にわかることはすべて書いた。
質問票はすべての講演が終わった後に回収するもので、前もって書けないものであるが、事前に質問点を数点用意していたので、それを書いておいた。
初めに、日本科学協会会長の大島女史が開催の挨拶をした。
3年前からこのシリーズを検討してきた。
シリーズの第一弾は「科学と宗教」であった。
第二弾が本セミナーの「科学と倫理」である。
第三弾は「科学とアート」を予定している、とのことであった。
続いて、概要説明をコーディネーターの酒井氏が行った。
今回のテーマの「科学と倫理」を市民目線でみんなで考えてもらいたい、とのことだった。
第1部は研究者の科学倫理である。
第2部は未来の科学倫理である。
(1)では基調講演「3 .11以後の科学技術と社会倫理」というタイトルで、東北大学の野家 (のえ)氏が講演した。
科学技術の倫理としては、内部倫理と外部倫理がある。
前者は職業倫理である。
後者は科学者と社会的な影響との関係に関するもので、3.11の福島原発事故後に大きく取り上げられた。
科学技術の巨大化と社会的な影響が問題となってきた。
湯川秀樹博士はパグウォッシュ会議という科学者の核兵器と平和に関する運動に関わってきた。
今は生命科学とiPS細胞に関するプロジェクトがある。
17世紀に科学革命があった。
西洋近代科学の始まりがあった。
サイエンスSCIENCEという言葉ができた。
19世紀の半ばにサイエンティストという言葉ができた。
それまではフィロソファ(哲学者)と呼ばれていた。
ニュートンもフィロソファであった。
トランスサイエンス(科学と技術の融合、原爆製造計画のマンハッタン計画がその例)という言葉が出てきた。
キュリーもアインシュタインも単独レポートを書いた。
今は共同研究者がたくさんいる。
一つの装置で何千万円、何億円という費用がかかる。
政府の予算の重点配分が4部門ある。
研究プロジェクトのリーダーは中小企業の社長みたいなものである。
ピアレビューのような評価があるし、研究費を受け取ることにより、社会的な責任が生じる。
1980年にアメリカでバイ・ドール法が成立して、研究者は金もうけしてよいことになった。
広島と福島の爆発は文明災、と梅原猛は言った。
3.11後に科学者の信頼は低下した。
イギリスでは狂牛病騒ぎの時に科学者が人間に感染しないとしていたのに、人間感染が起きた。
Crisis of Confidence(信頼の危機)であった。
科学技術白書の調査において、科学の方向性を誰に任せるか、というアンケートがあった。
専門家に任せる、は20％にすぎなかった。
トランスサイエンス(領域横断的科学)が今問題となっている。
ワインバーグの言葉に「科学には、問えるが答えられない問題がある」というのがある。
低線量放射線の生物影響等がその例である。
事実と価値を切り分けできない。
科学と政治・経済・社会が切り分けられない時代になっている。
自然科学と人文・社会科学の連携が必要になる。
ドイツのベックはリスク社会を提言した。
近代社会では国家の課題は貧富の差の解消であったが、第二の近代化の現代ではリスクの分配が国家の課題とする。
組織化された無責任が出てきた。
光化学スモッグ、PM2.5、酸性雨、福島の放射能汚染がある。
リスクは空間的・時間的制限はない。
一社では解決できない。
東電は政府の管理下にある。
3.11後の科学倫理が問題である。
原子炉の過酷事故はトランスサイエンスの例である。
安全にはコストがかかる。
コストには政治が関わってくる。
放射能による大気汚染、土壌汚染、国土の一部喪失、生命権の破壊、生活圏の破壊(コミュニティ文化の喪失)の問題が出ている。
伏見氏が原子力は東海村で始まったといった。
原子力三原則、自主、民主、公開ができた。
放射能処理は未だにできていない。
オルキルオト(フィンランドの高レベル廃棄物処分場)に行った小泉元首相は反原発に転じた。
関電のリスクの地域間と世代間の公平はあるか。
受益圏と受苦圏の差がある。
福島の電気は東京に行く。
福島の電気は東北電力が供給している。
世代間倫理、未来世代に責任がある。
イロクォイ族という米の先住民族がいる。
7世代後にも影響が及ぼすことを考えて行動するように代々伝えてきた。
7世代は約200年である。
科学者が守るべき原則かもしれない。
科学者が守るべき一つの原則がある。
マートンの「CUDOS」という科学者が守るべき４つの原理を提案している。
共有性(Communalism)、普遍性(Universalism)、無私性(Disinterestedness)、組織的懐疑(Organized Skepticism)である。
かつて宗教が科学に介入した歴史がある。
天動説と地動説等がその例である。
世界的な会議としてアシロマ会議がある。
(これは以前遺伝子組み換えに関するガイドラインを議論したことがあり、その後にAIに関する議論を行った。筆者注)
アシロマAI23原則が提案された。
(この23原則は以前このブログで解説したような気がする。筆者注)
日本で製造物責任法(PL法)というものがある。
医療分野でインフォームドコンセント(患者に理解できる医師の説明)やセカンドオピニオン(主治医以外の医師の意見)がある。
科学のシビリアンコントロールが必要である、と説明した。
(2)では「科学者三原則」というタイトルで東京大学の酒井氏が講演した。
ここで提案された「科学者三原則」の文については末尾に添付しておく。
海外の倫理規範の提案等は多すぎる。
必要最小限でいい。
ここに提案するのは３つのことだけである。
第1条 証拠保持の原則、第2条 他者尊重の原則、第3条 研究自由の原則
である。
第2条の他者を傷つけるという例で、注射を挙げてみる。
注射は他者を害するが、注射によって健康という利益があるので、OKである。
第3条の研究の自由では、政治や宗教の介入を排除する。
地動説、進化論は宗教との闘いの歴史であった。
(3)の「鼎談(ていだん)」では野家氏、酒井氏、そしてディスカッサントの廣野氏が対談した。
内部規範は(2)の科学者3原則でカバーされる。
ドローンの石油施設攻撃のような軍事利用が問題となる。
E=mc2という相対性理論により核兵器ができた。
マンハッタン計画はその直接利用である。
軍事研究に関してやってはいけないこととして、日本学術会議が声明を出した。
ただ軍事利用できるかどうかグレーなものをあるので、予防原則を用いるべきではないか。
科学のシビリアンコントロールについて、外国では進んでいるのに日本ではなぜ進まないのか。
原発の例では国策として推進した。
市民は単なるデマにも踊らされる。
NGO/NPOの役割が外国では強い。
日本もNGO/NPOが頑張るのを期待したい。
第2部は「未来の科学倫理」というテーマで3人の講演があった。
(4)では「合成生物学の衝撃」というタイトルで、毎日新聞記者の須田女史が講演した。
(須田女史には以前から注目していた。文春データによると、早大物理学科修士のリケジョである。小保方晴子さんのSTAP細胞事件の時に追跡取材して、本まで出している。筆者注)
以前はSTAP細胞を追っていた。
今はゲノム編集に注目している。
ゲノムは生命の設計図である。
DNAの2％が遺伝子である。
DNAは二重らせん構造である。
塩基4個の組合せで構成されている。
今ミニマルセルというものがある。
(文字通り訳せば最小のセルという意味であるが、人工生命体を作り出した実験装置のことを指すらしい。筆者注)
2000年頃から合成生物学という分野が発展してきた。
図１ 「合成生物学の衝撃」の本の表紙
そのベースになる考え方がファインマンの「自分で作れないものを、私は理解していない」という工学的な思考である。
それを生物学の分野に持ち込んだ。
ゲノムを読んで解読することから、ゲノム編集へと発展した。
クリスパーキャス9というゲノム編集に必要な技術が開発されて、一気にゲノム編集が現実味を帯びてきた。
今合成生物学の分野は２つの大きな流れがある。
①生物学の工学化、
②設計したゲノムを一から合成する
というものである。
①では生物を使ってコンピュータを作ることである。
シリコンチップであれば1千億個必要だが、マイコプラズマという肺炎を起こす最近は10億個の細胞でできている。
これならば理解できるとMITの工学者は思った。
MITで合成生物学の講座を開いた。
それに合わせてDNA合成会社ができた。
DNA設計図をDNA合成会社に送る。
その会社で人工DNAを作り、MITに戻す。
それを大腸菌に埋め込んで実験する。
生物版ロボコン(ロボットコンテスト)である。
図２ 合成生物学の流れの一例(筑波サイエンスニュースより抜粋)
これらの考え方を応用すると火星環境を地球と同じにしたり、海のプラスチックゴミ問題を解決したりできる。
ベンチャーも多く参加している。
投資熱も出て、1800億円くらいになっている。
マラリア特効薬等を開発しようとしている。
従来ゲノム編集は効率が低かった。
オフターゲットといって、狙ったところ以外の部分の改変が起きていたりした。
でもクリスパーキャス9という技術が出てきた。
これを使って、中国でゲノム編集の双子の情報が出てきた。
人の受精卵を変えていいのか。
デザイナーベビーの映画「ガタカ」があった。
旧ソ連で生物兵器の研究があった。
2つの生物の組合せで新しい生物を作った。
天然痘に似たウィルスを作った。
今、米DARPA(国防総省の機関)が合成生物学の最大のパトロンである。
NIH(米国立衛生研究所)でも公にはなっていないが、研究しているかもしれない。
１つの種を絶滅させられる。
ヒトゲノムを合成することの是非が問われている。
ベンターのミニマルセルの動画を見せられた。
図３ ミニマルセルの絵(動画ではない：東洋経済ONLINEより抜粋)
試験管の中で細胞分裂のようなことが起こっている動画であった。
人工生命ができる可能性が出てきている。
新たに生物を作ることが可能になってきている。
ベンターは「神はいない。あるのは社会の基準だけだ」という。
今、議論の場を作ろうとしている。
社会の基準は刻々と変化している。
デザイナーベビーは許されるのか。
火星に行くと、放射能や重力が地球と違う。
そういう環境に耐えられるように人類の改変は許されるのか、ということで講演は終わった。
この後、須田女史と廣野氏の対談があった。
STAP細胞等、研究にははやりすたりがある。
廣野氏はシロアリの研究をしている。
人が人を意図的に作れる時代なのか。
合成生物学を短期・中期・長期で考えてみたい。
長期的にはヒトゲノムをコンピュータ上で設計していいのか。
直近では産業応用が始まっている。
どういう問題が起きるか。
生物学の予測不可能性を危惧する。
自然に放出しても消滅できると過大評価している気がする。
蚊の一種を絶滅させる研究もある。
難病を直すのであれば、ゲノム編集は許されると考える科学者は多い。
(5)では「AI時代の科学技術倫理」というタイトルで、慶應義塾大学の前野氏が講演した。
AIの心が人間を超えたらどうなるか。
幸せの研究をしている。
今日のトピックはシンギュラリティで、ディープラーニングの開発、量子コンピュータの開発で加速する。
シンギュラリティは元々「特異点」という意味だが、AI分野では人間がAIに負ける時を示す。
この時、人間は何もできないことになる。
今のAIはパターン認識が得意である。
がんの診断、自動運転、自動翻訳等がある。
心はどう作ったらよいか。
今は第3次AIブームだが、50次くらいで人間を超えられるかもしれない。
イノベーションは予測不能である。
脳は1千億個の電源スイッチである。
2045年にはAIは人間を超えない？
人類はAIに超えられるとNO.2になる。
情報のコストは減少し続けている。
仏教の、インドから中国へ、中国から日本へ伝来するのに千年かかった。
エネルギーコストも減少し続けている。
なんでも安価で高水準にある。
人類の未来はパラダイスか？
GAFA(グーグル、アマゾン、フェイスブック、アップル)がAIを作ると金持ちになる。
貧富の差が拡大する。
多くの人はAIに職を奪われる。
古代ギリシアと似ている。
昔の哲人は哲学、アート、スポーツに勤しんだ。
ロボット、AIが人間を管理してくれる社会になる。
環境に配慮しないのは犯罪になる。
犯罪は抑止される。
この後に、前野氏と東大の酒井氏が対談した。
未来は幸福になるのか、不幸になるのか。
未来予測は倫理問題である。
あなたに向いている仕事は〇○である。
命令によるか、親切か。
誰が支配しているのか、による。
結婚もAIが見つける？
最大多数の最大幸福である。
将棋やチェスは名人でもAIに負ける。
AIの判断をプラスにするようにしていけばいい。
上から目線のAIは嫌だ。
車の指示に人は従うべきか。
メーカーにより、強気のAIと弱気のAIができる。
市民は置いていかれる。
技術者を信用するべきか。
車も時々わからないことがある。
自動運転の電車は安全である。
一般道路も人に介入させない方がよいか。
首都高はAIに限定した方がよい？
人間に説明できるようなAIがあればいい。
ディープラーニングはブラックボックスである。
ある売り場に行くと、売り上げが2割伸びる。
AIがタクシーの場所を指定する。
ロボットは人間に従う？
シンギュラリティの世界がある。
AIの進展は子どもの教育にかかっている。
(6)では「人類の生存と宇宙進出の問題点」というタイトルで、南山大学の神崎氏が講演した。
宇宙倫理を研究している。
大学では宇宙のサステナビリティ・スタディ(持続可能な研究)を教えている。
宇宙開発は生きている条件を変える。
倫理を変える可能性を持っている。
手塚治虫は21世紀の夢ということで、人間はいつ月世界を征服できるか、宇宙倫理学は21世紀にできると予言した。
今年のノーベル物理学賞は系外惑星の発見に贈られた。
この惑星は数10光年の距離にある。
今の技術では何年で到達できるか。
宇宙開発は地球に住めなくなった時のバックアップである。
宇宙のサステナビリティがある。
例としてJJ-FASTがある。
宇宙開発機構JAXAが熱帯雨林監視システムを動作させて、森林伐採の監視を行っている。
衛星のモニタリングでクジラの監視を行っている。
生物多様性の保全に衛星モニタリングは役立つ。
1972年に万博があったが、当時は米ソ開発競争の時代であった。
宇宙から地球を見ると、ブルーマーブルな地球があった。
有限で閉じ込められている。
今まで宇宙に行った人は500～600人である。
我々は宇宙に行かない。
地球は有限である。
地球のサステナビリティが大事である。
宇宙条約と月協定がある。
国家活動を律するものである。
プライベートセクターの参入で活性化している。
人類/国家/企業のそれぞれの論理がある。
論点は２つある。
資源の公正配分と8分の１原則である。
後者は資源必要量の最大値の8分の1になる段階で制限を設けるということである。
この後に神崎氏と大阪府立大学の金子氏が対談した。
系外惑星は論外である。
地球こそ大事である。
スーパーアースを含め、2千億個の惑星がある。
ボイジャーは18km/sの速度で宇宙を航行している。
4.37光年のところに行くのに、7万年かかる。
手塚さんに2，3回会ったことがある。(金子氏)
宇宙資源の有効性は疑問がある。
コストを無視した議論になっている。
希少金属の持ち帰りは意味がある。
米の宇宙ホテル構想がある。
弾丸旅行になる。
宇宙は24時間生活する場所ではない。
短期滞在型である。
宇宙はロボットに任せればいい。
宇宙への旅の途中で生まれた子どもの意見はどうなるか。
この後、講演者が全員壇上に上がり、会場からの質疑応答となった。
私は予め、人間の身体に葉緑体を埋め込み、食料危機に食料不要の人間を作るのはどうか、台風19号のように被害が大きい自然災害は環境制御して熱帯低気圧程度に下げるのはどうか、等を質問で書いておいた。
すると、この両方の質問について、司会が取り上げて、講演者に聞いていた。
さすがにこれらの質問には面食らったようで、誰も即答ということもなく、あいまいな答えであったように思う。
ただ誰だったかは覚えていないが、(1)の野家氏のイロクォイ族という米先住民族の7世代後にも影響が及ぼすこと、ということを取り上げ、もし葉緑素型人間ができたとしても、7代後までの責任が持てるか、というようなことを言っていた。
以上のことで、このセミナーは終了した。
今の時代は既存の価値観が崩壊している時代である。
例えば、インターネットの普及によって、テレビとラジオの権威が落ちた。
Youtubeを見ることで、テレビとラジオを見聞きしなくてもよくなった。
新聞の速報性についても、インターネットのプロバイダのヤフーやビッグローブ等で、ニュースは2、3時間おきに更新されて、新聞に載る頃には新規なニュースではなくなっている。
自動運転やカーシェアリング等は自動車業界の崩壊の可能性や再編による市場縮小など安定した職場でなくなっている。
またタクシー運転手や電車・バスの運転手は不要になるかもしれない。
医師のがん診断やダヴィンチロボットによる手術等は医師の不要につながる可能性がある。
今株のトレーダーはパソコン数台があれば事足りる状態のようである。
アナウンサーのニュース読みもAIにとって代わられる可能性が出ている。
融資相談等も一部AIが代用する時代となっている。
何が安定しているか、親方日の丸、寄らば大樹の陰、がなくなっている。
価値観が激変しているので、親は子どもに自分が得てきた価値観を教えられない。
これからの若者は自分の目、耳、頭を使って、自分の未来を切り開いていかなくてはならない。
ユニバーサルデザインに見られるように、身体障害者の人権に配慮、外国人の受け入れに配慮、災害の大きさに対応した対策等従来の価値観を根本から問い直す時代にある。
またグローバル化によって、外国の企業と国際的な競争力や地球的な視野(例えば、国連の持続可能な開発目標SDGs等)に基づく価値観を自分の力で獲得していかないといけない。
私自身も少しでもそうした動きに対応して、従来の価値観を少しずつでも変更して、自分の子どもたちへの無形の資産として残していきたいと思う。
今後もこうしたセミナーに参加して、自分の価値観の更新に努めていきたいと思う。
＜日本科学協会主催セミナー＞
「未来をひらく 科学と倫理」セミナー
1.日時：2019年(令和元年)10月26日(土) 13:00-17:00
2.会場：日本財団ビル2階大会議室(銀座線虎ノ門駅付近)
3.参加費：無料(事前登録制)
4.主催：公益財団法人日本科学協会
5.助成：日本財団
6.協賛：公益社団法人 日本天文学会 / 一般社団法人 日本機械学会 / 一般社団法人 人工知能学会 / 科学技術社会論学会 / 日本公益学会
7.後援：宇宙航空研究開発機構（JAXA) / 日本生命倫理学会
8.プログラム：
開催挨拶 日本科学協会 会長：大島 美恵子
概要説明 コーディネーター：酒井 邦嘉
第1部 研究者の科学倫理13:10～
モデレーター：岡本 拓司 東京大学教授
(1)「3 .11以後の科学技術と社会倫理」基調講演 野家 啓一 東北大学 名誉教授
ディスカッサント 廣野 喜幸【東京大学大学院総合文化研究科 教授】
(2)「科学者三原則」講師：酒井 邦嘉【東京大学大学院総合文化研究科 教授】
(3)「鼎談」野家 啓一 × 酒井 邦嘉 × 廣野 喜幸
第2部 未来の科学倫理 14:30～
モデレーター：安藤 礼二 多摩美術大学 教授
正木 晃 慶應義塾大学 非常勤講師
(4)「合成生物学の衝撃」講師：須田 桃子【毎日新聞 記者】
対談 須田 桃子 × 廣野 喜幸
(5)「AI時代の科学技術倫理」講師：前野 隆司 慶應義塾大学 教授
対談 前野 隆司 × 酒井 邦嘉
(6)「人類の生存と宇宙進出の問題点」講師：神崎 宣次 南山大学 教授
対談 神崎 宣次 × 金子 務
閉会挨拶 総合コーディネーター：金子 務【大阪府立大学 名誉教授】
9.概要
科学を宗教・倫理・芸術の3つの哲学テーマから考える科学隣接領域、第二弾は「科学と倫理」です。
研究者が直面している倫理的な問題や、社会に大きな影響をもたらしつつある「生命・A I・宇宙」の倫理を取り上げます。
未来に向けて科学研究者倫理と社会倫理のあり方を一緒に考えてみませんか。
10.「科学者三原則」 Ver. 2.0
2019.10.26「未来をひらく 科学と倫理」セミナーにて発表
ここで言う科学者とは、自然科学・人文科学・社会科学の研究に携わる者を指す。
第一条（証拠保持の原則）
科学者は、対象となる事実（実験や調査の結果）の証拠と、心理（法則や規則等）や着想を示す証拠（試料やノート）を一定期間保管する必要がある。また、これらを偽ったり、不正な剽窃（ひょうせつ）で歪めたりしてはならない。
第二条（他者尊重の原則）
科学者は、研究の直接的な利用（たとえば化学兵器や生物兵器の開発）によって、他人の体や心を傷つけてはならない。ただし、本人の同意を得て治療効果が期待できる場合（比較実験を含む）は、この限りでない。
第三条（研究自由の原則）
科学者は、自由な研究と知的好奇心ができる限り保証される必要がある。ただし、第一条や第二条に反する場合と、公共善（ぜん）（福祉や安全等）に反する場合は、この限りでない。
－以上－
この記事へのコメント