SEARCH
MENU

みのつぶ短信第18回「モラル・トライブズ,鬼滅の刃,人工モラルマシン」


 

本年のRSJ2020の特別講演者の一人である瀬名氏には,統合知のロボット学としての重要性を指摘頂いたが,その講演の中で,共感からモラルへの創発の可能性の話題に関連して,ジョシュア・グリーン(Joshua Greene)[1]の「モラル・トライブズ」を紹介頂いた.上下2冊を読破し,モラルのでき方について,広い範囲で学ぶことができた.若くしてハーバード大学の心理学の教授になったジョシュア・グリーンは,実験心理学者,神経科学者であると同時に哲学者でもある.有名なトロッコ問題を題材に,ポイント切り替えによる5人の救助と力づくで人を落下させての5人の救助(いずれも一人の死を伴う)の例で,前者が道徳的に許されるのに後者が許されないとされる理由を基本問題として,これにまつわるモラルの課題を広く深く解説している.本学会誌の2021年の新年号の哲学特集でも笠木氏の解説[2]で扱われており,そちらも参照されたい.詳細を省くと,モラル発動には2つのモードがあり,自然に(無意識に),それ故,速い応答として振る舞うオートモードと論理的思考を経て,認知的な判断をくだすマニュアルモードである.前者は,自身が所属する集団内のルールとして定着しており,そのため,自動的に反応するのに対し,後者は,他の集団との対応の中で,必要とされるとしている.宗教や文化が集団内の規律であるとすると,他宗教や他の文化に触れるとき,オートモードでは軋轢が生じ,マニュアルモードにしないといけない.さて,先日,鬼滅の刃の映画を鑑賞した.コミックは文字が小さすぎて年寄りには向かないが,大きな画面であれば,なんとかなる.ネタバレにはならない程度だが,炎の使い手の煉獄杏寿郎が夢のなかで幼少時に母から「強気者の使命は,弱気ものを助けること」と教わる.その際は,母はマニュアルモードで諭している.ところが,母が杏寿郎を抱きかかえるシーンは,母としてのオートモードになっており,母個人としては,息子をそんな危険なめに合わせたくないと思っている.最後のシーンでは生死をさまよう杏寿郎の幻想に顕れる母はマニュアルモードで杏寿郎の最期を見届ける.母としての葛藤と杏寿郎の納得が観てとれた.まぁ,こんな解釈でみている観客は少ないと思うが,我々人の道徳のあり方を象徴的に表している感じだ.さて,ロボットがモラルを持てるだろうか?筆者は人工痛覚からミラーニューロンシステムを通じて,他者の痛みを感じる共感により,モラル発生の機序を描いているが[3]が,これは所詮,オートモードの話にすぎないのだろうか?人工モラルマシンの設計[4]には,この2つのモードをどのように実現するかがキーであるが,マニュアルモードの実装は困難を極めそうである.せいぜい,オートモードによる軋轢を低下させるための工夫を実装することに留まざるをえないのだろうか?なんとかチャレンジしたい.

 

[1] ジョシュア・D.グリーン(著), 竹田 円(訳),「モラル・トライブズ―共存の道徳哲学へ-(上・下),岩波書店,2015.

[2] 笠木雅史,「自動運転の応用倫理学現状と課題:自動運転車とトロリー問題」,日本ロボット学会誌,Vol.39, No.1, 2021.

[3] 浅田稔. 人工痛覚が導く意識の発達過程としての共感,モラル,論理. 哲学, No.70, pp.14--34, 2019.

[4] ウェンデル・ウォラック(著), コリン・アレン(著), 岡本慎平(翻訳), 久木田水生(翻訳). ロボットに倫理を教える―モラル・マシーン―. 名古屋大学出版会, 2019.