昨晩もインフレータブルベッドで寝たが、寝返りを打ったときにあまり音が鳴らないようにしてから寝たので比較的よく眠れた。定時起床。朝食、シャワー。
朝、娘の登校と同時に家を出て、バスでシティセンターへ。セントクロスで開催された道徳的地位の国際会議を聴講。夕方まで。割と真面目に聞いたが今ひとつ興味が湧かず。有名な研究者を見られたのはよかった。以前と比べ、道徳的地位はかなり程度問題として考えられるようになっているようだ。それでいいんかな。
夕方、歩いて帰宅。夕食。少しウォーノックの続きを読む。
Rethinking Moral Status — Wellcome Centre for Ethics and Humanities
— 児玉聡 (@s_kodama) 2019年6月13日
始まり。 https://t.co/7iBXfZKWvB
DeGrazia先生
— 児玉聡 (@s_kodama) 2019年6月13日
モラルステータスのモデル、9つのテーゼ
1、人間であることはMSの必要条件でも十分条件でもない
動物、初期胚などを考えればわかる。
— 児玉聡 (@s_kodama) 2019年6月13日
このテーゼは弁護が不要なぐらいだと思うけど、話が長いな
テーゼ2 意識の能力は必要だが十分条件ではない
— 児玉聡 (@s_kodama) 2019年6月13日
寝てるときもMSをもつ
植物はMSをもたない
ただし、自他へのケアも関心ももたない意識があるとすれば、MSをもたないだろう
テーゼ3 sentienceはMSの必要十分条件 快楽・不快の経験をもつ
— 児玉聡 (@s_kodama) 2019年6月13日
十分条件というところが独特だ
テーゼ4 社会的関係はMSの基礎にはならないが、特定の人に特別な義務を与えることがある。
— 児玉聡 (@s_kodama) 2019年6月13日
MSはすべての人に義務を与えるのでこれとは違う
人格の概念はMSのモデルを作るのに有益ではない。いろいろな伝統のあるあいまいな概念だから。
— 児玉聡 (@s_kodama) 2019年6月13日
テーゼ6 有感的存在者は平等な帰結主義的配慮を受ける
— 児玉聡 (@s_kodama) 2019年6月13日
テーゼ7 物語的自己意識のある有感的存在者は道徳的権利の追加的保護を受けるような利害を持つ
— 児玉聡 (@s_kodama) 2019年6月13日
こういう存在者は帰結主義的配慮を超えた道徳的権利をもつとのこと。
物語的自己同一性がなぜ帰結主義を超えた権利を付与するんだろうか。神秘的だ
テーゼ8 有感的存在者に(合理的に考えて)なりそうな存在者は、MSをもつものとして扱うべき。人格(物語的ー)になりそうな存在者は権利があるものとして扱うべき。
— 児玉聡 (@s_kodama) 2019年6月13日
テーゼ9 社会的安定性の観点から、人格にならないか、人格でなくなった有感的人間的存在者は、権利をもつものとして扱うべき。規則帰結主義的解決。
— 児玉聡 (@s_kodama) 2019年6月13日
これは保守的だな。なぜalready-born sentient human beingsだけなのか。
含意。通常の人間は道徳的権利をもつ。新生児、認知能力を大きく損なった人は、物語的自己同一性を持たない。が、新生児は通常人格になるから権利がある。人格になる見込みのない新生児も、テーゼ9によって守られる
— 児玉聡 (@s_kodama) 2019年6月13日
動物。有感的でなければMSをもたない。有感的だとMSをもつが必ずしも権利をもたない。物語的自己同一性をもつ動物(霊長類、イルカなど)は権利をもつ。その中間あたり(犬、豚など)はその中間的配慮を受ける。
— 児玉聡 (@s_kodama) 2019年6月13日
あれ、MSの敷居がかなり低い理解だな。権利と結びついていないのか。
ロボットや人工知能は?
— 児玉聡 (@s_kodama) 2019年6月13日
動物の場合以上に認識論的問題があるが、意識が存在する可能性がある(意識の定義にもよる)
その場合はMS、さらには権利をもつ可能性もある。権利を持つ場合は解放しないといけない。
脳オーガノイド。
— 児玉聡 (@s_kodama) 2019年6月13日
これはロボットとおなじもんだい。
エンハンスされたヒト科の生物
— 児玉聡 (@s_kodama) 2019年6月13日
Homo genius
より高いMSを持つのか?
彼らのために人間が犠牲になることはあるか?
彼らはものすごい賢いので人間を犠牲にする必要はないだろう
終わり。
— 児玉聡 (@s_kodama) 2019年6月13日
質疑。あれがカム先生か
— 児玉聡 (@s_kodama) 2019年6月13日
天使は義務感だけで行動するかもしれないが、sentientではないのではないか。
— 児玉聡 (@s_kodama) 2019年6月13日
すでに疲れたが、次。シノットアームストロング先生。人工知能はMSをどれぐらいもつか
— 児玉聡 (@s_kodama) 2019年6月13日
人間はMSをもつ、植物や温度計は持たない、だが論争的なものもある、というのが通常の理解
— 児玉聡 (@s_kodama) 2019年6月13日
MSをもつものは四つのrをもつ
— 児玉聡 (@s_kodama) 2019年6月13日
Wrong, reasons, rights, rules
MSは程度の問題か。リズ・ハーマンは1か0かと考えている。しかし、MSは程度の問題がある。道徳的不正をすると、ある程度MSを失う場合がある(たとえば権利)
— 児玉聡 (@s_kodama) 2019年6月13日
このあたり、かなりスピーカーで意見の違いがありそうだ。どうなっているのか。
強いMSと弱いMS。ここで一旦ストップして質問を受ける
— 児玉聡 (@s_kodama) 2019年6月13日
MSの基礎は何か。ボストロムのsubstrate neutralityとontogeny neutralityは支持。するとAIはMSになりうるかどうか。四つの基準。
— 児玉聡 (@s_kodama) 2019年6月13日
MSの基準を機能、能力で考える
— 児玉聡 (@s_kodama) 2019年6月13日
1、知性、定義によるがAIも問題なし
2、意識、これも定義によるが、排除できない。どの定義がMSに重要かも考えるべき
3、自由意志、理論によるが、問題なさそう。2とおなじ。
4、道徳的主体。いけそう。
再び質問タイム。アメリカ英語が飛び交っている。
— 児玉聡 (@s_kodama) 2019年6月13日
人工知能に道徳を組み込む三つの方法。トップダウン、ボトムアップ、ハイブリッド
— 児玉聡 (@s_kodama) 2019年6月13日
トップダウンはアシモフのルールのようなもの、ボトムアップは人々に意見を聞くもの、ハイブリッドはサーベイをしたうえで答えを編集、問い(ジレンマ状況)を洗練させてまた聞く
— 児玉聡 (@s_kodama) 2019年6月13日
これのようだ https://t.co/6XbmC3T05Z
— 児玉聡 (@s_kodama) 2019年6月13日
人工知能によって改善された民主主義と呼ぶそうだ。
— 児玉聡 (@s_kodama) 2019年6月13日
しかし、これのどこがハイブリッドなのか。
理由がわからない、人々のバイアスの問題がある、という限界がある
— 児玉聡 (@s_kodama) 2019年6月13日
未来の人工知能は知性、意識、自由意志、道徳的行為者性の四つを持てる。そこで、人工知能はある程度MSを持てる
— 児玉聡 (@s_kodama) 2019年6月13日
道徳的地位という言葉はすべて省略して、権利だけで話した方がすっきりしそうだな。
— 児玉聡 (@s_kodama) 2019年6月13日
人工知能は無限に増やすことができるが、それが望ましいか(Replicability Crisis)。
— 児玉聡 (@s_kodama) 2019年6月13日
休憩。次はサラチャン先生。
— 児玉聡 (@s_kodama) 2019年6月13日
MS、それ自体として価値のある存在。利害を持つことがMSの基礎。重要な利害というのがある。
— 児玉聡 (@s_kodama) 2019年6月13日
Full moral statusは道徳的権利の束。生存権、自己決定権など
MSのエンハンスメント。キメラ、認知的にエンハンスされた動物、ポストヒューマン、人工知能など。
— 児玉聡 (@s_kodama) 2019年6月13日
キメラなどの新しい存在者を作ることは、概念的には「エンハンスメント」とは言えない(identityの問題)
— 児玉聡 (@s_kodama) 2019年6月13日
他の存在のMSをエンハンスすべきか
利害interestsを増やすことでMSがエンハンスされるとすると、MSをエンハンスすべきか。
— 児玉聡 (@s_kodama) 2019年6月13日
しかし、満たされない利害関心が多くなる可能性もある。
Full MS以上のMSは存在するか。
— 児玉聡 (@s_kodama) 2019年6月13日
問いは面白いが、議論はあまりしないつもりなのかな
MSをエンハンスされた動物はどういう義務をもつか?
— 児玉聡 (@s_kodama) 2019年6月13日
質疑。カム先生は「スタータス」と言っているな。
— 児玉聡 (@s_kodama) 2019年6月13日
MSを持った存在を増やすべきか減らすべきかというのは面白い問題だな。
少し示唆があったが、満足した豚をエンハンスして不満足なソクラテスを作れるなら、我々はそうすべきか、という問いだと面白いが、それはwell-beingの話であってMSの話ではないように思われる。
— 児玉聡 (@s_kodama) 2019年6月13日
コンファランスに新生児を連れた研究者が出席しているので、みなあの新生児にはMSがあるのかと問うているだろう
— 児玉聡 (@s_kodama) 2019年6月13日
午前中真面目に聞いたせいで眠い
— 児玉聡 (@s_kodama) 2019年6月13日
次はビーチャム先生とフェイデン先生。あとで挨拶できるかな
— 児玉聡 (@s_kodama) 2019年6月13日
スライドなしか
— 児玉聡 (@s_kodama) 2019年6月13日
イェールの豚の脳の再活性化の問題と、温暖化によって牛よりも鶏の消費が上がっているという話。1匹の牛を殺す代わりに100匹の鶏を殺しているのは正当化できるか。
— 児玉聡 (@s_kodama) 2019年6月13日
まあ両方食べない方がよいわけだが
— 児玉聡 (@s_kodama) 2019年6月13日
MSのヒエラルキー理論を考える
— 児玉聡 (@s_kodama) 2019年6月13日
MSは40年以上前から議論されてきた。有感性と認知能力が重要とされている。人工知能の出現により有感性が必要条件かが問題になっているが、動物は持っている
— 児玉聡 (@s_kodama) 2019年6月13日
スライドもなくて声も聞こえにくいので辛い
— 児玉聡 (@s_kodama) 2019年6月13日
牛や犬などの動物はかなりの認知能力を持っている。カラスだってそう。サルはチンパンジーに比べて頭が悪いゆえにMSが低いと思われているが、それでよいのだろうか。
— 児玉聡 (@s_kodama) 2019年6月13日
MSにいくつのレベルがあるべきか。Shelly Kaganがもうすぐこの問題についての本を出す予定。レベルはプラグマティックな理由から少ない方がよいだろう。
— 児玉聡 (@s_kodama) 2019年6月13日
一類、二類のように動物を分けるのか。
フェイデン先生。
— 児玉聡 (@s_kodama) 2019年6月13日
臓器移植のためのキメラ。脳科学研究のためのキメラなど。
問題1、自然への不当な干渉か
問題2、動物への危害
問題3、人間的能力を身につけてしまう
ここでは動物への危害の問題を考える。鶏の「改良」の事例。胸肉を大きくしすぎて立ってられない。キメラもおなじような問題が起きるか
— 児玉聡 (@s_kodama) 2019年6月13日
政策の議論ではmoral statusの話はほとんどの場合、人間にしか与えられていない。キメラはどうするか
— 児玉聡 (@s_kodama) 2019年6月13日
政策でMSのヒエラルキー、ティアを作るという提案。そのためにプロパティを特定しないといけない。
— 児玉聡 (@s_kodama) 2019年6月13日
提案二つ。科学によってインフォームされたヒエラルキーの作成が重要。また、科学によってMSの高い動物を殺すことを回避するような研究方法を開発することが大切
— 児玉聡 (@s_kodama) 2019年6月13日
常識的な結論だな
— 児玉聡 (@s_kodama) 2019年6月13日
制限された臓器売買と臓器の死後提供義務化をやれば移植用のキメラを作る必要はなくなる、ハリス先生
— 児玉聡 (@s_kodama) 2019年6月13日
なんでMSのヒエラルキーにする必要があるのか? 原則は平等でよいのでは? ドグラチア先生
— 児玉聡 (@s_kodama) 2019年6月13日
認知能力でティアを分けることができるのか。
— 児玉聡 (@s_kodama) 2019年6月13日
フランソワベイリス先生
— 児玉聡 (@s_kodama) 2019年6月13日
MSには記憶、認識(我々に似ているか)、帰属が重要
— 児玉聡 (@s_kodama) 2019年6月13日
自分たちに似ているのは重要。ロボットなど
— 児玉聡 (@s_kodama) 2019年6月13日
これは心理学的な基準であって、倫理学の基準ではないのでは
寝てた
— 児玉聡 (@s_kodama) 2019年6月13日
2004のAJOB論文だと、道徳的混乱というのはキメラ生物の道徳的地位についての人々の混乱ということのようだ。よく考えていないせいか、あまり共感できんな
— 児玉聡 (@s_kodama) 2019年6月13日
エリザベスハーマン先生。
— 児玉聡 (@s_kodama) 2019年6月13日
話し声がソプラノな感じ
初期胚は道徳的地位をもつか。出産する人にとってはMSをもつように思われるが、中絶する人にはMSを持たないように思われる。
— 児玉聡 (@s_kodama) 2019年6月13日
胎児のような存在者が必然的にMSをもつというのは神話。MSは偶然的。
— 児玉聡 (@s_kodama) 2019年6月13日
一瞬でも意識がある存在はMSをもつ(The ever conscious view)
— 児玉聡 (@s_kodama) 2019年6月13日
よくわからんかった
— 児玉聡 (@s_kodama) 2019年6月13日
かなり前提が違っているようなので、論文を読む必要があるな
— 児玉聡 (@s_kodama) 2019年6月13日
質問を受けたら答えるまえにリフレーズするのは面白いな
— 児玉聡 (@s_kodama) 2019年6月13日
最後。ジョッシュシェパード。
— 児玉聡 (@s_kodama) 2019年6月13日
道徳的地位に関する意識の重要性。最近本を出したそうだ
— 児玉聡 (@s_kodama) 2019年6月13日
快苦の経験が内在的価値を持つのはなぜか
— 児玉聡 (@s_kodama) 2019年6月13日
すべての経験が価値をもたらすのではなく、情動的経験のみが価値をもたらす
— 児玉聡 (@s_kodama) 2019年6月13日
経験において、本当に価値を担っているのはなんなのか。かなり心の哲学の話になっているな
— 児玉聡 (@s_kodama) 2019年6月13日
経験のための評価的空間の提案(サイズ、複雑さ、整合性の側面がある)。話が難解だな
— 児玉聡 (@s_kodama) 2019年6月13日
Phenomenal richnessに応じてMSは変わる。phenomenal richnessをエンハンスすることも考えられる。
— 児玉聡 (@s_kodama) 2019年6月13日
クモは複雑な認識をしているが同期的感情は単純。カタツムリは逆の可能性がある。どちらがMSは高いか
— 児玉聡 (@s_kodama) 2019年6月13日
カム先生、価値は世界の側にあるんだから価値が経験から生み出されるわけではない
— 児玉聡 (@s_kodama) 2019年6月13日
快苦に価値があるという話からだいぶ遠くなってきたな
— 児玉聡 (@s_kodama) 2019年6月13日