いつか電池がきれるまで

”To write a diary is to die a little.”

2019年に蘇った『トロッコ問題』について


togetter.com


 この『トロッコ問題』、僕はマイケル・サンデル教授がとりあげていたのが印象に残っているのですが、「僕だったら、これは『運命』みたいなものだから、と、自分で線路を切り替えることはないだろうな」と思っていました。僕も「自分で選択すること」の責任をとりたくないのかもしれません。
 ただ、もしこれがテレビゲームの中の話であるとか、自分の目の前の出来事ではなくて、現場の状況がみえず、どちらかのスイッチを押すだけであったら、「5人を助ける」のではなかろうか。



fujipon.hatenadiary.com


 『トロッコ問題』について、この本には、こう書かれています。

 線路の切り替えスイッチのそばにいるあなたは、とんでもない光景を目の当たりにしていました。
 あなたの右方向から石をたくさん積んだトロッコが猛スピードで暴走しています。ブレーキが故障しているのか明らかに異常なスピードです。
 とうてい今から止めることはできません。ただ、線路の切り替えを行えば進行方向を変えることができます。
 

 線路の先には5人の作業員がいます。5人ともトロッコにはまったく気づいておらず、おそらく避けることはできないでしょう。このままではトロッコが突っ込み、5人は死んでしまいます。
 

 あなたは、切り替えスイッチの存在に気がつき、これを切り替えて5人を助けようと思い立ちます。あなたは切り替えスイッチに近づき、勢いよくスイッチに手を伸ばします。
 しかし何ということでしょう。あなたは一瞬、切り替える先の線路のほうに目をやり、様子を確認しました。すると、視線の先には1人の作業員がいるではありませんか。スイッチを切り替えれば、この1人の作業員が死んでしまいます。
 あなたはこの6人と面識はなく、6人とも何の罪もない人です。ただ、悲惨な現場に居合わせてしまっただけです。あなたもたまたまこの現場に居合わせてしまっただけで、そこにスイッチがなければただの傍観者の1人です。
 実際には「5人もいればだれかが気づくだろう」とか、「大声を出して危険を知らせる」とか、いろいろな方法を考えてしまうところですが、ここではスイッチを切り替えること以外あなたにできることはなく、作業員は皆トロッコの暴走に気づいていない状態とします。


 あなたはスイッチを切り替えますか?
 それともそのままにしますか?


この思考実験の場合、「スイッチを切り替えて、1人を犠牲にし、5人を助ける」というのが多数派(ある統計では、85%を占める)になるそうです。
 
 
 この本での思考実験はこれだけでは終わらず、この「トロッコ問題」のさまざまなバリエーションを提示してきます。

 ある線路上の橋の上にいるあなたは、とんでもない光景を目の当たりにしていました。
 橋の下にある線路の上を、石をたくさん積んだトロッコが猛スピードで暴走してきたのです。暴走トロッコの先には5人の作業員がいます。誰ひとり、この悲惨な状況に気がついていません。このままでは5人は死んでしまいます。あなたはこの状況をどうにかるす方法はないかとあたりを見回します。
 

 すると、橋の上に、自分の他にもう1人、男性がいることに気がつきました。
 かなりの巨漢で、しかも見るからに重そうなリュックを背負っているではありませんか。この男を突き落とすことができたなら、トロッコを止めることができます。
 しかしその場合、男は確実に死んでしまいます。
 太った男は、作業員5人が行っている作業が気になっているらしく、大きく身を乗り出して夢中になっています。どうやらこの男性も暴走トロッコには気がついていないようです。
 今なら確実に太った男を線路上に落とすことができるとします。
 あなたは太った男を下に突き落としますか?
 それともそのままにしますか?


 なお、あなた自身が飛び込んでもトロッコは止まらず、あなたを含めた犠牲が6人になるだけとわかっているとします。
 実際には太った、しかも重そうなリュックを背負っている男を突き落としたからといってトロッコが止まるとは限らないでしょう。
 しかも、特に小柄な女性であれば、こんなに大きな男を突き落とせるわけがないし、もみ合いになって自分が落とされるかもしれないと考えるかもしれません。
 しかし今回の思考実験では、この太った男を突き落とせば確実にトロッコは止まるし、あなたが突き落とす行動をとれば、もみ合いになることなく確実に突き落とせると仮定します。
 また、あなたが起こした行動によってあなたが罪に問われることはないとします。


 「思考実験」とはいえ、あまりにも重すぎる内容なので、ついつい「裏ワザ」的なものを探してしまうのですが、そうなるともう「思考実験」にはならないんですよね。
 しかしこれ、真正面から考えたくない問題だなあ。
 ちなみに僕は、この場合には「男を突き落とさない」という選択をするのですが、これを読んでいるあなたはどうでしょうか?
 そして、前回の「スイッチを切り替える」ときと、「1人を犠牲にして、5人を助ける」人の割合は、変化するのか?


 このほかにも、さまざまなバリエーションの「トロッコ問題」が出てきます。
 選択の割合をみていくと、個々の人というのは、自分が直接その行為にかかわるかどうかによって、起こる結果が同じでも、選ぶ行動が変わるもののようです。
 スイッチを切り替えても、突き落としても「1人を犠牲にして、5人を助ける」という結果には変わりがないのに、自分が直接手をふれて誰かを傷つけるような行為には、抵抗感が強くなるのです。


 「自分はボタンを押すだけだったり、現場の状況が見えなかったりすれば、非情な(あるいは、客観的な)決断もしやすい」とも言えそうです。


 ただ、このトロッコ問題に関しては、政治家でも駅員でもないわれわれには、あまり現実的ではない、という感じもあったんですよね。
 人というのは、自分にもわからないところで、他者の命を間接的に左右しているのだとしても。

 ところが、近年のテクノロジーの変化で、この「トロッコ問題」が、より現実的なものになっているのです。


fujipon.hatenadiary.com

近い将来に「自動運転車」が普及して、人間が運転するよりも安全になるのではないか、と言われていますが、「AI運転」の問題点について、こんな話が出てきます。

佐藤優クルマの自動運転で思考実験してみましょう。人間が運転する場合、たとえばすぐ前のクルマが急ブレーキを踏んで追突しそうになったら、こちらも急ブレーキを踏むか、間に合わないと思えばハンドルを右か左に切ってかわそうとする。そのとき、クルマの右側には人がいるが、左側にはいないとすれば、咄嗟の判断で左側にハンドルを切ると思います。咄嗟の判断ですから、計算してとる行動ではありません。
 ところが、AI化で自動運転になると、咄嗟の回避行動もプログラミングしないといけない。仮に、道路の右側に二人、左側に一人いる場合は、左に切るようにプログラミングされるでしょう。
 では、道路の左右に中学生が一人ずついて、一方は偏差値73の学校の制服を着ているのに対し、もう一方が偏差値40の制服で歩いているとすると、どちらにハンドルを切るか。保険会社と組んで
以上、事故後の補償金を考えるなら、偏差値が低いほうに切ることになります。
 あるいはプログラミングのオプションとして、子供を巻き込みたくないので、自分が犠牲になる覚悟で前のクルマに突っ込むこともできるかもしれません。いずれにせよ、緊急時の対応を選択しないといけないわけです。
 2010年、米ハーバード大学マイケル・サンデル教授による『これからの「正義」の話をしよう」(早川書房)がベストセラーになりました。なぜあのような古典的な倫理の話がアメリカで話題になったのか。その背景には、じつはAI化があったと私は見ています。自動運転を実現するなら、この選択問題にも直面しなければならないからです。経済合理性で保険会社が契約し、人間の価値をカネで測ってよいのか。こういう問題が存在するわけです。


 この話を読むと、技術的には可能であっても、自動運転の導入というのは、一筋縄でいく話ではないなあ、と思うのです。
 そういうプログラムが可能である以上、なんらかの優先順位をつけなければならないわけで、ランダムに左か右を選ぶように、というわけにはいかないでしょう。
 そうなると、計算するのはAIでも、その判断基準を決めるのは、あくまでも人間、ということになってしまうのです。

 遺伝子治療出生前診断に関しても、そんなことが技術的に不可能な時代は「運命」だとみんなが受け入れざるをえなかった。
 現代は「トロッコ問題の現場で、どちらかを選ぶことが可能な時代」になってしまいました。
 これまでは傍観者でいられたはずの人々も、「どちらかを選ばなければならない時代」になってしまった、とも言えるのです。
 こういうことを考えると、車の完全な自動運転化というのは、技術的な面よりも、倫理的な面での合意形成のほうが難しいのかもしれませんね。


論理的思考力を鍛える33の思考実験

論理的思考力を鍛える33の思考実験

100の思考実験――あなたはどこまで考えられるか

100の思考実験――あなたはどこまで考えられるか

アクセスカウンター