a43ea6586203855584bb1fcd94cfab0f_s

1: ひろし ★ 2016/04/03(日) 22:17:44.69 ID:CAP_USER*.net
 本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。
人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。

人工知能開発における究極の選択問題

 トロッコ問題(トロリー問題)をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか?」という倫理学の思考実験だ。

「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、
この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」

 これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。

 この問題には、派生した以下の別バリエーションがある。

「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」

 この2つの問いを5000人以上に聞いたところ、最初の質問には89%の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。
しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11%。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。
命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。(参考:「wikipedia」より)

トロッコ問題解決がなければ自動運転車の普及はない?

 このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。

 たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。

 このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。

「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。
論理的にはそうなる。助けるために殺人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した殺人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。
あのダークな「ターミネーター=破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。

http://biz-journal.jp/2016/04/post_14504.html
http://biz-journal.jp/2016/04/post_14504_2.html



3: 名無しさん@1周年 2016/04/03(日) 22:18:33.21 ID:iGxCw9wD0.net
もうその頃には死んでるから関係ない

5: 名無しさん@1周年 2016/04/03(日) 22:19:21.71 ID:PrL3bGam0.net
サンデル先生に聞け

106: 名無しさん@1周年 2016/04/03(日) 22:41:21.97 ID:8O/nXWxd0.net
>>5
白熱教室ね

倫理に絶対正解は存在しない
時代の価値観により正しい解を選択するしかない

しかし人工知能が時代の価値観を学べるのか
人工知能自体が時代の価値観になってしまうのではないか

344: 名無しさん@1周年 2016/04/03(日) 23:18:21.14 ID:x7fjsvhE0.net
>>5
哲学をAIに学ばせるのは面白そうだな
人間は壊れるが、機械はどうなるんだろ?

10: 名無しさん@1周年 2016/04/03(日) 22:20:32.47 ID:sh6WcrS+0.net
突き落とすのが安倍だったら遠慮なく突き落としていい
おわり

65: 名無しさん@1周年 2016/04/03(日) 22:32:07.13 ID:vxbLzZD70.net
>>10
ひどいこと言うね。他人の命の価値をあなたに量る権利はないよ。

318: 名無しさん@1周年 2016/04/03(日) 23:15:12.31 ID:Rr2Rbrkr0.net
>>10
安倍首相なら大勢を助けるために喜んで自らの命を捨てるだろう。
何よりも他者の幸福を願う立派な宰相だからね。

11: 名無しさん@1周年 2016/04/03(日) 22:20:33.15 ID:TTtmVhaJ0.net
どっちもほっとくに決まってるだろ。
トロッコ問題簡単すぎ。

77: 名無しさん@1周年 2016/04/03(日) 22:34:34.28 ID:vxbLzZD70.net
>>11
日本人ならそうだよね。手を汚したくないし、背負いたくないから無関係でいる。
でも、アメリカとかの国民は彼らの信じる正義において行動するからなあ。

270: 名無しさん@1周年 2016/04/03(日) 23:09:05.94 ID:0t4CvLI20.net
>>11
それは5人しぬっていう答えでは?
誰もレスしとらんから間違ってる?

313: 名無しさん@1周年 2016/04/03(日) 23:14:53.32 ID:bdcTkOYL0.net
>>270
5人じゃなく6人じゃね

854: 名無しさん@1周年 2016/04/04(月) 00:37:41.23 ID:BEVAckGt0.net
>>313
トータルの死者数が増えるのか、
日本人は平和主義の一方、
そんな選択をするから軽んじられるんかな。

13: 名無しさん@1周年 2016/04/03(日) 22:21:05.20 ID:QwWoMoiD0.net
一人殺せば犯罪者だが、千人殺せば英雄となる。

14: 名無しさん@1周年 2016/04/03(日) 22:21:08.28 ID:0DY2IvI60.net
殺人犯になる覚悟があれば5人を助けてもいい
AIには何があっても人は殺すなとプログラムしておけばいいだけだ

15: 名無しさん@1周年 2016/04/03(日) 22:21:10.03 ID:gDq09Zue0.net
逆の場合はどうする?
5人の方はいわゆる下級国民で、一人の方がいわゆる上級国民だったして
上級国民を助ける方を選んだ場合

90: 名無しさん@1周年 2016/04/03(日) 22:37:14.82 ID:vxbLzZD70.net
>>15
進撃の巨人の場合は、5人を犠牲にしてエレンを助けるよね。
でもそれは、エレンがより多くの人間を助ける希望だからだけど。

16: 名無しさん@1周年 2016/04/03(日) 22:21:26.70 ID:eFOvTGpJ0.net
六人で遭難して誰を食べるかって話か?

19: 名無しさん@1周年 2016/04/03(日) 22:21:49.60 ID:sk2zymAd0.net
若者は間接的に老人に殺されてまっせ。

時折車でも殺されてますよ

20: 名無しさん@1周年 2016/04/03(日) 22:21:50.15 ID:cNXVftVt0.net
狂った人工知能を止めようとして全人類が抹殺される確率より低いだろw

22: 名無しさん@1周年 2016/04/03(日) 22:22:29.26 ID:MDQ1xKFS0.net
殺していいだろ
じゃないと全員死ぬんだろ?
どーしろと?

28: 名無しさん@1周年 2016/04/03(日) 22:24:30.72 ID:Uv/JRZ0P0.net
>>22
Aさんが何もしなければ、前者のケースならBさん、後者のケースならCさんは助かる
5人が死ぬのは運命だと諦めることにして「Aさんは何もしない」って選択肢もあるはずなんだよなぁ

69: 名無しさん@1周年 2016/04/03(日) 22:33:14.57 ID:vMbhfeU20.net
>>28
運命なんて存在しないから。単に不作為の5人殺人だから。

701: 名無しさん@1周年 2016/04/04(月) 00:11:42.61 ID:wEv14Ufs0.net
>>69
不作為の殺人ってのがそれなら、何百回やっても問題なしだね。

26: 名無しさん@1周年 2016/04/03(日) 22:24:03.51 ID:oHDTqPP+0.net
無視する以外の解答が無い

27: 名無しさん@1周年 2016/04/03(日) 22:24:27.49 ID:cwD7Olvp0.net
こういうのって無意識にやっていることだからな
慣習がまさにそれなんだよ

29: 名無しさん@1周年 2016/04/03(日) 22:24:36.50 ID:EZ3P3w8G0.net
日本人が生きるために朝鮮人を皆殺しにしていいか?

48: 名無しさん@1周年 2016/04/03(日) 22:27:31.08 ID:Uv/JRZ0P0.net
>>29
朝鮮人を皆殺しにしなければ日本人が生きられないのなら、Yesだな
朝鮮人を皆殺しにしなくても日本人が生きられるのなら、さすがにNo

30: 名無しさん@1周年 2016/04/03(日) 22:25:07.71 ID:DlzDaXlz0.net
人工知能はもはや自分で考えるようになるからどう考えるべきなのかなんてコト知るかって思ってるよ

31: 名無しさん@1周年 2016/04/03(日) 22:25:15.73 ID:IKQRZP5A0.net
一人の命で五人助かるなら
それが正解の一つ

101: 名無しさん@1周年 2016/04/03(日) 22:40:51.14 ID:vxbLzZD70.net
>>31
刑務所が火事になったとして、一人の刑務官と5人の囚人どちらを助けるか?

153: 名無しさん@1周年 2016/04/03(日) 22:49:31.50 ID:/FVuHIb00.net
>>101
俺様なら全員救助する!
キリッ!

32: 名無しさん@1周年 2016/04/03(日) 22:25:31.56 ID:MT9f6zcj0.net
肥ったCさんを線路に突き落としたごときで止まるなら工具でも岩でも止まるだろ

33: 名無しさん@1周年 2016/04/03(日) 22:25:34.48 ID:j8kBX5zr0.net
迷ってる間に終わるのが人間だろう
人工知能もこういう時は無限ループするようにしとけばいい

34: 名無しさん@1周年 2016/04/03(日) 22:25:58.34 ID:NW9woh2S0.net
5人は末期がんで1人の方は若者だったらどうする?

35: 名無しさん@1周年 2016/04/03(日) 22:26:04.60 ID:5MaXFmSt0.net
人間でも同じ話
それについての決着はついている
AIにまかせることで罪悪感は持たなくてもいいので
気楽になれる

36: 名無しさん@1周年 2016/04/03(日) 22:26:16.52 ID:fP996t7m0.net
ロボット三原則の実装はよ

38: 名無しさん@1周年 2016/04/03(日) 22:26:31.36 ID:rSeR5MPc0.net
正解、それでこそ衛宮切嗣だ

39: 名無しさん@1周年 2016/04/03(日) 22:26:41.58 ID:vj8nrFZQ0.net
そのうちAIが
この1つしかない地球を救うためには、全人類を殺すしかない
という選択をする

40: 名無しさん@1周年 2016/04/03(日) 22:26:45.27 ID:moH6XftK0.net
5人はお前らだったら

41: 名無しさん@1周年 2016/04/03(日) 22:26:50.73 ID:bebsiy540.net
緊急避難って奴でね
有名な「カルネアデスの板」ですね

58: 名無しさん@1周年 2016/04/03(日) 22:30:00.01 ID:UCWc1laX0.net
>>41
あれはまた別でしょ。自分を助けるために他人を害するのはいいのかどうかという話
こっちはドライバーがどっちを犠牲にするかを人間なら決めれるけど、機械が正しく判断できるかということ

42: 名無しさん@1周年 2016/04/03(日) 22:26:52.01 ID:DlzDaXlz0.net
人工知能「悲しみを減らさなければならないから全員コロソウ」

46: 名無しさん@1周年 2016/04/03(日) 22:27:12.85 ID:Hf/zDjpf0.net
聖杯=AI

47: 名無しさん@1周年 2016/04/03(日) 22:27:18.04 ID:jXkQGr3j0.net
俺なら6人助ける

50: 名無しさん@1周年 2016/04/03(日) 22:28:11.00 ID:/FVuHIb00.net
レールの上に石を置けば全て解決

51: 名無しさん@1周年 2016/04/03(日) 22:28:17.88 ID:DlzDaXlz0.net
1人いる方にトロッコ行かせてどけって叫ぶ

52: 名無しさん@1周年 2016/04/03(日) 22:28:49.02 ID:fP996t7m0.net
ロボット三原則なら
人を救う事はしなくても良い
人を殺す事はしてはダメ

なので何もしないが政界

53: 名無しさん@1周年 2016/04/03(日) 22:28:57.24 ID:k0rVe3ip0.net
5人を救うために1人を殺し、4人を救うために1人を殺す
3人を救うために1人を殺す。さて、これまでに何人殺したでしょうか(´・ω・`)

79: 名無しさん@1周年 2016/04/03(日) 22:34:59.30 ID:BpeiiT2B0.net
>>53
本当は世界じゃなくて、自分が救われたかった という人の話だなw

54: 名無しさん@1周年 2016/04/03(日) 22:28:58.93 ID:2yD2mQdy0.net
子供の集団に飛び込むよりは、
買い主の運転手もろとも自爆するほうを選ぶ車なんか
誰も買わないだろw

どうAIをプログラミングするか、答えは明確だわな

戦争で味方の識別信号を発信する以外の人間は敵として全滅させるのは当然だろ
ただ、敵が識別信号をハッキングして、逆にAIに味方の信号を敵信号と認識させたら
AIは自分の味方を全滅させてしまう

AIには倫理とか無用なんだから、所詮は人間がAIに倫理らしくみえるような行動パターンを
プログラミングするだけのこと

55: 名無しさん@1周年 2016/04/03(日) 22:29:06.48 ID:muXRQWuW0.net
自分が線路に落ちれば解決!!

56: 名無しさん@1周年 2016/04/03(日) 22:29:13.30 ID:425Iq8WD0.net
今の人工知能と言う代物は条件判断だけしかしないから
合理的な結果を選ぶはずだよ。

57: 名無しさん@1周年 2016/04/03(日) 22:29:34.33 ID:l5sHN4AL0.net
指導者に求めれるのは5人を助けるために
1人を見殺しにすることだ。
最悪の指導者は6人全員死亡させてしまう指導者だ。