ロボットカーは運転者をどこまで守るべきかという問題のブコメを書いた時に考えたこと。
これに次のようなブコメをつけた。
乗っている人や周りの人がどうなろうと無関係に、危険を感じたら速度を落として停車するというアルゴリズムでいいです。複雑なアルゴリズムはバグを生み、その結果意図に反して人が死ぬという可能性もあるのですから
星も多少貰ったので賛同があったということだろう。実を言うと私は「倫理問題１０１問」という本を以前買ったのだが、最初の数問を読んだだけで馬鹿馬鹿しくなって読むのをやめてしまったのである。
いわゆるトロッコ問題というような問題が大量に載っているわけだ。どれも限定された条件で命を救うためにどう行動するべきかという問題である。この問題はすべてロボットがどう判断するかというように置き換えることが出来る。それに対する私の解答は、ブコメの通り「そんな状況に対応するようなプログラムは組み込まない」というものである。ロボットには命の選択をさせない。そうすれば、バグによって間違った命の選択をすることもない。
人間も同様であるべきだ。
トロッコ問題は良く出来ている。人を迷わせるように良く出来ているというべきだろうか。バグとは呼ばないものの、人間だって判断ミスはする。特に、考える時間が少ない場合は間違った判断をすることが多い。だからトロッコ問題への解答は分からないでよい。実際にそのような状況になったら、何もしないという行動になる。倫理的にどちらが正しいか考えた結果ではなく、判断が出来ないことによって何もしない。
これでトロッコ問題の類似問題を何問与えられようが、すべてに一瞬で回答することが出来る。普遍的な回答である。
二択強制による誘導にへの対応
政治思想などでも、極端な二者択一を強制して結論を誘導する場合がある。その場合でも、わからないという解答をしてよいはずだ。「いますぐにはわからないので一晩考えてから回答する」と答えて、もし相手が今すぐ回答せよと迫るなら、相手に悪意があると判断できる。
熟考した結論は信じるしかない。
思考を放棄せよと言っている訳ではなく、ちゃんと事実関係を調べて熟考した結果なら信じて行動するべきである。現実には二択はほとんどない。よく考えれば第三、第四の選択があるはずだ。
