自律走行車：倫理感と信頼性？

　半自律（ドライバーアシスト）および全自律走行車の開発状況は、今、最もエキサイティングな技術の１つであり、多くのメーカーが自律走行車や自動運転車両、関連する車両内および車両間通信・制御を競うように開発中である。米国やヨーロッパでは数え切れないほど多くの試行プログラムが実行されている。Googleの自動運転プログラムは先駆けの１つであり、Autoliv（ドイツの会社）は現在、ボストンのある地域で数ヵ月にわたるパイロットプログラムを実施中で、郊外および混雑した街中の通り両方でデータを収集している。連邦局および州当局は、半自律車両に関する規制の見直しも始めた。例えばカリフォルニア州車両管理局は、２０１６年９月３０日、連邦局の承認がある限り、最先端の自動運転車両にはもはや免許を持つ運転手の乗車は不要であると述べている。米国運輸省も最近、自動運転車に関する総合的な方針を発表した。

自律走行トラック
　ヨーロッパでは、トラックで運転手なしの運転が実際に始まっている。自律走行トレーラーの車列の概念に対して、ある調査が実施された。コロラドで２週間ほど前に、Uberが自動運転トラックを開発するサンフランシスコの新興企業Ottoと提携し、５万缶のバドワイザービールをトレーラーに載せて、米フォートコリンズのアンハイザー・ブッシュ社から１２０マイル離れたコロラドスプリングの販売店まで運搬した。監視者が乗車しているが、これは自律走行車では初となる民生使用だと思われる。

自律走行車についての倫理
　だが、こういった新技術が開発されている中で、興味深い倫理的な疑問が出てきた。運転手のいない車に生命や死に関わる判断ができるのか？ 例えば、自律走行車が角を曲がってくると、スクールバスが駐車していて子どもたちが通りを渡っており、通りの両側には並木があるとしよう。間に合うようにブレーキが作動しないと仮定した場合、ソフトウェアは次のアクションをどうやって判断するのだろうか？ 衝突対象はバスか、子どもたちか、並木なのか？
　以下の例は、IEEEのPSES（Product Safety Engineering Society）の掲示板で見られた最近の議論から選んだシナリオと疑問である。

　『少し想像力を働かせれば、私には「誰も得をしない」ように見えるシナリオをたくさん思いつくことができる。片側に岩が露出する山肌、もう一方は崖になっている長い山道を車で下っていると想像してほしい。自動運転車は車両間通信によって、前にいる車にぴったりついて走っている。直線の道路でスピードが出ている。すると崖崩れが起こり道に大きな岩が降ってきた。前を走る車は岩にぶつかるかもしれないが、乗員を守れるぐらいには原型を留めた。だが自動運転車が前の車に衝突して乗員を怪我させたり、前の車を避けようとして自動運転車の乗員の生命を危険にさらす動きをする可能性もある。いったい、どのようなアクションを取るのか？…（中略）… こういった状況は自動運転車にとって目新しいものではなく、信頼性についてまた１つ新たな疑問を投げかけているにすぎない。– Ted Eckart』

　『…（前略）…もし車が乗員あるいは近くにいる乗員以外の人どちらの生命を優先するべきか選択しなければならない状況になった場合、Mercedes社は乗員を救うことを明確にしている。「少なくとも1人を救えることがわかっているなら、そうすべきである。車中にいる人の生命を救うということだ」とMercedes社のドライバーアシスタンスシステム＆アクティブセーフティ部門のマネージャーChristoph von Hugo氏は、最近Paris Motor Showにて話した。–James Pawsonによるレポート』

　『車両安全についての明らかな懸念は別としても、最近の報道内容に目下欠けている２つの問題があると思われる。…（中略）…
（１）完全自動運転のバドワイザー運搬トラックのような車両には回避システムが備わっていることは理解している。現在の人的条件を考えれば、回避アルゴリズムからの応答にトライしたり強制したり衝突を起こすようなやり方で「遊んでいる」他の乗り物内の運転手がいるという確かな可能性が予測できる。このような気晴らしは、ある種の人には楽しめるものに違いない。この点で、どんな種類の抑止的手段を取ったのか？
（２）IoT（Internet of Things：モノのインターネット）において既に経験しているハッキングに対する注意の欠如を考慮すると、運転手のいない車の乗員は、この種の乗り物のサイバーセキュリティに関してどう対処しているのか？ つまり、トラックの運転システムをハッキングしてハイジャックする輩が現れることがありうるか？ということである。– Doug Powell』

　『民間の旅客機は主に自ら飛行し、自動の衝突防止システムを備えている。旅客機事故の殆どはパイロットの過失に基づくものである。…（中略）… 自動車は自ら動く。自動運転機能が状況に対処できなくなった場合は、自動運転のスキームが消失し運転手に運転を代わるよう要求すればよいのではないか。鉄道車両と同様、運転手が眠らないよう注意喚起させ自動運転車が対応できなくなった場合にすぐに交代できるようにする、ある種の「デッドマン」スイッチが自動運転車にも備わることを願う。個人的には、自動運転でビールを運搬するトラックの後部座席に運転手がいるという状況には（まだ）あまり自信が持てない。– Rich Nute』

　『何かマズイことが起こった場合、どんなレベルの車両変更がメーカーの信頼失墜につながるだろうか？ メーカーは、センサの１つが適切に動作しなくなったら車両を停止させるようにするだろうか？ 町から何百、何千キロも離れたオーストラリア奥地を走行中にセンサが故障したらいったいどうなるのか？自家用車からメーカーが収集を許されるのはどんなデータか？ 物事はうまくいかないこともある。法的訴訟をするのに新しい手段を見つける賢明な弁護士がいることは知っている。厳格な規則を十分に考えることなく提案する支持者を喜ばせるのに躍起となっている政治家がいること、自動運転車の購入者の中には自分の目的のために規則を変える方法を見つけるような人がいることも知っている。言い換えれば、すべて人間のやることなのである。憂慮すべき対象はロボットではないというのが私の意見だ。– Ted Eckert』

　上記は全て価値のある疑問であり、我々のキーノートスピーカーRobert Neff氏が１１月１６日（２０１６年）のEMC Live Test & DesignBootcampで発表した疑問でもある。

2016年11月8日　by Kenneth Wyatt