☆竹ちゃん引退ﾗﾘｰ支援金ボッケナイナイ＠ﾁｬﾝｹﾞ国沢915★

名無しさん＠そうだドライブへ行こう

>>436　続き

■AI業界がついにミッションクリティカルな分野に到達したのはいいが……

山本／今のAI業界ってそこが悪いところかもしれません。今までいわゆる人命に関わる
世界に出たことがなかったんです。将棋のAIを私は一生懸命プログラムしましたが、
いわばゲームなワケです。人の生き死にに関わる話じゃなかった。それがついに人の
生き死にに関わるような、そういったミッションクリティカルなところにもついに到達
できるようになったっていうのが誇るべきところですが、「次にそこでどうするか」って
話については議論としてはまとまっていないです。

国沢／そこも興味深いです。

山本／私としては人よりもはるかに安全っていうものを作るしか社会に受け入れられない
って思っています。例えば「事故率が3％から2％になりました」くらいだと社会に受け
入れられない。

国沢／今の話を聞くと、例えばワクチンなんかも、副作用がありますし、もしかしたら
それで死ぬかもしれない。だけど、それが200万人にひとりだったら、まあしょうがない
ねというところまでやっていけば、それは認知されるという判断ですね。圧倒的に安全が
担保できればいいと？

山本／そうですね。その安心に対する安全だけじゃなくて、それをこの先コモンセンスに
していく、常識にしていくっていうプロセスについてもすごく興味があります。

国沢／そういう意味ではやっぱりハードウェアが大事になってくる気がします。

山本／いえ、私はソフトウェアだと思っています。Liderですとcm級の誤差もわかります
が、それが安全な自動運転につながるワケでもないんです。

国沢／確かにつながらないんですよね。それも自動車業界みんな思ってます。人間もそう
だけど、能力のない人にいろんな情報を渡しても何の判断もできないから、それはもう
総合的に見なきゃいけないし。

山本／そうですね。

■リアルワールドで想定できないパターンへの対処は？

国沢／例えば、スバルはカメラをADASに使ってるんですけど、そんなにカメラ性能がいい
わけじゃないんです。それでも情報としては充分だっていいます。カメラがうんと高性能
になったってコンピュータがもう処理できない。何が言いたいかと言いうと、やっぱり
イレギュラーケースみたいなのが出てくるわけです。そうすると、カメラで見えていても、
AIがそれに対してどうしたらいいかわからない。今まで何度か起きてることがあればAIは
処理できるんだけど、まったく新しいものに対してはたぶん処理はできないし、悪意の
あるものに対してはなかなか対処が難しいと思います。すでに一般的な事故を見てると、
どの自動車メーカーはもう90％以上防げると言います。AIじゃなくディープラーニング
ですよね。想定外のパターンは無理だと言います。そういった面に関してはどうですか？　

山本／それはもう諦めるしかないです。例えば、最近出た論文で、信号をごまかすみたい
な悪意ある攻撃をされるってのがあって、それに対して何か騙されてるみたいな話があっ
たんですけど、具体的な攻撃に対しては人間も別に強いわけじゃないので諦めるしかないかと。

　続く