アカウント名:
パスワード:
映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。 まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。
遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。
人間の運転者も容易に見間違いはするし。複合的なセンサー情報とそれらをまとめた状況判断が必要なのは人といっしょでしょうね。道路のペイントや標識も明かりの加減や薄くて見えなくなってるのも有るし。
まず複合的な判断ができるAIを屏風から出してもらわないといや別に単純なロジックでもいいんだけどカメラやセンサを増やしても過酷な条件に強くなるだけで判断力が上がるとは思えんセンサが相反する結果を返したらどれを信用するのが妥当かどうやって決めるのか走行不能なら安全に路肩に寄せて停止するということすらできないようでは話にならないね
AIに対してエンドユーザーが誤りを指摘できないし、誤りかけたけど結果的に問題なかった事がリアルタイムに解らないのも現状のAIの問題では。
致命的エラーになれば、自動運転レベルが低い間はエンドユーザーが監視しているので、運転手に修正されたらフィードバックして修正を行う事が出来ます。しかし、内部でエラー率が高くなって行っても、致命的になるまでエンドユーザーに教えない実装が多いですよね。
致命的になるまで教えないんじゃなくて、構造上、内部状態や時間的連続性が無いから判断ループ一回で急に致命的になるんだよ。一秒に数十回の判断一回一回がすべて別のケースなの。だからレベル3はいつまで経っても実現しないのにレベル4実験車両が走り回ってる。
とてもわかりやすい
すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。
ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
>逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)>それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
これはちょっと違うんでね?ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という学習になるはず。#その学習結果が理想的かどうかはともかく
人間が反応したということはレーダー以外の手段で知覚できるシグナルがあったということで、AIにとっても「(人間にも知覚できる)このシグナルの方がレーダーより相関が強い」と学習するでしょう。人間の反応を学習しようとしているのに人間が知覚できない情報が何の役に立つの?
あなたの見ている世界は、紙に描かれた平面の世界なのですか?
この場合AIが学習する対象は人間であって、世界ではないですよ。だから人間の行動に影響しない情報は無意味です。
つうか、そもそもレーダーに現れた何らかの情報を別経路(おそらく視覚)で人間が検知して反応してるのが大部分じゃないの?
ならカメラでいいじゃない。その方が人間が得ているものに近い情報が得られる。
理屈としては合ってるが、例えば「プールでおぼれた人の数からニコラスケイジの出演作品数を推論させる」とか全く相関しないデータから無理矢理対応関係を導かせようとすると収束しなかったり不適切な推論をする可能性はある
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
にわかな奴ほど語りたがる -- あるハッカー
対策としては複合センサか (スコア:1)
映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。
まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。
遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:対策としては複合センサか (スコア:1)
人間の運転者も容易に見間違いはするし。
複合的なセンサー情報とそれらをまとめた状況判断が必要なのは人といっしょでしょうね。
道路のペイントや標識も明かりの加減や薄くて見えなくなってるのも有るし。
Re: (スコア:0)
まず複合的な判断ができるAIを屏風から出してもらわないと
いや別に単純なロジックでもいいんだけど
カメラやセンサを増やしても過酷な条件に強くなるだけで判断力が上がるとは思えん
センサが相反する結果を返したらどれを信用するのが妥当かどうやって決めるのか
走行不能なら安全に路肩に寄せて停止するということすらできないようでは話にならないね
Re: (スコア:0)
AIに対してエンドユーザーが誤りを指摘できないし、誤りかけたけど結果的に問題なかった事がリアルタイムに解らないのも現状のAIの問題では。
致命的エラーになれば、自動運転レベルが低い間はエンドユーザーが監視しているので、運転手に修正されたらフィードバックして修正を行う事が出来ます。
しかし、内部でエラー率が高くなって行っても、致命的になるまでエンドユーザーに教えない実装が多いですよね。
Re: (スコア:0)
致命的になるまで教えないんじゃなくて、構造上、内部状態や時間的連続性が無いから判断ループ一回で急に致命的になるんだよ。
一秒に数十回の判断一回一回がすべて別のケースなの。だからレベル3はいつまで経っても実現しないのにレベル4実験車両が走り回ってる。
Re: (スコア:0)
とてもわかりやすい
Re: (スコア:0)
すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。
ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。
逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
Re: (スコア:0)
>逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
>それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
これはちょっと違うんでね?
ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて
「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という
学習になるはず。
#その学習結果が理想的かどうかはともかく
Re: (スコア:0)
人間が反応したということはレーダー以外の手段で知覚できるシグナルがあったということで、AIにとっても「(人間にも知覚できる)このシグナルの方がレーダーより相関が強い」と学習するでしょう。
人間の反応を学習しようとしているのに人間が知覚できない情報が何の役に立つの?
Re: (スコア:0)
あなたの見ている世界は、紙に描かれた平面の世界なのですか?
Re: (スコア:0)
この場合AIが学習する対象は人間であって、世界ではないですよ。
だから人間の行動に影響しない情報は無意味です。
Re: (スコア:0)
つうか、そもそもレーダーに現れた何らかの情報を別経路(おそらく視覚)で人間が検知して反応してるのが
大部分じゃないの?
Re: (スコア:0)
ならカメラでいいじゃない。その方が人間が得ているものに近い情報が得られる。
Re: (スコア:0)
理屈としては合ってるが、例えば「プールでおぼれた人の数からニコラスケイジの出演作品数を推論させる」とか
全く相関しないデータから無理矢理対応関係を導かせようとすると収束しなかったり不適切な推論をする可能性はある