アカウント名:
パスワード:
映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。 まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。
遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。
すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。
ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
>逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)>それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
これはちょっと違うんでね?ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という学習になるはず。#その学習結果が理想的かどうかはともかく
人間が反応したということはレーダー以外の手段で知覚できるシグナルがあったということで、AIにとっても「(人間にも知覚できる)このシグナルの方がレーダーより相関が強い」と学習するでしょう。人間の反応を学習しようとしているのに人間が知覚できない情報が何の役に立つの?
あなたの見ている世界は、紙に描かれた平面の世界なのですか?
この場合AIが学習する対象は人間であって、世界ではないですよ。だから人間の行動に影響しない情報は無意味です。
つうか、そもそもレーダーに現れた何らかの情報を別経路(おそらく視覚)で人間が検知して反応してるのが大部分じゃないの?
ならカメラでいいじゃない。その方が人間が得ているものに近い情報が得られる。
理屈としては合ってるが、例えば「プールでおぼれた人の数からニコラスケイジの出演作品数を推論させる」とか全く相関しないデータから無理矢理対応関係を導かせようとすると収束しなかったり不適切な推論をする可能性はある
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
にわかな奴ほど語りたがる -- あるハッカー
対策としては複合センサか (スコア:1)
映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。
まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。
遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。
ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。
逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
Re:対策としては複合センサか (スコア:0)
>逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
>それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
これはちょっと違うんでね?
ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて
「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という
学習になるはず。
#その学習結果が理想的かどうかはともかく
Re: (スコア:0)
人間が反応したということはレーダー以外の手段で知覚できるシグナルがあったということで、AIにとっても「(人間にも知覚できる)このシグナルの方がレーダーより相関が強い」と学習するでしょう。
人間の反応を学習しようとしているのに人間が知覚できない情報が何の役に立つの?
Re: (スコア:0)
あなたの見ている世界は、紙に描かれた平面の世界なのですか?
Re: (スコア:0)
この場合AIが学習する対象は人間であって、世界ではないですよ。
だから人間の行動に影響しない情報は無意味です。
Re: (スコア:0)
つうか、そもそもレーダーに現れた何らかの情報を別経路(おそらく視覚)で人間が検知して反応してるのが
大部分じゃないの?
Re: (スコア:0)
ならカメラでいいじゃない。その方が人間が得ているものに近い情報が得られる。
Re: (スコア:0)
理屈としては合ってるが、例えば「プールでおぼれた人の数からニコラスケイジの出演作品数を推論させる」とか
全く相関しないデータから無理矢理対応関係を導かせようとすると収束しなかったり不適切な推論をする可能性はある