アカウント名:
パスワード:
映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。 まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。
遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。
すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。
ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
>逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)>それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
これはちょっと違うんでね?ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という学習になるはず。#その学習結果が理想的かどうかはともかく
理屈としては合ってるが、例えば「プールでおぼれた人の数からニコラスケイジの出演作品数を推論させる」とか全く相関しないデータから無理矢理対応関係を導かせようとすると収束しなかったり不適切な推論をする可能性はある
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell
対策としては複合センサか (スコア:1)
映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。
まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。
遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。
ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。
逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
Re: (スコア:0)
>逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
>それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。
これはちょっと違うんでね?
ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて
「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という
学習になるはず。
#その学習結果が理想的かどうかはともかく
Re:対策としては複合センサか (スコア:0)
理屈としては合ってるが、例えば「プールでおぼれた人の数からニコラスケイジの出演作品数を推論させる」とか
全く相関しないデータから無理矢理対応関係を導かせようとすると収束しなかったり不適切な推論をする可能性はある