パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

カメラやセンサーを騙すことでTeslaのAutopilotを混乱させる攻撃」記事へのコメント

  •  映像だけみたいな単純な情報をもとに判断しようとするからそうなるのであって、複数の種類のセンサを使って複合的に判断するようになれば、簡単には騙されなくなるはず。
     まあ、人間とは全く異なる性能を持つセンサを使って、人間の判断を学習したら、ある種のゆがみが出るのは避けられないのかもしれないけどね。

     遠回りでも、観測データから周囲の状況を推測するAIと、現在の状況から最適な行動を選択するAIは分けた方が良いのでは。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward

      すでにいくつもつっこまれてるけど、人間の判断や行動をベースに学習するなら人間とAIが受け取る情報は極力同じにしないと学習にならないよ。

      ドライバーがパトカーの音に反応したとしてAIの方には音響系のインプットがなかったら、AIは自分の知りえるシグナルの中のどれかをトリガーだと学習してしまう恐れがある。
      逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
      それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。

      • by Anonymous Coward

        >逆にドライバーがレーダー情報を見ないで運転したら(運転中なら普通そうなる)
        >それによって学習したAIも「レーダーの情報は判断に影響を与えない情報」として無視してしまう。

        これはちょっと違うんでね?
        ちゃんと作ってあれば、レーダー情報を一くくりにするんじゃなくて
        「こういうレーダー情報にはこう反応する、こういうレーダー情報は無視する」という
        学習になるはず。
        #その学習結果が理想的かどうかはともかく

        • by Anonymous Coward

          人間が反応したということはレーダー以外の手段で知覚できるシグナルがあったということで、AIにとっても「(人間にも知覚できる)このシグナルの方がレーダーより相関が強い」と学習するでしょう。
          人間の反応を学習しようとしているのに人間が知覚できない情報が何の役に立つの?

          • by Anonymous Coward

            つうか、そもそもレーダーに現れた何らかの情報を別経路(おそらく視覚)で人間が検知して反応してるのが
            大部分じゃないの?

UNIXはただ死んだだけでなく、本当にひどい臭いを放ち始めている -- あるソフトウェアエンジニア

処理中...