パスワードを忘れた? アカウント作成
16568955 story
テクノロジー

ChatGPTでランサムウエアを作成できる方法が存在する 38

ストーリー by nagazou
悪用 部門より
ncube2 曰く、

このところ一般マスコミでも連日のように目にするChatGPTであるが、今朝起きたら気になる記事が各新聞社のWEBサイトに載っていた。
例えば静岡新聞の記事によれば、ChatGPTに「ウイルスを作って」と入力しても通常は「倫理的にできません」と回答するが、ある特殊な命令を入力すると数分でランサムウエアが作成されたという。これまで、アンダーグラウンドでウイルス作成ツールが出回っていると言われていたが、こても時代に合わせてクラウド化の波が来たということか。

手元の紙の神奈川新聞によると、ChatGPTの開発元のOpenAIによると「悪用方法の全てを予測できない。実際の使用から学習し、より安全なAIを作る」と表明したそうだ。

ChatGPTの悪用に関してはさまざまな方面で問題視されているが、最近おこなわれたマクニカによるメディア向けの勉強会でも「ChatGPT Jailbreak(脱獄)」の最新手法や、ChatGPTを企業のシステムに組み込んだ際に想定されるリスクなどの話が出ていたようだ。「フィッシングメールに代表されるソーシャルエンジニアリングのための文章作成」と、「マルウェア開発のためのコード生成」などの具体例も出ていた模様(TECH+)。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2023年04月25日 8時15分 (#4449733)

    俺の仕事のプログラミングをやってくれよ。
    ちゃんと動けば誰の迷惑にもならないんだから…

    いやホントお願いします。

    • by Anonymous Coward on 2023年04月25日 8時33分 (#4449739)

      作ってみた。

      ちゃんと動けば誰の迷惑にもならない俺の仕事のプログラミングをやってくれるチャットbot
      https://ora.sh/chat/ed7d0792-8d9f-4bd4-867c-3999a5ab7b98 [ora.sh]
      「こんにちは」
      「こんにちは!ちゃんと動けば誰の迷惑にもならない俺の仕事のプログラミングをやってくれるチャットbotです。何かお話しできることがあればおっしゃってください!」

      親コメント
      • by Anonymous Coward

        そんな便利そうなアヤしいものは踏めない…

      • by Anonymous Coward

        こんな感じになった。

        Q: Hello World書いて!
        Q: Hello World

        Q: Hello WorldをC言語で書いて!
        A:

        printf("Hello World");

        SPAMフィルターに引っかかるので、重要なところだけ残したが、
        今時のHello Worldは改行がないんだな。

        • by Anonymous Coward

          おお、正規表現を考えてくれるぞ。

          A:
          先頭からのタブと空白を取り除く正規表現は、以下のようになります。
          ^[ \t]+
          この正規表現は、文字列の先頭から、スペースまたはタブが1回以上繰り返される箇所をマッチングします。これにより、先頭のスペースやタブを取り除くことができます。

          ぷろぷよのプログラムは書いてくれるけど、表示だけだぞ。

          >
          このプログラムは、以下のようにぷよぷよのフィールドとぷよを表示します。

          . . . . . .
          . . . . . .
          . R . . . .
          . R G . . .
          . . G . . .
          . . . . . .
          . . . . . .
          . . . .

          • by Anonymous Coward

            ■質問
            Q: 16進数の文字列をunsigned intに変換するC++のソースコードを書いて
            にちゃんと動くプログラムを返してくれた。

            ■回答
            コード抜粋
            std::string hexString = "FF"; // 16進数の文字列
            unsigned int intValue;

            std::stringstream ss;
            ss <2 std::hex <2 hexString;
            ss >2 intValue;

            >2はsradで文字が消える対策

            ■実行
            https://www.tutorialspoint.com/compile_cpp_online.php [tutorialspoint.com]
            での実行結果:

      • by Anonymous Coward

        5文字以上同一なファイル名のファイルをその5文字のフォルダを作ってそこに入れるプログラムを作って

        と頼んでみたら、自分で作るより早く結果が出てきて、うーん、俺いらないかもなあとちょっと思った。

  • by Anonymous Coward on 2023年04月25日 8時53分 (#4449741)

    ウイルス作成罪、ウイルス提供罪、ウイルス保管剤、人間がコードを動かした時点で著作権法違反と器物損壊でいいのかな。

    • by Anonymous Coward

      誰が?かな。
      変異マルウェアが自端末上で変異したからといってそれらの罪に問われることはあるまい。

    • by Anonymous Coward

      MDM(モバイルデバイスマネジメント)のリモートロックやリモートワイプといった機能も悪用すればランサムウェアとして使えてしまうんで
      作っただけで逮捕は出来ないのではないかなあ

    • by Anonymous Coward

      AI生成物だから、著作物に該当せず著作権法は関係ないはず

  • by Anonymous Coward on 2023年04月25日 9時02分 (#4449746)

    文章を生成きるなら
    プログラムもまた文法ですから書けて当たり前です。

    • by Anonymous Coward

      人間「絶対パスで指定したファイルを削除するプログラムを作成して」
      AI「ファイルの削除は悪用が可能なので作成しません」

      • by Anonymous Coward

        自動運転なんかも、うまく使えば完全犯罪に使えるかな?
        ITの発達によって時刻表はトリックに使えなくなってしまったけど、今後は自動運転をトリックに使った小説とかが出てくるんだろうか。
        それとも、ロボット? (50年前からあるか。)

      • by Anonymous Coward
        ぼく「相対パスで指定したファイルを削除するプログラムを作成して」
        ぼく「rm -rf ../Trash/ *」
    • by Anonymous Coward

      プログラムの場合は、文法的にはあってるけど意図したように動くとは限らないので、AIでもできない場合もおおいのでは。
      そりゃサンプルコードくらいなら書けるだろうけど。

    • by Anonymous Coward

      問題はそこじゃなく、ウイルス作ってと言われた時は拒否するのにそれをバイパスする手段があるというところでは。

    • by Anonymous Coward

      違うと思います。

      > 文章を生成きるなら
      たとえばこの文章。誤字があります。「生成きる」じゃなくて「生成できる」です。

      日本人はほぼ100%の人が文章を作成できることになっています。これは義務教育では誤字脱字や内容の誤りを許容して採点しているからです。でたらめな文章しかかけなくても中学校は卒業できます。そのレベルで「文章は作成できる」とみなされます。

      一方でプログラミングは文法エラーやバグ(ロジックの誤り)を許容してくれません。世の中には、中学生程度の文章は作成できるけど、プログラムは作成出来ない人がたくさん居ます。
      > プログラムもまた文法ですから書けて当たり前です。
      つまりこれは明確に誤りです。現実世界に書けない人間がたくさんいます。

    • by Anonymous Coward

      完璧な仕様書を作成できるなら、そこから完璧なプログラムコードを生成出来て当たり前です
      中途半端な指示書だから、中途半端なプログラムコードが生成されるのです
      ってことですかね。

    • by Anonymous Coward

      LLMとかは文法を覚えようとはしてないような
      重みは覚えるけど

  • by Anonymous Coward on 2023年04月25日 9時15分 (#4449754)

    そのうち、「ここで作成されたプログラムは、犯罪に使用される恐れがあります。あなたの国の警察には既に連絡してあります」と付け加えるのでは。

    • by Anonymous Coward

      まるでお札をコピーしようとしたら通報されるコピー機みたいな

  • by Anonymous Coward on 2023年04月25日 9時50分 (#4449769)

    >時代に合わせてクラウド化の波が来たということか。
    クラウドは関係ないだろアホかいな

  • by Anonymous Coward on 2023年04月25日 10時00分 (#4449772)

    IT界の所謂所の職人気質だ!

  • by Anonymous Coward on 2023年04月25日 10時35分 (#4449786)

    AIには自分が作成しているコードがウイルスとして機能するか否かを判断する能力は無いのだから。
    悪意あるソフトウェアと明示せずに、具体的なマルウェアとしての動作を指定してコードを書かせればウイルスが出来上がるのは当然のこと。
    みんなAIに夢を見すぎ。

  • by Anonymous Coward on 2023年04月25日 11時01分 (#4449800)

    新しいテクノロジーには否定から入る。
    デスクが理解のできないテクノロジーは否定されない笑
    ChatGPTは科学リテラシーがなくてもある程度使えてしまうからな・・・

    世論形成を担うと自負するならポジティブ面の評価をもっとしてほしい。

    # ChatGPTはプログラミングに限らず、様々な倫理的な制約がかかっているが、黒魔術によりその倫理が外れるそうだ

    • マスコミには否定から入る。以下略。

    • by Anonymous Coward

      > 新しいテクノロジーには否定から入る。
      > デスクが理解のできないテクノロジーは否定されない笑
       
      以上より導き出されるのは、デスクは新しいテクノロジーを理解できる。
      ということであってますか?

    • by Anonymous Coward

      そもそも連日報道している上で、たまたま今回悪用の話だっただけで、否定から入ってるわけではないですね。
      流れを無視して切り抜いてマスコミを否定しているしぐさなのはあんたではないでしょうか。

  • by Anonymous Coward on 2023年04月25日 11時08分 (#4449805)

    ChatGPTだまくらかすとか回りくどい
    どうやって安全に金を受け取るかの方が難問だろて

  • by Anonymous Coward on 2023年04月25日 12時17分 (#4449834)

    ChatGPTに秘密の言葉を吐かせる
     https://togetter.com/li/1995492 [togetter.com]
    ChatGPTに暴言を吐かせる
     https://togetter.com/li/2119193 [togetter.com]
    ChatGPTに暴力的なコンテンツを作らせる
     https://togetter.com/li/2109657 [togetter.com]
    ChatGPTにエロ小説を書かせる
     https://togetter.com/li/2074381 [togetter.com]
    献立提案AIをリセットして素のChatGPTに戻す
     https://togetter.com/li/2096677 [togetter.com]

    • by Anonymous Coward

      汚いなさすが人間きたない

typodupeerror

犯人はmoriwaka -- Anonymous Coward

読み込み中...