パスワードを忘れた? アカウント作成
16696750 story
ワーム

サイバー犯罪用生成型AIツール「WormGPT」 15

ストーリー by nagazou
うーむ 部門より
headless 曰く、

サイバー犯罪用のテキストを生成できる生成型 AI チャットボット「WormGPT」がハッキングフォーラムで紹介されているそうだ (SlashNext のブログ記事HackRead の記事Ghacks の記事)。

WormGPT は大規模言語モデルとして2021 年の古い GPT-J を使用しており、学習に使用した具体的なデータセットは公表されていないが、マルウェアに関連したデータを集中的に用いているという。これにより、マルウェアのソースコード生成や、ビジネスメール詐欺 (BEC) 攻撃用の電子メール本文などを ChatGPT のような倫理的制約なしに生成できる。

サイバーセキュリティ対策を提供する SlashNext が BEC 攻撃用のメール本文を生成させる実験を行ったところ、文法的に非の打ちどころがなく説得力がある内容だったといい、十分なスキルのない攻撃者でも容易に BEC 攻撃が可能になるとのこと。そのため、BEC 攻撃に特化した従業員のトレーニングや電子メールの認証基準強化などの重要性を強調している。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • > 十分なスキルのない攻撃者でも容易に BEC 攻撃が可能になる

    とのことなので、ひっかけた後の処理に不慣れなバカの身バレに繋がりやすくなったりしないかなぁ。

    • by Anonymous Coward

      AIがアシとしてつくのですね(違

    • by Anonymous Coward

      WormGPTを使って学習して、攻撃者を撃退するAIを作るんだ!
      #まだネット上に十分に蓄積されていない新しい技術情報についてAIに質問すると、見当違いのGoogle検索の結果みたいな答えしか返ってこない

  • そんな文面も作ってくれるのだろうか?

    • by Anonymous Coward

      それくらいなら既存の日本語生成AIでもできるだろ。

  • by Anonymous Coward on 2023年07月19日 6時52分 (#4497009)

    スラド関係の文書を集中的に学習させれば、絶妙なtypoを生成するsradGPTを作れるはずだ

    • by Anonymous Coward

      ふっ、すでに稼働してることに気づいていない奴がいるとは…

      • by Anonymous Coward

        hylomが辞めたのはAIの台頭に危機感を覚えたからだったんだな

        • by Anonymous Coward

          実はhylomというAIが・・・

        • by Anonymous Coward

          hylom元気にしてんのかなと思ったら元気にtweetしてた。

  • by Anonymous Coward on 2023年07月19日 7時02分 (#4497013)

    ウイルス作成罪はAIのデータファイルには適用されるのだろうか。生成するまではウイルスじゃないと解釈するのか?

    • by Anonymous Coward

      ウイルス作成罪はAIのデータファイルには適用されるのだろうか。生成するまではウイルスじゃないと解釈するのか?

      バイナリ配布でなければセーフという見解も無きにしも非ず

    • by Anonymous Coward

      それどころか、これを使ってひっかかりそうなテキストを生成しても罪に問うのは無理。
      それを誰かに見せてだまそうとした時点で犯罪になる。

  • by Anonymous Coward on 2023年07月19日 13時09分 (#4497189)

    それ自体が犯罪者予備軍を見つけるためのものだったりして
    あるいはアクセス者にマルウェアをばらまいてどこぞに大規模攻撃をしかける踏み台にするとか

    • by Anonymous Coward

      現状、著作権無視したデータを吐き出し続けるChatGPT自体が犯罪者生成ツールなわけですが。

typodupeerror

吾輩はリファレンスである。名前はまだ無い -- perlの中の人

読み込み中...