サイバー犯罪用生成型AIツール「WormGPT」 15
ストーリー by nagazou
うーむ 部門より
うーむ 部門より
headless 曰く、
サイバー犯罪用のテキストを生成できる生成型 AI チャットボット「WormGPT」がハッキングフォーラムで紹介されているそうだ (SlashNext のブログ記事、 HackRead の記事、 Ghacks の記事)。
WormGPT は大規模言語モデルとして2021 年の古い GPT-J を使用しており、学習に使用した具体的なデータセットは公表されていないが、マルウェアに関連したデータを集中的に用いているという。これにより、マルウェアのソースコード生成や、ビジネスメール詐欺 (BEC) 攻撃用の電子メール本文などを ChatGPT のような倫理的制約なしに生成できる。
サイバーセキュリティ対策を提供する SlashNext が BEC 攻撃用のメール本文を生成させる実験を行ったところ、文法的に非の打ちどころがなく説得力がある内容だったといい、十分なスキルのない攻撃者でも容易に BEC 攻撃が可能になるとのこと。そのため、BEC 攻撃に特化した従業員のトレーニングや電子メールの認証基準強化などの重要性を強調している。
むしろアシがつきやすくなったりして (スコア:1)
> 十分なスキルのない攻撃者でも容易に BEC 攻撃が可能になる
とのことなので、ひっかけた後の処理に不慣れなバカの身バレに繋がりやすくなったりしないかなぁ。
Re: (スコア:0)
AIがアシとしてつくのですね（違
Re: (スコア:0)
WormGPTを使って学習して、攻撃者を撃退するAIを作るんだ！
＃まだネット上に十分に蓄積されていない新しい技術情報についてAIに質問すると、見当違いのGoogle検索の結果みたいな答えしか返ってこない
弊社の社長がオオアリクイに殺されて1年が過ぎました (スコア:0)
そんな文面も作ってくれるのだろうか？
Re: (スコア:0)
それくらいなら既存の日本語生成AIでもできるだろ。
ほらね (スコア:0)
スラド関係の文書を集中的に学習させれば、絶妙なtypoを生成するsradGPTを作れるはずだ
Re: (スコア:0)
ふっ、すでに稼働してることに気づいていない奴がいるとは…
Re: (スコア:0)
hylomが辞めたのはAIの台頭に危機感を覚えたからだったんだな
Re: (スコア:0)
実はhylomというAIが・・・
Re: (スコア:0)
hylom元気にしてんのかなと思ったら元気にtweetしてた。
ういるす (スコア:0)
ウイルス作成罪はAIのデータファイルには適用されるのだろうか。生成するまではウイルスじゃないと解釈するのか？
Re: (スコア:0)
ウイルス作成罪はAIのデータファイルには適用されるのだろうか。生成するまではウイルスじゃないと解釈するのか？
バイナリ配布でなければセーフという見解も無きにしも非ず
Re: (スコア:0)
それどころか、これを使ってひっかかりそうなテキストを生成しても罪に問うのは無理。
それを誰かに見せてだまそうとした時点で犯罪になる。
ホイホイ (スコア:0)
それ自体が犯罪者予備軍を見つけるためのものだったりして
あるいはアクセス者にマルウェアをばらまいてどこぞに大規模攻撃をしかける踏み台にするとか
Re: (スコア:0)
現状、著作権無視したデータを吐き出し続けるChatGPT自体が犯罪者生成ツールなわけですが。