headless 曰く、

サイバー犯罪用のテキストを生成できる生成型 AI チャットボット「WormGPT」がハッキングフォーラムで紹介されているそうだ (SlashNext のブログ記事、 HackRead の記事、 Ghacks の記事)。

WormGPT は大規模言語モデルとして2021 年の古い GPT-J を使用しており、学習に使用した具体的なデータセットは公表されていないが、マルウェアに関連したデータを集中的に用いているという。これにより、マルウェアのソースコード生成や、ビジネスメール詐欺 (BEC) 攻撃用の電子メール本文などを ChatGPT のような倫理的制約なしに生成できる。

サイバーセキュリティ対策を提供する SlashNext が BEC 攻撃用のメール本文を生成させる実験を行ったところ、文法的に非の打ちどころがなく説得力がある内容だったといい、十分なスキルのない攻撃者でも容易に BEC 攻撃が可能になるとのこと。そのため、BEC 攻撃に特化した従業員のトレーニングや電子メールの認証基準強化などの重要性を強調している。