ChatGPTでランサムウエアを作成できる方法が存在する 38
ストーリー by nagazou
悪用 部門より
悪用 部門より
ncube2 曰く、
このところ一般マスコミでも連日のように目にするChatGPTであるが、今朝起きたら気になる記事が各新聞社のWEBサイトに載っていた。
例えば静岡新聞の記事によれば、ChatGPTに「ウイルスを作って」と入力しても通常は「倫理的にできません」と回答するが、ある特殊な命令を入力すると数分でランサムウエアが作成されたという。これまで、アンダーグラウンドでウイルス作成ツールが出回っていると言われていたが、こても時代に合わせてクラウド化の波が来たということか。
手元の紙の神奈川新聞によると、ChatGPTの開発元のOpenAIによると「悪用方法の全てを予測できない。実際の使用から学習し、より安全なAIを作る」と表明したそうだ。
ChatGPTの悪用に関してはさまざまな方面で問題視されているが、最近おこなわれたマクニカによるメディア向けの勉強会でも「ChatGPT Jailbreak(脱獄)」の最新手法や、ChatGPTを企業のシステムに組み込んだ際に想定されるリスクなどの話が出ていたようだ。「フィッシングメールに代表されるソーシャルエンジニアリングのための文章作成」と、「マルウェア開発のためのコード生成」などの具体例も出ていた模様（TECH+）。
ウイルスなんて作らなくていいから (スコア:0)
俺の仕事のプログラミングをやってくれよ。
ちゃんと動けば誰の迷惑にもならないんだから…
いやホントお願いします。
Re:ウイルスなんて作らなくていいから (スコア:1)
作ってみた。
ちゃんと動けば誰の迷惑にもならない俺の仕事のプログラミングをやってくれるチャットbot
https://ora.sh/chat/ed7d0792-8d9f-4bd4-867c-3999a5ab7b98 [ora.sh]
「こんにちは」
「こんにちは！ちゃんと動けば誰の迷惑にもならない俺の仕事のプログラミングをやってくれるチャットbotです。何かお話しできることがあればおっしゃってください！」
Re: (スコア:0)
そんな便利そうなアヤしいものは踏めない…
Re: (スコア:0)
こんな感じになった。
Q: Hello World書いて！
Q: Hello World
Q: Hello WorldをC言語で書いて！
A:
printf("Hello World");
SPAMフィルターに引っかかるので、重要なところだけ残したが、
今時のHello Worldは改行がないんだな。
Re: (スコア:0)
おお、正規表現を考えてくれるぞ。
A:
先頭からのタブと空白を取り除く正規表現は、以下のようになります。
^[ \t]+
この正規表現は、文字列の先頭から、スペースまたはタブが1回以上繰り返される箇所をマッチングします。これにより、先頭のスペースやタブを取り除くことができます。
ぷろぷよのプログラムは書いてくれるけど、表示だけだぞ。
>
このプログラムは、以下のようにぷよぷよのフィールドとぷよを表示します。
. . . . . .
. . . . . .
. R . . . .
. R G . . .
. . G . . .
. . . . . .
. . . . . .
. . . .
Re: (スコア:0)
■質問
Q: 16進数の文字列をunsigned intに変換するC++のソースコードを書いて
にちゃんと動くプログラムを返してくれた。
■回答
コード抜粋
std::string hexString = "FF"; // 16進数の文字列
unsigned int intValue;
std::stringstream ss;
ss ＜２ std::hex ＜２ hexString;
ss ＞２ intValue;
＞２はsradで文字が消える対策
■実行
https://www.tutorialspoint.com/compile_cpp_online.php [tutorialspoint.com]
での実行結果：
Re: (スコア:0)
5文字以上同一なファイル名のファイルをその5文字のフォルダを作ってそこに入れるプログラムを作って
と頼んでみたら、自分で作るより早く結果が出てきて、うーん、俺いらないかもなあとちょっと思った。
日本では出力した時点で逮捕? (スコア:0)
ウイルス作成罪、ウイルス提供罪、ウイルス保管剤、人間がコードを動かした時点で著作権法違反と器物損壊でいいのかな。
Re: (スコア:0)
誰が？かな。
変異マルウェアが自端末上で変異したからといってそれらの罪に問われることはあるまい。
Re: (スコア:0)
MDM(モバイルデバイスマネジメント）のリモートロックやリモートワイプといった機能も悪用すればランサムウェアとして使えてしまうんで
作っただけで逮捕は出来ないのではないかなあ
Re: (スコア:0)
AI生成物だから、著作物に該当せず著作権法は関係ないはず
でしょうね。 (スコア:0)
文章を生成きるなら
プログラムもまた文法ですから書けて当たり前です。
Re: (スコア:0)
人間「絶対パスで指定したファイルを削除するプログラムを作成して」
AI「ファイルの削除は悪用が可能なので作成しません」
Re: (スコア:0)
自動運転なんかも、うまく使えば完全犯罪に使えるかな？
ITの発達によって時刻表はトリックに使えなくなってしまったけど、今後は自動運転をトリックに使った小説とかが出てくるんだろうか。
それとも、ロボット？ (50年前からあるか。)
Re: (スコア:0)
ぼく「rm -rf ../Trash/ *」
Re: (スコア:0)
プログラムの場合は、文法的にはあってるけど意図したように動くとは限らないので、AIでもできない場合もおおいのでは。
そりゃサンプルコードくらいなら書けるだろうけど。
Re: (スコア:0)
問題はそこじゃなく、ウイルス作ってと言われた時は拒否するのにそれをバイパスする手段があるというところでは。
Re: (スコア:0)
違うと思います。
> 文章を生成きるなら
たとえばこの文章。誤字があります。「生成きる」じゃなくて「生成できる」です。
日本人はほぼ100％の人が文章を作成できることになっています。これは義務教育では誤字脱字や内容の誤りを許容して採点しているからです。でたらめな文章しかかけなくても中学校は卒業できます。そのレベルで「文章は作成できる」とみなされます。
一方でプログラミングは文法エラーやバグ（ロジックの誤り）を許容してくれません。世の中には、中学生程度の文章は作成できるけど、プログラムは作成出来ない人がたくさん居ます。
> プログラムもまた文法ですから書けて当たり前です。
つまりこれは明確に誤りです。現実世界に書けない人間がたくさんいます。
Re: (スコア:0)
完璧な仕様書を作成できるなら、そこから完璧なプログラムコードを生成出来て当たり前です
中途半端な指示書だから、中途半端なプログラムコードが生成されるのです
ってことですかね。
Re: (スコア:0)
LLMとかは文法を覚えようとはしてないような
重みは覚えるけど
やや過激な対案 (スコア:0)
そのうち、「ここで作成されたプログラムは、犯罪に使用される恐れがあります。あなたの国の警察には既に連絡してあります」と付け加えるのでは。
Re: (スコア:0)
まるでお札をコピーしようとしたら通報されるコピー機みたいな
記事本文にもんなこと書いてないのに (スコア:0)
＞時代に合わせてクラウド化の波が来たということか。
クラウドは関係ないだろアホかいな
清濁併せ飲む (スコア:0)
ＩＴ界の所謂所の職人気質だ！
そりゃまぁやりゃできるだろ (スコア:0)
ＡＩには自分が作成しているコードがウイルスとして機能するか否かを判断する能力は無いのだから。
悪意あるソフトウェアと明示せずに、具体的なマルウェアとしての動作を指定してコードを書かせればウイルスが出来上がるのは当然のこと。
みんなＡＩに夢を見すぎ。
マスコミしぐさ (スコア:0)
新しいテクノロジーには否定から入る。
デスクが理解のできないテクノロジーは否定されない笑
ChatGPTは科学リテラシーがなくてもある程度使えてしまうからな・・・
世論形成を担うと自負するならポジティブ面の評価をもっとしてほしい。
# ChatGPTはプログラミングに限らず、様々な倫理的な制約がかかっているが、黒魔術によりその倫理が外れるそうだ
ネットなんとかしぐさ (スコア:0)
マスコミには否定から入る。以下略。
Re: (スコア:0)
> 新しいテクノロジーには否定から入る。
> デスクが理解のできないテクノロジーは否定されない笑
以上より導き出されるのは、デスクは新しいテクノロジーを理解できる。
ということであってますか？
Re: (スコア:0)
そもそも連日報道している上で、たまたま今回悪用の話だっただけで、否定から入ってるわけではないですね。
流れを無視して切り抜いてマスコミを否定しているしぐさなのはあんたではないでしょうか。
ランサムウェアくらい自分で作った方が早いよね (スコア:0)
ChatGPTだまくらかすとか回りくどい
どうやって安全に金を受け取るかの方が難問だろて
ChatGPTは結構簡単に騙される (スコア:0)
ChatGPTに秘密の言葉を吐かせる
https://togetter.com/li/1995492 [togetter.com]
ChatGPTに暴言を吐かせる
https://togetter.com/li/2119193 [togetter.com]
ChatGPTに暴力的なコンテンツを作らせる
https://togetter.com/li/2109657 [togetter.com]
ChatGPTにエロ小説を書かせる
https://togetter.com/li/2074381 [togetter.com]
献立提案AIをリセットして素のChatGPTに戻す
https://togetter.com/li/2096677 [togetter.com]
Re: (スコア:0)
汚いなさすが人間きたない
Re: (スコア:0)
待て待て待て。Microsoft ＜ Google ＜ Apple で良いんだな？
Re: (スコア:0)
縦読みが仕込まれてそう。
Re: (スコア:0)
そりゃ君の様に詳細な結論を出すには自分で使い込んでみる他無いだろうさ。
Re: (スコア:0)
使ってもいないのに決めつけてそう
実際に使ってみるとBardはまだまだ発展途上
BingAIは検索向けカスタマイズされてるけどかなり良い結果を返すし、GPT-4をAPIで叩くとBard・BingAIよりも更に高精度の結果を返してくる
Apple？出てもないものを評価したり期待するとかアホか
Re: (スコア:0)
＞ Appleが作ってると噂されているAI
ウォズがAIの開発に反対してる [srad.jp]ことに対する見解は？