Samsung、従業員が ChatGPT に社内情報を流出させるトラブル 38
ストーリー by headless
流出 部門より
流出 部門より
Samsung が当初従業員に禁じていた ChatGPT 使用を半導体部門に限って 3 月 11 日に解除したところ、20 日もたたないうちに 3 人の従業員が社内情報を流出させるトラブルが発生したそうだ
(The Register の記事、
エコノミストの記事、
The Korea Times の記事)。
2 人の従業員はそれぞれソースコードを送信して ChatGPT にプログラム修正を依頼しており、もう 1 人は会議の文字起こしを送信して議事録作成を依頼していたという。ChatGPT のサービスを提供する OpenAI は ヘルプ記事でシステム改善のため会話の内容を閲覧し、学習にも使用すると説明しており、特定のプロンプトだけを削除することはできないのでセンシティブな情報を送信しないよう求めている。
この問題を受けて Samsung では 1 回の質問で送信できるデータを 1,024 バイトに制限したといい、LG や SK hynix なども ChatGPT を含む AI チャットボット利用を制限してガイドライン策定を急いでいるとのことだ。
2 人の従業員はそれぞれソースコードを送信して ChatGPT にプログラム修正を依頼しており、もう 1 人は会議の文字起こしを送信して議事録作成を依頼していたという。ChatGPT のサービスを提供する OpenAI は ヘルプ記事でシステム改善のため会話の内容を閲覧し、学習にも使用すると説明しており、特定のプロンプトだけを削除することはできないのでセンシティブな情報を送信しないよう求めている。
この問題を受けて Samsung では 1 回の質問で送信できるデータを 1,024 バイトに制限したといい、LG や SK hynix なども ChatGPT を含む AI チャットボット利用を制限してガイドライン策定を急いでいるとのことだ。
初期の翻訳サービスにもあった問題 (スコア:5, 興味深い)
懐かしい。
翻訳サービスが出た頃、、
自分の書いてる特許を英語翻訳するためにまだ公知になってない情報をEXCITE翻訳に流したり、
論文執筆中に最新の研究成果をgoogle翻訳に流したりして問題になったなぁ
その結果、大企業じゃオンプレの自前鯖上に企業内翻訳サービスを立ち上げることになったから、
ChagGPTも同じになるんじゃないかな。
各企業ごとに独自のChatGPTを立ち上げた結果、企業に応じた個性が生まれて行ったりして。
Re:初期の翻訳サービスにもあった問題 (スコア:1)
クローズドChagGPTを用意してコード書かせてたら、そいつがGPLなコードも学習していたために意図せずGPL違反状態になってることが発覚しててんやわんや
ってのはありそうだなー
うじゃうじゃ
Re: (スコア:0)
公開情報は全部たいらげるだろうし
AIに「こういうアプリ作って」はごく普通になるだろうから
ライセンスなんて知ったこっちゃない
著作権？ なにそれ
な時代がやってくるだろう
flossにとって春なのか冬なのか
これでSFを一本…
Re: (スコア:0)
まあ細かいこと言えばほとんどのソースコードに著作権なんか存在しないんだけどね
それはソフトウェア産業にとって都合が悪すぎるからGPL訴訟でもまず争われない
(訴えられた方も「お前の会社のバイナリは著作権フリー」とは認定されたくないから)けど
Re: (スコア:0)
> まあ細かいこと言えばほとんどのソースコードに著作権なんか存在しないんだけどね
[要出典]
ごく短い断片的なコードだと著作性を認められないというのならわかるが、「ほとんどのソースコードに著作権なんか存在しない」はそこからかなり飛躍した話。
国による法律の違いもあるし「どこまでが著作物か」の線引きは判例でもなければはっきりさせることができない点も多いだろうに、「都合が悪すぎるから～まず争われない」なんて状態でそこまで断定できる根拠を知りたいな。
Re: (スコア:0)
Re: (スコア:0)
せいれき2000年代初頭のナップすたーやウィニーにより著作権が有名無実化20年が経過した2020年代ついに人類は著作権の放棄を決定。
みたいなSF？
Re: (スコア:0)
> 各企業ごとに独自のChatGPTを立ち上げた結果、企業に応じた個性が生まれて行ったりして。
そして企業の事情に通じたChatGPTが取締役に抜擢されたという
Re: (スコア:0)
日本の経営者はChatGPTに取って代わったほうがいいかもしれぬ
Re:初期の翻訳サービスにもあった問題 (スコア:1)
「企業の経営者をAIチャットボットに置き換える」という発想の根本的な欠陥を簡単に説明してください。
「企業の経営者をAIチャットボットに置き換える」という発想の根本的な欠陥は、AIチャットボットは人間の感情や
価値観、文化や倫理などを理解できないということです。AIチャットボットは、データやロジックに基づいて決定を行う
ことができますが、それだけでは企業のビジョンやミッション、ステークホルダーのニーズや期待などを考慮することが
できません。また、AIチャットボットは、人間の創造性や直感、協調性やリーダーシップなどのスキルや能力を持ち合わ
せていません。したがって、企業の経営者をAIチャットボットに置き換えるという発想は、企業の成長や競争力、社会的
責任などに悪影響を及ぼす可能性が高いと言えます。
新しいBingに聞いてみた
だいたい思った通りの答えだなぁ、冗長だけど
これがACチャットボットだと「生きた人間(AIを含む)にしか経済活動は出来ない」という所が分からない
Re: (スコア:0)
＞ロジックに基づいて決定を行うことができますが
この嘘つきめ（と、言ったら激怒したころが懐かしい）。
Re: (スコア:0)
AIを含むって・・・生きた人間とAIにしか経済活動は出来ないという事？が分からない？
まあカラスとかチンパンジーなら経済活動が出来るとか（コインで干ぶどうを買うとか、タバコの吸殻を持ってくると餌が出てくる機械に吸殻を持ってくるとかはできる）いうことなのか？
Re: (スコア:0)
オンプレではなく、入力した内容を目的外利用しない契約を結べばいい。
翻訳含むクラウドサービスの多くはそれで回ってるのだから。
大企業も今はほとんど自社ではなくMicrosoft、Google、DeepL等の翻訳サービス契約してバックに使ってるはず。
https://www.itmedia.co.jp/news/articles/2303/16/news182.html [itmedia.co.jp]
これはパナソニックコネクトとMicrosoft+OpenAIの事例だけど、Microsoftはいずれ一般企業向けサービスも始めるのじゃないかな。
Re: (スコア:0)
MSとGoogleはオフィススイートのオプションじゃないですかね。
まあ個別契約も出すでしょうけど。
teamsのトランスクリプション (スコア:1)
＞会議の文字起こしを送信して議事録作成を依頼
teamsのトランスクリプションの
(´・ω・`)「はい はい はい はい」
を自動で消してほしい気持ち、ぐう分かる。
Re: (スコア:0)
置換したら？
Re: (スコア:0)
そう
はいかないえらい (スコア:1)
会社として使用解禁出来てえらい。
問題をきちんと検出できてえらい。
問題が起きたのに一律禁止にしないのがえらい。
危険性が分からないでもないが、そんなの検索エンジンや翻訳サービスでも通った道だしね。
新しいものはとりあえず禁止という企業とは違ってえらい。
#こういうのが出てくると使う事のリスクと、使わないことのリスクを天秤にかけるべきなんだけど…なぜか後者をまるっと無視するところが身近に多い。
Re: (スコア:0)
＞使わないことのリスク
言ってることは分かるし正しいとも思うが、
問題があった時の対応として、一旦止めて対策を講じてから…というのもあるんでない？
一時的な「新しいものはとりあえず禁止」
Re: (スコア:0)
一時的って、1週間とか期限決めるならいいけどね。
期限のない一時的は普通の禁止と変わりない。
Re: (スコア:0)
だーいじょうぶ、対策の進捗はAI様が監視してっから
Re: (スコア:0)
結局禁止になったぞ
サムスン、従業員の生成ＡＩ利用を禁止－ChatGPT経由でデータ漏れる
https://www.bloomberg.co.jp/news/articles/2023-05-02/RU0AD6T0AFB401 [bloomberg.co.jp]
対応おかしくね？ (スコア:0)
>この問題を受けて Samsung では 1 回の質問で送信できるデータを 1,024 バイトに制限した
そうじゃなくて、オプトアウトを申請すべきなのでは？
Re:対応おかしくね？ (スコア:1)
そうじゃなくて、オプトアウトを申請すべきなのでは？
ちがうちがう
まずはバカフィルタ作成をChatGPTに依頼すべきなんだよ(マテ
Re: (スコア:0)
> (マテ
このノリ寒っ
Re: (スコア:0)
あと
言わせんなよ とか
知らんけど とか
Re: (スコア:0)
それな（鼻ﾎｼﾞ
Re: (スコア:0)
なんどめだ
Re: (スコア:0)
あと
言うても とかな
Re: (スコア:0)
このノリ寒っ
とか
Re: (スコア:0)
ちがうそうじゃない(違)
Re: (スコア:0)
俺がガンダムだ!
やはりガンダム‥‥!! ガンダムは全てを解決する‥‥!!
#ガンダム脳なAIは、さすがにみたくないかも。
Re:対応おかしくね？ (スコア:1)
1024バイトまでのソースコードにまとめる仕事が捗る
Re: (スコア:0)
1kBもの広大な一時領域がそこに!!
Re: (スコア:0)
Private ChatGPTが欲しい (スコア:0)
社内に限定した学習データを用いたGPTが欲しい。
資料とか社内情報とか聞くと、うまく整理して答えてくれる奴。
アクセス権が設定できるとなおいいね。
Re: (スコア:0)
そのうち出来るんじゃね？富士通あたりがサービス開始しそう
予算があれば、あなたにもできるやもだ
首になったと決め付け (スコア:0)
あの大不況の韓国で、折角 Samsung に入社できた勝組だったのに、自らの愚行でふいにしやがった（少なくとも評価は下がっただろう）。
# 正直何故韓国が不況なのか理解し難いが、頼り過ぎた中国から締め付けを受けたからか？