パスワードを忘れた? アカウント作成
16556293 story
人工知能

Samsung、従業員が ChatGPT に社内情報を流出させるトラブル 38

ストーリー by headless
流出 部門より
Samsung が当初従業員に禁じていた ChatGPT 使用を半導体部門に限って 3 月 11 日に解除したところ、20 日もたたないうちに 3 人の従業員が社内情報を流出させるトラブルが発生したそうだ (The Register の記事エコノミストの記事The Korea Times の記事)。

2 人の従業員はそれぞれソースコードを送信して ChatGPT にプログラム修正を依頼しており、もう 1 人は会議の文字起こしを送信して議事録作成を依頼していたという。ChatGPT のサービスを提供する OpenAI は ヘルプ記事でシステム改善のため会話の内容を閲覧し、学習にも使用すると説明しており、特定のプロンプトだけを削除することはできないのでセンシティブな情報を送信しないよう求めている。

この問題を受けて Samsung では 1 回の質問で送信できるデータを 1,024 バイトに制限したといい、LG や SK hynix なども ChatGPT を含む AI チャットボット利用を制限してガイドライン策定を急いでいるとのことだ。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2023年04月09日 13時21分 (#4440949)

    懐かしい。

    翻訳サービスが出た頃、、
    自分の書いてる特許を英語翻訳するためにまだ公知になってない情報をEXCITE翻訳に流したり、
    論文執筆中に最新の研究成果をgoogle翻訳に流したりして問題になったなぁ

    その結果、大企業じゃオンプレの自前鯖上に企業内翻訳サービスを立ち上げることになったから、
    ChagGPTも同じになるんじゃないかな。

    各企業ごとに独自のChatGPTを立ち上げた結果、企業に応じた個性が生まれて行ったりして。

    • クローズドChagGPTを用意してコード書かせてたら、そいつがGPLなコードも学習していたために意図せずGPL違反状態になってることが発覚しててんやわんや
      ってのはありそうだなー

      --
      うじゃうじゃ
      親コメント
      • by Anonymous Coward

        公開情報は全部たいらげるだろうし
        AIに「こういうアプリ作って」はごく普通になるだろうから
        ライセンスなんて知ったこっちゃない
        著作権? なにそれ
        な時代がやってくるだろう
        flossにとって春なのか冬なのか

        これでSFを一本…

        • by Anonymous Coward

          まあ細かいこと言えばほとんどのソースコードに著作権なんか存在しないんだけどね
          それはソフトウェア産業にとって都合が悪すぎるからGPL訴訟でもまず争われない
          (訴えられた方も「お前の会社のバイナリは著作権フリー」とは認定されたくないから)けど

          • by Anonymous Coward

            > まあ細かいこと言えばほとんどのソースコードに著作権なんか存在しないんだけどね

            [要出典]

            ごく短い断片的なコードだと著作性を認められないというのならわかるが、「ほとんどのソースコードに著作権なんか存在しない」はそこからかなり飛躍した話。
            国による法律の違いもあるし「どこまでが著作物か」の線引きは判例でもなければはっきりさせることができない点も多いだろうに、「都合が悪すぎるから~まず争われない」なんて状態でそこまで断定できる根拠を知りたいな。

            • by Anonymous Coward
              バンバン争われてるし知財高裁が判例としてかなり明確な基準を確立してるが
        • by Anonymous Coward

          せいれき2000年代初頭のナップすたーやウィニーにより著作権が有名無実化20年が経過した2020年代ついに人類は著作権の放棄を決定。
          みたいなSF?

    • by Anonymous Coward

      > 各企業ごとに独自のChatGPTを立ち上げた結果、企業に応じた個性が生まれて行ったりして。

      そして企業の事情に通じたChatGPTが取締役に抜擢されたという

      • by Anonymous Coward

        日本の経営者はChatGPTに取って代わったほうがいいかもしれぬ

        • by Anonymous Coward on 2023年04月09日 14時24分 (#4440972)

          「企業の経営者をAIチャットボットに置き換える」という発想の根本的な欠陥を簡単に説明してください。

          「企業の経営者をAIチャットボットに置き換える」という発想の根本的な欠陥は、AIチャットボットは人間の感情や
          価値観、文化や倫理などを理解できないということです。AIチャットボットは、データやロジックに基づいて決定を行う
          ことができますが、それだけでは企業のビジョンやミッション、ステークホルダーのニーズや期待などを考慮することが
          できません。また、AIチャットボットは、人間の創造性や直感、協調性やリーダーシップなどのスキルや能力を持ち合わ
          せていません。したがって、企業の経営者をAIチャットボットに置き換えるという発想は、企業の成長や競争力、社会的
          責任などに悪影響を及ぼす可能性が高いと言えます。

          新しいBingに聞いてみた

          だいたい思った通りの答えだなぁ、冗長だけど
          これがACチャットボットだと「生きた人間(AIを含む)にしか経済活動は出来ない」という所が分からない

          親コメント
          • by Anonymous Coward

            >ロジックに基づいて決定を行うことができますが

            この嘘つきめ(と、言ったら激怒したころが懐かしい)。

          • by Anonymous Coward

            AIを含むって・・・生きた人間とAIにしか経済活動は出来ないという事?が分からない?
            まあカラスとかチンパンジーなら経済活動が出来るとか(コインで干ぶどうを買うとか、タバコの吸殻を持ってくると餌が出てくる機械に吸殻を持ってくるとかはできる)いうことなのか?

    • by Anonymous Coward

      オンプレではなく、入力した内容を目的外利用しない契約を結べばいい。
      翻訳含むクラウドサービスの多くはそれで回ってるのだから。
      大企業も今はほとんど自社ではなくMicrosoft、Google、DeepL等の翻訳サービス契約してバックに使ってるはず。

      https://www.itmedia.co.jp/news/articles/2303/16/news182.html [itmedia.co.jp]
      これはパナソニックコネクトとMicrosoft+OpenAIの事例だけど、Microsoftはいずれ一般企業向けサービスも始めるのじゃないかな。

      • by Anonymous Coward

        MSとGoogleはオフィススイートのオプションじゃないですかね。
        まあ個別契約も出すでしょうけど。

  • >会議の文字起こしを送信して議事録作成を依頼

    teamsのトランスクリプションの
    (´・ω・`)「はい はい はい はい」
    を自動で消してほしい気持ち、ぐう分かる。

  • by Anonymous Coward on 2023年04月09日 14時10分 (#4440966)

    会社として使用解禁出来てえらい。
    問題をきちんと検出できてえらい。
    問題が起きたのに一律禁止にしないのがえらい。

    危険性が分からないでもないが、そんなの検索エンジンや翻訳サービスでも通った道だしね。
    新しいものはとりあえず禁止という企業とは違ってえらい。

    #こういうのが出てくると使う事のリスクと、使わないことのリスクを天秤にかけるべきなんだけど…なぜか後者をまるっと無視するところが身近に多い。

    • by Anonymous Coward

      >使わないことのリスク
      言ってることは分かるし正しいとも思うが、
      問題があった時の対応として、一旦止めて対策を講じてから…というのもあるんでない?
      一時的な「新しいものはとりあえず禁止」

      • by Anonymous Coward

        一時的って、1週間とか期限決めるならいいけどね。
        期限のない一時的は普通の禁止と変わりない。

        • by Anonymous Coward

          だーいじょうぶ、対策の進捗はAI様が監視してっから

    • by Anonymous Coward

      結局禁止になったぞ

      サムスン、従業員の生成AI利用を禁止-ChatGPT経由でデータ漏れる
      https://www.bloomberg.co.jp/news/articles/2023-05-02/RU0AD6T0AFB401 [bloomberg.co.jp]

  • by Anonymous Coward on 2023年04月09日 13時50分 (#4440954)

    >この問題を受けて Samsung では 1 回の質問で送信できるデータを 1,024 バイトに制限した
    そうじゃなくて、オプトアウトを申請すべきなのでは?

    • by Anonymous Coward on 2023年04月09日 13時55分 (#4440956)

      そうじゃなくて、オプトアウトを申請すべきなのでは?

      ちがうちがう
      まずはバカフィルタ作成をChatGPTに依頼すべきなんだよ(マテ

      親コメント
      • by Anonymous Coward

        > (マテ

        このノリ寒っ

        • by Anonymous Coward

          あと
          言わせんなよ とか
          知らんけど とか

          • by Anonymous Coward

            それな(鼻ホジ

            • by Anonymous Coward

              なんどめだ

              • by Anonymous Coward

                あと
                言うても とかな

              • by Anonymous Coward

                このノリ寒っ
                とか

              • by Anonymous Coward

                ちがうそうじゃない(違)

              • by Anonymous Coward

                俺がガンダムだ!

                やはりガンダム‥‥!! ガンダムは全てを解決する‥‥!!

                #ガンダム脳なAIは、さすがにみたくないかも。

    • by Anonymous Coward on 2023年04月09日 18時33分 (#4441027)

      1024バイトまでのソースコードにまとめる仕事が捗る

      親コメント
      • by Anonymous Coward

        1kBもの広大な一時領域がそこに!!

      • by Anonymous Coward
        一画面プログラムの時代ふたたび
  • by Anonymous Coward on 2023年04月10日 10時43分 (#4441212)

    社内に限定した学習データを用いたGPTが欲しい。
    資料とか社内情報とか聞くと、うまく整理して答えてくれる奴。

    アクセス権が設定できるとなおいいね。

    • by Anonymous Coward

      そのうち出来るんじゃね?富士通あたりがサービス開始しそう
      予算があれば、あなたにもできるやもだ

  • by Anonymous Coward on 2023年04月10日 13時17分 (#4441266)

    あの大不況の韓国で、折角 Samsung に入社できた勝組だったのに、自らの愚行でふいにしやがった(少なくとも評価は下がっただろう)。

    # 正直何故韓国が不況なのか理解し難いが、頼り過ぎた中国から締め付けを受けたからか?

typodupeerror

海軍に入るくらいなら海賊になった方がいい -- Steven Paul Jobs

読み込み中...