Lotook
2023年の春、Samsungのエンジニアが問題の解決を手伝ってもらおうと、社内のソースコードをChatGPTにアップロードしました。それから数週間のうちに、Samsungは従業員による生成AIツールの使用を禁止しました。誰も情報を漏らそうとしたわけではありません。仕事をもっと速く進めようとしたのです。
AIに関するデータ漏洩の多くは、このようにして起こります。ハッカーによるものではなく、普通の人が適切なツールに間違った情報を貼り付けたり、適切な情報を間違ったツールに貼り付けたりすることで起こるのです。
私は仕事でAIを使うことを強く支持していますし、禁止が答えだとは思いません。大切なのは、データがどこに行くかを知り、漏洩を起こしにくくする習慣をいくつか身につけることです。このガイドではその方法を紹介します。これは実践的な手引きであり、法的助言ではありません。会社にすでにAI利用方針がある場合は、そちらが優先されます。
データは実際にどこへ行くのか
AIツールに何かを入力したりアップロードしたりすると、チャット画面から想像する以上に広い範囲にデータが渡ることがあります。考えておきたい場所は四つあります。
提供事業者のサーバー
会話やファイルは通常、少なくとも一定期間、提供事業者に保存されます。履歴を確認できるようにするため、また提供事業者が不正利用を調査できるようにするためです。保存期間やアクセスできる人は、提供事業者と利用中のプランによって異なります。
モデルの学習
サービスによっては、利用者が拒否しない限り、会話を将来のモデルの改善に使うことがあります。ビジネス向けや企業向けのプランでは通常、顧客データをデフォルトで学習に使わないと約束していますが、個人アカウントでは初期設定が異なることがよくあります。思い込みは禁物です。ログインしているプランそのものの設定と利用条件を確認してください。
共有機能
共有リンクや公開されたチャットは、意図した以上の情報を公開してしまうことがあります。2025年の夏、共有された何千件ものChatGPTの会話がGoogleの検索結果に表示されていることが判明しました。原因は「このチャットを検索可能にする」チェックボックスで、多くの利用者が意味を理解しないままチェックを入れていました。OpenAIはこの選択肢を削除し、最高情報セキュリティ責任者のDane Stuckeyは、意図しないものを誤って共有する機会を生みすぎていたと述べました。
この機能がなくなっても教訓は残ります。共有ボタンは、メールを転送するときと同じ慎重さで扱ってください。
連携、拡張機能、エージェント
新たなリスクは、ほかのツールと接続されたAIから生じます。メールやドライブを読むアシスタント、通話を録音して文字起こしする会議ボット、開いたすべてのページを見るブラウザー拡張機能、利用者に代わって操作できるエージェントなどです。接続するたびに、AIが見られる範囲も、問題が起こりうる範囲も広がります。
データを四つの区分に分ける
シンプルに分類すれば、ほとんどの判断は明確になります。
| 区分 | 例 | AIツールに入力してよいか |
|---|---|---|
| 公開 | 公開済みのブログ記事、製品ページ、プレスリリース | どのツールでも問題なし |
| 社内 | 会議メモ、社内プロセス、機密情報を含まない初期の下書き | 会社が承認したツールのみ |
| 機密 | 未公開の財務情報、戦略、ソースコード、契約書、価格、取引計画 | 承認済みツールのみ、かつ利用方針で明示的に許可されている場合のみ |
| 制限付き | パスワード、APIキー、顧客の個人データ、健康情報や決済情報、NDAや規制の対象となるもの | その用途専用に作られた承認済みシステムを除き、入力しない |
迷ったときは、情報を自分が考えるより一段階機密性の高い区分として扱ってください。そうして後悔することはほとんどありません。
使用しているツールのバージョンを確認する
同じ製品でも、ログインしているアカウントによってデータの扱いは大きく異なります。無料の個人アカウントと会社が管理するビジネス用ワークスペースは、ロゴは同じでも、それ以外に共通点がほとんどないかもしれません。
仕事でAIツールを使う前に、次のことを確認してください。
- 会社が承認したバージョンですか？ 会社のシングルサインオンを通じて仕事用アカウントでログインしているなら、よい兆候です。仕事の作業に個人アカウントを使うのはそうではありません。
- データを使った学習はオフになっていますか？ プライバシーやデータ管理の設定と、プランの利用条件を確認してください。
- 会話はどのくらい保存されますか？ ツールによっては保存期間を短くしたり、履歴に保存されない一時チャットを使ったりできます。
- 作成したものをほかに誰が見られますか？ ワークスペースの共有に関する初期設定と、共有リンクを開ける人を確認してください。
- データはどこで処理されますか？ データを保存できる国について会社に規則がある場合、これは重要です。
これらに答えられない場合は、公開情報以外にツールを使う前に、ITまたはセキュリティの担当チームに確認してください。小さな会社では、あなた自身がIT担当ということもよくあります。その場合は、誰も推測する必要がないよう、一度回答を書き留めておきましょう。
ほとんどの漏洩を防ぐ習慣
どれも数秒でできます。
- 仮の名前を使う。 名前や識別子を「顧客A」や「プロジェクトX」などに置き換えます。得られる助言の質は、ほとんどの場合変わりません。
- 貼り付ける代わりに説明する。 「価格変更後に解約率が約4%から6%に上がった」と伝えれば、元のスプレッドシートを渡さなくても、モデルに必要な情報を与えられます。
- 共有は最小限にする。 契約書全体ではなく、重要な段落を貼り付けます。データベース全体ではなく、サンプルの20行をアップロードします。
- 秘密情報は絶対に貼り付けない。 パスワード、APIキー、アクセストークンをプロンプトに入れてはいけません。設定ファイルについて助けが必要なら、まず秘密情報を取り除きます。
- スクリーンショットは送る前に確認する。 エラーメッセージに合わせて切り抜いたつもりでも、サイドバーの顧客リストや上部のタブ名を見落としがちです。
- ファイルに隠れた内容がないか確認する。 文書には、存在を忘れていたコメント、変更履歴、非表示のシート、メタデータが含まれることがあります。
- チャットを共有する前によく考える。 共有リンクはどこに渡るかわからないと考えてください。
エージェントとコネクターでリスクは高まる
テキストを貼り付けるアシスタントには、渡したものしか見えません。一方、アカウントに接続されたエージェントは、そのアカウントで見られるすべてのものを見ることができ、読んだ内容に基づいて行動する場合もあります。
これにより新しい種類のリスクが生じます。エージェントは、メール、ウェブページ、共有文書など、ほかの人が書いた内容を読みます。その中には、エージェントを乗っ取るための隠れた指示が含まれている場合があります。これは間接的なプロンプトインジェクションと呼ばれ、OWASP Gen AI Security Projectは、大規模言語モデルを使ったアプリケーションの最大のセキュリティリスクとしてプロンプトインジェクションを挙げています。原理的には、たった一通の悪意あるメールが、過度な権限を与えられたエージェントにファイルをどこかへ転送するよう指示する可能性があります。
いくつかの対策が大きな効果を発揮します。
- 必要最小限のアクセス権を与える。 ドライブ全体ではなく、一つのフォルダーを接続します。可能な限り読み取り専用のアクセスを使います。
- 操作には承認を必須にする。 送信、共有、削除、購入はいずれも、実行前に確認を求めるようにします。
- 実験には重要なアカウントを使わない。 実験的なエージェントとメインの受信トレイの組み合わせは危険です。
- 接続を見直す。 数か月ごとに、使わなくなった連携やブラウザー拡張機能を削除します。
AIエージェントとは何かを解説した記事では、エージェントの仕組みと安全な試し方を紹介しています。
入力すべきでないものをすでに貼り付けてしまったら
そういうことはあります。間違いそのものより、その後の対応が重要です。
- 会話を削除し、その会話への共有リンクもすべて削除します。必ずしもすべてのコピーが消えるわけではありませんが、さらなる拡散を抑えられます。
- 露出した認証情報をすぐに変更する。 貼り付けたパスワードやキーは漏洩したものと考えてください。
- ITまたはセキュリティの担当チームに伝える。 提供事業者への連絡や報告義務への対応が必要になる場合があり、早く知らせればその対応がずっと容易になります。
- 何が起きたかを書き留める。 記憶が新しいうちに、何を、どのツールで、どのアカウントから、いつ共有したかを記録します。
すぐに報告してください。会社を経営する立場から言えば、数か月後に発覚するより、間違いが起きたその日に聞くほうがずっとありがたいです。
小規模チーム向けの1ページのAI利用方針
組織にまだ方針がないなら、短いものでもないよりはましです。次の内容を含めましょう。
- 承認済みツール。 使用する具体的なプランとアカウントも含めます。
- データのルール。 上記の四つの区分を使います。
- 人による確認。 AIの支援を受けて作成し、顧客や一般に公開するすべてのものが対象です。AIの回答をファクトチェックする方法のガイドにあるような短い手順で、ほとんどのチームには十分です。
- 接続とエージェント。 誰がAIツールを社内システムに接続でき、誰の承認が必要かを定めます。責任の所在を明確にすることは、エージェントのプロジェクトを試験段階から進めるうえでも役立ちます。
- インシデント。 問題が起きたときに、誰に、どれくらいの速さで伝えるかを定めます。
数か月ごとに見直してください。AIツールは、ほとんどのソフトウェアより速く機能を変更し、初期設定も変更することがあります。適切なツールを選ぶことも仕事の一部です。AIモデルの選び方のガイドでは、データがどこに行く可能性があるかについて確認すべき質問を紹介しています。
参考資料
- Forbes Australia, Samsung bans ChatGPT among employees after sensitive code leak, 2023年5月2日
- Engadget, OpenAI is removing ChatGPT conversations from Google, 2025年8月1日
- OWASP Gen AI Security Project, LLM01:2025 Prompt Injection
