生成AIの誤入力事故は「機密情報のコピペ入力」が典型的です。ここ数年の報道では、SamsungのChatGPT社内コード入力（2023年）のように、悪意のない一回の貼り付けが情報流出につながった実例が報じられています。
本記事では、誤入力で起きた漏洩事故の実例、起きやすい5つの典型パターン、営業・人事・開発・法務という職種別のリスク、そして組織で防ぐ手順と誤入力してしまった直後の初動までを整理します。読者は「自社のどこが危ないか」と「明日から何を決めればよいか」を持ち帰れます。
弊社では、AIの安全な運用に役立つ資料を配布しています。運用ルールの設計やコンプライアンス対策など、リスクを抑えるノウハウが手に入ります。AIを使いたいが、情報管理やガバナンス対策のやり方がわからない、という方の参考になるはずです。お気軽にご覧ください。
生成AI活用必須3資料を無料配布
- 【戦略】成果を出すAI組織導入の設計フレーム
- 【失敗回避】導入企業が陥る6つの落とし穴と対策
- 【実践】業務で使えるプロンプト設計法
生成AIの「誤入力事故」とは何か｜企業にとってのリスク
生成AIの誤入力事故とは、機密情報や個人情報を意図せず生成AIツールに入力してしまい、その内容が外部保存・第三者参照・学習対象になってしまう事故を指します。攻撃ではなくヒューマンエラーで起きるため、特定の悪意ある社員ではなく全社員が当事者になります。B2Bで急増している点が、いま対策を急ぐべき理由です。
ここでいう誤入力とは、社外秘の資料・顧客情報・ソースコードなどを「要約して」「メールにして」と何気なく貼り付ける行為です。入力された内容は、利用するツールの仕様によっては履歴として保存され、設定次第で第三者が参照できる状態になります。学習対象にならない仕組みであっても、履歴管理やアクセス権の設定が甘ければ、社内での情報漏洩や内部監査の指摘につながります。
B2B企業で誤入力事故が急増している背景には、3つの構造的な要因があります。
- 全社員に生成AIの利用を解禁する企業が増え、ITリテラシーにばらつきのある層まで一気に利用者が広がっています
- 顧客データ・契約情報・人事情報など、流出時の影響が大きい情報を日常的に扱う部門ほど業務効率化の圧力が強く、確認が後回しになりやすい状況があります
- 無料版を私物端末で使う「野良利用」が、会社の管理外で起きています
誤入力は「このくらいは大丈夫だろう」という油断から発生します。だからこそ、個人の注意力に頼らず、組織の仕組みで強制的に遮断する設計を組んでください。
誤入力で起きた情報漏洩事故事例【実名・最新2025】
誤入力による漏洩は、すでに実名の事故として報じられています。最も有名なのは2023年のSamsungの社内コード入力で、続いてChatGPTの共有リンクが検索結果に出てしまう問題（2025年）、認証情報がまとめて流出した事案（2023年）が確認されています。いずれも高度な攻撃ではなく、入力・設定の不注意が起点です。出所は読者が辿れる形で記載します。
代表的な3つの事故を、年次と出所つきで整理します。
| 事故 | 時期 | 何が起きたか | 出所 |
|---|---|---|---|
| Samsungの社内コード入力 | 2023年 | 半導体部門の従業員が、社内のソースコードや会議の情報をChatGPTに入力。同社は、機密情報が社外サービスへ流出・保存された可能性を懸念する事態になりました。その後に社内での生成AI利用を制限したと報道されています | 各種報道（Bloomberg等）でのSamsung側の対応として報じられた内容 |
| ChatGPT共有リンクの検索インデックス | 2025年 | ユーザーの設定ミスにより、ChatGPTの共有リンクが検索エンジンの検索結果に表示。会話内容が第三者に閲覧可能な状態になったと指摘されました。OpenAI側はこの共有機能を見直したと報じられています | OpenAI側の対応として各種報道で報じられた内容 |
| 認証情報の大量流出 | 2023年 | マルウェアに感染した端末から、ChatGPTのログイン情報を含む多数のアカウント認証情報が闇市場で取引されていたと、セキュリティ企業の調査で報告されました | セキュリティ企業のGroup-IBが2023年に公表した調査レポート |
これら3件に共通するのは、「入力した情報がどこに残り、誰が見られるか」を入力時点で誰も確認していなかった点です。Samsungは入力そのもの、ChatGPT共有リンクは共有設定、認証情報流出は端末・パスワード管理という違いはありますが、いずれも一回の不注意が引き金になっています。なお、流出件数などの具体的な数値は報道・調査によって幅があるため、確定値として扱わず「公開時点で要確認」の前提で読むのが適切です。
誤入力が起きる5つの典型パターン
誤入力事故の大半は、5つのパターンに集約されます。ソースコードの貼り付け、顧客名の生入力、議事録の丸投げ、認証情報の入力、共有設定のミスです。自社のどのパターンが起きやすいかを把握すると、優先して塞ぐべき箇所が見えてきます。以下で各パターンの中身と、なぜ事故につながるかを整理します。
- ソースコードの貼り付け：エラー解析やテストコード生成のために、社内システムのソース全体を貼り付けてしまいます。コードには認証ロジックや内部URLが含まれることが多く、Samsungの事例と同じ構図になります。
- 顧客名・個人情報の生入力：営業メモやメール下書きを整える際に、実在の顧客名・連絡先・取引条件をそのまま入力してしまいます。匿名化せずに送ると、個人情報保護の観点で問題になります。
- 議事録・会議メモの丸投げ：「この議事録をきれいにまとめて」と、未公開の経営判断や人事情報を含む議事録を丸ごと貼り付けてしまいます。要約は便利ですが、入力内容そのものは外部に渡ります。
- 認証情報の入力：APIキー・ログインID・社内システムのURLを、設定手順を質問する流れで入力してしまいます。これらが履歴に残ると、流出時の被害が一気に拡大します。
- 共有設定・履歴設定のミス：会話の共有リンクを安易に発行したり、履歴の保存設定を確認しないまま機密を扱ってしまいます。2025年のChatGPT共有リンク問題は、この設定ミスが現実の漏洩につながった例です。
これら5つは、どれも「悪意なく・短時間で」起きます。防止するためにはリスク対策の知識を深めておくことが重要です。
職種別・やりがちな誤入力リスクマップ
誤入力の起きやすさは職種によって偏ります。営業は顧客情報、人事は評価・給与情報、開発はソースコードと認証情報、法務は契約書という具合に、扱う情報の種類がそのまま誤入力リスクの種類になります。自部門の傾向を知ると、研修やルールを「全員一律」ではなく職種別に最適化できます。以下の対応表を、部門別ルール設計の出発点として使えます。
| 職種 | やりがちな誤入力 | 流出すると起きること |
|---|---|---|
| 営業 | 顧客名・取引条件・商談メモをそのまま入力して提案文を作成する | 顧客の個人情報・取引条件が外部に渡り、契約上の守秘義務違反につながるおそれがあります |
| 人事 | 評価コメント・給与・異動案を「自然な文に直して」と入力する | 従業員の機微な個人情報が流出し、社内の信頼関係と法令順守の両面で問題になります |
| 開発 | ソースコード・APIキー・内部URLをエラー解析のために貼り付ける | 認証情報やシステム構成が外部に渡り、不正アクセスの足がかりになるリスクがあります |
| 法務 | 締結前の契約書・NDA対象資料を要約のために入力する | 守秘義務契約の対象情報を自ら外部へ渡してしまい、契約違反に直結するおそれがあります |
この4職種は、いずれも「流出時の影響が大きい情報」を日常的に扱う点が共通しています。リスクマップを部門会議で共有し、各部門が自分たちの入力NG項目を自ら言語化すると、ルールが現場に定着しやすくなります。
なぜ誤入力は起きるのか｜原因と心理
誤入力は、悪意や重大な過失ではなく、日常業務の中の小さな心理から生まれます。生成AIを社内ツールと錯覚する感覚、時短を急ぐ焦り、ルールの不在、画面から社外感が伝わらない設計、そして「うちは大丈夫」という慣れの5つが、確認を省かせます。原因を理解すると、対策が「気をつけよう」という精神論で終わらなくなります。
- 生成AIを「社内ツール」と誤認する：ChatGPTやCopilotは社内チャットのような操作感のため、外部サービスである意識が薄れ、入力すべきでない情報まで投入してしまいます。
- 時短を急いで確認が甘くなる：「今すぐ処理したい」という焦りが、入力内容の精査を省かせ、不用意な貼り付けやアップロードにつながります。
- 利用ルールが曖昧なまま運用されている：何を入力してよいかが明文化されていないと、判断が属人化し「自分の感覚で入力してよい」状態が常態化します。
- 画面から社外感が伝わらない：操作画面が検索エンジンやメッセージアプリに似ているため、「サーバーに保存されるかもしれない」という意識を持ちにくい設計になっています。
- 「うちは大丈夫」という過信と慣れ：利用が日常化すると油断が判断を鈍らせ、グレーゾーンの入力が当たり前になってしまいます。
5つの原因はすべて「人の認知のクセ」に根ざしています。だからこそ、本人の意識に頼らず、入力前にルールが働く仕組みで強制的に遮断してください。
誤入力を防ぐ防止策チェックリスト
誤入力は、入力前・利用中・事後の3段階で仕組みを置けば大幅に減らせます。具体的には、入力禁止情報の明文化、学習させない設定、承認ツールの統一、多要素認証、ログ監査の5点です。個人の注意ではなく組織の標準として運用するのが要点になります。次のチェックリストを、自社の整備状況の点検にそのまま使えます。
- 入力禁止情報を明文化する：顧客情報・人事情報・認証情報・締結前資料などを「入力可／要注意／入力禁止」の3区分で具体例つきに整理し、全社員が判断に迷わない状態をつくります。
- 学習停止・履歴設定を標準化する：会社で認める生成AIは、入力内容が学習に使われない設定（オプトアウトやビジネスプラン）を前提にします。最も利用率の高いChatGPTなら、設定（Settings）の「データコントロール（Data Controls）」内にある学習利用のオプション（Improve the model for everyone）をオフにする手順を社内マニュアル化し、配布前に情シスが各端末の設定状態を確認してください。
- 承認した利用ツールを統一する：会社が認めるツールとバージョンを一本化し、それ以外の私物アカウント利用を禁止することで、管理外の野良利用を減らします。
- 多要素認証（MFA）でアカウントを守る：認証情報の流出に備え、生成AIツールのログインに多要素認証を必須化し、なりすましやアカウント乗っ取りを防ぎます。
- 利用ログを記録し定期監査する：誰が・いつ・どのツールに・どのような内容を入力したかを記録し、定期的に監査することで、事故の早期発見と影響範囲の特定を可能にします。
5項目は、どれか1つではなく組み合わせて初めて効果が出ます。まずは「入力禁止情報の明文化」から着手し、設定の標準化とログ監査へ広げていく順序が現実的です。
誤入力してしまった直後の初動手順
誤入力に気づいたら、検知から再発防止まで5つのステップを順に踏むのが最短の被害最小化策です。慌てて履歴だけ消すと、影響範囲の特定や原因究明ができなくなります。あらかじめ社内でこの初動フローを共有しておくと、事故発生時に現場が迷いません。以下の手順を、インシデント対応マニュアルの雛形として使えます。
- 検知・記録する：何を、どのツールに入力したかをまず記録します。スクリーンショットや入力履歴を残し、削除する前に状況を保全します。
- 報告する：上司と情報セキュリティ部門にただちに報告します。報告が遅れるほど影響が広がるため、報告を最優先とするエスカレーションフローを策定し、「叱責より早期報告」を全社で奨励してください。
- 影響範囲を特定する：入力した情報の種類（顧客情報・認証情報など）と、その情報が学習対象・共有リンク・履歴のどこに残るかを確認し、被害の範囲を見積もります。
- 設定を変更する：共有リンクの無効化、会話履歴の削除、流出した認証情報（APIキー・パスワード）の即時変更を行い、二次被害を止めます。
- 再発防止につなげる：なぜ起きたかを記録し、入力禁止リストやルールに反映します。個人を責めるのではなく、仕組みの穴を塞ぐ視点で振り返ります。
この5ステップの肝は、ステップ2の「早期報告」です。報告をためらわせない空気をつくることが、初動を成立させる前提となります。
「使わせない」ではなく「安全に使わせる」環境づくりへ
誤入力を恐れて生成AIを全面禁止にすると、業務効率の低下と、管理外での野良利用という別のリスクを招きます。実効性のある選択は、禁止ではなく「安全に使わせる」環境を組織全体で整えることです。情シス・管理職・社員の3者が役割を分担し、共通ルールと判断力を育てる設計が要になります。
なぜ「禁止」では解決しないのか
生成AIの利便性が広く知られた現在、業務利用を禁止しても、社員が私物端末や個人アカウントでこっそり使う野良利用は残ります。禁止は一時的な安心をもたらす反面、会社が把握できない場所で誤入力が起きる状態を生むため、かえって統制が効かなくなります。
組織全体を巻き込んだルール設計が鍵
安全な活用には、役割を分けた体制を構築してください。情報セキュリティ部門と現場管理職で役割を分割・定義し、情シス・情報セキュリティ部門がツール選定と設定ガイドラインを担い、管理職が現場へのルール周知と運用を支え、社員自身が判断力とモラルを持つ、という3層の分担を敷きます。一部の部門だけで抱え込まず、共通ルールと意識を全社で共有する状態を目指します。
最小単位の「利用ルール」から始める
最初から完璧な制度を目指すと導入が止まります。まずは「絶対に入力しない情報リスト」を作り、利用ツールの範囲とバージョンを明確にし、社員向けの簡易なガイダンス資料を整える、という最小単位から始めるのが現実的です。この最初の一歩が、事故を防ぎながら生成AIを安全に展開する土台になります。
他社の取り組み｜ホットリンク・マツリカに学ぶ誤入力を防ぐ現場運用
誤入力防止は、ルールを作るだけでなく現場の運用に落とし込めるかで成否が分かれます。ここでは、AI経営総合研究所が独自に取材した先行企業の活用実態から、入力ルールの周知徹底と、個人情報のプロンプト入力禁止を実装した2社の取り組みを紹介します。
株式会社ホットリンク｜入力ルールの即時策定と全社周知で安全に利用を拡大
ホットリンクでは、生成AI導入にあたり「「クライアント情報をそのまま入力しない」「オプトアウト設定を確実に行う」といった利用ガイドラインをAIセキュリティ管理チームを中心に迅速に策定し、従業員へ周知徹底した上で利用を進めていった」という運用を実践しています。導入を急ぐのではなく、誤入力につながる行為を先に明文化し、専門チームが全社へ周知してから利用を広げた点が特徴です。結果として、社員の96.4%が週3回以上AIサービスを利用する高い活用率（2025年10月調査）と、安全な運用を両立させています。
ポイントは、「禁止リストの明文化」と「専門チームによる周知徹底」をセットで先行させたこと。入力ルールを作るだけでなく、誰が全社に行き渡らせるかまで設計したことが定着につながっています。
詳細は株式会社ホットリンクのインタビュー記事で紹介しています。
株式会社マツリカ｜個人情報のプロンプト入力を全社禁止し現場主導で活用
マツリカでは、現場の課題から生成AI活用を進める一方で、セキュリティガイドラインを策定し個人情報のプロンプト入力を全社で禁止しています。営業のリサーチ業務を自動化し、月間34〜50%（月最大11.5時間）の工数削減を実現しながら、誤入力の入口となる個人情報の入力そのものをルールで塞いでいる点が要諦です。同社の推進担当者は、現場へのAI浸透について「実際の業務で使ってみないと本質的な課題は発見しづらいでしょうし、使ってみて実際に効率化を感じると、”なぜAIがこの業務で必要なのか”を実感できるはずです。」と語り、活用と統制を同時に進めています。
ポイントは、「効率化の効果を体感させつつ、入力禁止の線引きを全社共通ルールで固定したこと」。現場の自由度と、漏洩リスクの源を断つ統制を両立させています。
詳細は株式会社マツリカのインタビュー記事で紹介しています。
2社に共通する設計思想：①誤入力につながる行為（機密の入力・個人情報の入力）を抽象論でなく具体的な禁止項目として明文化している ②ルールを「作って終わり」にせず、専門チームや全社共通ルールとして周知・固定している ③統制を理由に活用を止めず、高い利用率や工数削減と安全運用を両立させている。自社でも、入力禁止項目の明文化と周知の仕組みづくりから着手するのが現実的な第一歩になります。
まとめ｜誤入力は「誰でも起こす」からこそ仕組みで防ぐ
生成AIの誤入力事故は、悪意のある攻撃ではなく、日々の業務で誰にでも起こるヒューマンエラーから生じます。Samsungの社内コード入力やChatGPT共有リンクの事例が示すとおり、機密のコピペ入力と共有設定のミスが最も多い起点です。個人の注意力に頼る限り、事故はなくなりません。
だからこそ、組織として「誤入力を防ぐ仕組み」をつくることが最も現実的な対策になります。
- 入力禁止情報を「入力可／要注意／入力禁止」で明文化し、職種別のリスクに合わせて周知します
- 学習停止設定・承認ツールの統一・多要素認証・ログ監査を組み合わせて標準化します
- 誤入力してしまった直後の初動フロー（検知→報告→影響範囲特定→設定変更→再発防止）を事前に共有します
これらを段階的に進めることで、生成AIを安全に、かつ継続的に活用する基盤が整います。
以下の資料では、安全に使うためのルール設計や組織体制の考え方を解説しています。誤入力など、情報漏洩を防ぐ仕組み作りの基礎知識を得られます。トラブルを防ぎつつ業務活用を進めたい方の参考になる内容ですので、ぜひお気軽にご覧ください。
よくある質問
- Q生成AIに誤って情報を入力してしまった場合、どうすればいいですか？
- A
まず入力内容を記録し、上司と情報セキュリティ部門にただちに報告します。そのうえで影響範囲を特定し、共有リンクの無効化・履歴削除・流出した認証情報の変更を行います。慌てて履歴だけ消すと原因究明ができなくなるため、保全してから対応する順序が欠かせません。
- Q生成AIの誤入力で起きた実際の事故事例はありますか？
- A
2023年にSamsungの従業員が社内のソースコードをChatGPTに入力した事案が報じられ、同社はその後に利用を制限したとされています。2025年にはChatGPTの共有リンクが検索結果に表示される問題も指摘されました。いずれも攻撃ではなく入力・設定の不注意が起点です。
- Q生成AIに入力した情報は学習に使われるのですか？
- A
ツールやプランによって異なります。ChatGPTの無料プランは初期設定で入力内容が学習に利用される可能性がありますが、ビジネス向けプランや履歴を無効化する設定を使えば学習対象外にできます。会社で認めるツールは、学習させない設定を前提にして配布するのが安全です。
- Q誤入力を防ぐ社内ルールはどのように整備すべきですか？
- A
「入力可／要注意／入力禁止」の3区分を具体例つきで明文化することから始めます。営業・人事・開発・法務など職種ごとに扱う情報が違うため、部門別にNG項目を言語化すると現場に定着します。ルールは作って終わりにせず、定期的に周知・更新する体制が必要です。
- Qどのような情報を生成AIに入力してはいけませんか？
- A
顧客リストや個人情報、社外秘の資料や営業戦略、人事評価・給与情報、APIキーやログインID、締結前の契約書などは入力を避けるべきです。入力前に「これは社外に出ても問題ないか」を確認する習慣を全社で共有することが、誤入力を減らす近道になります。
