生成AIの情報漏洩事例まとめ 原因・企業リスクと今すぐできる対策を解説

会議の録音を文字に起こして要約させる。エラーが出たソースコードを貼り付けて原因を聞く。業務効率を上げる目的で行われたこうした行為が、そのまま情報漏洩につながった事例が実際に起きています。

IPAが2026年1月に公表した「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が初めて脅威候補となり、組織向けの3位にランクインしました。AIに起因するリスクが、社会的に無視できない水準に達したことを示しています。

特徴的なのは、外部からの攻撃ではなく、正規に利用する過程で従業員自身が情報を流出させてしまうという点です。悪意がなくても、仕組みを理解していないだけで起こります。

本記事では、生成AIで情報漏洩が起きる仕組みと実際の事例、シャドーAIというリスク、そして企業が今すぐ着手できる対策までを、公的機関の資料を参照しながら整理します。

確認したいポイント	結論	詳細
生成AIで情報漏洩は起きる？	実際に複数の事例が発生している	従業員による入力、サービス側の不具合、アカウントの流出など経路は複数あります。
主な原因は何ですか？	ルール不在などの組織的な要因	ツールの問題よりも、使い方の基準がないことが根本原因になっている例が目立ちます。
最も注意すべきリスクは？	会社が把握しない無承認利用	いわゆるシャドーAIが、被害額を押し上げる要因として調査で指摘されています。
何から対策すべきですか？	使ってよいツールと情報の線引き	利用状況の可視化と、法人向けプランへの切り替えが実務上の出発点になります。

この記事でわかること

・生成AIで情報が漏れる3つの経路と、その仕組み

・実際に起きた情報漏洩事例と、そこで何が原因だったのか

・シャドーAIがなぜ最大のリスクとされるのか

・技術・組織・人という3つの側面から見た漏洩の原因

・今すぐ着手できる対策と、サービス選定で確認すべき点

生成AIを安全に使える体制を整えたい方へ どのツールを許可し、何を禁止し、どう監視するか。 現状の利用状況をうかがったうえで、業務が止まらない形の対策を一緒に設計します。 相談予約はこちら

生成AIで情報漏洩が起きる仕組み

事例を見る前に、どこから情報が漏れるのかを構造的に押さえます。経路、学習をめぐる誤解、そして現在の脅威としての位置づけという3点です。

情報が漏れる3つの経路

生成AIに関する情報漏洩は、大きく3つの経路で発生します。

ひとつめが、利用者が機密情報を入力してしまう経路です。顧客名、未公開の製品情報、社内のソースコード、会議の録音内容。これらをそのまま入力すれば、その情報は外部のサーバーへ送信されます。

ふたつめが、サービス側の不具合による漏洩です。提供元のシステムに問題が生じ、他の利用者の情報が見える状態になるケースです。利用者側では防ぎようがありません。

みっつめが、アカウント情報の窃取です。ID とパスワードが盗まれれば、そのアカウントで過去に入力した内容がすべて第三者に見られることになります。

最も件数が多いのは、ひとつめの利用者による入力です。従来のサイバー攻撃とは異なり、正規の利用プロセスのなかで発生する点がこの問題の特徴です。

入力した情報が学習に使われるという論点

よく語られるのが、入力した内容がAIの学習データとして取り込まれるという懸念です。この点は正確に理解しておく必要があります。

サービスによって扱いは異なります。個人向けの無料プランでは入力内容が学習に使われる設定になっている場合があり、法人向けプランでは学習に使わないと定めているサービスが一般的です。

学習に使われた場合、理論上は、第三者が関連する質問をした際に、その情報が回答の一部として出力される可能性があります。

ただし、学習の有無にかかわらず、入力した情報が外部のサーバーに送信されること自体は変わりません。学習されなければ安全、というわけではない点は押さえておいてください。

脅威としての位置づけ

この問題が現在どう位置づけられているかを、公的な資料で確認しておきます。

IPAが毎年公表しているIPA「情報セキュリティ10大脅威 2026」では、組織向けの脅威として「AIの利用をめぐるサイバーリスク」が初めて選出され、3位にランクインしました。

IPAはこの脅威について、AIに対する不十分な理解に起因する意図しない情報漏えいや権利侵害、AIが生成した結果を検証せず鵜呑みにすることで生じる問題、そしてAIの悪用によるサイバー攻撃の容易化といった幅広いリスクを想定していると説明しています。

1位のランサム攻撃、2位のサプライチェーンを狙った攻撃に次ぐ位置に、初登場でランクインした。この事実が、企業にとっての優先度を示しています。

関連記事：AI-OCRの導入事例｜業務別の効果と精度をめぐる誤解・確認作業の設計【2026年】

実際に起きた情報漏洩の事例

公開されている情報から確認できる事例を、経路ごとに4つ紹介します。抽象的なリスクではなく、何がどう漏れたのかを具体的に見ていきます。

事例1：従業員による機密情報の入力

最もよく知られているのが、2023年に韓国の大手電子機器メーカーで発生した事例です。

報道によれば、同社の半導体部門で生成AIの社内利用が解禁された直後、短期間のうちに複数のインシデントが確認されました。

内容としては、設備情報のデータベースに関連するソースコードを修正させるために入力したケース、そして重要な会議の録音データをテキスト化し、要約させるためにそのままアップロードしたケースが報じられています。

この件を受け、同社は従業員による生成AIの利用を社内で禁止する措置を取りました。利用を解禁した直後に事故が起きたという経緯が、ルール整備の順序を誤ることの危険性を示しています。

注目すべきは、いずれも業務を効率化しようという善意の行動だったという点です。悪意ある内部不正ではなく、仕組みの理解不足が原因でした。

事例2：サービス側の不具合による漏洩

2023年3月、大手の生成AIサービスでシステムの不具合による情報漏洩が発生しました。

当初は、一部の利用者が他の利用者のチャット履歴のタイトルを閲覧できる状態になっていたことが判明。その後の調査で、有料契約者の氏名、メールアドレス、クレジットカード情報の一部などが一定時間にわたって閲覧可能だったことも明らかになりました。

原因は、使用していたオープンソースのライブラリに含まれていた不具合とされています。提供元はサービスを一時停止し、修正対応を行いました。

この事例が示すのは、利用者がどれだけ慎重に運用しても、提供者側の問題で情報が漏れる可能性があるということです。だからこそ、そもそも入力する情報を制限しておく必要があります。

事例3：アカウント情報の窃取

2023年6月、セキュリティ企業の調査により、生成AIサービスの認証情報がダークウェブ上で大規模に取引されていることが明らかになりました。

報告によれば、情報窃取型のマルウェアに感染した10万台を超えるデバイスから、生成AIサービスのアカウント情報が盗まれ、そのログが闇市場で売買されていたとされています。

アカウントを乗っ取られれば、そのアカウントで過去に入力した内容がすべて閲覧可能になります。業務で機密情報を入力していれば、それがそのまま流出することになります。

この経路への対策は、AIに固有のものではありません。多要素認証の設定、パスワードの使い回しの禁止、端末のマルウェア対策という基本の徹底が効きます。

事例4：AIサービスへの攻撃による漏洩

自社で構築したAIサービスが攻撃を受けるケースもあります。

代表的な手口がプロンプトインジェクションです。AIに与えられている内部の指示を、利用者が入力する文章によって上書きし、本来は表示されないはずの情報を引き出す攻撃です。

顧客向けに公開したチャットボットに対してこの攻撃が行われ、内部の動作仕様や非公開のデータが回答として出力されてしまった、という事例が報告されています。

近年は、外部のWebページや文書に悪意ある指示を埋め込み、AIがそれを参照した際に不正な動作をさせる手法も高度化しています。自社でAIを組み込んだサービスを公開する場合は、この観点での検証が不可欠です。

自社の生成AI利用状況を、まず把握したい方へ 確認すべき論点や、社内ルールに盛り込むべき項目をまとめた資料をご用意しています。 現状把握の出発点としてお使いください。 資料請求はこちら

関連記事：製造業のAI活用事例｜技能継承と間接業務での使いどころと進め方【2026年】

シャドーAIという最大のリスク

近年、情報漏洩の文脈で最も注目されているのがこの問題です。定義、被害の規模、そして対処の考え方を整理します。

シャドーAIとは何か

シャドーAIとは、情報システム部門の承認を得ないまま、従業員が個人のアカウントでAIツールを使っている状態を指します。

発生する構造は単純です。現場は業務を早く終わらせたい。会社は使えるツールを用意していない、あるいは禁止している。だから個人のアカウントで使う。利便性を求める現場と、統制が追いつかない管理部門のずれが温床になります。

問題は、会社が把握していないという点です。誰が、どの情報を、どのAIに入力しているかが分からない状態では、統制も対策も打てません。

さらに、インシデントが発生した際に、原因の特定や被害範囲の把握が極めて困難になります。初動が遅れれば、被害は拡大します。

被害の規模

この問題の深刻さを示す調査があります。IBMが公表した情報漏洩に関する年次レポートでは、シャドーAIが独立したカテゴリとして初めて分析対象となりました。

報告によると、世界のデータ侵害のうち一定割合がシャドーAIに起因しており、その場合の平均被害額は通常のケースを上回るとされています。また、顧客の個人識別情報が流出する比率も高いという結果が示されています。

特に注目すべきなのが、侵害を受けた組織の大半がAIへのアクセス制御を整備していなかったという点です。裏を返せば、アクセス制御を整えるだけで防げた可能性があるということになります。

なぜ禁止では解決しないのか

シャドーAIへの対処として真っ先に思いつくのが利用禁止です。しかし、禁止はこの問題を解決しません。

理由は明確で、現場には使いたい理由があるからです。禁止しても、業務の負担が減るわけではありません。結果として、より見えないところで使われるようになります。

実際、前述の電子機器メーカーの事例でも禁止措置が取られましたが、これは事故が起きた後の対応です。事前にルールと環境を用意していれば、防げた可能性が高い事案でした。

取るべき方向は明確です。安全に使える環境を会社が用意し、そこに利用を集約する。禁止ではなく、統制された形での解禁が現実的な解決策になります。

関連記事：農業のAI活用事例｜作業別の使いどころと支援制度・導入の順序【2026年】

情報漏洩が起きる3つの原因

対策を考える前に、原因を整理しておきます。技術、組織、人という3つの側面に分けると、どこに手を打つべきかが見えてきます。

技術的な原因

サービス側の不具合、脆弱性を突いた攻撃、プロンプトインジェクション。利用者側では直接コントロールできない領域です。

打てる手は限られますが、信頼できる提供元を選ぶこと、セキュリティに関する情報を継続的に確認すること、そして自社でAIを組み込んだサービスを公開する場合は攻撃を想定した検証を行うことが対応にあたります。

重要なのは、技術的な原因は完全には防げないという前提に立つことです。だからこそ、入力する情報を制限するという次元での対策が必要になります。

組織的な原因

実は、事故の大半はここに根本原因があります。

具体的には、利用ルールが存在しない、あるいは存在しても周知されていない。何を入力してよいかの基準がない。誰がどのAIを使っているか把握できていない。事故が起きた際の連絡先と対応手順が決まっていない。

ツールの問題ではなく、使い方の基準がないことが問題です。逆に言えば、ルールを整備するだけで大半のリスクは潰せます。

この点は、対策の優先順位を決めるうえで決定的に重要です。高価なセキュリティ製品を導入する前に、まずルールと可視化に取り組んでください。

人的な原因

従業員のリテラシー不足や不注意によるものです。AIに固有ではないが、AIの利用によって被害が拡大するパターンが多くを占めます。

フィッシングメールへの反応、パスワードの使い回し、業務端末での個人アカウントの利用。こうした基本的な部分の綻びが、アカウントの窃取につながります。

あわせて、そもそも入力した情報が外部に送信されるという認識がないというケースも少なくありません。「社内システムに入力するのと同じ感覚で使っている」状態です。

対策としては、ルールを配るだけでなく、なぜそのルールがあるのかを事例とセットで伝えること。理由が分かれば、想定外の場面でも判断できるようになります。

ルール整備と社内周知を、実効性のある形で進めたい方へ 文書を作って終わりにせず、現場で守られる運用にするための設計をご支援します。現状の課題をお聞かせください。 相談予約はこちら

企業が今すぐ取るべき5つの対策

原因を踏まえ、実務で着手すべき対策を5つに整理します。いずれも大がかりな投資を伴わずに始められます。

対策1：使ってよいツールを決める

最初にやるべきは、会社として承認するAIツールを決め、一覧として示すことです。

禁止から入るのではなく、この中から選んでもらうという形にする。承認したツールについては会社が契約し、法人向けのプランを用意します。

この一手で、シャドーAIの主要な発生要因である「使いたいのに使えるものがない」という状態を解消できます。

対策2：入力してよい情報の線引きを示す

何を入力してよく、何を入力してはいけないかを、具体的に書いてください。

「機密情報は入力禁止」という抽象的な表現では、現場は判断できません。顧客の氏名や連絡先、未公開の製品情報、社内のソースコード、会議の録音や議事録、契約書の内容というように、具体名で列挙するほうが守られます。

あわせて、判断に迷った場合は入力しない、そして相談するという原則を明示してください。迷ったときの行動が決まっていることが重要です。

対策3：サービスの設定を確認する

入力内容が学習に使われる設定になっていないかを確認してください。サービスによっては、設定画面からオプトアウトできる場合があります。

法人向けのプランでは、入力データを学習に使わないと定めているものが一般的です。個人向けの無料プランを業務で使っている状態は、この観点だけでも解消すべきです。

あわせて、履歴の保存期間、データの保管場所、管理者による利用状況の確認機能の有無も確認しておいてください。

対策4：利用状況を可視化する

誰が、どのAIを、どの程度使っているかを把握できる状態にしてください。

法人向けプランの管理機能で確認する方法のほか、ネットワーク側でアクセス先を可視化する製品を使う方法もあります。まずは社内アンケートで実態を聞き取るだけでも、想定とのずれが見えます。

把握できていない状態では、事故が起きたときに何が漏れたのかすら分かりません。可視化は、対策というより前提条件です。

対策5：インシデント対応手順を決めておく

万一入力してしまった場合に、誰に、どう連絡するかを決めておいてください。

この手順がないと、担当者が「怒られたくない」という理由で報告をためらいます。報告が遅れれば、対応も遅れます。

報告した者を責めない運用にすることも重要です。早く報告することが被害を最小化するという認識を、組織として共有してください。

安全に使うためのサービス選定

ルールと並行して検討すべきが、使う環境そのものです。法人向けプラン、自社環境での運用、そして契約時の確認点を整理します。

法人向けプランを使う

最も効果が大きく、着手しやすいのがこれです。個人向けの無料プランから、法人向けのプランへ切り替えるという対応です。

法人向けプランでは一般に、入力データを学習に使わない、管理者が利用状況を確認できる、アクセス制御を設定できる、といった機能が提供されます。

費用は発生しますが、事故が起きた場合の損害と比べれば、判断は明らかです。まずはここから検討してください。

自社環境で完結させる選択肢

機密性が特に高い情報を扱う場合、AIを自社の環境内で動かし、外部に一切データを出さない構成という選択肢もあります。

この構成であれば、入力した内容が外部に送信されるという前提そのものが当てはまりません。規制の厳しい業界や、顧客との契約で外部送信が制限されている場合に有効です。

一方で、扱えるモデルの性能は手元の設備に制約され、環境の構築と維持にも手間がかかります。すべてを自社環境にするのではなく、扱う情報の機密性で使い分けるのが現実的です。

ローカル環境でのAI活用については、ネクストスケールのAI活用コラムでも取り上げています。

契約時に確認すべき点

サービスを選ぶ際、最低限確認しておきたいのは次の項目です。

・入力データが学習に使われるかどうか、その設定は変更できるか

・データの保管場所と保管期間

・管理者が利用状況を確認できるか、アクセス制御を設定できるか

・セキュリティに関する第三者認証を取得しているか

・インシデント発生時の連絡体制と対応方針

これらは規約や仕様書に記載されています。導入前に確認し、記録として残しておくことをおすすめします。

自社に合ったAI利用環境を、設計から相談したい方へ 扱う情報の機密性に応じて、外部サービスと自社環境をどう組み合わせるか。要件をうかがったうえでご提案します。 相談予約はこちら

禁止ではなく、安全に使わせる

最後に、組織としての向き合い方を整理します。禁止が招く結果、段階的な解禁、そして定着のための教育という3点です。

禁止が招く結果

情報漏洩を恐れて全面的に禁止する。一見すると安全な判断に見えますが、実際には2つの問題を生みます。

ひとつが、前述のシャドーAIです。禁止しても使われるが、会社は把握できないという最悪の状態になります。

もうひとつが、競争力の低下です。同業他社が活用して生産性を上げているなかで、自社だけが手をつけない状態が続けば、その差は蓄積していきます。

「怖いから使わない」は、リスク管理としても事業判断としても最適解ではありません。

段階的な解禁の進め方

現実的なのは、範囲を限定して解禁し、実績を見ながら広げるという進め方です。

まず、機密性の低い業務から始めてください。社外に出しても問題のない情報を扱う作業、たとえば一般的な文章の作成、公開情報の要約、アイデア出しといった用途です。

この段階で、ルールが守られるか、どんな使い方が現場で求められているかを観察します。実態が見えてから、扱える情報の範囲を段階的に広げる。この順序であれば、統制を保ったまま活用を進められます。

教育と定着

ルールを配布しただけでは守られません。なぜそのルールがあるのかを、事例とともに伝えてください。

本記事で紹介したような実際の事例は、教育の材料として有効です。「善意で業務を効率化しようとした結果、事故になった」という構図が伝われば、自分ごととして受け止められます。

あわせて、ルールを定期的に見直す運用にしてください。この分野は変化が速く、新しいツールも次々と登場します。1年前のルールが実態と合わなくなることは珍しくありません。

AI活用を社内に定着させる進め方は、ネクストスケールのブログ記事一覧もあわせてご覧ください。

まとめ

生成AIによる情報漏洩は、利用者による入力、サービス側の不具合、アカウントの窃取、そしてAIサービスへの攻撃という経路で発生します。実際に、機密情報の入力による事故やサービス側の不具合による漏洩が起きています。

IPAの「情報セキュリティ10大脅威 2026」でAI関連のリスクが初選出で3位となったことが示すように、この問題はすでに企業が優先して対処すべき課題になっています。

原因の大半は、技術ではなく組織側にあります。利用ルールの不在、基準の曖昧さ、利用状況の不可視。裏を返せば、ルールと可視化を整えるだけで大半のリスクは下げられます。

取るべき方向は、禁止ではありません。安全に使える環境を会社が用意し、そこに利用を集約すること。使ってよいツールを決め、入力してよい情報を具体的に示し、利用状況を把握する。ここから着手してください。

生成AIの安全な活用体制を、自社の状況に合わせて構築したい方へ 現在の利用状況と扱う情報をうかがったうえで、業務を止めずにリスクを下げる進め方をご提案します。 ご相談は検討段階からどうぞ。 相談予約はこちら

参考・出典

・IPA「情報セキュリティ10大脅威 2026」：https://www.ipa.go.jp/security/10threats/10threats2026.html

・個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」：https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/