社内で AI を安全に使うためのガイド

生成 AI の社内導入で問題になるのは、技術の能力よりも「勝手に使われる・勝手に流す」ことです。便利さゆえに、個人情報や機密情報を入力してしまう事故が後を絶ちません。必要なのは高度な技術ではなく、「入れてよいもの・出してよいもの・確認の方法」の 3 つを全員が同じ基準で守る仕組みです。このガイドは、その仕組みをゼロから立てるための材料集めに使えます。

入力リスク：個人情報や機密情報を外部サービスに送ってしまう。学習に利用される設定だと、情報がモデルに残る可能性も。出力リスク：誤情報（ハルシネーション）をそのまま流通させる。他社の著作物に似た文章を公開してしまう。運用リスク：誰が何を確認したか分からず、事故の原因追跡ができない。対策はこの 3 つの順番に沿って決めると、抜けがありません。

原則として入力禁止：特定個人を識別できる情報（氏名・住所・マイナンバー等）、未公開の財務情報、顧客の機密情報、パスワード・認証情報。加工して入力：どうしても必要な場合は、名前を「A 社・B 氏」に置き換えるなどマスキングしてから入力します。入力してよいもの：公開情報、すでに社外提示した資料、個人が特定できない文書。判断に迷うときは「その文章が丸ごと外部に公開されても問題ないか」を基準にしてください。

AI の出力は「下書き」であり、公開・送信前の人間の確認を必須にします。事実確認：数字・日付・人名・法令・引用元は必ず一次情報と照合します。権利確認：出力が特定の作品に酷似していないか、画像は似通った既存素材がないかを確認。商用利用の可否はツールの規約に従います。責任の所在：AI の出力を使った成果物の責任は、利用した本人（および承認した上長）にあります。「AI が書いたので」は免責になりません。

法人利用では、個人プランではなく法人プランを使うのが第一歩です。確認項目は、①入力データの学習利用をオプトアウトできるか（zero-data-retention のような保存しない設定があるとなおよい）。②データの保存場所と保存期間が明示されているか。③アクセス管理（SSO・権限設定）があるか。④利用ログを確認できるか。⑤規約の準拠法・日本語サポートの有無。この 5 点は、ベンダー選定の書面確認リストとしてそのまま使えます。

①許可されたツールのみ使う ／ ②個人情報・機密情報は入力しない ／ ③マスキングのルールを守る ／ ④出力は必ず人間が確認してから使う ／ ⑤数字・固有名詞は一次情報で照合する ／ ⑥他社の権利を侵害する使い方をしない ／ ⑦AI を使った成果物は社内ルールに従って明示する ／ ⑧悪用・攻撃的な用途には使わない ／ ⑨インシデントに気づいたらすぐ報告する ／ ⑩ルールは定期的に見直す。この 10 か条を自社の言葉に直して、1 枚の紙にまとめて配布するだけで、リスクの大半を減らせます。

ルールは配って終わりではなく、次の 3 つで定着させます。①30 分の導入研修（実演＋事故例）②プロンプトと出力例を共有する社内テンプレート集 ③ミスの自己申告を歓迎する文化。特に 3 つ目が重要で、「隠れて使う」状況を作らないことが最大の安全対策です。小さなミスを報告した人を責めず、ルールの改善材料として扱ってください。

機密情報を入力してしまった場合は、時間が経つほど回収が難しくなります。初動：ツールのチャット履歴から当該会話を削除し、ベンダーのサポートに連絡して取扱いを確認します。報告：情報セキュリティ責任者へ速やかに報告し、影響範囲（何が・いつ・どこまで）を整理します。再発防止：同じ入力を誘発した業務フローを変え、ガイドラインに事例として追記します。平時から「誰に・どこまで報告するか」の連絡経路を決めておくことが、被害を最小化する唯一の方法です。

• プロンプトインジェクション
• ハルシネーション（AI 幻覚）
• 安全性
• OWASP Top 10 for LLM
• 人間参加型（HITL）
• ゼロデータ保持
• 透明性
• レッドチーミング