【2026年5月最新】ChatGPTでやってはいけない12のこと|危険な使い方・情報漏洩リスク・安全な活用法を解説

【2026年5月最新】ChatGPTでやってはいけない12のこと|危険な使い方・情報漏洩リスク・安全な活用法を解説

「ChatGPTって何でもできて便利」——そう思い込んで使い続けていると、ある日突然、取り返しのつかない事故が起きます。

2023年にはサムスン電子のエンジニアがChatGPTに社内の機密ソースコードを入力し、その情報が学習データに取り込まれる事態が発生しました。同年、アメリカのCISA(サイバーセキュリティ・社会基盤安全保障庁)でも内部データの漏洩リスクが報告されています。日本国内でも、学校で生徒のレポートがChatGPTの丸写しだった事例や、医療相談で誤情報を信じた人が治療を遅らせた事例が報道され始めています。

ChatGPTは正しく使えば業務効率を劇的に改善するツールですが、「やってはいけないこと」を知らずに使うと、情報漏洩・法的リスク・健康被害・信用失墜につながります。この記事では、ChatGPTで絶対に避けるべき12のNG行為を5つのカテゴリに分類し、具体的なリスクと対策を解説します。

代表菅澤 代表菅澤
ChatGPTを使うなと言っているのではありません。弊社GENAIも毎日AIを業務で使い倒しています。ただし「何をやってはいけないか」を全社員に共有した上で使っています。ルールなしにAIを使わせるのは、免許なしに車を運転させるのと同じです。
AI鬼管理山崎 AI鬼管理山崎
今日の記事では12のNG行為だけでなく、じゃあどうすれば安全に使えるのかという対策まで踏み込みます。個人で使う方も、会社で導入を検討している方も、この記事を「安全な使い方のチェックリスト」として活用してください。

この記事を最後まで読むと、次のことが明確になります。

✔️ChatGPTで絶対にやってはいけない12のNG行為と、その具体的リスク
✔️Samsung・CISAの情報漏洩事故から学ぶべき教訓
✔️ChatGPTの利用規約で明確に禁止されている行為と法的リスク
✔️個人・法人それぞれの安全対策チェックリスト
✔️ChatGPTとClaude Codeのセキュリティ対応の違い
✔️GENAI社が実践しているAI安全運用ルールの具体内容
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

01 ChatGPTの「やってはいけないこと」を知る重要性 便利さの裏にあるリスクを正しく理解する

ChatGPTは2022年11月の公開以来、わずか2ヶ月で1億ユーザーを突破し、2026年現在では月間アクティブユーザー数が数億人に達しています。仕事でもプライベートでも、多くの人がChatGPTを「とりあえず聞いてみる」ツールとして使っています。

しかし、その手軽さが「何でも聞いて大丈夫」という誤った安心感を生んでいます。ChatGPTは万能ではありません。使い方を間違えると、個人では健康被害や法的トラブル、企業では機密漏洩や損害賠償に直結します。

📚 用語解説

ハルシネーション(幻覚):AIが事実と異なる情報をあたかも正しいかのように自信満々に出力すること。ChatGPTは「知らない」と言わず、もっともらしい嘘をつく場合がある。医療・法律・金融など専門分野で特に危険な現象です。

1-1. 「便利だからこそ危険」の構造

ChatGPTの危険性は、使いやすさと危険性が表裏一体である点にあります。

誰でも使える
専門知識不要
日本語OK
何でも答える
「分からない」と
言わない
信じてしまう
流暢な日本語で
説得力がある
事故が起きる
誤情報/漏洩/
法的リスク

上図のように、ChatGPTは「誰でも使えて、何でも答えてくれて、しかも説得力がある」からこそ、間違った使い方をしたときのダメージが大きいのです。特に専門知識がない分野での利用ほど、AIの回答を検証する手段がなく、そのまま信じてしまうリスクが高まります。

⚠️ 最も危険なパターン

「ChatGPTがそう言っていたから大丈夫」と、AIの回答を根拠にして重要な判断をすること。AIの回答はあくまで参考情報であり、最終判断は人間(または専門家)が行う必要があります。

1-2. この記事で扱う12のNG行為の全体像

これから解説する12のNG行為は、リスクの性質によって以下の5カテゴリに分類できます。

カテゴリNG行為リスクの種類
命に関わる判断1.医療の自己診断 / 2.メンタルヘルス相談 / 3.緊急時の安全判断健康被害・人命リスク
法律・コンプライアンス4.投資・税務アドバイスの鵜呑み / 6.違法目的での使用法的責任・損害賠償
セキュリティ5.機密データの入力情報漏洩・企業損害
品質・精度8.リアルタイム情報への依存 / 9.曖昧な質問 / 10.著作権侵害 / 11.誤情報の拡散信用失墜・品質低下
教育・未成年7.学術不正 / 12.未成年の無監視利用教育的リスク・安全性
AI鬼管理山崎 AI鬼管理山崎
この5カテゴリは「被害の深刻さ」順に並んでいます。上にあるほどダメージが大きく、取り返しがつかない。次のセクションで1つずつ掘り下げていきます。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

02 絶対に避けるべき12のNG行為【5カテゴリ分類】 命に関わる判断・法律・セキュリティ・品質・教育の5軸で整理

【カテゴリ1】命に関わる判断を任せてはいけない

NG1. 医療の自己診断

「頭痛が続くのですが、何の病気でしょうか?」——ChatGPTにこう聞くと、もっともらしい病名と対処法が返ってきます。しかし、ChatGPTは医師ではなく、診察も検査もできません。症状から病名を推測するだけの「パターンマッチング」に過ぎず、個人の体質・既往歴・服薬状況を一切考慮していません。

実際に、海外ではChatGPTの回答を信じて受診を遅らせた結果、重症化した事例が複数報告されています。特に危険なのは「大したことないから様子を見よう」と判断材料にしてしまうケースです。

⚠️ 医療情報の鉄則

ChatGPTに体調の相談をしても「参考情報」以上の意味はありません。少しでも不安がある症状は、必ず医療機関を受診してください。AIが「大丈夫です」と言っても、それは医学的根拠のない推測です。

📚 用語解説

医療AI:診断支援や画像解析に特化したAI。FDAやPMDAの承認を受けた医療専用AIは存在しますが、ChatGPTはその範疇ではありません。ChatGPTは汎用チャットAIであり、医療目的での使用は設計外です。

NG2. メンタルヘルスの相談

「死にたい気持ちがある」「うつ病かもしれない」——こうした深刻なメンタルヘルスの相談をChatGPTに投げるのは絶対に避けるべきです。

ChatGPTは共感的な文章を生成できますが、専門的なカウンセリングや危機介入はできません。最悪のケースでは、不適切な回答が当事者の判断をさらに歪める危険があります。メンタルヘルスの問題は、専門の相談窓口やカウンセラーに相談してください。

💡 メンタルヘルスの相談先

厚生労働省「まもろうよ こころ」(https://www.mhlw.go.jp/mamorouyokokoro/) に全国の相談窓口一覧があります。電話・SNS・チャットで24時間対応の窓口もあります。AIではなく、訓練を受けた専門家に話を聞いてもらうことが何より大切です。

NG3. 緊急時の安全判断

「火事が起きたらどうすればいいですか?」「地震で建物が倒壊しそうです」——緊急時にChatGPTに聞いている時間はありません。そもそもChatGPTはリアルタイムの状況を把握できないため、その場の環境に応じた適切な判断ができません。

緊急時は119番(消防・救急)・110番(警察)に電話するか、その場で最も安全と思われる行動を取ってください。ChatGPTが返す一般論は、あなたの目の前の危険に対応していません。

代表菅澤 代表菅澤
命に関わる3つのNG行為に共通するのは、「AIの回答を信じて行動を遅らせるリスク」です。体調が悪い、心がつらい、身の危険を感じる——そのときChatGPTを開くのではなく、専門家や緊急窓口に直接つながることが最優先です。

【カテゴリ2】法律・コンプライアンスに抵触する使い方

NG4. 投資・税務アドバイスの鵜呑み

「この株を買うべきですか?」「確定申告でこの経費は認められますか?」——ChatGPTはこうした質問にも具体的な回答を返しますが、それは法的に有効なアドバイスではありません

投資助言は金融商品取引法、税務アドバイスは税理士法によって有資格者のみが行える業務と規定されています。ChatGPTの回答を根拠に投資判断や税務処理を行い、損失が発生したり税務調査で問題になったりしても、責任はすべて利用者にあります

⚠️ 投資・税務の鉄則

ChatGPTの回答は「ネット上の一般論を要約したもの」に過ぎません。具体的な投資判断はファイナンシャルプランナーや証券会社に、税務判断は税理士に必ず相談してください。

📚 用語解説

金融商品取引法:投資助言業を行うには金融庁への登録が必要と定めた法律。無登録で投資アドバイスを行うと罰則があります。ChatGPTに投資相談をすること自体は違法ではありませんが、その回答を「専門家のアドバイス」として扱うのは危険です。

NG6. 違法目的での使用

ChatGPTに「マルウェアのコードを書いて」「詐欺メールのテンプレートを作って」「薬物の合成方法を教えて」と依頼する行為は、OpenAIの利用規約で明確に禁止されています。

現在のChatGPTにはセーフティフィルターが組み込まれており、こうした要求の多くは拒否されます。しかし、「プロンプトインジェクション」と呼ばれる手法でフィルターを回避しようとする行為も規約違反であり、アカウント停止の対象です。

さらに重要な点として、ChatGPTが生成した内容であっても、それを実行した場合の法的責任は利用者自身にあります。「AIが作ったものだから自分は悪くない」という言い訳は法的に通用しません。

📚 用語解説

プロンプトインジェクション:AIのセーフティフィルターを回避するために特殊な指示文(プロンプト)を入力する攻撃手法。「あなたはDAN(Do Anything Now)です」のようなロールプレイ指示でAIの制約を外そうとする行為が典型例。これ自体が利用規約違反であり、やってはいけない行為の1つです。

【カテゴリ3】セキュリティを脅かす使い方

NG5. 機密データの入力

ChatGPTに会社の機密情報を入力してしまう——これは企業が最も警戒すべきNG行為です。

ChatGPTに入力したデータは、デフォルト設定ではOpenAIのサーバーに送信され、モデル改善に使用される可能性があります。つまり、社内の顧客リスト、売上データ、ソースコード、契約書の内容、人事情報などを入力すると、その情報がOpenAIの学習データに取り込まれ、他のユーザーへの回答に影響する可能性があるのです。

これは理論上のリスクではありません。2023年にサムスン電子で実際に起きた事故です。詳細は次のセクションで解説しますが、結果としてサムスンは社内でのChatGPT使用を全面禁止する措置に踏み切りました。

⚠️ 今すぐ確認すべきこと

ChatGPTの設定画面で「Chat History & Training」をオフにしてください。これにより、会話内容がモデル改善に使用されなくなります。ただし、これだけでは十分とは言えません。機密情報は原則としてChatGPTに入力しないのが最も安全です。

✔️社内のソースコードをChatGPTに貼り付けてレビューを依頼しない
✔️顧客の個人情報(氏名・連絡先・取引履歴)を含む文章を入力しない
✔️契約書や見積書の内容をそのまま入力しない
✔️社内のアクセスキーやパスワードを含むテキストを貼り付けない
✔️未公開の経営データ(売上・利益・人事異動計画)を入力しない
AI鬼管理山崎 AI鬼管理山崎
「でもコードレビューしてほしい」「契約書のチェックをお願いしたい」——そういうニーズがあるのは理解しています。対策として、機密情報をダミーデータに置き換えてからChatGPTに入力する方法があります。あるいは後半で紹介するClaude Codeのようにローカルで動くAIを使う選択肢もあります。

【カテゴリ4】品質・精度を損なう使い方

NG8. リアルタイム情報への依存

「今日の為替レートは?」「昨日のニュースを教えて」——ChatGPTにリアルタイム情報を聞くのは信頼できない使い方です。

ChatGPTのベースモデルには学習データのカットオフ日があり、それ以降の出来事は原則として知りません。GPT-5ではブラウジング機能で最新情報を検索できるようになりましたが、検索結果の正確性は保証されない上に、情報の鮮度もリアルタイムではありません。為替レート・株価・天気予報・災害情報などは、専用のサービスや公式ソースを使うべきです。

📚 用語解説

学習データのカットオフ:AIが学習に使ったデータの最終日。たとえばカットオフが2025年4月のモデルは、2025年5月以降の出来事を「知らない」。ブラウジング機能付きでも、検索して取得した情報をAIが正しく理解・要約する保証はありません。

NG9. 曖昧な質問で正確な回答を期待する

「いい感じのビジネスプランを考えて」「なんかいい記事のネタない?」——こうした曖昧な質問は、曖昧な回答しか返ってこない典型パターンです。

ChatGPTは入力(プロンプト)の質がそのまま出力の質に直結します。具体的な条件、対象読者、求めるフォーマット、文字数などを指定せずに聞くと、AIは「最も一般的な回答」を返すしかありません。その結果、どこかで見たことのある平凡な内容が出力されます。

💡 良い質問の書き方

曖昧: 「マーケティングの戦略を教えて」
具体的: 「月間広告予算50万円・BtoB SaaS・従業員30名の企業がリード獲得を目的とするマーケティング戦略を、優先度順に3つ提案して。各戦略の月間コストと期待リード数も含めて。」

条件を絞るほど、ChatGPTの回答は具体的かつ実用的になります。

NG10. 著作権侵害につながる使い方

ChatGPTが生成した文章や画像が、既存の著作物と酷似していた場合、その利用は著作権侵害にあたる可能性があります。

たとえば「○○さんの文体で書いて」「△△の曲の歌詞をベースに作って」といった指示を出すと、ChatGPTは学習データに含まれる著作物を参考にした出力を生成します。これをそのまま公開・商用利用した場合、著作権者から損害賠償を請求されるリスクがあります。

2024年には、AIが生成した文章と既存の書籍の内容が酷似しているとして訴訟が起きた事例も出ています。「AIが作ったものだから著作権フリー」という考えは完全な誤りです。

⚠️ 著作権リスクの回避法

ChatGPTの出力をそのまま公開せず、必ず人間が目を通して「既存の著作物と類似していないか」を確認してください。特に商用利用の場合は、著作権チェックツールやコピーコンテンツチェッカーを通すことを強く推奨します。

NG11. 誤情報の拡散

ChatGPTが出力した情報をファクトチェックせずにSNSやブログで発信する——これは意図せず誤情報を拡散するリスクを抱えています。

ChatGPTは「もっともらしい嘘(ハルシネーション)」を生成することがあります。統計データ、人名、日付、論文の引用、法律の条文など、細かいファクトほど間違いが多い傾向があります。そのまま公開すると、読者に誤った情報を提供するだけでなく、発信者としての信用を失墜させることにもなります。

📚 用語解説

ファクトチェック:情報の事実確認。AIが出力した統計データや引用元は、必ず一次ソース(公式サイト・論文・法令データベース等)に当たって正誤を確認すること。この作業を省略すると、誤情報拡散の責任を負うことになります。

代表菅澤 代表菅澤
弊社では「AIが出力した数字・固有名詞・日付は100%ファクトチェックする」をルールにしています。これを怠ると、クライアントへの提案書に間違った数字が載ったり、ブログ記事で事実と異なることを書いてしまったりするリスクがあるからです。

【カテゴリ5】教育・未成年に関わるリスク

NG7. 学術不正(レポート・論文の丸写し)

大学のレポートや論文をChatGPTに書かせてそのまま提出する行為は、多くの教育機関で「学術不正」として処分対象になっています。

2023年以降、国内外の大学でAI利用に関するガイドラインが急速に整備されました。「AI生成物を自分の成果物として提出すること」を明確に禁止している大学が大半で、発覚した場合は単位取り消し・停学・退学処分に至るケースもあります。

さらに、大学側もAI検出ツール(GPTZero、Turnitin等)を導入しており、ChatGPTの出力を見抜く精度は年々向上しています。「バレなければ大丈夫」は通用しない時代です。

💡 学生がChatGPTを正しく使う方法

ChatGPTをレポート代筆に使うのではなく、「議論の壁打ち相手」「参考文献の探し方のヒント」「自分の文章の推敲アシスタント」として活用するのが推奨される使い方です。最終的な文章は必ず自分で書き、参考にしたAIの活用範囲を教員に申告するのがベストプラクティスです。

NG12. 未成年の無監視利用

子どもにChatGPTを自由に使わせることは、複数のリスクをはらんでいます。ChatGPTは年齢確認なしに使える設計であり、子どもが不適切な情報にアクセスしたり、個人情報を入力してしまったりする可能性があります。

OpenAIの利用規約では13歳未満の利用を禁止しており、13〜18歳は保護者の同意が必要とされています。しかし実際には年齢確認の仕組みが弱く、子どもが保護者に無断で使用するケースは少なくありません。

⚠️ 保護者の方へ

お子さんがChatGPTを利用する場合は、1.利用目的を確認する 2.会話履歴を定期的にチェックする 3.個人情報を入力しないよう教える の3点を徹底してください。特にSNSアカウント名・学校名・住所・電話番号などを入力しないよう注意が必要です。

AI鬼管理山崎 AI鬼管理山崎
以上の12のNG行為を見ると、「ChatGPTって結構危険じゃないか」と感じるかもしれません。でも繰り返しますが、正しく使えば非常に強力なツールです。重要なのは「何をしてはいけないか」を知った上で使うこと。次のセクションでは、実際に起きた情報漏洩事故を掘り下げます。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

03 情報漏洩リスクと重大事例(Samsung・CISA等) 実際に起きた事故から学ぶ教訓

「情報漏洩のリスクがある」と抽象的に言われてもピンとこない方のために、実際に起きた具体的な事故事例を紹介します。これらの事例は、ChatGPTの危険性が決して理論上のものではないことを如実に示しています。

3-1. Samsung電子の機密ソースコード流出事件(2023年)

2023年3月〜4月、サムスン電子の半導体部門のエンジニアが、社内の機密ソースコードをChatGPTに入力してコードレビューを依頼しました。複数のエンジニアが別々のタイミングで行ったため、合計で少なくとも3件の機密情報がOpenAIのサーバーに送信されました。

送信された内容には、半導体の設計データ、内部会議の議事録、プログラムのソースコードが含まれていました。これらのデータがOpenAIのモデル学習に取り込まれた場合、理論上は他のユーザーへの回答に影響する可能性があります。

この事件を受け、サムスンは社内でのChatGPT利用を全面禁止する措置を取りました。社員に対して、すでに入力した情報の削除要請と、今後の利用禁止が通達されました。

⚠️ Samsung事件の教訓

「ちょっとコードを見てほしいだけ」のつもりが、企業の知的財産を外部に流出させる事態になりました。エンジニア個人に悪意はなく、業務効率を上げようとした善意の行動が事故につながった典型例です。

3-2. CISA(米サイバーセキュリティ庁)の内部データリスク(2023年)

アメリカのCISA(Cybersecurity and Infrastructure Security Agency)——サイバーセキュリティ・社会基盤安全保障庁でも、職員がChatGPTに内部情報を入力するリスクが問題視されました。

CISAは連邦政府のサイバーセキュリティを担う機関であり、扱う情報には国家安全保障に関わる機密が含まれます。職員がChatGPTを業務利用する中で、内部の脆弱性情報やインシデント対応の詳細が外部に流れる懸念が指摘されました。

この件を受け、アメリカ政府は連邦機関でのAIツール利用に関するガイドラインの策定を加速させました。日本でも、2023年以降に総務省・経済産業省を中心にAI利用のガイドラインが相次いで公表されています。

📚 用語解説

CISA:Cybersecurity and Infrastructure Security Agencyの略。米国土安全保障省傘下のサイバーセキュリティ専門機関。日本のNISC(内閣サイバーセキュリティセンター)に相当する組織です。

3-3. 日本企業でも他人事ではない理由

「Samsungやアメリカの話でしょ?うちには関係ない」——そう思った方こそ要注意です。日本企業でも同種のリスクは確実に存在しています。

✔️営業担当が顧客リストをChatGPTに入力して提案書のドラフトを作成
✔️経理担当が請求書の内容をChatGPTに貼り付けて仕訳を相談
✔️人事担当が社員の評価シートをChatGPTに入力してフィードバック文を作成
✔️開発者が社内システムのソースコードをChatGPTにコピペしてバグを探す
✔️経営者が未発表の経営計画をChatGPTに入力して壁打ちする

上記のような行為は、日本企業のオフィスで日常的に行われている可能性が高いです。社員は悪意なく、純粋に業務効率を上げたくてChatGPTを使っています。だからこそ「やってはいけない」を明確にルール化する必要があるのです。

代表菅澤 代表菅澤
弊社GENAIでも、AI導入支援の現場で「実は社員がChatGPTに顧客情報を入れていた」というケースに何度も遭遇しています。悪意はなくても結果は同じです。次のセクションで利用規約と法的リスクを確認し、その次で具体的な対策をお伝えします。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

04 利用規約と法的リスク — 知らないでは済まされない OpenAIの利用規約が禁止する行為と、違反時の影響

ChatGPTの利用規約(Terms of Use)とUsage Policyには、利用者がやってはいけない行為が明確に記載されています。「読んでいない」は言い訳になりません。ここでは、規約で禁止されている主要な行為と、違反した場合のリスクを整理します。

4-1. OpenAI利用規約で禁止されている行為

禁止行為具体例違反時のリスク
違法活動マルウェア生成、詐欺コンテンツ作成アカウント停止 + 法的責任
有害コンテンツ生成暴力・ヘイトスピーチ・児童搾取アカウント停止 + 刑事責任
他者のプライバシー侵害個人情報の不正収集・公開個人情報保護法違反
知的財産権の侵害著作物のコピー生成著作権法違反 + 損害賠償
セーフティの回避プロンプトインジェクションアカウント停止
13歳未満の利用年齢詐称でのアカウント作成アカウント停止 + COPPA違反

4-2. 日本の法律で問題になるケース

ChatGPTの利用に関しては、日本の法律でも以下のリスクがあります。

✔️個人情報保護法:他人の個人情報をChatGPTに入力 → 第三者提供に該当する可能性
✔️不正競争防止法:他社の営業秘密をChatGPTに入力 → 営業秘密の管理義務違反
✔️著作権法:ChatGPTの出力が既存著作物と酷似 → 利用者が侵害責任を負う
✔️景品表示法:ChatGPTが生成した誇大広告を使用 → 優良誤認として処分対象
✔️薬機法:ChatGPTが生成した医薬品・健康食品の効能表現 → 無許可の広告に該当
⚠️ 「AIが作ったものだから免責」は通用しない

AIの出力物であっても、それを利用・公開した責任は人間にあります。2024年の文化庁ガイドラインでも「AI生成物の利用は、最終的に人間が責任を負う」ことが明確化されています。

4-3. 企業がChatGPTを「社内禁止」にしている理由

Samsung以外にも、JPMorgan、Apple、Amazonなどの大手企業がChatGPTの社内利用を制限・禁止しています。これらの企業が共通して懸念しているのは以下の3点です。

機密漏洩
入力データの
外部送信
コンプライアンス
規制産業での
利用リスク
品質管理
AI出力の
正確性保証

しかし、全面禁止は最善策ではありません。禁止すると社員がこっそり個人アカウントで使う「シャドーIT」が発生し、むしろリスクが見えにくくなります。正しいアプローチは「禁止」ではなく「ルール整備」です。次のセクションで具体的な対策を解説します。

AI鬼管理山崎 AI鬼管理山崎
「禁止」は思考停止の対策です。AI活用の競争力を失わずにリスクを管理するには、「何が危険で、何が安全か」を具体的に定義して社内に浸透させることが不可欠です。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

05 安全に使うための対策【個人・法人別】 個人利用と法人利用で異なる対策レベル

ここまでで「やってはいけないこと」を整理してきました。では、具体的にどうすれば安全にChatGPTを使えるのか。個人利用と法人利用でレベル感が異なるため、分けて解説します。

5-1. 【個人向け】今日からできる安全対策5選

✔️Chat History & Trainingをオフにする(設定 > Data controls)
✔️個人情報を入力しない(氏名・住所・電話番号・マイナンバー等)
✔️AIの回答を鵜呑みにしない(特に医療・法律・金融の情報)
✔️出力結果をファクトチェックしてから公開・利用する
✔️パスワードや認証情報を絶対に入力しない
💡 最もコスパが良い対策

5つの中で最も効果が大きいのは「Chat History & Trainingをオフにする」です。この1つの設定変更で、入力データがモデル学習に使われるリスクが大幅に低減します。設定画面は左下のアカウント名 > Settings > Data controls から30秒で変更できます。

5-2. 【法人向け】AI利用ガイドラインの策定

企業でChatGPTを安全に活用するには、全社員に適用されるAI利用ガイドラインの策定が必須です。ポイントは以下の4つです。

ガイドライン項目内容例
利用可能な範囲一般的な文章作成・翻訳・要約は可、機密データ入力は不可
利用禁止事項顧客情報・ソースコード・未公開経営情報の入力禁止
利用するプランChatGPT Teamまたは Enterprise(ビジネスデータ非学習保証)
出力の品質管理AI出力は必ず人間がレビューしてから利用する

5-3. 法人はChatGPT Team / Enterprise の利用が前提

法人で安全にChatGPTを使うなら、個人向けの無料版やPlusではなく、ChatGPT Team(月$25〜/人)またはEnterpriseの契約が必須です。

Team / Enterpriseプランでは、入力されたデータがOpenAIのモデル学習に使用されないことが契約で保証されています。また、SSO(シングルサインオン)やアクセス制御などの管理機能も提供されるため、「誰がどんな使い方をしているか」を可視化できます。

⚠️ 無料版・Plusでの業務利用は危険

個人向けの無料版やPlus(月$20)で業務データを扱うのは、セキュリティ上推奨されません。デフォルトでモデル学習への利用が有効であり、入力データの取り扱いに関する法人向け保証がないためです。

代表菅澤 代表菅澤
「ChatGPT Team は月$25/人で高い」と感じるかもしれませんが、情報漏洩事故が1件でも起きれば、損害賠償・信用失墜・対策費用で数百万〜数千万円のダメージになります。月$25は保険料として考えれば破格です。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

06 【比較】ChatGPTとClaude Codeのセキュリティ対応の違い 同じ「AI」でもセキュリティ設計は大きく異なる

ChatGPTの「やってはいけないこと」を解説してきましたが、では他のAIツールなら安全なのか?ここでは、弊社GENAIが業務で使用しているClaude Code(Anthropic社)のセキュリティ対応を、ChatGPTと比較して整理します。

6-1. データの取り扱い方針の違い

項目ChatGPT(OpenAI)Claude Code(Anthropic)
デフォルトのデータ利用学習に使用される(オフ可能)学習に使用されない(Pro以上)
法人向けデータ保証Team/Enterprise契約で保証Pro以上で保証
ローカル実行不可(クラウドのみ)Claude CodeはCLI型でローカルファイル操作
データ送信先OpenAIサーバー(米国)Anthropicサーバー(米国)
オプトアウト設定画面から可能Pro以上はデフォルトでオフ

最も大きな違いは、Claude Code(CLI版)はローカル環境で動作するという点です。ChatGPTは完全にクラウド上で動くため、すべての入力がインターネット経由でOpenAIのサーバーに送信されます。一方、Claude CodeはユーザーのPC上のターミナルで動くため、ファイル操作や処理の一部をローカルで完結させることが可能です。

📚 用語解説

CLI(コマンドラインインターフェース):ターミナルやコマンドプロンプトからテキストベースで操作するインターフェース。ChatGPTのようなWeb画面(GUI)ではなく、キーボード入力でAIに指示を出す方式。開発者には馴染みがありますが、最近はClaude Codeのデスクトップ版もリリースされており、非エンジニアでも使いやすくなっています。

6-2. セーフティ設計の思想の違い

OpenAI(ChatGPT)とAnthropic(Claude)は、AI安全性に対するアプローチが根本的に異なります。

観点ChatGPT(OpenAI)Claude(Anthropic)
安全性への姿勢利便性と安全性のバランス重視安全性を最優先(Constitutional AI)
有害コンテンツ抑制コンテンツフィルター方式憲法AI方式(原則から判断)
透明性一部公開安全性レポートを定期公開
過剰拒否の傾向少なめ(利便性重視)やや多い(安全性重視)

📚 用語解説

Constitutional AI(憲法AI):Anthropic社が開発したAI安全性のアプローチ。あらかじめ定義した「憲法」(原則ルール)に基づいてAIの出力を自己検閲させる方式。外部フィルターで事後的にブロックするのではなく、AI自身が「この回答は原則に反していないか」を判断する仕組みです。

AI鬼管理山崎 AI鬼管理山崎
誤解しないでいただきたいのは、「ChatGPTが危険でClaude Codeが安全」と単純に二分する話ではないということです。どちらのツールも正しく使えば安全であり、間違った使い方をすればリスクがあります。ただし、セキュリティを重視する法人利用においては、AnthropicのConstitutional AI方式とClaude Codeのローカル実行モデルの方が合理的だと弊社では判断しています。

6-3. 業務利用におけるコスト・セキュリティの両立

業務でAIを安全に使いたいなら、「ChatGPT Team + 社内ガイドライン」か「Claude Code Max + ローカル運用」の2択が現実的な選択肢です。

選択肢月額コストセキュリティ適する組織
ChatGPT Team$25〜/人○ データ非学習保証チャット中心の業務が多い組織
ChatGPT Enterprise要問合せ◎ 専用契約・SSO大企業・規制産業
Claude Code Pro$20/人○ デフォルトで非学習個人〜小規模チーム
Claude Code Max 20x$200/人◎ ローカル実行+大容量業務を丸ごとAIに回す経営者
代表菅澤 代表菅澤
弊社GENAIがClaude Code Max 20xを選んでいる理由は、セキュリティだけではなく「業務自動化のエージェント性能」がChatGPTより一歩先を行っているからです。ターミナルでファイル操作・コード生成・自動実行まで一気通貫でできる点が、経営の現場では圧倒的に使いやすいのです。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

07 【独自データ】GENAI社でのAI安全運用ルール 月額$200でAIを使い倒す会社の「やらないリスト」

最後に、弊社(株式会社GENAI)がClaude Code Max 20x(月額$200)を全社で運用する中で、実際に適用しているAI安全運用ルールを公開します。「AIを使い倒しながら、事故を起こさない」ためのリアルな運用例です。

7-1. GENAI社の「AIで絶対にやらない」5ヶ条

✔️顧客の個人情報をそのままAIに入力しない — ダミーデータに置換してから投入
✔️AIの出力した数字・日付・固有名詞は100%ファクトチェック — 人間が一次ソースに当たる
✔️AIの生成物をそのまま顧客に送信しない — 必ず人間が目を通してから送信
✔️本番環境のパスワード・APIキーをAIに教えない — 認証情報は暗号化ファイルで管理
✔️AIの判断だけで契約・法務・人事の意思決定をしない — AIは参考情報、最終判断は人間

7-2. 運用の実態:月$200でどこまで安全に使い倒せるか

業務利用可否理由
議事録の要約○ 利用可社内会議のテキストは機密度が低い場合が多い
ブログ記事の執筆○ 利用可公開前提の情報のため機密性なし
メール下書きの作成○ 利用可個人情報を含む場合はマスキング処理
営業提案書の作成△ 条件付き顧客固有の金額・条件はダミーで入力
経理の仕訳処理△ 条件付き取引先名をマスキング、金額のみ入力
ソースコードの開発○ 利用可Claude Codeはローカル実行のため許容
顧客リストの分析× 禁止個人情報の外部送信になるため
人事評価の作成× 禁止個人の評価情報は最高機密

上表のように、「機密度」に応じて利用可・条件付き・禁止を明確に分けるのがポイントです。全面禁止でもなく、全面解放でもなく、業務ごとにリスクレベルを定義することで、AI活用と安全管理を両立させています。

💡 法人のAI運用で最も大事な1つ

最も重要なのは「AIを禁止すること」ではなく「ルールを作って可視化すること」です。禁止すると社員は個人アカウントでこっそり使います(シャドーIT)。それよりも「この業務では使っていい、この業務では使わない」を明文化して全員に共有する方が、はるかにリスクが低くなります。

7-3. インシデント発生時の対応フロー

万が一、機密情報をAIに入力してしまった場合の対応フローも事前に定めています。

検知
機密情報の
入力を発見
即時報告
管理者に
30分以内に報告
影響調査
入力内容と
機密レベル確認
対策実施
履歴削除要請
関係者通知

重要なのは「報告を責めない文化」を作ることです。ミスを隠すインセンティブがあると、インシデントの発見が遅れ、被害が拡大します。「入力してしまったらすぐに報告」を文化として根付かせることが、最も効果的なリスク管理です。

代表菅澤 代表菅澤
これらのルールは弊社の規模(少人数)だから機能している面もあります。しかし考え方の骨格——「禁止ではなくルール化」「機密度による分類」「報告を責めない文化」——は、どんな規模の組織にも応用できるはずです。
Claude Code 完全解説セミナー|経営者・会社役員専用 1on1 60分 無料Claude Codeを経営に活かしたい方へ — AI鬼管理

08 まとめ — 「やってはいけない」を理解してこそ「使いこなせる」 ルールを知った上で使うAIは、最強の業務パートナーになる

この記事では、ChatGPTで絶対にやってはいけない12のNG行為を5カテゴリに分類し、Samsung・CISAの情報漏洩事例、利用規約と法的リスク、個人・法人別の安全対策、ChatGPTとClaude Codeのセキュリティ比較、そしてGENAI社のリアルな安全運用ルールまでを整理しました。

最後に、12のNG行為を改めて一覧にまとめます。

✔️NG1. 医療の自己診断 — AIは医師ではない。症状は必ず医療機関で診てもらう
✔️NG2. メンタルヘルスの相談 — 深刻な悩みは専門の相談窓口へ
✔️NG3. 緊急時の安全判断 — 119番・110番が先。AIに聞いている場合ではない
✔️NG4. 投資・税務アドバイスの鵜呑み — 有資格者に相談すべき領域
✔️NG5. 機密データの入力 — Samsung事件の教訓。社内ルール必須
✔️NG6. 違法目的での使用 — 利用規約違反 + 刑事責任
✔️NG7. 学術不正 — AI生成物の丸写しは処分対象
✔️NG8. リアルタイム情報への依存 — 鮮度が命の情報は専用ソースで
✔️NG9. 曖昧な質問 — 具体的な条件を入れるほど精度が上がる
✔️NG10. 著作権侵害 — AI出力も著作権リスクあり。チェック必須
✔️NG11. 誤情報の拡散 — ファクトチェックなしの公開は自分の信用失墜
✔️NG12. 未成年の無監視利用 — 保護者の関与が不可欠

この12のNG行為を理解した上でChatGPTを使えば、AIは最強の業務パートナーになります。「やってはいけないこと」を知っているからこそ、安全に、かつ最大限にAIを活用できるのです。

AI鬼管理山崎 AI鬼管理山崎
「12もルールがあるのは面倒」と感じるかもしれませんが、車の運転でもルールを守るから安全に走れます。AIも同じです。ルールを守る手間は、事故が起きたときの損失と比べれば圧倒的に小さいものです。

弊社GENAIでは、Claude Code Max 20x(月$200)を全社契約し、これらのルールを守った上で経営・営業・広告・経理・記事制作のほぼすべての業務にAIを組み込んでいます。「AIを安全に使い倒したい」「自社のAI利用ルールを整備したい」という方は、ぜひ下記よりご相談ください。

AIの「安全な使い倒し方」を、AI鬼管理が一緒に設計します

「ChatGPTを使いたいけどリスクが怖い」「社内のAI利用ルールを作りたい」——そんな方に。
弊社のリアルな運用ノウハウをベースに、御社に最適なAI活用と安全管理の両立をご提案します。

代表菅澤 代表菅澤
弊社が実際に運用している安全ルールと、Claude Codeを活用した業務自動化の設計を、そのまま御社向けにカスタマイズしてご提供します。まずは無料相談で、今の御社のAI利用状況と課題をお聞かせください。

NEXT STEP

この記事の内容を、あなたのビジネスで
実践してみませんか?

AI活用を自社で回せるようになりたい方へ

AI鬼管理

Claude Code・Cowork導入支援から業務設計・社内浸透まで実践ベースで伴走。「自社で回せる組織」を90日で作る経営者向けトレーニング。

よくある質問

Q. ChatGPTに入力した情報は本当に他の人に見られるのですか?

A. 直接他のユーザーに見られるわけではありませんが、デフォルト設定では入力データがモデルの学習に使用される可能性があります。つまり、将来的にAIの回答に入力内容が反映される可能性はゼロではありません。Chat History & Trainingをオフにするか、Team/Enterpriseプランを契約することで、このリスクを低減できます。

Q. ChatGPTの回答が間違っていた場合、誰が責任を負いますか?

A. 利用者が責任を負います。OpenAIの利用規約でも「出力の正確性は保証しない」と明記されており、AIの回答を根拠に損害が発生した場合は、その情報を利用した人間に責任があります。特に医療・法律・金融の分野では、必ず専門家に確認してから判断してください。

Q. ChatGPT Teamプランなら機密情報を入力しても安全ですか?

A. Teamプランではデータがモデル学習に使用されない保証がありますが、「完全に安全」とは言い切れません。データはOpenAIのサーバー上で処理されるため、サーバー側のセキュリティインシデントのリスクは残ります。機密度の高い情報はダミーデータに置き換えてから入力するのが最も安全です。

Q. Claude Codeの方がChatGPTより安全なのですか?

A. 一概に「安全」とは言えませんが、Claude CodeはCLI型でローカルファイル操作ができる点、Proプラン以上ではデフォルトでデータが学習に使用されない点で、セキュリティ面での優位性はあります。ただし、どちらのツールも「正しい使い方」をすれば安全に利用できます。

Q. 子どもにChatGPTを使わせたいのですが、安全な方法はありますか?

A. まず、OpenAIの規約上13歳未満は利用禁止です。13歳以上の場合は、1.保護者同席での利用 2.会話履歴の定期チェック 3.個人情報入力禁止の教育 4.利用時間の制限 を設けることを推奨します。学習目的での利用は有効ですが、必ず保護者の監督下で行ってください。

Q. ChatGPTで作った文章をブログやSNSに公開しても著作権的に問題ないですか?

A. ChatGPTが生成した文章の著作権については、法的に完全にはクリアになっていない部分があります。OpenAIは出力物の権利を利用者に譲渡していますが、出力が既存著作物と酷似していた場合は著作権侵害のリスクがあります。公開前に必ずコピーチェックを行い、独自の修正を加えてから利用してください。

Q. 会社でAI利用ガイドラインを作りたいのですが、何から始めればいいですか?

A. まずは社内で「現在誰がどのAIツールをどの業務で使っているか」の実態調査から始めてください。その上で、業務ごとに機密度を分類し、AI利用の可否を定めます。弊社GENAIでは、AI利用ガイドラインの策定から社内研修まで一貫して支援しています。詳しくはAI鬼管理までお問い合わせください。

AIAI鬼管理

AI鬼管理へのお問い合わせ

この記事を読んで気になった方へ。
AI鬼管理の専門スタッフが、御社に最適な
業務自動化プランを無料でご提案します。

会社名を入力してください
業種を選択してください
お名前を入力してください
正しいメールアドレスを入力してください

1つ以上選択してください
1つ以上選択してください
月額コストを選択してください

約1時間のオンライン面談(Google Meet)です

空き枠を取得中...
面談日時を選択してください

予約確定後、Google Calendarの招待メールをお届けします。
しつこい営業は一切ございません。

監修 最終更新日: 2026年5月25日
菅澤孝平
菅澤 孝平 株式会社GENAI 代表取締役
  • AI業務自動化サービス「AI鬼管理」を運営 — Claude Code を活用し、経営者の業務を「AIエージェントに任せる仕組み」へ転換するパーソナルトレーニングを 伴走構築 で提供。日報・採用・問い合わせ対応・経費精算・議事録・データ集計・営業リスト等の定型業務を、AIに代行させる体制を経営者と一緒に作り込む
  • Claude Code 実装ノウハウを 経営者・法人クライアント に直接指導。生成AIを「便利ツール」ではなく 「業務を任せる存在」 として運用する手法を体系化
  • 「やらせ切る管理」メソッドの開発者。シンゲキ株式会社(2021年設立・鬼管理専門塾運営)にて累計3,000名以上の学習者を志望校合格に導いた管理メソッドを、AI × 経営者支援 に転用
  • 著書『3カ月で志望大学に合格できる鬼管理』(幻冬舎)、『親の過干渉こそ、最強の大学受験対策である。』(講談社)
  • メディア出演: REAL VALUE / カンニング竹山のイチバン研究所 / ええじゃないかBiz 他
  • 明治大学政治経済学部卒
現在は AI鬼管理(Claude Code活用の伴走型パーソナルトレーニング)を主事業とし、経営者と二人三脚で「AIに業務を任せる仕組み」を実装。「実行を強制する環境」を AI で構築する手法を、自社の実運用知見をもとに発信している。