ChatGPTなど生成AIで所見を作るとき、個人情報の何がリスクになるのか

そもそも、生成AIに個人情報を入力すると何が起きるのか？

多くの生成AIサービスは、無料プランを中心に、入力内容を対話の品質向上やモデルの学習のためのデータとして扱う場合があります。学習に使われた情報は、原理的には別の利用者への応答に影響を与える可能性があり、いったん入力してしまうと完全に取り消すことが難しい場合があります。

ただし、これは一律の話ではありません。学校で契約する法人向けのAPI版・教育機関向けプランなどでは、入力データを学習に使わない設定になっている場合もあります。取り扱いはサービス・契約形態ごとに異なるため、利用しているサービスの最新の利用規約・プライバシーポリシーで個別に確認する必要があります（本記事執筆時点の一般論であり、各サービスの現在の規約が優先されます）。

文部科学省の生成AIガイドラインは何を求めているのか？

文部科学省は、2024年12月26日付で「初等中等教育段階における生成AIの利活用に関するガイドライン（Ver.2.0）」を公表しました。これは2023年7月に公表された暫定的なガイドライン（Ver.1）の改訂版で、発行元は文部科学省 初等中等教育局です。原文は文部科学省のWebサイトでPDF公開されています（初等中等教育段階における生成AIの利活用に関するガイドライン Ver.2.0（文部科学省, PDF））。

所見の作成は、先生が校務で生成AIを使う場面にあたります。この場面について定めているのは、ガイドラインの「３－１．教職員が校務で利活用する場面」にある「（３）利活用の際のポイント」（原文 p.15〜16）です。ここに、成績情報と個人情報について、強さの異なる2つの記述があります。

成績情報は「入力してはならない」（②情報セキュリティの確保、p.15）

原文はこう書かれています。

個別契約等に基づき適切なセキュリティ対策が講じられた環境で生成AIを運用しているような場合を除き、プロンプトに重要性の高い情報である成績情報等を入力してはならない。

「〜してはならない」という、ガイドラインの中でも強い表現が使われています。適切なセキュリティ対策が講じられた環境という例外はありますが、個人で無料版のChatGPTに評定や点数を貼り付ける使い方は、この例外にはあたりません。

個人情報は「取扱いを確認すべき」（③個人情報やプライバシー、著作権の保護、p.15〜16）

個人情報については、成績情報とは書きぶりが異なり、入力前の確認義務という形で示されています。

生成AIサービスに個人情報を含むプロンプトの入力を行う場合には、生成AIサービスの提供者が当該個人情報を機械学習に利用するか否か等を十分に確認すべきである。この際、生成AIサービスに個人情報を含むプロンプトを入力し、当該個人情報がプロンプトに対する応答結果の出力以外の目的で取り扱われる場合には、個人情報保護法違反となり得る。

つまり個人情報は「絶対に入力するな」ではなく、「提供者がその情報をどう扱うかを確認してからでなければ入力するな」という趣旨です。裏を返せば、確認できないサービスには入力できないということになります。なお原文の脚注では、個人情報とは氏名・生年月日その他の記述等により特定の個人を識別できるものを指し、他の情報と容易に照合して識別できるものも含むと定義されています（p.15 脚注23）。出席番号であっても、名簿と照合すれば個人が特定できる点には注意が必要です。

あわせて「①安全性を考慮した適正利用」（p.15）では、私用アカウントや、教育情報セキュリティ管理者（校長が想定されています）の許可を得ていない私用端末を用いてはならないとされています。自宅の個人PCから個人アカウントで所見を書く、という使い方はここに抵触します。

文科省が示すチェック項目（参考資料編 p.24）

ガイドラインの参考資料編には「教職員が校務で利活用する際のチェック項目」が掲載されています。所見作成に関係が深いものを原文から挙げます。

• 教育委員会の方針（情報セキュリティに関するルール・指示等も含む）に基づき利用しているか（p.15）
• 業務端末又は教育情報セキュリティ管理者の許可を得た端末を利用しているか（p.15）
• 生成AIサービスの提供者が定める最新の利用規約を確認・遵守しているか（p.10、15）
• プロンプトに重要性の高い情報である成績情報等を入力していないか（p.15）
  ※重要性の高い情報を扱う前提のセキュリティ対策が講じられている場合は除く
• プロンプトに個人情報を入力していないか（p.15、16）
  ※教職員がプロンプトに入力した個人情報を、生成AIサービスの提供者において応答結果の出力以外の目的で取り扱わないことを確認している場合は除く
• ハルシネーションやバイアス等の生成AIの特徴を理解した上で、出力結果の適切性を判断できる範囲内で利活用し、出力された内容を採用するかどうかを自身で判断しているか（p.10、11、13、16）

最後の項目は所見作成にそのまま当てはまります。AIが出した下書きをそのまま通知表に載せるのではなく、採用するかどうかを先生自身が判断することが求められています。

「個人情報を入力しない」とは具体的にどうすることか？

個人情報を入力しないための具体的な工夫は、次の4点に整理できます。

• 児童の氏名を、出席番号や「Aくん」のような仮の呼び方に置き換える
• 成績・評定・出欠などの数値情報をプロンプトに含めない
• 家庭状況・健康情報・アレルギーなど、要配慮個人情報にあたる内容は絶対に入力しない
• 送信する前に「この文章に固有名詞や、個人を特定できる情報が入っていないか」を都度確認する習慣を持つ

学校・自治体の「外部サービス利用」ルールとの関係は？

自治体・学校ごとに、情報セキュリティポリシーや外部サービス利用に関する規程が定められており、生成AIの業務利用が可能かどうかはその規程に従う必要があります。文部科学省のガイドラインも、文部科学省が別途策定する「教育情報セキュリティポリシーに関するガイドライン」を踏まえた対応を、教育委員会・学校に求めています。

本記事の内容は一般的な考え方の整理であり、個別の自治体・学校での可否を保証するものではありません。生成AIサービスの校務利用にあたっては、必ず所属組織の規程を確認し、判断に迷う場合は管理職・教育委員会に相談してください。

センセイメモはこの課題にどう対応しているのか？

センセイメモは、児童を出席番号だけで管理し、氏名・生年月日・成績・評定・出欠を入力する欄をそもそも設けていません。メモに名前らしき言葉が含まれると検知し、目印の文字（例：Aくん）に置き換えない限り保存できない「氏名ガード」も備えています。所見の下書き作成にはAIを利用しますが、対象となるのは先生が記録した観察メモであり、児童の氏名や成績を直接扱う設計にはしていません。

ただし、検知の精度には限界があり、名前が混ざってしまう可能性を完全にゼロにはできません。発見した場合は先生がいつでも削除・修正できる仕組みです。また、センセイメモを利用できるかどうかも、最終的には所属組織の規程に従う必要があります。詳しくは機能紹介およびFAQをご覧ください。

よくある質問

まとめ

• 生成AIに児童の氏名・成績等を入力すると、学習データ等に利用される可能性がある
• 文科省「生成AIガイドライン（Ver.2.0）」は、個人情報・プライバシーの保護を共通の観点の一つに挙げている（原文は文部科学省公式PDFで確認できる）
• 氏名は出席番号や仮の呼び方に置き換え、成績や要配慮個人情報は入力しない
• 最終的な利用可否は所属する自治体・学校の規程に従う