情報リテラシー
【基礎解説】教育分野におけるAI利用の倫理的課題と著作権への配慮
導入――便利さの裏側にある「問い」に向き合う 生成AIの教育利用が急速に広がるなかで、その利便性ばかりが注目され、倫理的な課題や法的なリスクへの議論が後回しにされがちな状況が見受けられます。 「AIが書いた文章を子どもがレポートとして提出した場合、それは不正行為にあたるのか」「AIの学習データに著作権で保護された作品が含まれている場合、その出力を使うことに問題はないのか」「AIによる学力評価は公平なのか」――こうした問いは、教育にAIを取り入れるすべての関係者が避けて通れないものです。 本記事では、教育現場におけるAI利用の倫理的課題を、著作権、プライバシー、公平性、学力評価の妥当性という四つの観点から整理いたします。文部科学省が公表しているガイドラインの内容も踏まえながら、保護者の方と教員の方がそれぞれの立場で知っておくべき注意点を解説してまいります。 基礎解説――教育におけるAI倫理の全体像 なぜ教育分野でAI倫理が特に重要なのか AI倫理の議論は、医療、金融、司法など多くの分野で進められていますが、教育分野には固有の事情があります。それは、AIの利用者（学習者）の多くが未成年であり、判断力や批判的思考力が発達の途上にあるという点です。 成人が業務効率化のためにAIを使う場合と、子どもが学習の場でAIを使う場合では、考慮すべきリスクの性質が異なります。教育は人格形成の根幹に関わる営みであり、その過程にAIがどのように介在するかは、慎重に検討されなければなりません。 文部科学省のガイドラインの概要 文部科学省は2023年7月に「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン」を公表しました。このガイドラインでは、生成AIの教育利用について以下の基本的な方向性が示されています。 生成AIの仕組みや限界を理解させたうえで、教育活動に活用することが重要である 情報活用能力の育成の一環として、AIを適切に使いこなす力を身につけさせる 学校や教育委員会が、利用に関するルールやガイドラインを策定することが望ましい 個人情報の入力や不適切な利用を防ぐための指導が必要である このガイドラインは「暫定的」と銘打たれている通り、技術の進展に応じて更新されることが前提です。保護者の方は、学校がどのような方針でAI利用を取り扱っているか、定期的に確認されることをお勧めいたします。 四つの倫理的課題の概観 教育分野におけるAI利用の倫理的課題は、大きく以下の四つに分類できます。 著作権の問題：AIの出力に含まれる可能性のある著作権侵害のリスク プライバシーの問題：学習データや個人情報の取り扱い 公平性の問題：AIへのアクセス格差やアルゴリズムのバイアス 学力評価の妥当性：AI利用を前提とした学力評価の在り方 以下、それぞれについて詳しく見てまいります。 深掘り研究――四つの倫理的課題を掘り下げる 課題1：著作権と生成AIの出力 生成AIと著作権の基本的な関係 生成AIは、インターネット上の膨大なテキストデータを学習して構築されています。この学習データのなかには、著作権で保護された文章、画像、音楽なども含まれている場合があります。ここに、教育利用においても無視できない法的な問題が存在します。 日本の著作権法では、2018年の改正により、AIの機械学習のためのデータ利用は原則として著作権者の許諾なく行えるとされました（著作権法第30条の4）。しかし、この規定はあくまで「学習（開発）段階」に関するものであり、AIが生成した出力物の利用に関しては、別途検討が必要です。 教育現場で問題となる具体的なケース 教育現場において著作権上の注意が必要となる場面として、以下のようなケースが考えられます。 AIが生成した文章のレポートへの引用：AIが出力した文章が、既存の著作物と類似している場合、意図せず著作権侵害となる可能性があります AIによる画像生成の利用：文化祭のポスターやプレゼン資料にAI生成画像を使う場合、学習データに含まれる原著作物の権利が問題になり得ます AIを用いた教材作成：教員がAIを活用して教材を作成する場合、出力内容の著作権上の位置づけに留意する必要があります 保護者・教員が取るべき対応 著作権に関しては、以下の原則を意識してください。 AIの出力をそのまま成果物として提出・公開することは避け、自分の言葉で書き直す習慣をつける AIが生成した内容を利用する場合は、「生成AIを利用した」旨を明記する 出力された情報の出典が不明な場合は、原典を探して確認する 学校の定めるAI利用に関するルールを遵守する 課題2：プライバシーと個人情報の保護 生成AIに入力するデータのリスク 生成AIサービスの多くは、ユーザーが入力した情報をサービスの改善や学習データとして利用する場合があります。この仕組みは、教育現場においては深刻なプライバシーリスクとなり得ます。 たとえば、以下のような情報がAIに入力されるケースが懸念されます。 生徒の氏名、学校名、成績情報 学習上の困難や発達上の特性に関する情報 家庭環境に関する記述 教員の指導記録や評価コメント これらの情報がAIサービスの運営企業に蓄積される可能性を考慮すると、教育現場での生成AI利用には、個人情報保護の観点からの厳格な運用ルールが不可欠です。 子どものプライバシーに関する特別な配慮 子どものプライバシーについては、成人以上に慎重な配慮が求められます。国連の「子どもの権利条約」でもプライバシーの権利が明記されており、また、EUの一般データ保護規則（GDPR）では、16歳未満の子どもの個人データの処理には保護者の同意が必要とされています。 日本においても、2022年に施行された改正個人情報保護法のもとで、子どもの個人データの取り扱いに対する社会的な関心は高まっています。保護者の方は、お子さまが利用するAIサービスの利用規約やプライバシーポリシーを確認し、データの取り扱いについて把握しておかれることが重要です。 具体的なプライバシー保護策 教育現場およびご家庭で実践できるプライバシー保護策として、以下を推奨いたします。 実名や学校名など、個人を特定できる情報をAIに入力しない 成績や学習上の悩みを入力する場合は、具体的な個人が特定されないよう匿名化する 利用するAIサービスのプライバシーポリシーを確認し、入力データの利用範囲を把握する 学校が推奨するAIサービスがある場合は、その選定理由やデータ保護方針を確認する 課題3：公平性とデジタル格差 AIアクセスの格差がもたらす教育上の不平等 生成AIの教育活用が進むほど、AIへのアクセス環境の違いが学力格差の新たな要因となるリスクがあります。高性能なAIサービスの多くは有料であり、家庭の経済状況によってAI活用の質に差が生じる可能性は否定できません。 また、AIを効果的に使いこなすためには、適切なプロンプト（指示文）を書く能力や、AIの出力を批判的に評価する能力が必要です。これらのスキルは、家庭の教育的な背景によって差が生じやすく、結果として「AIを活用できる生徒」と「できない生徒」の間に新たな格差が生まれる懸念があります。 AIアルゴリズムに内在するバイアス 生成AIは、学習データに含まれる偏りをそのまま反映する傾向があります。たとえば、特定の性別や文化的背景に対するステレオタイプ的な記述が出力される場合があることは、複数の研究で指摘されています。 教育現場においてこうしたバイアスが無批判に受け入れられると、生徒の価値観形成に好ましくない影響を及ぼす可能性があります。AIの出力に潜むバイアスに気づく力を育てることも、AI時代の教育において重要な課題です。 課題4：学力評価の妥当性 AIが介在する学習成果をどう評価するか 生成AIが普及した環境において、従来の学力評価の方法は見直しを迫られています。レポートや作文がAIの助けを借りて作成されている場合、その成果物は生徒自身の能力をどの程度反映しているのでしょうか。 この問いに対しては、現時点で明確な答えが出ているわけではありませんが、いくつかの方向性が議論されています。 プロセス重視の評価：最終的な成果物だけでなく、思考の過程や探究のプロセスそのものを評価する方法。学習ポートフォリオやリフレクションシートの活用が一例です 口頭での説明能力の評価：AIが代替しにくい「自分の言葉で説明する力」を評価の対象とする方法。プレゼンテーションや口頭試問の比重を高めることが考えられます AI活用能力そのものの評価：AIを適切に活用するスキル自体を評価項目に含める考え方。AIリテラシーを学力の一部として位置づける視点です 入試制度との関わり 大学入試や高校入試において、AIの利用をどのように位置づけるかは、今後の大きな論点となります。京都府の公立高校入試では、現時点で生成AIの利用に関する明示的な規定は設けられていませんが、全国的な動向を注視しておく必要があります。 実践アドバイス――保護者と教員が今できること 保護者向け：家庭で実践できる5つの取り組み 1. AIサービスの利用規約を一度は読む お子さまが利用しているAIサービスの利用規約やプライバシーポリシーに目を通してください。特に、年齢制限（多くのサービスは13歳以上を対象としています）、入力データの取り扱い、出力の商用利用に関する規定は重要です。 2. 「AIの出力は誰のものか」を家庭で話し合う AIが生成した文章や画像の著作権がどこに帰属するのかは、法的にもまだ議論が続いているテーマです。難しい問題ではありますが、「AIが書いた文章をそのまま自分の名前で出していいのか」という素朴な問いを親子で話し合うことは、倫理的感覚を養う良い機会になります。…
【基礎解説】生成AIのハルシネーション（幻覚）リスクと情報リテラシーの重要性
導入――AIが「自信満々に間違える」という問題 「AIが出した答えを、子どもがそのまま信じてしまっている」 こうしたご相談を、保護者の方からいただく機会が増えています。ChatGPTやClaudeといった生成AIは、流暢で説得力のある文章を生成するため、回答がすべて正確であるかのような印象を与えがちです。しかし、生成AIには「ハルシネーション（hallucination）」と呼ばれる構造的な課題が存在します。事実に基づかない情報を、あたかも確かな知識であるかのように出力してしまう現象です。 この問題は、AIの技術的な欠陥というよりも、生成AIの仕組みそのものに根差した特性です。この特性を正しく理解しないままAIを利用すれば、誤った情報を正しいと思い込んだまま学習を進めてしまい、知識の土台そのものが歪んでしまうリスクがあります。 本記事では、ハルシネーションの技術的な背景から、教育現場での事例、そしてお子さまが「ファクトチェック習慣」を身につけるための具体的な方法までを体系的に解説いたします。 基礎解説――ハルシネーションはなぜ起こるのか 生成AIの動作原理：「次の単語を予測する」仕組み ChatGPTやClaudeなどの大規模言語モデル（LLM: Large Language Model）は、膨大な量のテキストデータを学習し、「ある単語の次に、どの単語が来る確率が高いか」を予測する仕組みで動作しています。技術的には「次トークン予測（next token prediction）」と呼ばれる手法です。「トークン」とは、単語や単語の一部分を指す処理単位のことです。 たとえば、「京都の世界遺産として有名な寺院は」という文に続く単語として、「金閣寺」「清水寺」「銀閣寺」といった候補が高い確率で予測されます。AIはこの確率計算を一語ずつ繰り返すことで、文章全体を組み立てていきます。 ここで重要なのは、AIは「事実を知っている」のではなく、「もっともらしい文の続きを生成している」にすぎないという点です。AIの内部に百科事典のような知識データベースがあるわけではなく、言語のパターンから「それらしい」応答を組み立てているのです。 「もっともらしさ」と「正確さ」は別物である この仕組みから、ハルシネーションが発生する構造的な理由が見えてきます。 AIにとっての「良い回答」とは、文法的に自然で、文脈に沿った、もっともらしい文章です。しかし「もっともらしさ」と「事実としての正確さ」は本質的に異なる基準です。AIは「この情報は事実か」を検証する機能を持たず、統計的に「次に来やすい単語」を連ねているだけであり、生成された文が事実に合致するかどうかは偶然に委ねられている側面があります。 言葉を巧みに操る話し手が、必ずしも正確な情報を伝えているとは限らないのと同様です。AIの場合、その「流暢さ」が極めて高い水準にあるため、誤情報であっても見抜きにくいという特有の危険性が生じます。 ハルシネーションが起こりやすい場面 ハルシネーションは、あらゆる場面で均等に発生するわけではありません。特に以下のような状況で生じやすいことが知られています。 学習データに情報が少ない分野：マイナーな歴史的事象、地域に限定された情報、専門性の高い学術領域など 数値・年号・固有名詞を含む回答：「〇〇年に△△が起きた」「□□大学の研究によると」といった具体的な情報 出典や参考文献の提示を求められた場合：実在しない論文名や書籍名を、もっともらしい体裁で「創作」してしまうことがあります 最新の情報に関する質問：学習データの時点以降に発生した出来事については、正確な回答が原理的に困難です 深掘り研究――教育現場での事例と研究知見 教育現場で報告されている具体的な事例 生成AIのハルシネーションが教育に及ぼす影響について、国内外でさまざまな事例が報告されています。 事例1：架空の参考文献を引用したレポート 大学教育の現場では、学生が生成AIを用いてレポートを作成した際に、AIが生成した架空の学術論文をそのまま参考文献として記載してしまうケースが問題となっています。論文のタイトル、著者名、掲載雑誌名まで「もっともらしく」生成されるため、一見しただけでは実在するかどうかの判別が困難です。 事例2：歴史の学習における年号や人物の混同 中学生や高校生が歴史の学習にAIを活用した際、異なる時代の出来事を混同したり、実在の人物に架空の業績を付与したりするケースが報告されています。史実として確認されていない俗説を、あたかも定説であるかのように提示することもあります。 事例3：理科の実験手順に関する誤情報 理科の自由研究でAIに実験方法を尋ねた場合に、安全上問題のある手順が含まれていた事例も指摘されています。AIは実験の安全性を実地で検証しているわけではないため、もっともらしく見える手順の中に危険な操作が含まれてしまう可能性があります。 ハルシネーション率に関する研究動向 ハルシネーションの発生頻度については、複数の研究機関が評価を行っています。モデルの種類や質問の分野によって数値は大きく異なりますが、事実確認を要する質問に対して、主要な生成AIが一定の割合で不正確な情報を出力することが確認されています。 注目すべき知見として、AIの回答の「自信の度合い」と「正確性」には必ずしも相関がないという研究結果があります。AIが断定的な口調で述べていても正確とは限らないという事実は、「自信を持って語られる情報は正しい」という人間の直感と矛盾するため、特に注意が必要です。 子どもが特にハルシネーションの影響を受けやすい理由 教育心理学の観点からは、子ども（特に小学校高学年から中学生にかけて）がAIのハルシネーションに対して脆弱である理由として、以下の点が指摘されています。 権威への信頼傾向：子どもは「教えてくれる存在」を権威として信頼しやすい発達段階にあり、AIが返す回答を「先生の答え」と同じように受け止めてしまう傾向があります 批判的思考力の発達途上：情報の真偽を自ら判断するための批判的思考力は、発達とともに徐々に身につくものであり、十分に確立されていない段階では、もっともらしい誤情報を見抜くことが困難です 背景知識の不足：AIの回答が正しいかどうかを判断するためには、その分野に関する一定の背景知識が必要ですが、学習途上にある子どもはその知識が十分でない場合が多いといえます 実践アドバイス――ファクトチェック習慣を育てる具体的な方法 家庭で実践できる「3ステップ検証法」 お子さまがAIを使って調べものをした際に、以下の3つのステップを習慣として定着させることをお勧めします。 ステップ1：「本当？」と立ち止まる AIの回答を読んだ直後に、まず「この情報は本当だろうか」と一度立ち止まる習慣をつけます。内容が正しいかどうかを即座に判断する必要はありません。大切なのは、「疑問を持つ」という姿勢そのものです。お子さまがAIの回答を見せてくれた際に、保護者の方が「なるほど、それは本当かな？」と穏やかに問いかけることで、この習慣は自然に育っていきます。 ステップ2：「もう一つの情報源」で確認する AIの回答に含まれる重要な情報（数値、年号、人物名、出来事の因果関係など）について、AI以外の情報源で確認する習慣を身につけます。確認先としては、以下のようなものが適切です。 教科書・参考書 百科事典（紙の事典でもオンライン版でも構いません） 公的機関や学術機関の公式ウェブサイト 図書館の書籍 すべての情報を逐一確認する必要はありませんが、「レポートに書く情報」「テストの答えとして覚える情報」「誰かに伝える情報」については、必ず裏取りをするという基準を設けておくとよいでしょう。 ステップ3：「AIにも聞き直す」 興味深いことに、AIに対して「その情報は確かですか？ 根拠を教えてください」と改めて質問すると、最初の回答を修正してくることがあります。また、別のAIサービスに同じ質問をして、回答を比較するのも有効な方法です。回答が一致していれば信頼性は高まりますし、食い違っていればさらなる調査が必要だという判断材料になります。 年齢に応じた段階的な指導 ファクトチェックの指導は、お子さまの発達段階に応じて調整することが大切です。小学校高学年では「AIは間違えることがある」という事実の理解と、教科書・図鑑との照合を一緒に行うところから始めます。中学生になれば、複数の情報源を並べて比較する練習や、「なぜAIは間違えるのか」という技術的背景への関心を育てていきます。高校生には、一次情報と二次情報の区別、情報源の信頼性評価、学術的な引用ルールなど、大学進学後にも通じる高度な情報リテラシーの指導へ進みましょう。 避けていただきたい二つの極端 「AIは危険だから一切使わせない」という全面禁止も、「便利だから自由に使わせる」という放任も、いずれも望ましい対応とはいえません。AIはすでに社会基盤の一部であり、将来的にAIと適切に付き合う力はますます重要になります。一方で、ファクトチェックの習慣が身についていない段階での無制限な利用は、誤情報を無自覚に取り込むリスクをはらんでいます。 適切なのは、「AIの特性を理解したうえで、段階的に活用の幅を広げていく」姿勢です。最初は保護者と一緒にAIを使い、ファクトチェックの実践を重ねながら、徐々にお子さま自身が主体的に情報を検証できるよう導いていくことをお勧めします。 家庭での実践：「AI検証タイム」のすすめ 週に一度でも構いませんので、お子さまと一緒にAIに質問を投げかけ、その回答を検証する時間を設けてみてください。「京都にまつわる歴史の豆知識をAIに聞いて、本当かどうか調べてみよう」「AIに有名な人物の経歴を聞いて、百科事典と照らし合わせてみよう」といった題材が取り組みやすいでしょう。AIの間違いを発見できた際の「自分の力で見抜けた」という達成感は、知的好奇心の原動力にもなります。 結論――「疑う力」こそ、AI時代の最良の教養 ハルシネーションは生成AIの構造的な特性であり、技術の進歩とともに発生率は低下していく可能性がありますが、「AIの回答は常に正しいとは限らない」という前提は今後も重要であり続けます。本記事の内容を整理いたします。 ハルシネーションの原理：生成AIは「次に来る確率の高い単語」を予測して文章を生成しており、事実を検証して回答しているわけではない 教育現場での影響：架空の出典の引用、歴史事実の混同、安全性に問題のある実験手順の提示など、具体的なリスクが報告されている 子どもの脆弱性：権威への信頼傾向、批判的思考力の発達途上、背景知識の不足により、子どもはハルシネーションの影響を受けやすい ファクトチェック習慣の育成：「立ち止まる」「別の情報源で確認する」「AIにも聞き直す」の3ステップを、年齢に応じて段階的に指導する 「疑う力」は決して後ろ向きな能力ではありません。情報を主体的に吟味し、自らの判断で取捨選択する知的な営みです。AIの登場は、この力の重要性をこれまで以上に際立たせています。 あいおい塾では、生成AIの適切な活用法を含む情報リテラシー教育にも取り組んでおります。ファクトチェック習慣の育て方についてのご相談にも丁寧にお応えいたしますので、どうぞお気軽にお問い合わせください。 本記事は2026年3月時点の情報に基づいて執筆しています。生成AIの技術や関連する教育政策は急速に変化しているため、最新の情報については文部科学省の公式発表や各AIサービスの利用規約をご確認ください。