- 慶應義塾大学が、授業資料を用いた試験で、生成AIに資料中にない内容を出力させる対策を講じていることが話題となった。
- この対策は、学生が生成AIに課題を丸投げした場合に見抜くことを目的としている。
- 大学側の狙いは、生成AIの不適切な利用を抑制し、学生自身の思考力やリテラシーを育成することにある。
- AIに資料にない情報を「もっともらしく」生成させるAIの特性を逆手に取った巧妙な手法である。
慶應義塾大学の斬新なAI対策が話題に
慶應義塾大学が授業で配布した資料を用いた課題や試験において、学生が生成AIに解答を作成させようとすると、配布資料には含まれていない、無関係な内容を出力させるというユニークな対策を講じていることがSNS上で話題となっている。この手法は、生成AIの特性を逆手に取り、学生がAIに課題を「丸投げ」したかどうかを見抜くことを目的としている。
AIに資料外の内容を出力させる仕組み
このAI対策の具体的な仕組みは、授業で配布されるPDF資料に、人間の目には見えない形で特定のテキスト（「見えないプロンプト」などと呼ばれる）を埋め込んでおくというものだ。学生がこのPDFをそのまま生成AIに読み込ませて要約や解答生成をさせると、AIはその隠されたテキストに影響を受け、授業で扱われた内容とは関係のない情報を生成してしまう。
例えば、授業では特定の文献を扱っているにもかかわらず、AIが突然、福沢諭吉の別の著作である「文明論之概略」について語り始めるといった現象が実際に発生したという報告がある。これは、AIが与えられた資料中の情報だけでなく、学習データに基づいた知識を用いて「もっともらしい」文章を生成する特性と、PDFに埋め込まれた（人間には見えない）指示にAIが反応してしまうことを利用した巧妙な方法である。
対策の狙い：不正利用の抑制とリテラシー育成
慶應義塾大学がこのようなAI対策を行う狙いは、主に二つある。一つは、学生による生成AIの安易な不正利用を抑制することだ。授業内容を理解せずにAIに解答を作成させる行為は、学問に対する誠実さを欠くだけでなく、学生自身の思考力や学習機会を奪うことにつながる。資料にない内容を出力させることで、AIに依存した学生は容易に判別される。
もう一つは、学生に生成AIの限界と適切な使い方を体験的に学ばせることである。AIは時に事実に基づかない情報（ハルシネーション）をもっともらしく生成することがあり、その出力を鵜呑みにすることの危険性を、学生自身が身をもって知る機会となる。大学としては、生成AIを一律に禁止するのではなく、その特性を理解した上で、学びを深めるためのツールとして賢く活用できる人材を育成することを目指している。
教育現場におけるAIとの向き合い方
慶應義塾大学のこの対策は、教育現場が生成AIの普及にどう対応していくかを示す一つの事例として、大きな反響を呼んでいる。AI技術の進化は止められない現状において、大学教育には、AIを単なる禁止の対象とするのではなく、そのメリット・デメリットを学生に理解させ、倫理的かつ効果的に活用できる能力（AIリテラシー）を育成する役割が求められている。慶應義塾大学の試みは、学生の主体的な学びとAI時代の新しい学術倫理を考える上で、示唆に富むものであると言える。
引用元：Yahoo!ニュース （ITmedia NEWS）
AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に 狙いを聞いた
