人工知能(AI)はSTEM教育においてますます影響力を増しています。AIツールは現在、自動採点、個別フィードバック、チュータリング、学習分析をサポートできるようになりました。しかし、ディープラーニングモデルや大規模言語モデル(LLM)を含む多くの高度なAIシステムは「ブラックボックス」のように動作します。彼らはスコアやフィードバックを提供できますが、教育者や学生、研究者がAI生成の意思決定がどのように行われるのかを理解するのは難しいです。

最近出版されたオープンアクセス書籍『Artificial Intelligence for STEM Education Research』では、「STEM教育研究における説明可能なAI」という章がこの問題に割かれています。AIシステムがSTEM教育においてより透明で解釈可能かつ有用にする方法を検証し、主要な説明可能なAIアプローチを紹介し、それらが信頼、診断的洞察、指導的意思決定、そしてSTEM学習の文脈における責任あるAI統合をどのように支援できるかを論じています。

説明可能なAI(しばしばXAIと呼ばれる)は、人々がAIモデルの予測の背後にある理由を理解し、信頼し、潜在的にコントロールできるようにするための手法や原則を指します。教育において、説明可能性は技術的な問題だけでなく、教育的かつ倫理的な問題でもあります。

AIが採点やフィードバック生成に使われる場合、教育者はシステムが学習の有意義な証拠に焦点を当てているかどうかを知る必要があります。また、AIのフィードバックが回答がなぜ強力で不完全、または不正確なのかを理解する助けになることで、学生は恩恵を受けます。研究者は、AIモデルが学習理論、評価フレームワーク、学問分野の期待と整合しているかどうかを評価するために説明可能性を必要としています。

線形モデルや木構造モデルのように、設計上理解しやすいAIモデルもあります。線形モデルは、学習時間や過去の成績などの要素が予測結果とどのように関連しているかを示すのに役立ちます。木構造モデルは、結果につながる一連の決定ルールを示すことができます。これらのモデルはAI予測の論理を可視化します。

より複雑なAIシステムを説明するために設計された他の手法もあります。一つのアプローチは、「もしも」推論、別名反事実的説明を用いて予測を指針に変えるものです。例えば、AIツールが重要な科学的アイデアを追加したり誤解を正した場合、学生の回答が改善される様子を示すかもしれません。この種の説明はAIスコアを有用なフィードバックに変えることができます。

別のアプローチは、学生の作業の中でAIにとって最も重要な部分を特定するのに役立ちます。例えば、自動採点では、説明可能なAIが光合成やエネルギー変換といった重要な概念を学生の回答で認識しているかどうかを示すことができます。これにより、教師はAIが注意を払い、意味のある懲戒内容を検出しているかどうかを判断できます。

ChatGPTや他のLLMはもう一つ重要な問題を提起しています。これらのツールは日常の言葉で書かれたプロンプトに応答するため、ユーザーの質問の仕方が重要です。明確なプロンプト、関連する例、背景情報、そして段階的な推論により、AIのやり取りをより可視化し、洗練しやすくなります。文脈内の例、知識の拡張、思考の連鎖プロンプトなどの戦略は、LLMがより解釈可能で教育や学習に役立つ応答へと導くのに役立ちます。

全体として、STEM教育におけるAIは正確さだけで判断されるべきではないという中心的なメッセージがあります。スコアや推薦、フィードバックメッセージは、人々がその理由を理解することでより価値が高まります。XAIは、モデルの出力を、学生の推論、誤解、学問分野の理解、時間の経過など、教育者が重視する証拠の種類と結びつける手助けをします。

AIが進化し続ける中で、STEM教育におけるAIの役割は、AI研究者、教育者、学習科学者、評価専門家間の継続的な協力を必要とし、AIツールが人間中心のままであることを保証します。教育システムにおける変革と見なされていますが、その成功はどれだけ慎重に実施されるかにかかっており、教育者がAIの活用方法、重要な証拠、AI生成された洞察が教育と学習にどのように反映されるべきかという意思決定の中心に立ち続けることが極めて重要です。総じて、責任を持って使えば、AIはフィードバックの向上、評価の支援、理解の深化、そして生徒の将来への準備に強力なツールとなり得ます。説明可能なAIは、その未来を信頼できるものにし、人間の学習と整合させるための重要な一部です。