「基礎情報学」と生成AIの有機的な融合により、情報社会の本質を深く理解することを目指す

※クリックすると拡大します。

生成AI活用における倫理教育と、AI技術を批判的に評価する能力の育成のために

現在、生成AIに関する教育研究は、「生成AIを使いましょう」という推奨が中心になっているかと思いますが、Microsoftが提供する生成AIツールキットでは「Safely and Responsibly」として「安全に責任を持って活用する」ことが強調されています。今後、生成AIの倫理的な活用についての教育が非常に重要になると考えています。

また、2020年にアメリカのD. Longらが、「個人が批判的にAI技術を評価する能力のセット」として17のコンピテンシーによって「AIリテラシー」を定義しています。これらの考え方は、今後日本にも導入されるでしょう。

こういった本質的な議論の基盤として、私は「基礎情報学」の視点を採用し、次のような教材開発を行っています。

※クリックすると拡大します。

#1「生成AIを使ってみよう」→AIは一見自律的に見えても、原理的には他律システムである

最初のステップ「使ってみよう」では、生成AIの活用法を学びます。私は授業で、ChatGPTを使ったり、生徒には画像を生成させたり、音楽を作らせたりして、まずは自由に試してみる段階を設けることが大切だと思います。

ここで重要なのは、AIが一見自律的に動作しているように見えても、実際にはシステムのルールが外部から規定されている「他律システム」であることを理解させることです。生成AIはプログラマーが設計し、トレーニングデータを基に学習するシステムであり、その根底には人間が作ったものだという事実をおさえることが非常に大切です。

私たち大人にとっては当然のことですが、小学生を対象とした研究では、生成AIに人格を感じ、自律的に答えていると信じてしまう子どもが実際にいるとのことです。これは大きな課題であり、こういった新しい技術に関しては発達段階に応じた教育が重要です。

※クリックすると拡大します。

#2「生成AIを理解しよう」→AIは機械情報を扱うものである

次のステップである「理解しよう」では、生成AIの技術と仕組みについてダイジェスト的に学びます。「情報I」の教科書でも取り上げられている「3つの情報概念（生命情報・社会情報・機械情報）」は、生成AIの利用において重要な概念であり、生徒にしっかりと教えていく必要があります。

私たちは、コンピュータが扱っている「情報」と、例えば1冊の本を読んだときに得られる「情報」には違いがあることを理解していますが、生徒たちは「情報＝コンピュータ」と捉えてしまうことが往々にしてよくあります。この明確な違いは、高校の「情報I」においてしっかり理解しておかなければなりません。

「機械情報」を説明する際に、私は、数学の授業で黒板の数式を写すことを例にします。数式には数学的な意味がありますが、写す際にはその意味を考えずに単に書き写すだけになってしまう、ということがありますよね。AIやコンピュータは、これと同じことをやっているわけです。つまり、「意味を全く理解せずに、それっぽく答えているだけのノリのいいやつ」であるということです。このように、「機械情報」では意味が欠落・潜在化していることをしっかりと押さえます。

さらに、このステップでは、意味や価値を伝える「社会情報」、そして生物が生きる上で有用な意味や価値を生み出す「生命情報」についても理解しておくことが重要です。

※クリックすると拡大します。

#3 生成AIの問題点と未来を考えよう→成果メディアと現実イメージの歪みの可能性

最後に、これが最も重要だと考えている点ですが、インターネットが登場した際、子どもたちが検索結果の上位に表示された情報だけを見て「これが正しい」と信じ込む姿に危機感を覚えた経験があるかと思います。生成AIに関しても、同様の問題が発生することは容易に予想されます。

まず、偽情報や誤情報（ハルシネーション）の問題があります。特に、バイアスと差別の問題には慎重に対処しなければなりません。生成AIは、大量のデータを基にして学習していますが、そのトレーニングデータには意図せずに偏りが含まれることがあります。例えば、特定の文化や思想・信条、言語、社会的背景に偏ったデータが含まれることで、生成AIが特定の視点や情報に偏った応答を行う可能性があります。また、アルゴリズム自体にも設計者の意図やデータの偏りが反映され、特定の結果を強調したり、他の結果を除外したりすることがあります。

例えば、アルゴリズムのパラメータを少し変更するだけで特定の種類の説明しか出てこなくなるという点について、ユーザである私たちにとってはブラックボックスとなっています。また、個々人の内面の思想・信条などをシステム側が把握するといった危険性もあります。こうした点を踏まえ、生成AIがどのような情報を生成するのか、そしてその背後にある制約やバイアス、危険性等について生徒たちに考察させることが重要です。

※クリックすると拡大します。

今後に向けて～教科書コンテンツの深化、テーマ自由の探究活動へ

ここからは、2学期に実施予定の内容についてです。例えば、歴史の教科書は、多くの場合、特定の学説に基づいて書かれていますが、歴史学にはさまざまな学説が存在します。生成AIを使ってテキストを分析し、「この文章は特定の学説に基づいて書かれている」ということを生徒に理解させます。さらに、大規模言語モデル（LLM）を変えてみたり、英語で質問したりすることで、異なる解答が返ってきたり、バイアスのかかった情報が得られることも実感させたいと考えています。

こういった実践を通じて、生成AIが提示する情報には、表に出てくるものと出てこないものの両面があることを理解させるきっかけにしたいと考えています。

私は、生成AIの使用に反対しているわけではまったくなく、その便利な部分は積極的に活用すべきだと考えています。例えば、生成AIは文章のミスなどを簡単に修正してくれますし、迅速にアイデア出しをしてくれるのは非常に便利です。しかし、私たちも生徒たちも、無意識のうちに生成AIから出てくる情報を正しいと信じ込んでしまう傾向があります。また、実際には、生成AIには出てこない情報やバイアスも存在します。

こうした側面を理解するために、「基礎情報学」は大変重要な基盤を提供してくれます。私は、「基礎情報学」を土台として、生成AIについて生徒たちに教えることの重要性を再認識する必要があると考えており、今後もこの教材開発を進めていこうと考えています。

※クリックすると拡大します。

※クリックすると拡大します。

第17回全国高等学校情報教育研究会全国大会（愛知大会）ポスター発表