事例319
続 人工知能と人間との関わり方を考える～人工知能が人を裁く未来～
田園調布学園中等部・高等部 村山達哉先生
東大五月祭のAI模擬法廷を題材に、「AIが人を裁く」ことについて考える
今回は、ChatGPT4がAI裁判官となった、日本初のAI模擬法廷の模擬裁判を題材にした授業についてご報告します。
昨年もこの実践事例報告会で、人工知能と人間との関わり方について「人工知能の『学習』を通して考える」というタイトルで事例をご紹介しましたが、今回はその学習を踏まえた上で取り組んだ実践のうち、今年秋に取り組んだ新しいものをご紹介します。
皆様は、「AIが人を裁く」ということについてどのように感じられるでしょうか。
ご存知の方もいらっしゃると思いますが、今年の5月に東京大学の五月祭で、「日本初のAI裁判官(ChatGPT4)による模擬裁判」が行われました。東京大学法学部の学生たちが、「AIは人を裁くことができるのか」というテーマをもとに行った模擬裁判は、過去に例を見ない取り組みということもあって、法曹界でも注目を集めました。
当日の様子をご覧になりたい方は、当日のYouTubeLiveの配信(※1)をご覧いただければと思います。
※1 https://www.youtube.com/watch?v=bU6rg5QEe7s&t=0s
※クリックすると拡大します。
今回は、このAI模擬裁判を題材にして、企画・運営した学生の皆さんをお招きしてお話をうかがいながら授業を行いました。
単に「このような取り組みがあるよ」と生徒に紹介するレベルであれば、教員が動画を紹介して授業を展開するという形でよいかと思いますが、私としては、実際にChatGPTを裁判に実装するにあたっての苦労や課題、この取り組みを通してわかったこと、そして、そもそもなぜこのような企画を実行しようと思われたかという点に関しては、ネット上に上がっている記事や資料では、生徒たちの理解に限界があるだろうと思いました。
そこで、実際にご本人たちと生徒が同じ空間で一緒に考えるコラボ授業という形で行いました。
単元の内容と事前の学習
本校では、「情報I」の授業を高等部の1年生と2年生で2年かけて学びます。この実践事例は、高等部の2年生で行った授業です。
まず、この授業の位置づけです。
授業を行う前に、あらかじめAIについての概論として、AIの基礎的な知識や仕組みを体験的に学んだ後、スライド青枠の部分(こちらは昨年度の発表でご紹介しました)に取り組みました。
※クリックすると拡大します。
その後の展開は、年によりますが、例えば昨年度は3コマ目にあたるところで、「デジタル労働について考える」ということで、テクノロジーの発達によって、「個人データを利用して亡くなった方を復活させる」ことの是非について扱いました。
今年度は、スライドの赤枠で囲ってある「B」の部分について扱った次第です。
今お話しした、今回の発表以外の実践に関しては、「情報教育資料」(実教出版:※2)にも掲載いただきました。生徒に配布した資料やデータについてもご参照いただければと思います。
※2 https://www.jikkyo.co.jp/download/detail/61/9992661329
※クリックすると拡大します。
単元の目標や評価基準は、こちらのスライドのように設定しました。
AIを用いた裁判のメリットや課題、制度設計の必要性を考えることで、自分自身の考えを持てるように
ここからは、実際の授業の具体的な内容や流れについてご紹介します。
授業の目的としては、「AIを用いた裁判」の取り組みの第一人者の方から直接お話をうかがうことを通して、AIを司法に実装するためにどのようなメリット、あるいは課題や懸念、制度設計の必要があるかを考え、生徒が自分自身の考えや意見を持つことができるようになることとしました。
■事前にAI×法廷についての意見・考えを収集する
このコラボ授業を行うにあたって、この前の回の授業で、予め議論の前提として必要になる情報提供を30分程度行いました。
具体的には、司法の分野におけるコンピュータの活用、生成AIやChatGPTのプロンプトに関することについて情報共有をした上で、AI模擬裁判のハイライト映像を皆で見ました。
※クリックすると拡大します。
それを踏まえて、コラボ授業前時点での生徒の意見や考えを収集すべく、事前アンケートを行いました。質問項目は、基本的に五月祭で行われたアンケート項目とほぼ同じものを使っています。
※クリックすると拡大します。
質問6-1「裁判において機械に代替できない人の役割はあると思うか」は、あるorないの2択ですが、この理由についての自由記述(6-2)もピックアップして掲載しています。
※クリックすると拡大します。
また、質問7は「AIの司法への参加はどこまで許容されると思いますか」ということについて複数回答可としましたが、「判決予測による人間の裁判官の補助」という項目に一番多く票が集まっていました。
※クリックすると拡大します。
■AI法廷模擬裁判の実行委員の学生さんの意見を聞く～支持する・支持しないの両方の立場を聞くことで、考えをより深める
ここからは、具体的な授業の内容です。大きく3つのステップを踏んで進めました。
※クリックすると拡大します。
まず授業の冒頭で、AI法廷模擬裁判実行委員会の岡本さんと中島さんから自己紹介とともに、模擬法廷を企画した背景や、本授業の取り組みにあたっての観点、ポイントについてお話しいただきました。
実行委員会代表の岡本さんからは、「複数の視点から捉えることで、AIが人を裁く未来をより奥深くまで考えることができるので、ぜひそのような視点で考えてみてほしい」というお話をいただきました。
具体的には、「例えば証人はどのような心情だったのか。被告人はAIに裁かれることについてどういった思いだったのか。また、弁護士や検事は、裁判長に対して何を訴えようと思っていたのか。など、未来を想像してよりよい社会を選択するためには、物語的センスが不可欠だ」というお話でした。
そして、未来のあり方を自分ごととして捉えるためにも、今回のような模擬法廷を企画して、参加者が登場人物に感情移入して、実際にその世界に暮らす人物を想像してもらい、より問題意識を受け取りやすくなるようにした、ということでした。
一方中島さんからは、「AIに全てを任せることができるのか。AIは民主主義社会にどのように影響を与えるのか。市民としてどう行動すべきかということを考えるきっかけにしてほしい」というお話がありました。
このお二人の面白いところは、同じ実行委員でありながら、岡本さんはAIによる裁判を支持していますが、中島さんはAIによる裁判を支持しない、と立場が全く逆であることです。
異なる意見・考えを持つお二人が企画したAI模擬裁判だからこそ、生徒もお話を聞くことで深くまで考えられたようでした。
このお話を聞いた後、生徒の活動に取りかかります。
生徒は、先ほどお話ししたように、すでに人工知能について前提となることについて学習したり考えたりしています。今回の3つのステップについても、1時間の授業の中で、どのステップでどのようなことを考えていくかということに関して、学生さんたちと幾度もオンライン会議などで議論を重ね、内容を考えてきました。
■AIが裁判官を代替・補助することについて、様々な立場から考える
ステップ1では、AIが裁判官を代替・補助することについて、班ごとに被告人、事件関係者、司法関係者など様々な立場から考えました。
「責任を持てないAIに自分の人生を委ねたくない」「AIでは血の通ったやり取りが感じられない」「悲しみや辛さを経験したことのないAIが、被告に正確な処罰を下してくれるか不安」
といった意見が出た一方で、「感情に依存した判決が下されないので信用性が高い」「AIを使うことによって、多くの判例から判断することができ、情に流されない判決を出すことができるのではないか」といった意見も上がりました。
※クリックすると拡大します。
■「裁判における」AIと人の特徴を考え、どのような活用であれば社会に受け入れられるか考える
次にステップ2-1では、裁判という場面におけるAIと人の特徴を考えました。
岡本さんからは、生徒の議論をもとに、「『AIには責任が取れないから』とか、『感情が理解できない』という意見も見受けられますが、そもそも『責任を取る』というのはどういったことなのか。『責任』という言葉を使わずに説明してみましょう」という問いかけがありました。
この点について、生徒はかなり困ったようでしたが、この問いをきっかけにして、より深く考えることにつながりました。
※クリックすると拡大します。
ステップ2-2では、ステップ2-1で挙がった意見を参考にしながら、裁判の場においてどのようなAI活用の仕方であれば社会に受け入れられるかということについて、制度設計や条件、留意点、許容範囲、役割分担や技術発展などの観点から意見を出し合いました。
これについては、「人間とAIがペアになって裁判官を務めたらどうか」「AIを用いて人間の表情から感情を読み取り、感情的なところや倫理的なところは人間が寄り添う」「被告人の声の様子や表情を読み取ることができるAIを作ったらどうか」「既に人間が行った裁判を、もう一度AI裁判官によって行わせて、より人間の判断に近い回答ができるようにAIを学習させたらどうか」「第1審をAIにやってもらって、判決のベースを作った上で、そこからは人間による裁判を実施したらどうか」など、様々な意見が挙がりました。
※クリックすると拡大します。
■改めて「自分自身がどう考えるか」再考する
これらのステップを踏んだ上で、最後に自分自身がAIを司法で用いることについてどのように考えるか、再度考え、意見をまとめました。テキストマイニングをかけると、このような形になりました。
※クリックすると拡大します。
生徒は、皆長文でそれぞれ思ったことを書いてくれました。
全てをここに記載することは難しいので、異なる視点のものをいくつか抜粋してご紹介します。
「AIが人を裁くということは、膨大な量の情報を整理して事実をしっかりと述べられるという点では魅力を感じる一方で、人が人を裁くということにこそ、意味があるのではないか」というものがありました。
また、「授業を受ける前は、感情を持たないAIの冷たさはあっても、裁判がより精密になる方がいいと考えていたので、裁判の大部分はAIに任せてもいいかなと考えていたけれども、いろいろな議論を通して、やはり重要な裁判の判決を下すときは、AIでなくて人間の方がいいのではないのかと思った」というような意見も出ています。
※クリックすると拡大します。
さらに、「『正しさ』という点において、何が正しいのかを決めるのは人であるべきなのか、それとも判例をもとにしてフラットな見方ができるAIが決めるべきなのか」という意見や、「初めはAIが司法に関わることに抵抗感があったが、班のメンバーと議論していくうちに、部分的な関与はむしろすべきではないかと思うようになった」というもの、「被疑者はAIで裁かれるか、人間に裁かれるか選択する自由があるべきなのでは」といった観点の意見も出ていました。
「私自身はAIによる裁判について、あまり良い印象は持っていないけれども、メリットがあることは頭ではわかっているので、人とAIが一緒に裁くなど、段階的に慣れていけば、違和感がなくなる日がいつか来るのではないか」と言う生徒もいました。
このように、生徒はそれぞれに深く考えて、自分なりの意見を持ったようです。
※クリックすると拡大します。
対話を通して、社会の変化に即したテーマについて自分の意見を持てるように
最後にまとめと展望です。
この授業を終えて、生徒の振り返りを見ると、本当に多様な角度から様々な意見が上がっていました。
生徒それぞれが、自分ごととして「AIが人を裁く未来」ということについて深く考えることができたのではないかと思います。
ChatGPTを始めとして、AI技術は急速に進歩しています。これからの社会は、我々も生徒も、今まで経験したことのないような出来事に次々と遭遇していくと思います。
「情報」の授業では、今後も社会の変化に即したテーマをもとにして、授業での対話を通して自分自身の考えや意見をしっかりと持つことができるようにしていきたいと思っています。
神奈川県情報部会実践事例報告会2023オンライン オンデマンド発表より