機械に任せる判断の限界
授業の後に 15 分。要点を読み、5 問で確かめ、一つ書く。最後に自分の探究へつなぐ
15分 ｜ ひとりで、端末で授業で確かめた答えと比べる
- 場面は、小テストの答案の数字を前回のしくみに読ませて採点すること。当たり方は 8 つのうち 6 つなので、40 人 × 20 問 ＝ 800 個のうち、約 200 個を読みちがえる
- しかも読みちがえは特定の書き方に集まる。上に払いのある 1 は 7 と読まれ、横棒の短い 7 は 1 と読まれた。同じ人が毎回損をする
- 4 つの立場は、それぞれ守ろうとしているものが違う。A は速さと基準のそろい方、B は当たり方、C は説明できること、D は公平さ
- 4 つとも「機械は当たる／当たらない」ではなく、外れたとき誰がどう困るかを見ていた
- 200 個がばらばらに散るのと、特定の書き方の人に集まるのとでは、まったく別の問題。当たり方の数だけでは、この差は見えない
- 人工知能を使ってよいかを考えるときに共通して挙がるのが 5 つ。信頼性・公平性・透明性・個人情報保護・責任
- この場面に当てはめると、信頼性はあやしい（8 つで測っただけで、別の答案では測っていない）。公平性は満たしていない（外れが特定の書き方に集まる）。透明性は満たしている（1 行目の黒の数を見ていると言える）。個人情報保護は満たしている（名前は読ませず、端末の中だけ）。責任は満たしていない（外れた点を誰が直すか決めていない）
- 答えは「任せる／任せない」の 2 択ではなく、5 つのどれが欠けているかで任せ方が決まる。欠けている所を人がやる形にすれば、残りは任せられる
- 5 つを満たしているかを使う人だけの判断にせず、あらかじめ決まりにしておくという考え方もある
「情報技術が発達しても、人間の判断が必要な部分はあるか」。今日の 5 つの語のうち少なくとも 2 つを使って、自分の考えを 3 文程度で書く。
答えの例を見る
例: 必要な部分は残ると考える。読み取りの当たり方は数え方を変えれば上げられるが、外れが特定の書き方の人に集まっているかどうか（公平性）は、当たり方の数を見ているだけでは分からず、誰かがデータを見比べて判断しなければならないからだ。また、外れて不利益が出たときに誰が引き受けてどう直すか（責任）は、機械が決められることではなく、使うと決めた人が先に決めておくしかない。
探究で機械やアプリに何かを判定させるとき、その結果をそのまま結論にしてしまうことがある。この回の 5 つの語は、自分が使った道具の結果を、どこまで信じて書いてよいかを点検する道具になる。5 つのうち欠けているものがあれば、そこは自分の言葉で補って書く。
- 自分の探究で、機械や道具に判定させている場面はあるか。そこで欠けている見方はどれか
- その結果を発表で見せるとき、何を一緒に書けば読む人が判断できるか
ここに書いたメモは 探究ノート に集まる。総合的な探究の時間のテーマ決めや、調べ方を考えるときに開く。まだテーマが決まっていなくても書ける。いま気になっていることを一つ思い浮かべて、そこに当てはめてみる
次回は「予測モデルの作成と改善」。単元末の課題で、班で現実のデータからモデルを作り、評価指標で測り、改善案を示して発表する。カードの最後の欄には、今日の 5 つの語を使って「そのモデルに任せられる判断と、任せられない判断」を書く。使うデータは決めておく。
このページに書いたものは、いま使っているこの端末の、このブラウザの中にだけ残ります。サーバには送られません。次に同じ端末で開けば、書いたものはそのまま出ます。
別の端末で開くと見えません。学校の端末と家の端末は別ものとして扱われます。ブラウザの履歴やサイトデータを消したときも、一緒に消えます。残しておきたいものは、下の「書いたものをコピー」で自分のノートや提出先に貼ってください。