STEAM教育のリアルVol.4：AIの限界＝使用者の限界。カレーが食べたい時にはそう伝えなければ、シェフはカレーを作らない。

ここ数年のAIの進化がめざましい事は言うまでもないだろう。
だが、プログラミングの勉強の際のAI活用はなかなか難しく、テキストやカリキュラムが整ってない事もあれば、そもそも「どういった取り入れ方をするか」という問題もある。

私のスクールでも同様に「AIに関するカリキュラム」はなかったので、Unity3Dアプリ自由制作の中で「Geminiにプログラミングの相談をする」という体験を生徒にして貰っていた。

プログラミングでAIを取り入れる際、コーディングのサポートは最も敷居が低いが故にトラブルも起こりやすい。
ぱっと思いつく限りで、

　●長期記憶がないため進捗や設計を人間が管理しないと破綻する
　●開発スタートおよびズレが出た際には、問題点や目的を細かく説明する必要がある
　●エラー発生時、原因の絞り込みは人間側で行ってからAIに相談した方がいい
　●最近メソッドの記述が変更された場合、古い記述を出力してくる事が多い
（特に生徒アカウントで無料のGemini 2.5 Flashを使っていた事もあり精度も不安）

などなど。
もちろん最近は頻度が減りつつあるが、ハルシネーションだって全然ありえる。

私はこのあたりを踏まえて「AIのコーディングサポートは便利だが、おそらく最初は上手くいかない。その『上手くいかなさ』を体験して貰う」という目的で、生徒と保護者に説明の上で課題をはじめて貰っていた。

あくまでそういう簡単な課題の中でも、いくつか小さな「AIの人間の難しさ」を感じる事はあった。
今回その例を幾つか紹介する。

ケース１．Sさんの場合　知識不足によるトラブル

「先生、エラーが直らないのでチェックして貰えますか？」

優秀な高校生の生徒、Sさんから相談を受けた。
上記の通りこのAIサポート学習は「問題が起こる」という前提・説明の上ではじめて貰っていたので不安はなかった。

彼女が作っていたのは宝探しゲーム。
マップ上のランダムな場所にコインが隠され、それを探し回って５つ集めればクリアという簡単なゲームだ。
直らないエラーというのはそのクリア判定に必要な「いまコインを何枚持っているか」というプログラムで起こっているとの事だ。

プログラムを読み進める。
AIに相談しているという事もあり、ちょっと硬め（悪い意味ではない）な記述だが特別なミスは見当たらない。
そう、「私が思っている通りの作り」ならばこのプログラムで問題ない筈だ。
少々嫌な予感がして、プログラム「以外」の部分を見せて貰ったところ、問題が判明した。

プログラマー以外の人でも分かるように、状況を比喩で説明すると。
ゲームの中で集めたコインは「貯金箱」に保存する。
プログラムがその貯金箱をチェックすれば、いま何枚溜まっているか確認できる。
そういった仕組みになっている。

しかしこの貯金箱が、家の中になく、玄関の外に置かれている。
そのためプログラムが「家の中を探したけど貯金箱がない！」とエラーを出している。
貯金箱が家の中にさえあれば、あるいは、貯金箱を探す範囲を玄関まで広げればエラーは出ない。

しかしAIはそんな事を知らないし、Sさんも貯金箱の場所が悪いと認識出来ていない。
そのため「押入れの中にあるのでは？」「トイレにあるのでは？」「もしかして、貯金箱のカタチが違うのでは？」と見当外れのチェックを繰り返して、エラーが重なっていたのだった。
貯金箱が外にあるなんて初歩的なミスもAIは想定していないらしく、想定していたとしても「確率の高そうなチェック」から進めていくだろうから結果は同じだろう。

原因は生徒側の知識不足だ。
まだ勉強中の生徒なので、それはいい。いいのだが……
プログラムは見当外れな修正を重ねかなりゴテゴテとしてしまっている。
「ここを直せばいいよ」というレベルではなく、AIに指示して修正させるにしてもかえって手間がかかりそうだったので、状況を説明して私が自分で修正する事にした。

ケース２．Uくんの場合　モチベーションが不安定

Uくんは中学生の生徒だ。
やはり優秀でテキスト通りの課題ならほぼ完璧に出来るものの、自由制作で何を作っていいか分からないという、Vol1のAくんに近いケースだ。

彼はゲームは好きなものの「これを作りたい！」というモチベーションは薄い方だ。
AIサポートでプログラミングがしやすくなっても、まずその企画部分で頭を悩ませていた。
その相談もAIにするという提案をしたものの、「何をどう相談したら良いか分からない」との事で。
最終的には私から、色々なゲームジャンルやターゲットの考え方、簡単なサンプル動画などを提示する事で方向性を固めるに至った。

ケース３．Mくんの場合　AIへの抵抗感

Aくんも中学生の生徒。
彼の場合の問題は、「AIを使いたがらない」という事だった。

「勉強の際にAIを使うと勉強にならない、手抜きをしている気分になる」
「そもそもAIを使いたくない」

というもの。
クリエイターの界隈ではAIへの忌避感が強いケースも多い。

理由としては「粗雑乱造」「権利の問題」「技術知識のないものがクリエイター気分になってコミュニティを乱す」など色々あるだろうが、ゲームや関連テクノロジーにAIを採用するという話が出るだけで炎上する事もある。

私としても開発におけるAI利用は慎重な立場であり、保護者面談などで話したエンジニアのお父様などから「上の指示で現場にAIを導入してるがかえって指示修正やチェックの手間が増えている」という愚痴を聞く事も多かった。

ただAIは結局「便利な道具」だ。
現在においても「使うだけで問題が解決したりする魔法の道具ではないが便利ではある」という位置ぐらいには来ているだろう。
まだまだ発展途上でありトラブルも起こり得るが、それは知識と節度を持った使い方次第だ。

なのでやはり、使わないにしても長所や短所に触れ、自分の納得の行く形で使えるかという判断をしてからの方が良い。

AIの限界は使い手の限界

これは昔から言われている話でもあるが、上記の経験を通して殊更強く感じた。
人間が脳の中の情報を厳密・正確にアウトプットする事は難しい。
そして、知識も必要だ。

たとえば「むかし祖母が作ってくれた料理」を再現したいとしても、料理の知識がなければ「なんか肉が入ってて、煮込んであって、変わった匂いがするやつ……」ぐらいのアウトプットしか出来ない。
流石にこの低レベルな情報からAIがその味を再現したレシピを提示する事は困難であり、出来たとしても「カレーですか」「肉じゃがですか」「トマト煮ですか」など片っ端からリストアップしていくしかない。
もし正解が見つかった所で、祖母独自の隠し味や料理の工夫などはAIのデータに存在しない。

しかし料理の知識があり肉の種類や部位、具材の切り方、推測でもいいので使われているスパイスやソースの材料など細かく説明する事が出来れば、AIと協力して「あの日の味」にたどり着けるかもしれない。

冒頭の「シェフ」の話もそうだ。
「お腹が減ったので美味しいものを食べたい」だけ言っても、シェフは何を料理していいかわからない。
スパゲティを提案した所で「違う、麺の気分じゃない」と突っぱね、ハンバーグを提案した所で「なんか違う」と突っぱね。
そういうノーだけを突きつけても、「自分が食べたいものはカレーである」とハッキリ言わない事には、カレーが出てくるまで何時間も口論を繰り返さなければならないだろう。
AIは仕事の効率化をする事は出来ても、脳内の情報を自動で汲み取ってはくれない。

使う人間側の性格や知識によるボトルネックもあれば、「環境」のボトルネックも存在する。
たとえば仕事で急に大量のPCが必要になった際、AIに相談して「必要なスペックと中古相場」を算出させたとする。
完璧なリストが出来上がり、いざweb上で商品の検索をするも……まとまった数が見当たらないという事はあるだろう。
「データ上の理想解」通りの状況が、常に現実で用意されているとは限らない。

商品の価格以外でも物件、倉庫の大きさ、最低発注数、従業員数、求人への応募数、就業時間などなど。
たとえ最適解があっても現実ではどうにもならない、それどころか「値上げ」や「退職」など不確定要素で簡単に状況が一変するものはごまんとある。

結局、知識とプレゼン力

上記の通り、AIを効率良く活用するには最低限以上の知識とプレゼン力が必要になる。
「適当にやっておいて」という指示では、目的や要点も分からないため当たり障りのない平凡な結果しか行えないのは人間と同じだ。

AIの種類だ連携アプリだプロンプトだうんぬんの前の大前提として、これは今後もスタンダードな考え方になるだろう。
逆にここに不満や疑問を抱いていない人は「仕事や作品に拘りがない人間」とも言える。

社運や人生が左右されかねないメールを送る際、AIに簡単な指示をして全文作成して、軽くチェックしただけで送信するだろうか？
多くの人はしないだろう。
「失礼な表現はないか」「情報に間違いはないか」など、何度も確認をするだろう。
それは拘るべき大切な作業だからだ。

やはり毎回こういった結論にたどり着くが。
何よりも大切な事は、トライエンドエラーの繰り返しでAIの「自分にとっての良い使い方」を身につけていく事がなのだろう。

次回、STEAM教育のリアルVol.5：理屈じゃ動かない「心のスイッチ」を探して