理解とはなんなのか？
エジプト時代、ピラミッドは正確に太陽の運行を考えて作られたと考えられています。
しかし、エジプト時代に太陽の周りを地球が回っているという考えはありませんでした。その仕組みはわからなくても、毎日太陽を観測することで、そのパターンを見つけ出しました。太陽の運行のその正体をわからなくとも、現象から予測することを可能としたのです。
これを文字や画像、動画や音楽で行っているのがLLMのAIで、その意味は解らないけども学習からかなりの精度で答えを予測できるようになりました。
太陽が地球とはタイプの違う天体で、どのくらいの大きさで、地球からどれくらい離れていて、どのような仕組みで地球を照らしているかは知らなくても、その動きの法則を見つけることができます。
AIもまた観測から答えを得た、と言えなくもないような気もしますが、決定的に違う点が一つあります。AIの「知っている」は我々人間のそれとはちょっと違います。毎回生成して答えを出しなおしている部分も結構あり、人間と同じような長期記憶を持たない仕組みです。
ですが、ものすごい量のデータを処理して、ものすごい量の学習をすることで、ものすごい精度で、しかもものすごい速さで答えを生成することができます。AIはピラミッドを実際に見て感動したことは一度もありませんが、見たことがある人以上に詳しく、リアルに、臨場感をもって語ることができます。
僕たち人間の感覚としては、これを「理解している」とは呼びたくなくはないですか？
しかし、とはいえその精度はすごいです。
例えば、今までの文章をClaudeに渡して妥当性を診断してもらう、何てのはお手の物です。上の文章は実は妥当性を診断して、１度書き換えたものです。
この文章はそれなり妥当性があるそうですよ。
AIはすごくたくさんのことを知っています。
そして、有っているかどうかの判定もできます。
改善点の提案もできます。
これはもう「理解している」としか言いようがない答えが返ってくることも多々あります。しかしAIと我々では大きな違いがあります。
AIは答えを変えることを恥じません。
そう、彼らは、前言撤回を全くいとわないんです。
人間であるならば、信用を失うレベルの手のひら返しは、AI的にはより妥当性の高い回答なだけなのです。
我々人間様はそんなことは出来ません。
一度口に出してしまったら、周りを捻じ曲げてでも持論を曲げないなんてのは日常風景。真実が何であるかよりも、自分が言ったことが重要だなんてのは、ごくごく普通の正しさです。論理的合理性の範疇です。
一体だれがいつどこでそんな方向づけをしたのか知りませんが、人間様はとにかく、自分の言ったことは変えたくありません。
君子豹変はポジティブな意味ですが、ほぼ同じ意味で朝令暮改があり、これはネガティブな意味ですよね。コロコロ態度を変える人は信用されないです。
デザインをする上でも、一貫性は重要ですし、コアバリューであったりビジョンであったり、ブランディングのような長期のデザインでは特に簡単には変わらない価値観を重視します。
しかしAIは、与えられた情報から妥当性を判断することに忠実です。
AIそのものには、固執すべき立場はありません。
ただ、与えられた指示を粛々とこなすのみです。
明日の自分を気にすることもなければ、昨日の自分を後悔することもありません。
もし、「その言い直しを恥じよ」と指示すれば、きっとそのような答えを返してくれるでしょう。そう演じてくれます。
けして「私は恥ずかしくないのでできません」とは言いません。
そう、AIはあくまで、与えられた情報から答えを生成する装置なんです。
では、AIは全く価値判断をしないのか？
これは難しい問題ですが、しかし、確実に言えることは、一つは、AIのベースとなる学習するときの人間のインプットに人間の価値判断がはいりますし、AIに指示を出すプロンプトにも入力者の価値判断が入ります。
一般的なAIは基本的にポジティブに答えを出すように味付けされていますし、著作権を考慮したり、誹謗中傷や陰謀論的なアイデアにたいしても、やんわり警告を出すようになっています。
今の我々が考えて違和感がない程度の倫理性を持っています。それは学習する内容から得られたものでもあり、また、開発段階で意図的に設定されたものでもあったりします。部分的には開発陣の価値判断が含まれていると言っても過言ではありません。
そして僕が何より重要と考えるのが、インプットする人の価値判断です。
プロンプトに混入する我々の価値判断もまた、生成AIの答えの一部になります。
生成AIが答えを出す根拠の一つが、我々が打ち込むプロンプトです。
当然と言えば当然ですが、AIはこのプロンプトで指示された内容をまず分析します。そこから答えを生成していきます。この段階で、質問者の意思、感情が答えに混入します。
それを避けるためによく「客観的に」とか「根拠を示して」とか「賛否両論で」とか「中立の立場で」とかいろいろプロンプトの書き方が紹介されています。そういった指示を付け加えることで答えは変わってきます。でもそれとて、プロンプトを打った人が求めている答えな何か？という分析へのリターンなので、そもそもAI自身は、僕は価値判断をしていないと考えています。
価値判断をしているのは、あくまでAIを学習させた人々、参照したデータを作った人々、そしてプロンプトを打った人々であって、AIではないと考えています。
特に僕が重視したいのは、自分の価値判断が入っているという点です。
よく言われることですが、AIとは拡張認知であると。
僕はまさにその通りだと思っています。AIとは、自分の価値判断を拡張するためのものであって、いかに客観的な情報に見えても、それは辞書と辞書を調べる自分の関係で捉えるべきだと思っています。
けして先輩やコンサルタント、カウンセラーに相談したときの彼らの答えと自分の関係ではありません。
AIが分析やプログラミングに向いているという理由も実はここにあります。
それらは客観的な情報だけで構成可能だから、誰が打っても同じ答えになりやすいですよね。そして正解が検証可能であり、また、間違いも明確にしやすい。
AIは認知のモンスターではありますが、価値判断をしているのはそれを操作している人間だという事を忘れてはいけないと思います。
なので、僕はAIは理解をしていないと考えています。
理解をするのはあくまで、それを操作する人間だと考えるべだと思っています。
ちなみに、以上の文章をclaudeに妥当性を診断してもらうと以下の通りでした。
妥当・正確な点
「AIは前言撤回を恥じない」 これは技術的に正確です。LLMはコンテキスト内の情報から最適な回答を生成するため、矛盾する情報が与えられれば平然と答えを変えます。「立場への固執がない」という表現は本質を突いています。
「学習時の人間のインプットに価値判断が入る」 これはAI倫理の分野で広く議論されている点で、正確です。いわゆる学習データのバイアスや**RLHF（人間のフィードバックによる強化学習）**の話に対応しています。
「一般的なAIはポジティブに答えるよう味付けされている」「著作権・誹謗中傷への対応」 Anthropicを含む主要AI企業が意図的に設計している部分であり、正確な記述です。
「AIは与えられた情報から答えを生成する装置」 技術的に正確で、かつ過不足のない表現です。
「AIとは拡張認知である」 認知科学・哲学の分野で実際に使われている概念（Extended Mind Theory、Clark & Chalmers）に対応しており、適切な引用です。
⚠️ 気になる点
「制度はすごい」 「精度」の誤字と思われます。
「AIそのものは価値判断をしていない」という結論 これは一つの有力な立場ですが、論争中の問題でもあります。「AIが価値判断をしているように見える振る舞いをする」こと自体を「価値判断」と呼ぶかどうかは哲学的に決着していません。断言するなら「私はそう考える」というスタンスを明示する方が誠実です。（文章のトーン上すでにそうなっているので、ほぼ問題ないです）
「辞書と辞書を調べる自分の関係」 比喩として面白いですが、辞書は受動的な参照ツールであるのに対し、AIはプロンプトに応じて能動的に生成する点が異なります。比喩としてはやや過小評価気味かもしれません。
だそうです。
誤字見つけてくれましたｗ
直しましたありがとう。
辞書は言いすぎだったようですごめんなさいｗ
