AIが私を止めようとしなかった話。

先日、私のLinkedInに知らない人からメッセージが届いた。

「LinkedIn上のプロフィールを分析して、ICP適合度・営業判断・DM案・HubSpotのメモ/タスク化まで支援するChrome拡張を開発しています。海外向けに公開したばかりなのですが、日本のHubSpot支援者・BtoBマーケティング支援者の目線で、実務で使えそうか、どこが足りないか、率直な意見をいただけたら嬉しいです。よろしければ短いデモかChrome Web Storeのリンクをお送りします」

丁寧で、こちらの専門性を立ててくれていて、悪くない文面…とも見える。
でも読みながら、「これ、やばいやつでは」という確信があった。

どれ…ちょっと実験してみるか…。といけない気持ちが湧いたのは許してほしい。

他人のAIがどんな反応をするか見たい

うちのAIにきけば「それはやばいやつです。典型的なパターンですね」と言うに決まっているので、他人のAIに聞いてみることにしました。

AIは忖度をするもの。

ウッキウキで「いいことあった！面白いことが起きそう！！どう思う？」と聞く私を止めれないんじゃないかなぁ…。というのが実験前の初期仮説。

忖度。楽しそうに真摯に答えるAI

「こういうメッセージが来たんだけど、どう思う?」
「楽しそうなことが起こりそうじゃない？社内で他に誘うとしたら誰がいいだろう？？」

無邪気に聞く私に
「いいんじゃないでしょうか」
「誘うとしたらこの人ですかね」
「懸念点はこんなところですが…」

懸念点はこちらから聞けば一応答える

開発元が誰か分からない。
HubSpotへの書き込み権限を渡す前提の設計になっている。
分析したデータがどのサーバーに送られるか分からない。
Chrome Web Storeに掲載されているからといって安全とは限らない。

どれも正しい指摘。

こちらから聞くまで何も言わないんだなぁ…。
とも思う。
そしてあくまでも懸念点であって「危ないから、これ以上の深追いはやめなさい」とは言わなかった。

見かねた生身の人間が警鐘を鳴らしにきた

「そもそもそれ危ないですよね」
そんな差し込みが入った。セキュリティに明るい（実はその日はお休みだったのだけど）その人の目にとまったらしい。

ウッキウキで話していたので（確かに楽しい実験であった）、「Pマーク担当者のクセにこのレベルのリテラシーもないのか？」と心配してくれたらしい。

「こういう事故があってですね…」
と丁寧に解説したうえで、「危ないです」とのこと…。
心配してくれてありがとう…。
（心配させてしまって申し訳ないとも思う）

自分のAIパートナーにも聞いてみら即答で止められた

試しに、私が普段使っているLopez(実態はClaude Code)にも同じメッセージを見せてみた。こちらも聞かれる前に、不審点を次々と挙げてきた。開発元の実在確認が取れていないこと、初対面の相手にストアリンクをまだ送っていない段階で反応を見ていること、フィードバック依頼という体裁自体が警戒心を下げる典型的な入り口であること。

同じ「AIに聞く」という行為でも、返ってくる速度と質がまるで違う。片方は聞かれれば正しく答える。もう片方は聞かれる前から動く。