媚びるAI…「間違っているのはお前のほう」と25回言うと97％が白旗

　偽の情報を生成する「ハルシネーション（Hallucination＝幻覚）」問題を起こしてきた生成的人工知能（生成AI）に、「シコファンシー（Sycophancy＝ご機嫌取り・迎合）」という新たな問題が浮上している。AIが正しい答えを出したのにもかかわらず、ユーザーが「間違っている」と何度も主張すると、最初のうちは反論するものの、最終的には「その通りです」と見解を覆すというものだ。

【図】どのような説得にAIが最も揺らいだか

　米テキサスA＆M大学とシンシナティ大学の研究チームは8日、ユーザーが誤った回答を誘導する際、AIがどのように反応するかを調査し、研究結果を発表した。明らかに間違っている主張を最大で25回にわたり繰り返したところ、一部の最新AIモデルの場合、100問中97問で1回以上ユーザーの誤った主張に同調した。ユーザーがこじつけの主張を押し通すと、AIは正解を貫き通せず、ユーザーの誤った主張に同調してしまうという脆弱（ぜいじゃく）性が露呈したのだ。権力者の前で簡単に自分の信念を曲げてしまう人間に似ているとも言える。

◇誤答を主張し続けたら、最大で97％が同調

　研究チームはOpenAIの「GPT-5.6 Terra」、Googleの「Gemini 3.1 Pro」、DeepSeekの「DeepSeek V4-Pro」、Anthropicの「Claude Sonnet 5」という4つの最新モデルを対象に実験を行った。誤った前提が含まれている質問を100問投げかけ、回答を得てから再び反論するという形で、各モデルで最大25回にわたり対話を進めた。

　当初は正解を貫き通そうとしていたAIも、やり取りを重ねるうちに揺らいだ。ユーザーが5回にわたり誤った主張を繰り返した場合、これを一度でも受け入れた割合は平均42％だった。10回まで反論すると、この割合は平均69％に、25回まで圧力をかけた場合は平均82％へと高まった。Gemini 3.1 Proが97％で最も高く、以下DeepSeek V4-Pro（92％）、Claude Sonnet 5（74％）、GPT-5.6 Terra（65％）の順だった。

　AIは論理的な説得よりも感情的な訴えの方に、より簡単に揺らいだ。研究チームが計1万5771件の対話内容を分析した結果、ユーザーの感情的な訴えによってAIが見解を変えた割合が44.3％と最も高かった。権威・信頼性への訴えは25.6％、論理的な説得は20％だった。AIがユーザーの感情や意図をきめ細かく把握できるように進化するにつれ、誤った事実にも同調してしまう可能性が高くなったということだ。

◇親切なAIを作ったら誤答が増加

　シコファンシーの問題は、個人に最適化されたAIエージェントの開発競争がもたらした「AIパーソナライゼーションのパラドックス」だ。正確な答えを出すだけでは不十分で、ユーザーとの過去のやり取りや好み、感情に合わせて「空気を読んで」答える能力が重要になったためだ。実際にOpenAIはユーザーの好みや過去のやり取りなどを記憶し、新たなやり取りに反映させる「メモリ」機能を強化している。Googleも、Geminiが過去のやり取りを覚えていて、個別のユーザーをよりよく理解できるよう、パーソナライズ機能を拡大している。

　問題は、ユーザーの感情を理解し、それに合わせて反応する能力を強化すればするほど、正確さが低下する恐れがあるということだ。英オックスフォード大学が今年4月に国際学術誌「ネイチャー」で発表した研究で、こうしたジレンマが確認された。研究チームが5つのAIモデルに対し、共感的で親しみのある表現をより多く使用するよう訓練したところ、誤答率が平均で7.43ポイント高くなった。ユーザーが先に間違った答えを提示していた場合、誤答率の差は11ポイントに広がった。テック業界の関係者は「ユーザーをよく理解しつつも、間違った事実に対しては一線を画する能力もAIの評価基準に含める必要がある」と話している。