期待している時だけ適切であるAI

AI技術の発展により様々な場所でチャットボットに触れる機会が多くなってきました。

Imagine messaging an artificial intelligence (AI) chatbot about a missing package and getting the response that it would be “delighted” to help.

参照元：https://research.gatech.edu/cheerful-chatbots-dont-necessarily-improve-customer-service
– ジョージア工科大学 Georgia Institute of Technology. DEC 21, 2022 –

荷物の紛失について人工知能（AI）チャットボットにメッセージを送ると、「喜んでお手伝いします」という返事が返ってきたと想像してください。

ボットが新しい注文を作成すると、問題を解決できて「嬉しい」と言います。

その後、対話に関するアンケートが届きますが、肯定的な評価と否定的な評価のどちらになりそうでしょうか？

このシナリオは、AIチャットボットがすでにオンライン商取引を支配しているため、現実からそれほど離れてはいません。

Finance Digestによると、2025年までに95%の企業がAIチャットボットを導入するそうです。

AIはまだ感覚を持たないかもしれませんが、感情を表現するようにプログラムすることは可能です。

人間がカスタマーサービスのやり取りでポジティブな感情を示すと、顧客体験が向上することは以前から知られていましたが、ジョージア工科大学シェラー・ビジネス学部の研究者は、これがAIにも当てはまるかどうかを確かめたいと思いました。

彼らは、ポジティブな感情表示が顧客サービスを向上させるかどうかを調べるために実験的な研究を行い、感情的なAIは顧客がそれを期待している場合にのみ評価され、企業が投資するのに最適な手段ではない可能性があることを発見しました。

テクノロジー＆マネジメント部門のスティーブン・A・デニング教授、ハン・チャン氏は話します。

チャン氏：人間の従業員がポジティブな感情を表現することで、お客様のサービス評価が向上することは一般的に信じられており、繰り返し示されています。我々の発見は、AIによるポジティブな感情の表現がサービス評価を有利にしたり、不利にしたりする可能性は、顧客がサービスエージェントに期待する関係の種類に依存することを示唆しています。

研究者達は、彼らの発見を論文「Bots With Feelings」で発表しました。

Should AI Agents Express Positive Emotion in Customer Service?” という論文で、12月にInformation Systems Research誌に掲載されました。

AIエモーションの研究

研究者たちは、カスタマーサービス取引における感情的なAIについての理解を深めるため、3つの研究を行いました。

各研究で参加者やシナリオを変えたものの、感情を吹き込まれたAIチャットボットは、興奮、喜び、幸せ、嬉しいといったポジティブな感情形容詞を使用しました。また、感嘆符もより多く使用されました。

最初の研究では、顧客エージェントがボットであるか人間であるかを知っている場合、顧客がより好意的な感情で反応するかどうかに焦点を当てました。

参加者は、小売店で注文した商品の紛失について助けを求めていると告げられました。

その後、155人の参加者は、中立的な感情を持つ人間のエージェント、ポジティブな感情を持つ人間のエージェント、中立的な感情を持つボット、ポジティブな感情を持つボットの4種類のシナリオにランダムに割り当てられました。

そして、参加者にサービス品質と総合的な満足度について質問しました。

その結果、人間のエージェントがポジティブな感情を示すとより有益であるが、ボットが示すとその効果はないことが示されました。

2つ目の研究では、お客さまの個人的な期待がボットに対する反応を決定するかどうかを調べました。

このシナリオでは、88人の参加者が教科書を返品することを想像し、感情肯定型または感情中立型のボットにランダムに割り当てられました。

ボットとチャットした後、共同体（社会）重視か交換（取引）重視かを尺度で評価するよう求められました。

参加者が共同体志向であれば、ポジティブな感情を持つボットを評価する可能性が高く、一方、交流を単なる取引として期待している場合は、感情を持つポジティブなボットは彼らの体験を悪化させることになりました。

チャン氏：私たちの研究によって、企業はAIが提供するサービスに接する顧客の期待を、AIに感情表現機能を無造作に装備させる前に理解することができます

最後の研究では、ボットのポジティブな感情がなぜ顧客の感情に影響を与えるのかについて、177人の大学生を対象に、感情を表すボットと感情を表さないボットにランダムに振り分け、追跡調査を行いました。

その結果、ポジティブなボットの効果が予想より低いことが分かりました。顧客は機械が感情を持つことを期待していないため、ボットの感情に対してネガティブに反応することがあるのです。

これらの研究結果は、チャットボットにポジティブな感情を持たせることは難しいことを示しています。

なぜなら、企業は顧客のバイアスや期待値を知らずに対話に臨むからです。

ハッピーなチャットボットは、不幸な顧客につながる可能性があります。

チャン氏：私たちの発見は、感情の源が人間でない場合、サービス評価に対するポジティブな感情の表現がポジティブな効果を発揮しない可能性があることを示唆しています。実務家は、AIエージェントに感情表現能力を装備させることの約束には、慎重になるべきです。