Tweet

Pocket

人間不信な人ほど高い「人工知能への信頼度」

人間に不信感を抱く人ほど、人工知能への信頼度が高いようです。

A person’s distrust in humans predicts they will have more trust in artificial intelligence’s ability to moderate content online, according to a recently published study.

参照元：https://www.psu.edu/news/bellisario-college-communications/story/people-who-distrust-fellow-humans-show-greater-trust/
– ペンシルベニア州立大学 Penn State. SEPTEMBER 19, 2022 –

発表された研究によると、人間に対する不信感は、人工知能がオンライン上のコンテンツを管理する能力をより信頼することを予測させるそうです。

この発見は、ソーシャルメディアにおけるAIツールの設計者とユーザーの双方にとって、実用的な意味を持つと研究者は述べています。

ペンシルベニア州立大学のメディア効果のジェームズ・P・ジミーロ教授であるS・シャム・スンダル氏は話します。

スンダル氏：我々は、他の人間に対する信頼が低い個人が、AIの分類に対してより大きな信頼を示すという体系的なパターンを発見しました。我々の分析によると、これは、ユーザーが、機械は正確で、客観的で、イデオロギー的な偏りがないという考えを呼び起こすことによるようです。

New Media & Society誌に掲載されたこの研究では、情報技術の経験豊富な「パワーユーザー」は、逆の傾向を持っていることも判明しました。

彼らは、機械には人間の言葉のニュアンスを察知する能力が欠けていると考えているため、AIの司会者をあまり信用していないのです。

本研究では、他者への不信感やパワーユーザーといった個人差が、AIを用いたコンテンツモデレーションシステムに直面した際に、ユーザーが機械のポジティブな特性を呼び起こすかネガティブな特性を呼び起こすかを予測し、それが最終的にシステムに対する信頼に影響することを明らかにしたのです。

研究者は、個人差に基づいてインターフェースをパーソナライズすることで、ユーザー体験をポジティブに変化させることができると提案しています。

本研究におけるコンテンツモデレーションの種類は、ヘイトスピーチや自殺願望のような問題のあるコンテンツがないか、ソーシャルメディアの投稿を監視するものです。

コンテンツモデレーション技術を信用することに躊躇する理由のひとつは、私たちがオンラインで自由に意見を述べることに慣れていることです。

この論文の筆頭著者であるミシガン州立大学コミュニケーション科学部のMaria D. Molina助教授は話します。

Molina助教授：コンテンツ・モデレーションは、私たちからそれを奪うかもしれないと感じています。この研究は、コンテンツモデレーションを行うAIに対してネガティブな固定観念を持つ人々にとっては、判断する際に人間の関与を強化することが重要であることを示唆し、その問題に対する解決策を提供するものと思われます。一方で、機械に対してポジティブなステレオタイプを持つ人々に対しては、AIの正確さといった要素を強調することで、機械の強さを補強することができるかもしれません。

この研究では、保守的な政治思想を持つユーザーは、AIによるモデレーションをより信頼する傾向があることもわかりました。

Molina助教授と、ペンシルベニア州立大学のメディア効果研究所の共同責任者でもある共著者のスンダル氏は、これは主流メディアやソーシャルメディア企業に対する不信感からくるものではないかと述べています。

研究者たちは、米国で676人の参加者を募集しました。

参加者は、開発中のコンテンツモデレートシステムのテストに協力することを告げられました。

参加者は、ヘイトスピーチと自殺念慮の定義を与えられ、その後、4つの異なるソーシャルメディア上の投稿のうちの1つが与えられました。

その投稿は、これらの定義に合致しているとしてフラグが立てられるか、フラグが立てられないかのどちらかでした。

また、フラグを立てるかどうかの判断は、AIが行うのか、人間が行うのか、あるいはその両方を組み合わせて行うのかについても説明されました。

デモの後、参加者に個人差を問うアンケートを実施しました。

違いは、他者不信の傾向、政治思想、テクノロジーに関する経験、AIに対する信頼度などでした。

Molina助教授：私たちは、誤報からヘイトスピーチまで、多くの問題あるコンテンツにさらされています。しかし、結局のところ、そうした個人差に振り回されるのではなく、技術の実際の属性によって、ユーザーがAIに対する信頼を調整できるようにするにはどうしたらいいかということです。

Molina助教授とスンダル氏は、今回の結果が、今後のAIの受容を形成するのに役立つかもしれないと述べています。

ユーザーに合わせてカスタマイズされたシステムを作ることで、デザイナーは懐疑心や不信感を和らげ、AIへの適切な信頼性を構築できるだろう。

スンダル氏：この研究の大きな実用的意義は、ユーザーが自動化システムに対する信頼を調整するのを助けるためのコミュニケーションとデザイン戦略を見つけ出すことです。AI技術を過剰に信頼する傾向のある特定のグループには、その限界を警告し、コンテンツを調整する能力を信じない人々には、そのプロセスにおける人間の関与の程度を十分に説明する必要があります。

Tweet

Pocket