Tweet

Pocket

「トレードオフは発生しない？」機械学習による公共政策

公共政策などで機会や利益を均等に分配する際、機械学習を利用するにはメリットデメリットがあると言われてきました。
しかし研究者らは、そのメリットデメリットを無視できるとの見解を示しています。

Carnegie Mellon University researchers are challenging a long-held assumption that there is a trade-off between accuracy and fairness when using machine learning to make public policy decisions.

参照元：https://www.cmu.edu/news/stories/archives/2021/october/machine-learning-fair-accurate.html
– カーネギーメロン大学 Carnegie Mellon University. October 20, 2021 –

カーネギーメロン大学の研究者たちは、公共政策の決定に機械学習を使用する際、正確さと公正さの間にはトレードオフがあるという長年の仮定に挑戦しています。

刑事司法、雇用、医療提供、社会サービスへの介入などの分野で機械学習の利用が増えるにつれ、こうしたアプリケーションが、特に人種的マイノリティや経済的に不利な立場にある人々の間に新たな不公平をもたらしたり、既存の不公平を増幅させたりしないかという懸念が高まっています。

このような偏りを防ぐために、データ、ラベル、モデルの学習、スコアリングシステムなど、機械学習システムの様々な面で調整が行われます。

理論的には、このような調整を行うと、システムの精度が低下すると考えられています。

CMUのチームは、Nature Machine Intelligence誌に掲載された新しい研究で、この仮定を払拭することを目指しています。

コンピュータサイエンス学部機械学習学科（MLD）およびハインツ大学情報システム・公共政策学科のRayid Ghani教授、MLDのKit Rodolfa研究員、SCSのHemank Lambaポスドク研究員の3人は、この仮説を実際のアプリケーションで検証し、さまざまな政策領域において、実際にはトレードオフが無視できることを発見しました。

Ghani教授は話します。

「実際には両方を得ることができます。公平・公正なシステムを構築するために、精度を犠牲にする必要はありません。公平・公正なシステムを構築するためには、精度を犠牲にする必要はありませんが、公平・公正なシステムを意図的に設計する必要があります。既製のシステムではうまくいきません。」

Ghani教授とRodolfa氏は、需要のある資源が限られており、その資源の配分に機械学習システムが使われている状況に注目しました。

具体的には、再投獄を減らすために、刑務所に戻るリスクを考慮して、限られた精神医療サービスを優先的に提供すること、市の限られた住宅検査員をより効果的に配置するために、重大な安全違反を予測すること、追加支援が最も必要な生徒を特定するために、高校卒業に間に合わないリスクをモデル化すること、教師が教室に必要な資金をクラウドファンディングで調達することを支援すること、という4つの分野のシステムを調査しました。

いずれの場合も、機械学習の標準的な手法である精度に最適化されたモデルは、対象となる結果を効果的に予測することができましたが、介入策の推奨にはかなりの格差があることがわかりました。

しかし、モデルの出力に公平性の向上を目的とした調整を加えたところ、状況に応じて、人種、年齢、収入による格差を、精度を落とさずに取り除くことができることがわかったのです。

Ghani教授とRodolfa氏は、今回の研究が、意思決定に機械学習を利用することを検討している研究者や政策立案者の考えを変えるきっかけになることを期待しています。

Rodolfa氏は話します。

「人工知能、コンピュータサイエンス、機械学習のコミュニティが、精度と公平性がトレードオフであるという前提を受け入れるのをやめて、両方を最大化するシステムを意図的に設計するようになってほしい。私たちは、政策立案者が機械学習を意思決定のツールとして受け入れ、公平な結果を達成できるようになることを願っています。」

Tweet

Pocket