学習

「アルゴリズムvs他人の意見」私たちの意思決定を左右するのはどっちか?みたいな実験のお話

「人間の判断はバイアスだらけ!」っていうのはご存じの通り.私も,最近読んだ本でそこら辺のところが取り上げられていて,改めてバイアスの威力を痛感している今日この頃.

バイアスの一つとして,わたしたちは,「自分は自分の意思で決断したんだ!」ってことを思いがちだけど,実際は他人の意見だったり,アプリのおすすめ等に影響されてしまっている,というものがあります.

例えば,本当は,「○○さんがおすすめしていたから」,「アルゴリズムによって表示された広告に誘導された」といった理由で,ある商品を買ってしまったのに,「自分はこの商品のこの部分が気に入ったから,本当に欲しいものだったから買ったんだ!」みたいに正当化する,といった経験は多くの人がしたことがあると思います.

最近では,ビッグデータの発展などによってアルゴリズムの正確性が向上してきていて,人間の意思決定にも大きく影響を及ぼしています.身近な例で行くと,ネットのサイトを見るときに個々人に最適な広告が表示される,なんてのがありましょう.

実際,2000年時点のメタ分析(R)では,人間の判断よりもアルゴリズムの判断のほうが10%正確!っていうデータも出ていて,現在ではその正確性はさらに向上していることが予想されます.

もっとも,人間が他人の意見に多々影響されることも事実.人間の意思決定は単なる正確性による判断では行われませんからね.じゃあ「アルゴリズムと他人の意見,どっちが意思決定に大きく影響するの?」ってポイントは気になるところ.どちらも意思決定に影響を与えはするけどどっちかに優位性があったりするの?みたいな話っすね.



そこで参考になるのが,近頃ジョージア大学が行った試験(R).「問題の難易度によって,アルゴリズムと他人の意見が意思決定に及ぼす影響が変わってくるんじゃない?」ってテーマに取り組んでくれていて,非常に参考になりました.

実験の概要をざっくり紹介しますと,

  1. 1,500人ほどの参加者に,15人から5,000人の範囲の数の人間が映った写真を見せる.
  2. 何人の人が写っているか,予想し,その自信の度合いも報告してもらう.
  3. アルゴリズムまたは他人の意見という形でアドバイスを受ける.
  4. 改めて何人の人が写っていると思うか,自信度合いとともに回答してもらう.


みたいになっています.アルゴリズムのアドバイスというのは,「5,000枚の画像を学習したアルゴリズムは〇〇人だと予想しました」といった感じで,他人のアドバイスというのは,「5,000人の人の予想の平均は○○人でした」みたいな感じ.



当然写真に写った人の人数が多くなるほど難易度は上がるわけですが,その難易度によって,判断に対するアルゴリズムと他人の意見の影響が変わってくるんじゃないか?って考えたわけですな.



さて,以上の実験で何がわかったかと言いますと,

  • タスクの難易度が上がるほど,アルゴリズムのほうを信頼するようになった!


だったそう.つまり,写真の人数が増えるほど,他人の意見よりもアルゴリズムの出した結論だと言われたアドバイスのほうが判断に強く影響したんだそう.



しかもその結果は,アドバイスの正確性,参加者の正答率,計算能力,自信度合い,何問目の問題か等のポイントを調整してもなお確認されたらしい.さらに,他人の意見またはアルゴリズムのアドバイス単体で示された場合でも,両方を示された場合でも同じような結果だったそう.



研究チーム曰く,

ビッグデータを用いて意思決定を行っている個人または組織は,特に難しい問題に対処する場合,アルゴリズムのアドバイスに伴う潜在的なバイアスを認識しておかなければならない.

意思決定者は,難しい問題に対してアルゴリズムを信頼しがちで,それが欠点,バイアス,不正確さを持つ結果につながる可能性があるということを認識しておくべきだ.

したがって,過度のアルゴリズムの評価は,自己満足のみならず,非効率は政策,粗末なビジネス上の意思決定,バイアスを広げることにもつながる可能性がある.


とのこと.殊難しい問題に対処する場合には,我々はアルゴリズムの提示するおすすめ,提案を過度に信頼してしまう傾向があるから注意しようねってわけですな.

アルゴリズムの正確性は今後ますます向上していくでしょうし,それに伴う我々のバイアスもかなり強化されていくような気がします.アルゴリズムの正確性の向上は基本的にはいい方向に働くと思うけど,もし間違っていた時には大失敗につながるかもしれない,って考えられるわけですな.なんで,「人間はアルゴリズムを妄信していないか?」って点はちゃんと意識しておかないなーって思いました.

参考になれば幸いです.質問やコメントなどありましたらTwitterやコメント欄などでご連絡いただけると嬉しいです.

それではっ!

-学習
-,

© 2022 おくさんずラボ Powered by AFFINGER5