人事コンサルタントの視点

採用や人事評価といった「人を評価する場面」において、AIを導入する動きが広がっています。
AIを評価に用いる最大のメリットは「効率化」です。ソフトバンクではエントリーシート選考にAIを導入することでかかる時間を約75%削減できたとしています。
また人事評価では、AIを導入することで、人の手では処理しきれない複数の評価軸を用いて総合的に人材を判断し、より正確な評価を行ったり、隠れた人材を見つけ出したりすることが期待されています。
しかし、AIを用いた「評価」には既にいくつかの問題が生じていることも事実です。

事例1：アマゾンの人材採用AIが「女性差別」

米アマゾンは応募者の履歴書をチェックするAIを構築してきましたが、そのAIが「女性差別」をする傾向があると、2015年、判明しました。応募書類に『女性』や『女性チェスクラブに所属』などのキーワードが見つかると、採用対象から除外するというケースが発生したのです。

これは、AIが学習したデータが、過去10年間の応募者データであり、「男性の応募者の方が有望」「女性は低く評価する」と学習してしまったために起こりました。
AIは過去のパターンから最適解や予測を導き出すようにできています。つまり、従来の社会構造が引き継がれてしまうのです。AIの使い方によっては、今の世の中にある偏見やバイアスが増幅されかねません。

事例2：日本IBMの「AI人事評価」は「ブラックボックス

日本IBMが人事評価と賃金決定にAIを導入しました。これに対して、同社の労働組合がAIの学習データや、評価者である上司にAIが表示するアウトプットの内容などの開示と説明を求めたところ、同社が拒否しました。労働組合は、不当な団交拒否と支配介入だとして、2020年に東京都労働委員会に救済を申し立てています。
労働組合はAIによる不利益の可能性として次の4点をあげました。

1. プライバシーの侵害　個人の業績や職務遂行能力以外の情報の収集や利用は、労働者のプライバシーを侵害する懸念がある。
2. 公平性、差別の問題　会社の中で、優位性が高い立場にいる人に親和的な言動をとる人が高く評価され、逆の人は低く評価される懸念がある。
3. ブラックボックス化　何が正しいかAIは判断できず、判断に至った過程を説明することができない。低評価を受けた従業員は、どのような理由で低評価になったのか分からないままでは、労働者の成長機会が失われる。
4. 自動化バイアス（コンピューターによる自動的な判断を過信してしまう傾向）　AIは人事評価を「サポート」するツールと位置付けるが、自動化バイアスが働き、マネジャーはAIに逆らえない可能性が高い。
   (参考：https://www.bengo4.com/c_5/n_14490/)

これはAIによる賃金査定や人事評価をめぐる日本で初めての労使紛争です。ここで指摘している点は、企業が説明責任を果たしていないことです。AIが何を元に人事評価を行うのか、なぜ自分は高／低評価だったのか、そうしたことを従業員に説明できていないために係争になっています。

AIの課題

AIを評価に用いる際に最もネックとなることは「ブラックボックス化」です。評価の根拠がわからないため、もし、事例1のように誤った学習がされていてもそれに気付くことができない可能性があります。また、事例2のように評価の根拠を相手に説明することができなくなってしまいます。 特に「評価」の場面は、採用しかり、人事評価（昇進／昇格）しかり、相手の人生に大きく関わります。評価に納得がいかず説明を求めたのに、「AIがそう言ったから・・・」では、相手は受け入れられないでしょう。

AIのメリットを生かすために

AIを評価に用いる際の懸念事項は見過ごせませんが、それでもAI導入による効率化は魅力的です。
大前提として、AIは補助的なツールであり、その判断は絶対ではないという認識を持つ必要があります。実際に自分が被評価者を見て、判断することが大切です。それがAIの判断と異なっていた場合、AIの判断に納得がいかないのであれば自分の結論を優先させる、もしくは第三者に意見を仰ぎ、最終的な判断は「人間」が行うことが原則です。
内閣府の「人間中心のAI社会原則」（2019年3月）や総務省の「AI利活用原則（2019年8月）でも定められている通り、AIを利用する場合には意思決定とその結果に対する説明責任（アカウンタビリティ）があります。なぜ不採用になったのか、なぜ昇格したのか、それを説明できることが重要です。
AIには「忖度」もなければ「倫理観」もありません。あくまで確率で結果を出します。その判断をするためのデータにバイアスがないか、出された判断に納得のいく説明ができるかどうか、そうした部分は必ず人が確認をしなければなりません。
もっとも、最近では、AIのブラックボックス化を解消するために、過程や根拠を説明できるAIの研究も進められているので、将来的にはAIと相談しながら決定する時代が来るかもしれません。

おわりに

エントリーシート選考をAIで行う企業が増えている一方で、受検者側もAIを使ってエントリーシートを作成するようになってきています。受検者向けのサービスには、代わりにエントリーシートを書いてくれたり、添削してくれたりするAIも存在しています。 書くのもAI、評価するのもAIという、誰の何を何のために評価しているのかわからない時代になっているなと感じてしまうのは、私が世の中の変化についていけていないだけなのでしょうか。本質を見極める「評価」とは何だろうと日々考えてしまいます。


参考資料
山本 龍彦・大島 義則（2023）．人事データ保護法入門　勁草書房
焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
アマゾンの人材採用AIが「女性を差別した」理由を考えてみる
なぜ、アマゾンは「採用選考でAI利用」を辞めた？AIには推し量れない「人間ならではの事情」とは 【伊藤穰一】
IBM「AI人事評価」、元人事責任者も知らない全容　労使紛争、都労委で証人尋問
ＡＩ不当労働行為事件
無責任なＡＩの運用実態　都労委証人尋問報告