私は、ＡＩ推進法の質疑に立ち、ＡＩが人を評価、選別するプロファイリングとスコアリングの問題を追及しました。
私は、米アマゾンが開発したＡＩを活用した人材採用システムに女性を差別する欠陥が見つかった事例を示し、ＡＩには差別や不利益につながるバイアスがあると指摘。また、ＡＩには判断の過程や根拠がブラックボックス化する問題があるとして、政府が把握している具体例を質問。内閣府は「あるクレジットカードにおいて、同じ年収であっても女性の方が利用限度額が低い傾向があるとの疑いに対し、企業はそのアルゴリズムについて説明することができなかった」と答えました。
私は、時事通信が主要企業１００社に行った調査によると、採用活動でＡＩを導入する企業は約３割に上っていることを紹介し、「雇用は人生を左右する重大な判断であり、労働者に不利益がもたらされることがないよう極めて慎重な対応が必要だ」と強調。日本ＩＢＭでは会社側が人事評価と賃金決定にＡＩを導入したことに対し、労働組合がＡＩによる評価内容の開示を求めたところ、会社側が拒否をしたことを示し、「法的規制がないのでは労働者の権利を守ることはできない」と批判。ＥＵではＡＩ法を作り、雇用や人事採用選考などでＡＩを利用することをハイリスクと位置づけ、第三者機関による適合性審査などを義務付けているとして、「国内でも同等の措置を義務付けるべきだ」と主張しました。
城内実内閣府特命担当大臣が「既存法とソフトローを組み合わせて対応していく」と答えたのに対し、私は、日本ＩＢＭの問題の背景には米本社の人員削減計画があるとして「ＡＩがリストラツールに使われる懸念もある。人権が国で違いがあってはならない」と強調しました。
