7月5日、ニューヨーク市は、AIに求人の書類審査を任せている雇用主に対する条例 Automated Employment Decision Tools Law（AEDT法：自動雇用決定ツール法）を施行しました。雇用主や雇用機関は、AIによる人材採用ツールを使用する前に性別や人種差別がAIツールに含まれないことを証明する必要があります。AIによる採用・雇用決定におけるバイアスを減らすことを目的とした全米初の条例（法律）となります。
- Artificial intelligence in hiring（en:Wikipedia）
- Automated Employment Decision Tools (Updated)（7/5 NYC Rules）
- In NYC, companies will have to prove their AI hiring software isn’t sexist or racist（7/5 NBC News）
AEDT法では、AIやアルゴリズムに基づく技術を、ニューヨーク市の求職者や従業員の評価に使用することは、独立したバイアス監査を実施しない限り違法となります。AIツールを作成したソフトウェアベンダではなく、雇用主がツールのコンプライアンス義務を負うことになります。
この法律は1月1日に施行されたのですが、現実問題として、バイアス監査に対応する方法について法律が十分な詳細を示していなかったため、雇用主は容易にコンプライアンスを遵守することができませんでした。しかし今回、市の消費者・労働者保護局（DCWP）が、より詳細な情報を提供することを目的としたFAQを公開しました。
FAQによると、バイアス監査は毎年実施され、独立監査人による公平な評価でなければならず、最低でも選択率または得点率の計算と、性カテゴリ、人種／民族カテゴリ、交差性カテゴリ間の影響率の計算を含む必要があるとしています。
労働・雇用法律事務所 Littlerの株主 Niloy Ray氏によると、大半の場合、法律の遵守は特に難しいことではないが、AI採用ツールを作成するサードパーティベンダーと、それを使用する企業との協力が必要だと言います。
Ray氏は、採用ツールの AIバイアスを管理するこの種の法律を検討している州や司法管轄区はニューヨークだけではないと指摘しています。カリフォルニア州、ニュージャージー州、バーモント州、ワシントンD.C.、マサチューセッツ州、これらの州はすべて、規制を持っているとしています。
ニューヨーク大学のコンピュータサイエンスの教授Julia Stoyanovich氏は、NBCの取材に対して「まず、AI人事に対するルールができたことには安堵しています。でも、抜けがあることは確かです。例えば年齢に対する差別のカテゴリーがありません。あとは身体障害に関してもです」とコメントしています。
- ニューヨーク市、AI人事を行なう会社に性別・人種差別をしていない証拠提出を条例化（7/11 GIZMODE）
- NY市、人材採用決定自動化ツールで新法を施行——性や民族で偏り無いか、雇用主にAIの定期監査求める（7/11 THE BRIDGE）
ResumeBuilder.com の調査によると、2024年までに 10社中4社が就職面接に人工知能を使用するようになることが分かりました。また、それらの企業の15%は、AIが採用の決定に全責任を負うと回答しました。 ニューヨーク市の法律は、不公平または偏った雇用慣行につながる可能性のあるテクノロジーの潜在的な悪用を防ぐことを目的としています。CBS MoneyWatch 記者のミーガン・セルロ氏はさらに詳しく語ります。