デンバー（AP）- アメリカの何百万人もの人々の雇用、住宅、医療上の決定において隠れた役割を果たす人工知能プログラムを規制しようとする最初の試みは、各方面からの圧力にさらされ、各州議会で停滞しています。
重大な決定を行う際に差別的になりがちなAIの能力を防止することを目指す7つの法案のうち、唯一の1つが可決されました。コロラド州知事ジャレッド・ポリスは金曜日に躊躇して法案に署名しました。
コロラド州やワシントン州、コネチカット州などで挫折した法案には、市民権団体とテクノロジー業界の間での戦い、技術理解がまだ始まったばかりの議員達、AIスタートアップに対する不安を抱く知事達の間で抵抗がありました。
ポリスは「注文」してコロラドの法案に署名しましたが、AIの革新を抑制する規制には慎重です。法案は2年の猶予期間を持ち、法となる前に修正される可能性があります。
「（議員達に）これを実施する前に大幅に改善することを奨励します」とポリスは書いています。
コロラド州の提案と、他の6つの関連法案は複雑ですが、企業に対してAIによる差別のリスクを評価すること、AIを使って重大な決定を支援した場合に顧客に通知することなど、幅広い要件を課す主旨です。
「選挙でのディープフェイクの使用」や「ポルノを制作するためのAI」など、AIに関連する法案は今年400以上が審議されています。
これらの7つの法案は、主要産業全体に適用され、技術の最も不条理で複雑な問題の1つである差別を標的としています。
アメリカ合衆国国務省のAI特使で以前はTwitterのAI倫理チームを率いたラムマン・チョウドゥリーは、「私たちは実際に使われているアルゴリズムについて何も知らない。それが機能するかどうか、もしそうならば差別されているかどうかもわからない」と述べています。
既存の差別禁止法がすでに存在しますが、AI差別を研究する人々は、それが異なる問題であると述べ、米国はすでに規制に遅れをとっているとしています。
「コンピューターは規模でバイアスのある決定を下している」と、ボーイングやタイソンフーズなどへの差別に関する集団訴訟に取り組んできた市民権弁護士のクリスティン・ウェバーは述べています。
「古いシステムにもバイアスがないわけではない」とウェバーは語ります。「しかし、1日に見ることができる履歴書は限られていたので、1日に下すバイアスのある決定も限られていましたが、コンピューターは多くの人々に対して迅速にそれを行うことができます。」
仕事、アパート、住宅ローンの申請をする際、AIがあなたの申請書を評価している可能性が高いです。雇用機会均等委員会によると、雇用主の約83%が採用にAIを利用していると推定されています。
AI自体は、仕事の申し込み書に何を探すかわかりません。過去の履歴が使われるアルゴリズムの訓練にバイアスが混入する可能性があります。
たとえば、Amazonは主に男性の応募者を訓練した採用アルゴリズムを開発しました。新しい応募者を評価する際、歴史的データ（履歴書）に女性の「女性の」または女子校をリストアップする履歴の中から抑えることがありました。プロジェクトは中止されました。
ウェバーの集団訴訟によれば、賃貸申込書にスコアを割り当てるAIシステムは、黒人やヒスパニック系の申請者に不均等に低いスコアを割り当てていました。ある研究では、医療ニーズを評価するAIシステムが、黒人の患者を特別なケアに落としていました。
研究や訴訟により、AIシステムの内部を垣間見ることができるようになりましたが、ほとんどのアルゴリズムは依然として秘密です。Pew Researchの世論調査によれば、アメリカ人の多くはこれらのツールが使用されていることを知らないとされています。一般的に、企業はAIが使用されていたことを明示的に開示する必要はありません。
ウェバーは、「誰がアセスメントを行っているか、どのツールが使用されているかが見えるようになるだけで、非常に大きな進歩です」と述べています。「基本的な情報さえ手に入らないと、既存の法律も機能しない。」
これが、コロラドの法案やカリフォルニアの別の存続する法案が変えようとしていることです。コネチカット州の旗艦提案も、知事の反対により廃案となりましたが、法案はほぼ同じです。
コロラドの法案は、アメリカ人に重大な決定を支援するためにAIを使用する企業に、AIに潜むバイアスを年次評価すること、企業内に監視プログラムを導入すること、差別を発見した場合は州の司法長官に通知し、AIが決定を支援する際にAIが使用されたことを通知し、上訴の権利を含む、といった措置が盛り込まれています。
労働組合や学者は、企業が自治の監督を行うことに依存していて、AIシステムに差別行為を予防的に対応するのは難しいと危惧しています。企業は、強制的な透明性が貿易秘密を明らかにする可能性があり、このハイリー競争的な新分野での潜在的な訴訟を含めた情報開示を恐れています。
さらに、AI企業は、新法によって提訴権が市民ではなく司法長官のみに与えられるという規定を求め、そのほとんどが実現しています。執行細節は司法長官に委ねられています。
より大規模なAI企業は、これらの提案にほぼ賛成していますが、小規模なコロラド州ベースのAI企業の一団は、これらの要件は巨大なAI企業には管理可能かもしれませんが、新興企業にはそうでないかもしれないと述べています。
「私たちは原始的な時代にいます」と、Thumper.aiの創設者であるローガン・セルコヴニクは述べています。この分野において、技術の利用を定義し、技術の使用を制限する過度に制限的な立法が創新にとって悪影響を及ぼすだろうと言われています。
ほとんど全員が、正式には「アルゴリズム的差別」と呼ばれる問題に取り組むことが重要であると認識しています。しかし、彼らは、現行の差別禁止法を強化すべきだとして、現行の法案がその目標に達していないと述べています。
チョウドゥリーは、訴訟は効果的な執行手段には高すぎるし時間がかかりすぎると懸念しており、法律はコロラドが提案しているもの以上のものであるべきだと主張しています。代わりに、チョウドゥリーと学者たちは、AIアルゴリズムの潜在的なバイアスを明示的にテストする認定団体の設立を提案しています。
「個人が偏見を持ったり差別的であったりすることを理解して対処できます」とチョウドゥリーは述べています。「全体の機関に組み込まれている場合、どのように対処すべきでしょうか？」
Bedaynは、AP/Report for America Statehouse News Initiativeのコープスメンバーです。Report for Americaは、地元のニュースルームにジャーナリストを配置して未報告の問題について報道する非営利国民奉仕プログラムです。
