資料室
DOCUMENT

I.    はじめに

1. 人種差別撤廃委員会は、第 92 会期において、「今日の世界における人種差別：レイシャル・プロファイリング、民族浄化および現在の国際的問題・課題」に関する討議を開催すると決定した。このテーマ別討議はジュネーブで 2017 年 11 月 29 日に行なわれ、レイシャル・プロファイリングおよび民族浄化と闘うためにこれまで進められてきた取り組みにおける経験、課題および得られた教訓の分析と、委員会がレイシャル・プロファイリングおよび民族浄化に反対する活動を強化して現場にいっそうの影響を与えられるようにする方法に焦点があてられた。

2. 委員会は、討議の後、締約国による義務（報告義務を含む）の履行を援助する目的で、レイシャル・プロファイリングの防止およびこれとの闘いに関する指針を示すための一般的勧告の起草に取り組む意思を表明した。この一般的勧告は人種差別と闘うすべての関係者にとって関連性を有するものであり、委員会は、その発表を通じ、民主主義、法の支配ならびに諸コミュニティ、諸人民および諸国間の平和および安全の強化に寄与しようとするものである。

3. 委員会は、第 98 会期において、レイシャル・プロファイリングの防止およびこれとの闘いに 関する一般的勧告を起草するための検討を、関心のあるすべての関係者と協議しながら¹開始した。委員会はまた、レイシャル・プロファイリングにとっての人工知能の意味合いを重視しながら、さまざまな分野の研究者との討議も行なった。

II.     確立された原則および慣行

4. この一般的勧告を起草するにあたり、委員会は、法執行官によるレイシャル・プロファイリングへの対処に関する、とくに締約国報告書の審査の文脈および主要な一般的勧告における委員会の広範な慣行を考慮に入れた。委員会は、以下の一般的勧告でレイシャル・プロファイリングの問題を明示的に取り上げている。市民でない者に対する差別に関する一般的勧告 30 号（2004 年）で、委員会は、テロリズムとの闘いに際してとられるいかなる措置においても、人種、皮膚の色、世系または国もしくは民族的出身に基づく、目的または効果における差別が行なわれないこと、および、市民でない者が人種的または民族的なプロファイリングまたはステレオタイプ化の対象とされないことを、各国が確保するよう勧告した（パラ 10）。刑事司法制度の運営および機能における人種差別の防止に関する一般的勧告 31 号（2005 年）では、委員会は、職務質問、逮捕および捜索であって、実際には、ある者の身体的外観、その皮膚の色もしくは特徴、その者がある人種集団もしくは民族集団の構成員であること、またはその者への疑いを高める何らかのプロファイリングのみを根拠として行なわれるものを防止するため、締約国が必要な措置をとるよう勧告した（パラ 20）。そしてアフリカ系の人々に対する人種差別に関する一般的勧告 34  号（2011年）では、委員会は、法執行官、政治家および教育者が人種に基づいてアフリカ系の人々を標的化、スティグマ、ステレオタイプまたはプロファイリングの対象にしようとするいかなる傾向にも対抗するため、各国が毅然とした行動をとるよう勧告した（パラ 31）。以下に挙げるもののようなその他の勧告も、レイシャル・プロファイリングに関連するものである。人権の保護に関する法執行官の研修に関する一般的勧告 13 号（1993 年）で、委員会は、法執行官が、人種、皮膚の色または国もしくは民族的出身に関わるいかなる区別もなくすべての人の人権を擁護することを確保するための研修を受けるべきであると強調した（パラ 2）。先住民族の権利に関する一般的勧告 23 号（1997 年）では、委員会は、先住民族はいかなる差別からも、とくに先住民族としての出自またはアイデンティティに基づく差別からも自由であるべきであると強調した（パラ 4 (b)）。ロマに対する差別に関する一般的勧告 27 号（2000 年）では、委員会は、各国が、自国の特有の状況を考慮に入れながら、とくに逮捕および拘禁に関連して警察がロマに対して武器を違法に使用することを防止し（パラ 13）、かつロマ・コミュニティと警察との間で信頼を構築するための措置をとるよう勧告した。条約にいう特別措置の意味および範囲に関する一般的勧告 32 号（2009年）では、委員会は「交差性」の概念に言及し、ジェンダーまたは宗教に基づく差別など、そのような事由に基づく差別が条約第 1 条に列挙された事由の¹ または複数と組み合わさって存在するように思われる二重差別または複合差別の状況について取り上げた（パラ 7）。このほか、人種主義的ヘイトスピーチとの闘いに関する一般的勧告 35 号（2013 年）がある。

5. 委員会は、総括所見において、法執行官によるレイシャル・プロファイリングの利用について繰り返し懸念を表明するとともに、締約国がこの慣行に終止符を打つための措置をとるよう勧告してきた²。

6. 加えて、他のいくつかの国際人権機構が、レイシャル・プロファイリングが国際人権法違反であることを明示的に強調している。自由権規約委員会は 2009 年に Williams Lecraft v. Spain 事件に関する決定³を行ない、条約機関としては初めて、正面からレイシャル・プロファイリングを不法な差別と認めた。自由権規約委員会は、より最近の総括所見で、移住者、庇護希望者、アフリカ系の人々、先住民族ならびに宗教的および民族的マイノリティの構成員といった特定の集団を標的として法執行官が行なうレイシャル・プロファイリングの慣行が続いていることに常態的に懸念を表明している⁴。拷問禁止委員会もこのような懸念を同様に表明してきた⁵。

7. 2001 年にダーバン（南アフリカ）で開催された「人種主義、人種差別、外国人嫌悪および関連する不寛容に関する世界会議」で加盟国が採択したダーバン行動計画で、各国は、レイシャル・プロファイリング（警察官その他の法執行官が、程度の差を問わず、人々を捜査活動の対象とすることまたはある個人が犯罪活動に関与しているか否かを判断することの根拠として人種、皮膚の色、世系または国もしくは民族的出身に依拠する慣行）を撤廃するための効果的措置を立案し、実施しかつ執行するよう促された（パラ 72）。

8. テロ対策における人権および基本的自由の促進および保護に関する特別報告者は、2007 年に人権理事会に提出した報告書において、さまざまな国の法執行当局が、テロリストのプロフィール（ある者の推定された人種、民族、国民的出身または宗教などの属性を含む）に基づく措置をとっていると指摘した。同特別報告者は、「人種」に基づくテロリストのプロファイリングの慣行は人権の原則と両立せず、潜在的テロリストを特定する手段として適正性と有効性を欠いており、かつ、テロリズムとの闘いにおいてそのような措置を非生産的なものとしかねない相当の否定的結果をともなうものであると強調している⁶。

9. この一般的勧告はまた、「持続可能な開発のための 2030 年アジェンダ」の実施の枠組みのなかで、かつその実施に対する貢献として起草されたものでもある。誰ひとり取り残さず、かつもっとも取り残されている人々に第一に手を差し伸べるという同アジェンダの全般的コミットメントは、とくに持続可能な開発目標のゴール 10（国内および国家間の格差を是正する）およびゴール 16（持続可能な開発に向けて平和で包摂的な社会を推進し、すべての人に司法へのアクセスを提供するとともに、あらゆるレベルにおいて効果的で責任ある包摂的な制度を構築する）との関連で、委員会の活動にとってきわめて重要な出発点および機会となるものである。

III.     適用範囲

10. 委員会は、特定の属性（ある者の推定された人種、皮膚の色、世系または国もしくは民族的出身など）に基づくさまざまなマイノリティ集団を標的とする、法執行官によるレイシャル・プロファイリングの利用についてしばしば懸念を表明してきた。委員会は、警察官および国境管理官のような法執行官が、その職務の遂行にあたり、恣意的な職務質問、恣意的な身元確認、鉄道駅、列車内および空港における無作為の所持品検査ならびに恣意的逮捕を行なっているという報告についても懸念を表明してきている⁷。委員会は、テロリズムおよび移住に関する現代社会の懸念が特定の民族的集団の構成員に対する偏見および不寛容を悪化させており、このような懸念を理由としてレイシャル・プロファイリングが増加していることに、懸念とともに留意してきた。

11. 委員会は、移住者、難民および庇護希望者、アフリカ系の人々、先住民族ならびに国民的および民族的マイノリティ（ロマを含む）のような特定の集団がもっともレイシャル・プロファイリングの被害を受けやすいことを認識してきた⁸。

12. 加えて、委員会の見るところ、保安、国境管理および社会サービスへのアクセスなどの分野で新たな技術的手段（人工知能を含む）の利用が増加していることにより、人種主義、人種差別、外国人嫌悪およびその他の形態の排除が深刻化する可能性がある。しかし、委員会がこの一般的勧告で焦点を当てるのは、法執行官によるレイシャル・プロファイリングに関連したアルゴリズムによる決定および人工知能の問題であるため、人工知能の潜在的有害性に関連する他の多くの論点はこの一般的勧告の範囲外となる。委員会は、人工知能が多くの意思決定プロセスの実効性の強化に貢献しうる分野もあることを承知しつつ、人工知能が法執行関連の意思決定において利用される場合にはアルゴリズムのバイアスが生じる現実的おそれがあることも認識するものである。アルゴリズムによるプロファイリングは深刻な懸念を提起するものであり、被害者の権利に関わるその影響は非常に深刻なものとなりうる。

IV.     レイシャル・プロファイリングの定義および理解

13. 国際人権法上、レイシャル・プロファイリングの普遍的な定義は存在しない。ただし、世界のあらゆる地域における持続的な現象として、さまざまな国際・地域人権機関がレイシャル・プロファイリングの定義を採択してきており、そこには多くの共通要素がある。レイシャル・プロファイリングとは、(a) 法執行機関が行なう行為であり、(b) 客観的基準または合理的な正当化事由によって動機づけられたものではなく、(c) 人種、皮膚の色、世系、国もしくは民族的出身またはこれらの事由と他の関連の事由（宗教、性別もしくはジェンダー、性的指向およびジェンダー・アイデンティティ、障害ならびに年齢、移住者としての地位もしくは職業またはその他の地位）との交差に基づいており、(d) 出入国管理や、犯罪活動、テロリズムまたは法律違反とされもしくは法律違反となる可能性があるその他の活動との闘いといった、特定の文脈において利用されるものである。

14. レイシャル・プロファイリングは、行動を通じて、または恣意的な職務質問、捜索、身元確認、捜査および逮捕などの行為を通じて行なわれる。

15. 米州人権委員会は、レイシャル・プロファイリングを、公衆の安全および保護を名目としてとられる方略であって、客観的な疑いではなく人種、皮膚の色、民族、言語、世系、宗教、国籍もしくは出生地またはこれらの要素の組み合わせに基づくステレオタイプによって動機づけられ、かつ、このような属性を有する人々は特定の態様の犯罪に関与しやすいという誤った推定に基づいて差別的なやり方で個人または集団を選別する傾向があるものと定義している⁹。アラブ人権委員会の意見書によれば、レイシャル・プロファイリングは、法執行官が、特定の個人が犯罪活動に関与しているまたは関与したと判断する根拠として――客観的証拠または個人の行動ではなく――推定された人種、皮膚の色、世系、国籍、出生地または国もしくは民族的出身に関連する一般化またはステレオタイプを利用し、もって差別的な決定を生じさせることと定義できる¹⁰。人種主義および不寛容に反対する欧州委員会は、警察活動における人種主義および人種差別との闘いに関する一般政策勧告 11 号（2007 年採択）で、レイシャル・プロファイリングを、警察が、取り締まり活動、監視活動または捜査活動において、人種、皮膚の色、言語、宗教、国籍または国もしくは民族的出身などの事由を、客観的かつ合理的な正当化事由のないまま利用することと定義した。

16. 現代的形態の人種主義、人種差別、外国人嫌悪および関連する不寛容に関する特別報告者は、2015 年に人権理事会に提出した報告書で、法執行官によるレイシャル・プロファイリングおよび民族的プロファイリングとは、法執行、治安維持および国境管理に従事する要員が、ある者を詳細な捜索、身元確認および捜査の対象とし、またはある個人が犯罪活動に関与したか否かを判断するための根拠として、人種、皮膚の色、世系または国もしくは民族的出身に依拠することを意味するものとして一般的に理解されていると指摘した¹¹。

17. 国際連合人権高等弁務官は、レイシャル・プロファイリングとは、法執行官が、人々を職務質問、詳細な捜索、身元確認および捜査の対象とするためにまたはある個人が犯罪活動に関与したと判断する目的で、客観的証拠または個人の行動ではなく、人種、皮膚の色、世系または国もしくは民族的出身に基づく一般化に依拠する過程を指すと述べている。かくして、レイシャル・プロファイリングは差別的な意思決定に至るのである。高等弁務官はさらに、法執行官個人の態度および実践または法執行機関の差別的な文化もしくは方針のいずれによって生じたものかにかかわらず、レイシャル・プロファイリングは多くの機関で長年にわたる慣行になっていると指摘している¹²。

18. この一般的勧告の適用上、レイシャル・プロファイリングは、ダーバン行動計画のパラ 72 で説明されているものとして理解される。すなわち、いかなる程度であれ、人種、皮膚の色、世系または国もしくは民族的出身を基に、個人を捜査活動の対象とする、または個人が犯罪行動に関わったかどうかを判断する警察および法執行の慣行のことである。このような文脈において、人種差別は、宗教、性別もしくはジェンダー、性的指向およびジェンダー・アイデンティティ、障害、年齢、移住者としての地位ならびに職業またはその他の地位といったその他の事由と交差して生じることが多い。

19. 法執行官によるレイシャル・プロファイリングには、強制捜査、国境・税関検査、家宅捜索、監視対象化、法と秩序を維持しもしくは再建するための摘発活動、または出入国管理に関わる決定も含まれる場合がある。これらの行為は、警察の巡回および対テロ摘発活動の文脈において、さまざまな形で行なわれる可能性がある¹³。

20. レイシャル・プロファイリングはステレオタイプおよびバイアスと関連している。このようなステレオタイプおよびバイアスは、意識的なものもあれば無意識のものもあり、また個人的なものもあれば制度的・構造的なものもある。ステレオタイプ化は、ステレオタイプに基づく憶測が人権の享有を阻害するために実行に移される場合、国際人権法違反となる¹⁴。

V.     条約上の原則および一般的義務

21. 法執行官によるレイシャル・プロファイリングの慣行を特定し、防止しかつこれと闘うことは、あらゆる形態の人種差別の撤廃に関する国際条約の趣旨の達成にとって不可欠である。法執行官によるレイシャル・プロファイリングの慣行は、(a) 人種、皮膚の色、世系または国もしくは民族的出身という事由またはその他の交差的事由に基づく差別の禁止、および、(b) 法の下の平等に支えられる、人権の基本的原則に違反する。適正手続および公正な裁判に関わる権利も侵害する可能性がある。これらの原則および権利は、世界人権宣言（第 2 条・第 7 条）および条約（第2 条・第 5 条(a)）の支えとなるものである。

22. 条約前文では、すべての人間が、法の下に平等であり、かつ、いかなる差別およびいかなる差別の扇動に対しても法律による平等な保護を受ける権利を有することが強調されている。条約にはレイシャル・プロファイリングという用語への明示的言及はないものの、そのことは、委員会が、レイシャル・プロファイリングの慣行を特定し、かつレイシャル・プロファイリングと条約に掲げられた基準との関係を模索することを妨げてはこなかった。

23. 条約第 2 条に基づき、各国は、個人、集団または団体に対する人種差別の行為または慣行に従事しないこと、ならびに、国および地方のすべての公の当局および機関がこの義務にしたがって行動するよう確保することを約束している。レイシャル・プロファイリングは人種主義的事件ならびに人種的な偏見およびステレオタイプを促進しかつ固定化する可能性がある慣行であるため¹⁵、条約の思想そのものに逆行するものである。したがって、締約国は、レイシャル・プロファイリングが行なわれずかつ促進されないことを確保する目的で自国の政策および法令を見直す義務を負う。締約国には、法律、政策および制度を通じて差別を撤廃するための積極的措置をとる義務があるのである。さらに、レイシャル・プロファイリング行為に従事することの禁止ならびに公の当局および機関がレイシャル・プロファイリングの慣行を適用しないことを確保する義務は、条約第 5 条から生じるものでもある。レイシャル・プロファイリングの慣行は、人種、皮膚の色または国もしくは民族的出身によって区別されることなく、法の下の平等および平等な取扱いを享有するすべての者の権利と両立しない。さらに、その他の市民的権利（移動の自由に対する権利など）の非差別的保障とも両立しない。

24. 条約第 6 条に基づき、締約国は、自国の管轄内にあるすべての者に対し、あらゆる人種差別の行為に対する効果的な保護を確保する義務を有する。したがって、締約国は、公の当局および公的機関がレイシャル・プロファイリングの慣行に従事しないことを確保するための予防的措置をとらなければならない。第 6 条はまた、締約国に対し、あらゆる人種差別の行為に対する効果的な救済措置を自国の管轄内にあるすべての者に確保することも要求している。締約国は、自国の法秩序に、レイシャル・プロファイリングが行なわれたことを主張できるようにし、かつこのような慣行に終止符を打つための、十分かつ効果的な機構が含まれることを確保する義務を負う。締約国はさらに、レイシャル・プロファイリングの形態をとる人種差別の結果として被った損害について公正かつ十分な賠償または救済を求める権利を保障しなければならない。締約国は、この権利が効果的に執行されることを確保しなければならない。レイシャル・プロファイリングの慣行が特定の（諸）集団の構成員に恒常的に影響を及ぼすことに照らし、締約国は、レイシャル・プロファイリングとの関係における権利の集団的執行のための機構の設置を検討するよう奨励される。

25. 条約第 7 条は、人種差別との闘いにおける教授、教育、文化および情報の役割に光を当てて いる。レイシャル・プロファイリングとの関係では、人種差別の行為に従事しないという締約国の義務の充足は、公の当局および公的機関の行動にかかっている。したがって、とくに国の法執行官がその義務について適正な形で知らされることが、この上なく重要である¹⁶。レイシャル・プロファイリングは、公の当局および公的機関の慣行として定着しかつ異議を申し立てられてこなかったことの結果であることが多いため、締約国は、国の法執行官が、レイシャル・プロファイリングの慣行に従事しないようにする方法を十分に理解していることを確保しなければならない。このような意識啓発は、レイシャル・プロファイリングの実行を防止し、かつ、このような慣行が深く根差している場合にはそれを克服する一助となりうる。したがって、締約国は、公の当局および公的機関の職員であって法執行に従事する者がレイシャル・プロファイリングを行なわないことを確保するため、これらの者が適正に訓練されることを確保するべきである。

VI.     レイシャル・プロファイリングの影響

26. レイシャル・プロファイリングは、ある者が日常生活において恒常的にレイシャル・プロファイリングの対象とされる可能性があることを考えれば、個人およびコミュニティの態度と安寧に否定的かつ累積的な効果を及ぼすものである¹⁷。レイシャル・プロファイリングの被害者は、効果的な救済措置および修復的解決の手段が存在しないために、その影響を控えめに口にし、抱えこむことが多い。レイシャル・プロファイリングは、違法であることに加え、一般的な法執行手段として効果がなくかつ非生産的である可能性もある。差別的な法執行対応の対象にされたと感じる人々は、法執行をそれまでよりも信頼しなくなる傾向にあり、その結果として協力する意欲も弱まる傾向にあることから、法執行の実効性が制限される可能性がある。レイシャル・プロファイリングの慣行は日常的な法執行過程に影響を及ぼし、意識的な行動を通じてか無意識の行動を通じてかにかかわらず、影響を受けているコミュニティに属する犯罪被害者のための支援能力を阻害する。不当な仕打ちを受けたという感覚および屈辱感、法執行への信頼の喪失、二次被害化、報復に対する恐れ、ならびに、法的権利または援助に関する情報へのアクセスの制限は、犯罪の通報の減少および情勢分析目的の情報の減少につながる可能性がある。

27. レイシャル・プロファイリングとヘイトスピーチは緊密に関連しており、委員会はしばしばこの 2 つの形態の差別を同時に取り上げてきた¹⁸。人種的または民族的憎悪に基づく思想の流布、

28. メディアにおけるヘイトスピーチの根強い使用および公人による人種主義的な政治言説の使用は、法執行官による差別およびステレオタイプ化を悪化させるものである。ヘイトスピーチの対象と される民族的集団は、レイシャル・プロファイリングの標的にもされることになろう。さらに、法執行を通じたレイシャル・プロファイリングは、人種差別に直面している集団を、より犯罪を行ないやすい存在として描き出すため、公的言説に影響を及ぼし、かつ人種主義的憎悪の流布を強化することにつながる。

29. レイシャル・プロファイリングはまた、人々による市民的および政治的権利の享有にも悪影響を及ぼす可能性がある。このような権利には、生命（市民的および政治的権利に関する国際規約第 6 条）、身体の自由および安全（第 9 条）、プライバシー（第 17 条）ならびに移動の自由（第 12 条）、結社の自由（第 22 条）および効果的な救済措置（第 2 条（3））に対する権利が含まれる。

30. 十分な住居（経済的、社会的および文化的権利に関する国際規約第 11 条）、健康（第 12 条）、教育（第 13～14 条）および労働（第 6 条）に対する権利のような、人々の経済的、社会的および文化的権利の全面的享有も、レイシャル・プロファイリングの影響を受ける可能性がある¹⁹。法執行官によるレイシャル・プロファイリングは、司法制度、とくに刑事司法制度の運営のあらゆるレベルで甚大な影響を生じさせる。レイシャル・プロファイリングは、とくに (a) 条約上の保護対象である特定のカテゴリーに属する人々の過剰な犯罪化、(b) 犯罪と民族性をミスリーディングかつステレオタイプ的な形で結びつける見方の強化および人権侵害的な活動慣行の醸成、(c) 条約上の保護対象である集団の不均衡な収監率、(d) 法執行官による実力または権限の濫用に対する、条約上の保護対象である集団に属する人々の脆弱性の高まり、(e) 人種差別の行為およびヘイトクライムの過少通報、ならびに、(f) 裁判所による、標的とされたコミュニティの構成員に対するより厳しい刑の言い渡しにつながりうるものである。

VII.     アルゴリズムによるプロファイリングならびに人種的なバイアスおよび差別

31. 技術開発の急速な進歩により、法執行官の行動がアルゴリズムによるプロファイリングによって決定されまたは影響される度合いは高まっている²⁰。このようなプロファイリングには、ビッグデータ、自動化された意思決定および人工知能ツール・手法²¹が含まれている場合がある。このような進歩によって法執行官の決定と行動の正確性、有効性および効率性が高まる可能性もあるものの、バイアスの再生産および強化ならびに差別的慣行の悪化または誘発にもつながるおそれが強い²²。アルゴリズムによる分析および意思決定の不透明さ（とくに人工知能の手法が採用される場合）に鑑みれば、アルゴリズムによるプロファイリングが生じさせる差別的結果はしばしば、人間の決定が生じさせる結果よりも不明確かつ発見困難で、したがって争うことがより難しいものとなる可能性がある²³。加えて、人権擁護者は、そのような差別的手法を明らかにする十分な技術的体制を備えていないのが通例である。

32. アルゴリズムによるプロファイリング・システムにバイアスが浸透しうるきっかけはさまざまであり、システム設計のあり方、システムの訓練に用いられるデータセットの出所・範囲に関する決定、開発者がこれらのデータセットに組みこむ可能性がある社会的・文化的バイアス、人工知能モデルそれ自体、および、人工知能モデルのアウトプットが実際に実行される際のあり方などがある²⁴。とくに、以下のデータ関連要因は否定的結果を助長する可能性がある。(a)  用いられるデータに、保護対象の属性に関わる情報が含まれている。(b)  いわゆるプロキシ情報がデータに含まれている（たとえば、都市内の隔離された地域と紐づけられた郵便番号は、間接的に人種または民族的出身を指し示していることが多い）。(c)  用いられるデータが、いずれかの集団に対してバイアスのかかったものになっている²⁵。(d)  用いられるデータが、選択方法が適切ではない、不完全である、不正確であるまたは時代遅れのものであるなどの理由で質の低いものになっている²⁶。

33. 特定の地域で犯罪活動が行なわれる可能性、または特定の集団（もしくはそれどころか特定の個人）が犯罪活動を行なう可能性を判断するためにアルゴリズムによるプロファイリングが利用される場合、特段のリスクが生じる。過去のデータに依拠して将来起きる可能性がある出来事を予測する予測型警察活動は、容易に差別的結果を生じさせる可能性があり、用いられるデータセットに前述のような瑕疵が 1 つまたは複数存在する場合はなおさらである²⁷。たとえば、ある地域に関する過去の逮捕データには、人種的バイアスのかかった警察慣行が反映されている可能性がある。このようなデータの利用が予測型警察活動モデルに導入されれば、同じようにバイアスのかかった方向で将来の予測が行なわれるおそれがある。そうなれば、同じ地域が過剰な警察活動の対象とされ、そのため当該地域における逮捕件数が増加して、危険なフィードバック・ループが生じかねない。

34. 同様の機制が司法制度にも存在すると報告されてきた²⁸。国は、制裁を適用する場合、またはある者を刑事施設に送るか、保釈するかもしくは他の刑罰を受けさせるかどうかを判断する場合に、ある個人が将来 1 または複数の犯罪を行なう可能性を予見する目的で、アルゴリズムによるプロファイリングをますます利用するようになっている。当局は、個人、その家族および友人の犯罪歴と社会的環境（就労歴や学歴を含む）に関する情報を収集し、アルゴリズムが示すスコア（通常は秘密のままとされる）から、その人物の「危険」度を評価しようとする。アルゴリズムによるプロファイリングをこのような形で利用することは、前掲パラ 33 で述べたのと同様の懸念を生じさせる。

35. 特定の人口集団の追跡および管理を目的とした顔認証・監視技術の利用が増加していることは、プライバシー、平和的集会・結社の自由、表現の自由および移動の自由に対する権利を含む多くの人権との関係で、懸念を生じさせる。これは顔の幾何学的特徴に基づいて自動的に個人を特定する目的で設計された技術であり²⁹、人種、皮膚の色、国もしくは民族的出身またはジェンダーのような差別的事由に基づく人間のプロファイリングにつながる可能性がある³⁰。リアルタイム顔認証技術を搭載したカメラは個人の識別・追跡目的で広く利用されており³¹、政府等は、場合によっては保護対象である属性に基づいて、多数の個人の移動を記録できる可能性もある³²。さらに、顔認証技術の正確性は検査対象者の皮膚の色、民族またはジェンダーによって変わってくる可能性があることも明らかにされており、差別につながるおそれもある³³。

36. 場合によっては、個人の民族判定のための DNA 検査でアルゴリズムが用いられることもある。このような DNA 検査の結果はプロファイリングにつながりうるものである。委員会は、科学界の一致した見解にしたがい、個人の DNA 構成とその民族性との間に直接の関係はないことに留意する。したがって委員会は、国および法執行機関（とくに国境警備機関）による DNA プロファイリングの利用を非難するものである。加えて、DNA プロファイリングの結果は、特定の民族的マイノリティはより暴力に訴えやすいという誤った主張を行なうために法執行機関によって利用されてきており、そのためこれらの集団が差別的な警察慣行の対象とされる事態を招いてきている³⁴

VIII.     勧告

37. レイシャル・プロファイリングの問題に対抗するため、政府、法執行機関および市民社会組織によって多様な戦略が採用されてきた。委員会は、これらの戦略が、国およびその他の主体に対する委員会の勧告の基盤になっているとの見解に立つ。

A.    立法措置および政策関連の措置
38. 前提として、またさらなる措置の必要性を否定するものではないが、レイシャル・プロファイリングとの効果的闘いには、人種差別を禁止する包括的立法（民事法、行政法および刑事法を含む）が欠かせない。国は、法執行官によるレイシャル・プロファイリングを定義しかつ禁止する法律および政策を策定し、かつ効果的に実施するべきである。このような措置とあわせて、法執行機関を対象とする明確な指針を定め、組織内方針（標準業務手続および行動規範を含む）が人権基準および人権原則と合致することを確保するよう求められる。国はまた、レイシャル・プロファイリングを可能としまたは容易にする可能性がある法令も認識するべきである。このような法律を特定し、しかるべき形で改正しまたは廃止するための研究を実施することが求められる。

39. 国は、レイシャル・プロファイリングを防止するため、法執行機関が、職務質問および捜索の実務に関する詳細なガイドライン（明確な基準をともなうもの）を、関連グループと協議しながら策定することを確保するべきである。効果的な、独立した監視機構を内部的にも外部的にも設けるとともに、違反があった場合に適用する懲戒措置も構想することが求められる。内部的方針・慣行の欠陥を特定するため、独立した専門家の助力を得て定期的監査も実施するべきである。このような手続の結果の透明性を確保することは、法執行の説明責任ならびに標的とされた個人およびコミュニティの信頼を強化することになる可能性があるので、強く勧告される。

40. 条約第 6 条にしたがい、国は、自国の管轄内にあるすべての者に対し、この条約に反して人 権および基本的自由を侵害するあらゆる人種差別の行為に対する効果的な保護および救済措置と、そのような差別の結果として被ったあらゆる損害について公正かつ十分な賠償および救済を求める権利を確保しなければならない。

国は、被害者中心のアプローチをとるとともに、公的機関、コミュニティ、市民社会組織（交差的形態の差別を経験している集団を代表する組織を含む）および国内人権機関間の協力モデルを促進することにより、支援サービスの効果的調整を図るよう奨励される。委員会は、条約第 5条（a）と第 6 条との相互関係を強調するとともに、刑事手続においてレイシャル・プロファイリングの影響が固定化することを防止するため、司法機関および司法運営に従事するその他の機関が、このようなプロセスにおける実効的な協議および関与の対象とされるべきであることに留意する。

B.    人権教育・人権研修
42. 国は、バイアスが業務に及ぼす影響に関する法執行官の意識を高め、かつ非差別的な行動を確保する方法を説明する、法執行機関を対象とした特別の必修研修プログラムを開発するべきである。可能な場合、そのような研修の開発および実施に、スティグマの対象とされているグループ（その構成員が交差的形態の差別を経験しているグループを含む）の関与を得ることが求められる。法執行機関は、差別およびバイアスに基づいた警察活動に対抗するための現職者研修を補完するものとして、裁量の制限を目的とする組織的介入ならびにステレオタイプ化およびバイアスの被害を受けやすい地域における監督の強化が行なわれることを確保するべきである。加えて、研修が態度および行動の変化に及ぼす効果は限定的であるという懸念に鑑み、非差別・バイアス研修が所期の効果をもたらすことを確保するために定期的な評価および改訂を行なうことが求められる。

43. 人種的バイアスを含んでいるまたは生じさせる可能性があるデータが入力されないようにするため、データの解釈を行なう人工知能専門家および職員の双方が、基本的人権について明確に理解していなければならない。国は、とくにデータの解釈を行なう専門家および職員、司法官ならびに法執行官を対象として、人種主義および人種差別に関する研修を実施するべきである。国は、人種差別の禁止を義務づけた条件に基づく調達政策を策定するよう求められる。

44. 国は、国内人権機関および専門機関と協力して、アルゴリズムのバイアスおよび新興技術に関する市民社会組織の研修を促進するべきである。

45. 人権教育および人権研修は、警察官が差別を行なわないことを確保するためにきわめて重要である。国内人権機関は、市民社会組織と協力し、法執行官の研修、差別につながりうる新興技術ツールの審査および実務上のその他のリスクの特定に関して、中心的役割を果たすことができる³⁵。

C.    採用関連の措置
46. 国は、法執行機関が、採用、定着および昇進に関して、業務対象である住民の構成を反映した多様な職員構成を促進する戦略を発展させることを確保するべきである。このような戦略としては、民族的マイノリティを対象とする組織内割当人数の設定および採用プログラムの開発などが考えられる。このような対応には、よりバイアスの少ない意思決定が行なえるようになる方向で、機関の文化および職員の態度に影響を及ぼせる可能性がある。

47. 国は、法執行機関が、採用および昇進に関わる方針を定期的に評価するとともに、必要に応じ、さまざまな国民的または民族的マイノリティ集団および交差的形態の差別（とくに宗教、性別およびジェンダー、性的指向、障害ならびに年齢に基づくもの）を経験している集団が適正な規模で代表されていない問題に効果的に対処するための時限的特別措置をとることを確保するべきである。

D.    コミュニティ警察活動
48. 国は、法執行機関が、人種差別に直面している個人および集団に効果的に対応するための、さまざまなコミュニティの特有な状況、力学およびニーズを考慮した戦略を策定することを確保するべきである。このことは、コミュニケーションを向上させ、かつ不信およびレイシャル・プロファイリングのレベルを低下させるのに役立つはずである。警察とコミュニティ間の対話は、コミュニティの指導者以外にも拡大することが求められる。多くの集団は、女性を含みコミュニティの指導者層で適正な規模で代表されておらず、当該集団をとくに対象とした、配慮のある積極的働きかけの努力を必要としている可能性があるためである。警察から標的とされることがもっとも一般的である若者を、主要な例に挙げることができよう。

49. 国は、警察その他の法執行機関から発表される公的情報が、信頼性のある客観的統計に基づくものであり、差別を受けている民族的集団に対するステレオタイプおよびバイアスを固定化するようなものでないことを確保するための措置をとるべきである。加えて、国は、加害者とされる者についての、推定された人種、皮膚の色、世系または国もしくは民族的出身に関連する個人データの発表を控えるよう求められる（ただし、指名手配を行なう場合など、そのような情報の開示がどうしても必要であり、かつその目的が正当である場合はこの限りでない）。

E.    細分化されたデータ
50. 国は、関連の法執行実務（身元確認、車両検問および国境における捜索など）に関する細分化された量的・質的データを恒常的に収集しかつモニターするべきである。このようなデータには、人種差別（交差的形態の差別を含む）の禁止事由に関する情報、ならびに、法執行の際にとられた対応の理由およびそのような接触の結果に関する情報が含まれる。このような実務に関する匿名化された統計は、公衆に対して利用可能とし、かつ地域コミュニティとの議論の対象とすることが求められる。データは、人権基準および人権原則、データ保護規則およびプライバシー保障措置にしたがって収集されるべきである。このような情報は悪用されてはならない。

51. 国はまた、自然人に関わる特定の個人的側面を評価する目的（とくに、その者の勤務成績、経済状況、健康、個人的選好、関心、信頼性、行動、所在または移動を分析しまたは予測する目的）で個人データが利用される形態の自動化された個人データ処理も、防止するべきである³⁶。

F.    説明責任
52. 国は、人種差別、人種主義ならびにレイシャル・プロファイリングおよび民族的プロファイリングに関する市民からの苦情を受理する、法執行機関その他の関連機関から独立した通報機構を設置するべきである³⁷。このような機構は、訴えについて迅速かつ効果的な調査を行ない、かつ市民社会および人権監視機構と提携しながら活動する権限を有していなければならない。また、データ保護規則および人権基準にしたがい、その認定結果に関する公の報告も行なわなければならない。このような機構は、交差的差別の事案においては、障害のある人の特別なニーズを考慮するべきである。

53. 国は、差別的行動を防止するため、法執行機関の内外に監督機構を設置するべきである。このような機構は、レイシャル・プロファイリングと闘いかつこれを防止するための内部ガイドライン、方針および規則を策定するとともに、違反者に対して懲戒措置をとることにより内部的説明責任を確保するよう求められる。

54. 法執行機関によるレイシャル・プロファイリングが発生した場合、国際人権基準にしたがって効果的調査が行なわれるべきである。責任者は訴追され、かつ有罪判決が言い渡されたときは適切な処罰により制裁されるべきであり、また被害者に対しては賠償を行なうことが求められる。

55. 国は、法執行機関の上級職員が非差別の方針および実務を促進し、職員の行動を厳しく監視し、かつ、内部的な独立の監督機構を通じ、違反行為について職員に責任をとらせることを確保するべきである³⁸。職員の意思決定および実務に関するデータを利用できるようにすることならびにそのデータを分析することによって、このような対応を支援することができる。上級職員はまた、周縁化された集団およびコミュニティに不均衡な影響を及ぼす可能性がある法律の適用および摘発活動の影響も検証するべきである。

56. 国内人権機関および市民社会組織は、レイシャル・プロファイリングの発生を監視し、かつそのようなプロファイリングの被害者を援助するよう奨励される。これらの機関および組織は、公衆の意識を高め、調査結果を発表し、改革を求めてロビイングを行ない、かつ、法執行機関および国・地方のその他の機関と建設的に連携するべきである。

57. 国内的・地域的人権機構、国内人権機関および平等機関、市民社会グループならびに一般市民は、法執行機関の差別的実務に関して苦情を申し立てることができるべきである。一般市民による苦情申立ては独立の機構を通じて行なえるようにすることが求められる。

G.    人工知能
58. 国は、法執行目的で用いられるアルゴリズムによるプロファイリング・システムが国際人権法を全面的に遵守したものであることを確保するべきである。この目的のため、国は、このようなシステムを調達しまたは配備する前に、その利用目的を決定し、人権侵害を防止するためのパラメーターおよび保障措置を可能なかぎり正確に規制することを目的とした、適切な立法上、行政上その他の措置をとるよう求められる。このような措置においては、とくに、アルゴリズムによるプロファイリング・システムを配備することによって、差別されない権利、法の下における平等に対する権利、身体の自由および安全に対する権利、無罪推定に対する権利、生命に対する権利、プライバシーに対する権利、移動の自由、平和的集会および結社の自由、恣意的な逮捕その他の介入からの保護ならびに効果的救済措置に対する権利が損なわれないことの確保が目的とされるべきである。

59. 国は、データ収集における代表性の欠如のために誤認につながりうる顔認証技術を採用する前に、人権に関わる潜在的影響を慎重に評価するべきである。全国的配備の前に、国は、誤認および皮膚の色に基づくプロファイリングが発生するいかなる可能性も低下させるため、住民の多様な構成を反映する個人を包摂した独立の監督機関による監督のもと、試験期間を設けることを検討するよう求められる。

60. 国は、法執行目的で配備されるアルゴリズムによるプロファイリング・システムが透明性を志向して設計されることを確保するとともに、研究者および市民社会に対し、そのコードにアクセスして吟味の対象とすることを認めるべきである。これらのシステムが人権に及ぼす影響については、配備が終了するまで継続的に評価およびモニタリングが行なわれるべきであり、国は、人権に対するリスクまたは危害が特定されたときは適切な緩和措置をとるよう求められる。これらのプロセスにおいては、アルゴリズムによるプロファイリング・システムによって生じる、人種、皮膚の色、世系または国もしくは民族的出身およびこれらの事由とその他の事由（宗教、性別およびジェンダー、性的指向およびジェンダー・アイデンティティ、障害、年齢、移住者としての地位ならびに職業またはその他の地位を含む）との交差に基づく潜在的なおよび実際の差別的効果が検討されるべきである。このような検討は、可能な場合には常にそのようなシステムの開発または取得の前に、また最低でも当該システムの利用前におよび全利用期間を通じて、行なうことが求められる。このようなプロセスにはコミュニティ影響評価も含まれるべきである。評価および影響緩和のためのプロセスには、影響を受ける可能性があるまたは実際に影響を受けている集団および関連の専門家を含めることが求められる。

61. 国は、アルゴリズムによるプロファイリング・システムの利用における透明性を確保するた め、あらゆる適切な措置をとるべきである。これには、このようなシステムの利用について公に開示するとともに、システムの運用方法、用いられるデータセット、および、人権への危害を防止しまたは緩和するために設けられている措置について意味のある説明を行なうことが含まれる。

62. 国は、独立の監督機関が、公共部門による人工知能ツールの利用を監視する権限、および、これらのツールが不平等をいっそう根深いものとしまたは差別的結果を生じさせることがないようにする目的で、条約にしたがって定められた基準に照らして当該利用を評価する権限を有することを確保するための措置をとるべきである。国はまた、欠陥を評価しかつ必要な是正措置をとる目的で、このようなシステムの運用の恒常的な監視および評価を確保することも求められる。ある技術を評価した結果、差別または他の人権侵害が生じるおそれの高いことが明らかになった場合、国は当該技術の利用を回避するための措置をとるべきである。

63. 国は、民間部門による法執行分野での人工知能システムの設計、配備および実施において、人権基準が遵守されることを確保するための措置をとるべきである。国はまた、人種差別または条約違反である可能性が高い他のあらゆる形態の差別一般につながる可能性があるアルゴリズムのプログラミング、利用および商品化において企業が遵守しなければならないガイドラインおよび行動規範が採択され、かつ定期的に改訂されることも確保するよう求められる。

64. 国は、公共部門機関、民間企業およびその他の関連の組織が、アルゴリズムの開発、学習、マーケティングおよび利用の過程で、(a) ビジネスと人権に関する指導原則（とくに指導原則 1～ 3、11 および 24）にしたがって平等および差別の禁止の原則を遵守しかつ人権一般を尊重すること、(b) 予防原則、および、透明性を確保するために定められたすべての行政上または立法上の措置を尊重すること、(c) 法執行機関による個人の私的データへのアクセスの有無を公に開示すること、ならびに、(d) 条約が保護する社会的集団への特異なまたは不均衡な影響を引き起こさないようにすることを確保する規制を採択するべきである。

65. 国は、アルゴリズムによるバイアスが発生したあらゆる事件が適正に調査され、かつ制裁が科されることを確保するべきである。

66. 国は、法執行目的で用いられるアルゴリズムによるプロファイリング・システムを開発し、販売しまたは運営している企業が、複数の学問分野（社会学、政治学、コンピューター科学および法学など）の個人を関与させ、人権に対するリスクを定義し、かつ人権の尊重を確保する責任を負うことを確保するべきである。この目的のため、国は、企業に対し、人権デューデリジェンス・プロセスの実施を奨励するよう求められる。このプロセスは、(a) 人権に対する実際のまたは潜在的な悪影響を特定しかつ評価するためのアセスメントを実施すること、(b) これらのアセスメントを統合し、かつ、特定された人権に対する悪影響の防止および緩和のために適切な対応をとること、(c) 自社の取り組みの有効性を追跡すること、および、(d) 人権に対する影響にどのように対処したかを公式に報告することをともなうものである³⁹。

67. 人権に対する影響を特定し、評価し、防止しかつ緩和する過程で、企業は、前掲パラ 32 に掲げられたデータ関連要因に特段の注意を払うべきである。訓練用データの選定およびモデルの設計は、差別的結果および人権へのその他の悪影響を防止できるような形で行なうことが求められる。さらに、企業は、アルゴリズムによるプロファイリング・システムの開発チームにおける多様性、公平性およびその他の包摂手段を追求するべきである。企業はまた、自社のアルゴリズムによるプロファイリング・システムが独立の第三者によって審査されることに対し、開かれた姿勢をとることが求められる⁴⁰。国の利用計画または予見される国の利用方法の性質などの理由により、差別その他の人権侵害のリスクがあまりにも高くまたは緩和不可能であると評価された場合、民間部門の関係者はアルゴリズムによるプロファイリング・システムを販売しまたは配備するべきではない。

68. 国は、人工知能に関連する人種差別の事案ならびに防止措置、制裁および救済措置を記録するとともに、当該情報を委員会に対する報告書に記載するべきである。

69. 人権機関、国、国内人権機関および市民社会組織は、人工知能から生じる人種的バイアスに対処する効果的措置（人権の遵守および機械学習の倫理に関連するものを含む）に関する研究の実施、その結果の普及および優れた実践の特定を進めるとともに、アルゴリズムのプログラミングおよび訓練における解釈または透明性の観点から関連の基準を明らかにするべきである。その際、あらゆる形態の人種差別の撤廃に関する国際条約の視点を通じてそのような対応をとることが求められる。

¹ 一般的勧告草案のための意見書は www.ohchr.org/EN/HRBodies/CERD/Pages/GC36.aspx より参照可能である。
²  CERD/C/RUS/CO/23-24, paras. 15–16; CERD/C/CAN/CO/21-23, paras. 15–16; CERD/C/ITA/CO/19-20, paras. 27–28; CERD/C/ESP/CO/21-23, para. 27; CERD/C/SVN/CO/8-11,para.  8 (d); CERD/C/POL/CO/20-21,  para. 11;  CERD/C/NLD/CO/19-21, paras. 13–15;CERD/C/CHE/CO/7-9, para. 14; and CERD/C/USA/CO/7-9, paras. 8 and 18.
³ CCPR/C/96/D/1493/2006.
⁴ CCPR/C/NZL/CO/6, paras. 23–24; CCPR/C/AUT/CO/5, paras. 19–20; CCPR/C/FRA/CO/5, para. 15; CCPR/C/ESP/CO/6, para. 8; CCPR/C/RUS/CO/7, para. 9; and CCPR/C/USA/CO/4, para. 7.
⁵ CAT/C/USA/CO/3-5, para. 26; CAT/C/CPV/CO/1, para. 20; CAT/C/ARG/CO/5-6, para. 35; and CAT/C/NLD/CO/7, paras. 44–45.
⁶ A/HRC/4/26, paras. 34 and 83.
⁷ CERD/C/MUS/CO/20-23 and Corr.1, paras. 20–21; CERD/C/BLR/CO/20-23, paras. 23–24; CERD/C/ESP/CO/21-23, para. 27; and CERD/C/DEU/CO/19-22, para. 11.
⁸ CERD/C/MUS/CO/20-23 and Corr.1, para. 20; and CERD/C/RUS/CO/23-24, paras. 15 (b) and 16 (c); CERD/C/CAN/CO/21-23, paras. 15 and 16 (a)–(d); and CERD/C/ITA/CO/19-20, paras. 27–28.
⁹ Inter-American Commission on Human Rights, “The situation of people of African descent in the Americas” (2011), para. 143.
¹⁰ アラブ人権委員会（Arab Human Rights Committee）の意見書参照。
¹¹ A/HRC/29/46, para. 2.
¹² United Nations, Preventing and Countering Racial Profiling of People of African Descent: Good Practices and Challenges (2019), p. v.
¹³ A/73/354 参照。
¹⁴ たとえば、Simone Cusack, “Gender stereotyping as a human rights violation”, research report commissioned by the Office of the United Nations High Commissioner for Human Rights (2013) 参照。
¹⁵ たとえば CERD/C/IRL/CO/3-4, para. 18 参照。
¹⁶ 一般的勧告 13 号（1993 年）参照。
¹⁷ たとえば A/HRC/24/52/Add.2, para. 57 参照。
¹⁸ CERD/C/RUS/CO/23-24, paras. 15–16; CERD/C/SVN/CO/8-11, paras. 8–9; and CERD/C/AUS/CO/18-20, para. 14.
¹⁹ あらゆる形態の人種差別の撤廃に関する国際条約第 5 条も参照。
²⁰ アルゴリズムによるプロファイリングには、傾向、パターンまたは相関を特定するためのデータ分析で用いられる、あらゆる段階的電算処理技法が含まれる。European Union Agency for Fundamental Rights, Preventing Unlawful Profiling Today and in the Future: A Guide (2018), p. 97.
²¹ 「人工知能」という用語は広く用いられているものの、明確には定義されていない。意見および表現の自由に対する権利の促進および保護に関する特別報告者は、人工知能という用語はしばしば、自動化された計算による意思決定に関連した自律性、速度および規模の高まりの簡略表現として用いられていると指摘している。これは単一のものだけを言うのではなく、さもなければ人間が行なう特定のタスク（意思決定や問題解決など）をコンピューターが補完・代替できるようにするプロセスおよび技術の「集合体」を指しているのである（A/73/348, para. 2）。
²² A/HRC/44/57 参照。
²³ AI Now, “The AI Now report: the social and economic implications of artificial intelligence technologies in the near-term”, summary of the AI Now public symposium hosted by the White House and the Information Law Institute of New York University on 7 July 2016, p. 7.
²⁴ A/73/348, para. 38.
²⁵ たとえば、過去の差別的慣行（ある集団の構成員に不均衡に影響を及ぼす形で逮捕が行なわれていたことなど）がプロファイリングのために用いられるデータに反映されている場合、アルゴリズムによるプロファイリングの結果に影響が生じることになろう。
²⁶ European Union Agency for Fundamental Rights, “#BigData: discrimination in data-supported decision making”, FRA Focus paper (2018), pp. 4–5.
²⁷ Rashida Richardson, Jason M. Schultz and Kate Crawford, “Dirty data, bad predictions: how civil rights violations impact police data, predictive policing systems, and justice”, New York University Law Review, vol. 94 (May 2019) 参照。
²⁸ たとえば。Julia Angwin and others, “Machine bias”, ProPublica, 23 May 2016 参照。
²⁹ A/HRC/44/57, para. 14.
³⁰ A/HRC/41/35, para. 12.
³¹ A/HRC/39/29, para. 14.
³² A/HRC/41/35, para. 12.
³³ Joy Buolamwini and Timnit Gebru, “Gender shades: intersectional accuracy disparities in commercial gender classification”, Proceedings of Machine Learning Research, vol. 81 (2018) on the proceedings of the Conference on Fairness, Accountability, and Transparency; and Inioluwa Deborah Raji and Joy Buolamwini, “Actionable auditing: investigating the impact of publicly naming biased performance results of commercial AI products” (2019), Conference on Artificial Intelligence, Ethics, and Society 参照。
³⁴ Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code (Polity, 2019).
³⁵ ニカラグアの意見書。
³⁶ 刑事犯罪の防止、捜査、摘発もしくは訴追または刑事罰の執行を目的として権限ある当局が行なう個人データ処理に係る自然人の保護および当該データの自由な移転に関する、かつ理事会枠組決定 2008/977/JHA を廃止する、2016 年 4 月 27 日の欧州議会・欧州理事会指令(EU) 2016/680、第 3 条（4）。
³⁷ 人種主義および不寛容に反対する欧州委員会、一般政策勧告 11 号、パラ 10 および解説。
³⁸ 前掲パラ 53 参照。
³⁹ A/HRC/39/29, para. 45 および「ビジネスと人権に関する指導原則」の指導原則 17～21。アムネスティ・インターナショナルおよびアクセス・ナウ「トロント宣言：機械学習システムにおける平等および差別に対する権利の保護」（Toronto Declaration: Protecting the Right to Equality and Non- Discrimination in Machine Learning Systems）も参照。
⁴⁰ 「トロント宣言：機械学習システムにおける平等および差別に対する権利の保護」参照。