歐洲議會恐在《人工智慧法案》合法化侵入性科技

國際特赦組織在歐洲議會定於2023年6月14日投票前表示，歐洲議會應利用全體會議的表決確立其在歐盟《人工智慧法》（Artificial Intelligence Act）中的最終立場，禁止針對移民和其他邊緣群體的種族主義和歧視性特徵分析系統。

歐洲議會可能推翻5月11日委員會投票中達成的重大人權保護，替直接牴觸國際人權法的科技使用開啟大門。

—人工智慧監管倡議顧問 Mher Hakobyan

國際特赦組織呼籲歐洲議會在具有里程碑意義的《人工智慧法案》中禁止使用大規模監控科技，例如溯及既往和即時遠端生物辨識技術。

國際特赦組織的研究顯示，侵入性的人臉辨識技術加劇了對特定族群的種族主義和歧視性執法行為，包括對黑人和棕色人種不成比例的攔截和搜查等。此外，這些技術還被用於限制和阻止移民還有尋求庇護者的移動。

國際特赦組織的人工智慧監管倡議顧問Mher Hakobyan表示：「歐洲議會可能推翻5月11日委員會投票中達成的重大人權保護，替直接牴觸國際人權法的科技使用開啟大門。」

立法者必須禁止帶有種族歧視的特徵分析系統和風險評估系統，這些系統將移民和尋求庇護者標籤為『威脅』；也應禁止用於預測邊境活動並剝奪人們庇護權的預測技術。

——人工智慧監管倡議顧問 Mher Hakobyan

在試圖加強「歐洲壁壘」(Fortress Europe)的過程中，歐盟成員國越來越頻繁訴諸於不透明且具有敵意的技術，並將其濫用於在邊境的移民、難民和尋求庇護者。

人工智慧監管倡議顧問 Mher Hakobyan指出：「在這樣一個持續對逃離戰爭衝突或尋求更好生活的人充滿敵意的環境中，至關重要的是，歐洲議會不能忽視種族歧視性人工智慧系統所帶來的危害。立法者必須禁止帶有種族歧視的特徵分析系統和風險評估系統，這些系統將移民和尋求庇護者標籤為『威脅』；也應禁止用於預測邊境活動並剝奪人們庇護權的預測技術。」

雖然《人工智慧法案》能幫助預防和減少歐洲新科技帶來的危害，但重要的是，歐盟不能透過向其境外出口惡劣的科技而助長人權侵害。《人工智慧法案》必須禁止出口任何在歐盟內不允許使用的系統，例如人臉辨識和其他監控技術。

國際特赦組織的研究發現，一家名叫TKH Security的荷蘭公司生產的攝影機被用於東耶路撒冷的公共空間和警察基礎設施，以進一步鞏固以色列政府對巴勒斯坦人的控制，並助長以色列針對巴勒斯坦人的種族隔離制度。

類似的調查也顯示，法國、瑞典和荷蘭的公司向中國的大規模監控系統主要參與者出售了數位監控系統，例如人臉辨識技術（facial recognition technology, FRT）和網路監控攝影機。在一些情況下，這些出口物甚至直接用於中國無差別的大規模監控計劃，並有可能被用於全國上下針對維吾爾人和其他主要是穆斯林的少數族群。

Mher Hakobyan表示：「歐洲議會有責任維護人權。任何未能全面禁止用於大規模監控、種族主義執法和特徵分析系統的技術，都將是一種失職。」

「歐盟立法者還必須確保，禁止在歐盟內使用的技術不會被出口到其他地區用於侵犯人權。這個立法必須保護和促進所有人的人權，而不僅僅是歐洲人的人權。」

背景資訊

歐盟執委會於2021年4月21日提出了有關人工智慧使用的立法建議。由歐盟國家政府組成的歐盟理事會於2022年12月採取了其立場。歐洲議會計劃於6月14日進行最終投票，以形成其官方立場，之後將與執委會和理事會共同協商統一法規。

國際特赦組織作為由歐洲數位權利組織（ European Digital Rights Network, EDRi）領導的民間社會組織聯盟的一員，一直呼籲歐盟制定保護和促進人權的人工智慧監管措施。