不法始於設計：揭露生成式 AI 的人權代價

本報告探討建立於違法網路爬蟲基礎上的獨立式生成式 AI 系統，如何在設計、開發及部署過程中與國際人權法及相關標準發生衝突。雖然這些技術承諾提供高度自動化與效率提升，但其所依賴的資料蒐集與模型訓練方式，卻侵犯隱私權、助⻑歧視，並威脅言論自由與思想自由。

本報告分析多種廣泛公開使用的獨立式生成式 AI 工具所使用的模型，包括 ChatGPT、DALL-E、Gemini、Midjourney、Stable Diffusion 與 DeepSeek。研究對象涵蓋大型語言模型（LLMs），尤其是生成式預訓練轉換器（GPT）、生成對抗網路（GANs）、變分自編碼器（VAEs）以及擴散模型（Diffusion Models, DMs）。

國際特赦組織認為，建立於違法網路爬蟲之上的獨立式生成式 AI 系統，其設計本質上依賴大規模侵犯隱私，因此從根本上與國際人權法相衝突。基於此，國際特赦組織呼籲禁止此類系統。