社福制度自動化 引發塞爾維亞貧窮及歧視問題

世界銀行長期在巴爾幹地區的經濟轉型中扮演重要角色，在 2021年，塞爾維亞在一項由世界銀行所資助，總額高達8,260萬歐元的龐大貸款下，採用了社會卡登記系統，以作為改善貧困問題及社會安全制度的手段，然而，貧窮、社會及種族歧視問題卻並未受到改善。

《社會卡法》(Social Card Law)的基礎是社會卡登記系統，這個全面中心化資訊系統使用自動化程序，從眾多官方政府資料庫整合社會救助申請人和救濟對象的個人資訊和其他資料。除了資料整合以外，這個登記系統也採用半自動決策評估社會救助的資格， 並標記出需要社工審查的案件，若系統發現其整合的資料不符合救ƒ濟資格，就會通知社工盡快審查案件。

雖然塞爾維亞政府通過《社會卡法》，目的是要讓社會救助更公平、更有效率，但法律實際執行的效果卻事與願違。將科技引入本就不夠完善的社會救助體系，事實上會加劇本就存在的漏洞，進一步限制民眾得到社會安全的管道。雖然確實由於新系統而遭拒社福申請的具體數字仍然未知，政府自己的統計數字指出在2023年8月，系統內的救濟人數為17萬6,000人，和2022年3月新法生效 時相比，少了3萬5,000人。這個數字不代表所有因《社會卡法》執行缺失而失去社會救助的人，但顯示出救濟人數不斷下滑的趨勢。救濟人數正好在法律生效時大幅下滑，與塞爾維亞高達總人口7%且居高不下的絕對貧窮率形成鮮明對比。這代表接近500萬人生活在每月1萬2,500塞爾維亞第納爾(約為新台幣3,600元)的貧窮線以下，無法負擔其基本需求。

微薄善款成 「收入」 婦失社福資格

2023年2月，米里亞娜的女兒意外過世，住在社宅的她，只靠著微薄的社會救濟維生，根本無法支付女兒的葬禮費用。當地人權組織因此協助安排喪禮事宜，並以捐款的形式將2萬塞爾維亞第納爾(約 170 歐元)存入米里亞娜的銀行帳戶。這筆錢立刻被《社會卡》登記系統標記為「收入」，當地社工中心隨後通知米里亞娜，她不再有資格獲得社會救濟。

無漏偏逢連夜雨，米里亞娜及她所住社區的居民恰好從一間當地公司獲得賠償金，該公司的開發計畫導致居民被趕出原本的住處。由於該公司將蓋新社會住宅的費用直接支付給社宅管理公司，居民本身並未拿到半毛錢。然而，由於居民被視為受益人，他們的名字立刻被社會卡登記系統做特別標示，米里亞娜的稅務紀錄也因此顯示她名下有這筆「額外收入」。

米里亞娜對這項讓她失去社福資格的裁定提出申訴，指出社會卡登記系統或其原始資料庫錯將這些捐款歸類為收入，在長達兩個月的悲劇生活後，米里亞娜意識到，失去唯一的生計——社會救助，使她深陷困頓，她只能為了系統資料不準確所造成的問題與官僚展開鬥爭。米里亞娜一直到2023年11月才在第二次申訴當中獲得勝利。

2023年3月，博格丹(Bogdan)試圖延長他和家人(包含4名年幼兒童)所仰賴的社會救助。但他不但沒有得到迫切需要的援助，反而得知他的銀行帳戶裡有「太多錢」。他表示:「這太荒謬了，我根本沒有銀行帳戶，而且9萬塞爾維亞第納爾(約為新台幣2萬5,865元)是一大筆錢。我試著從社會工作中心取得更多這個銀行帳戶的資訊，但他們無法提供。他們說取得書面文件證明這件事有誤是我的義務。」國際特赦組織訪問博格丹的時候，他正在試著蒐集證據證明自己沒有銀行帳戶，名下也沒有資金，才能重新申請社會救助。失去社會救助導致博格丹的家庭陷入嚴重危機。

2022年3月《社會卡法》生效之後，引入自動化程序評估申請人是否符合多種社會救助計畫的資格，可能有成千上萬人因此失去社會救助，博格丹就是其中之一。

新制亂象八元凶

資料不準確

社會卡登記系統在申請人的收入和資產方面時常仰賴不準確的資料來源。在相關案件中，民眾因為登記系統搜集的資料來源完全錯誤，錯誤描述其收入狀態或記錄某人從未得到的收入而失去社會救助。

前文提及的米里亞娜便是其中之一。在高度仰賴資料判定民眾是否符合資格的系統中，資料必須要準確，才能確保判定結果正確且公平。然而，塞爾維亞當局在確保所有系統參考的資料庫符合標準，且資訊準確無誤方面做得不夠，導致社會卡登記系統恣意剝奪民眾的福利。

邊緣化族群在資料完整性上的問題

不只是社會卡登記系統中有些資料不準確或分類錯誤，系統高度仰賴資產的原始資料，也引發資料完整性相關擔憂，尤其是資料涉及邊緣化族群的時候。系統發現有些人名下有多台車，他們因此失去社會救助，但這些車在多年前早已當成報廢金屬售出。在塞爾維亞全境，報廢金屬供應商為了避稅，在向羅姆人收購報廢的汽車後，經常不將汽車轉移至名下。在某些案例中，這會導致民眾失 去社會救助。在採用社會卡登記系統前，社工能行使一定程度的決定權，也理解擁有汽車的紀錄可能並不可靠，新系統則完全依賴無法完整呈現民眾生活複雜性的資料，大幅降低了考量背景和執行現場評估的可能性。

國際特赦組織的一名受訪者丁科(Dinko)，他的家庭共有9人，包含妻子、5個孩子和年邁的父母，他描述在2023年4月，社工中心的工作人員告訴他，由於社會卡登記系統顯示他的父親擁有2台車，因此他的家庭不能再接受社會救助。丁科解釋這2台車分別於2013年和2016年登記在父親名下，一直處於無法駕駛的狀態，也在多年前當成報廢金屬售出。不幸的是，丁科的父親從未正式取消2台車的登記，因為他不曉得自己有必要這樣做，或是不取消可能影響社會救助。丁科一家因此在嚴重的經濟困境中度過好幾個月，他們不只失去社會救助，也失去其他福利，例如前往愛心廚房領取食物。

偏見自動化?

雖然社會卡登記系統不會就社會救助的資格做出決定，國際特赦組織訪問的救助對象卻指出，社工表示決策依據「新系統」做成，並且堅稱他們無法違反或撤銷根據其經驗判斷明顯有誤的通知。在我們的訪問中，記錄到社工最常給出的回覆可能是:「我無能為力，做決定的是貝爾格勒的新系統。」再加上社工缺乏如何使用該系統作為輔助，而非完全遵循其輸出結果，並減輕自動化潛在偏見的培訓，引發了對於《社會卡法》似乎已大幅改變社工角色的擔憂，社工不再能夠或無權使用自身的判斷力，評估資格資料是否 準確，或是否準確反映申請人的社會經濟狀況。

系統僅會追蹤可能導致救助對象失去資格的變化

社會卡登記系統的設計似乎無法取得新資訊，無法確保現況在近一個月內惡化的救助對象得到應有的社會保障。社會卡登記系統會自動定期更新，但似乎會優先追蹤家庭狀況的變化，導致失去社會救助的資格或減少救助內容，而非提升資格。舉例而言，若系統認為某人近一個月賺取額外收入，就會立刻標記該人讓社工檢查，社工便有可能取消該人的社會救助或減少救助金額。然而，若 該人在下一個月沒有賺取同樣收入，系統不會立即或自動恢復他的社福補助，因為他的資料已不在系統裡。雖然這個功能明顯對政府 的預算有利，卻對需要重新申請以便恢復社福補助的人造成額外負擔，也不符合政府確保社會救助之分發更公平、更具包容性的目標。

社會卡登記系統運作受原有的社會救助限制影響

國際特赦組織訪問了在社會卡登記系統標記他們的收入高於最底門檻後失去社會救助的人。但這些收入來源，通常是民眾收集二手原料後販售而得的微薄收入，用來提升一點點社會保障，通常也無法滿足其基本需求。這些微薄的收入並不穩定，不能顯著改善民眾的經濟狀況，也無法幫助他們擺脫貧窮。

現有的社會救助制度會懲罰試圖補足社會救助和實際生活成本之間差距的人，社會卡登記系統則讓資料無法更動，取消了社工在評估申請時能行使的所有裁量權，導致社會救助快速減少。

歧視性的後果

社會卡登記系統可能對羅姆人、身心障礙者，以及其他在社會救助系統中比例極高、因資料平等問題而處於不利地位的邊緣化族群，造成特別嚴重的傷害。當局向國際特赦組織介紹登記系統時，稱其為中立技術解決方案。然而實際上，這個登記系統無法脫離所處的社會和歷史背景。新系統並沒有考量到或是緩解這些族群現在面臨的挑戰，反而為取得支持創造出新的阻礙，也加劇了結構 性歧視。

整合邊緣化族群原始且經常不具代表性的資料，導致這些族群的資格受恣意評估。評估程序完全忽略有些人因為生活條件不穩定、識字或數位能力低，加上不信任當局等綜合因素，而無法好好保存所有行政事務最新紀錄的事實。

當局並未採取任何特別措施，確保受影響的個人和群體擁有新系統如何運作，以及會如何影響社會救助資格狀況的資訊。沒有事先針對這些族群進行資訊宣導，也沒有足夠的潛在歧視保障措施便引入資料密集系統，必定會傷害某些族群，例如羅姆人。當局未
能辨識、避免和減輕取得補助潛在的新障礙，可能構成間接歧視。

缺乏補救措施

民眾恢復社會救助資格所需的時間，和民眾失去資格的速度形成鮮明對比。上訴和檢視案件的機制並未提供有意義且有效的補救。失去社會救助的個人有15天的時間提出上訴，但許多人認為這個期限太短，不足以蒐集成功上訴所有需要的證明文件。若民眾錯過15天的期限，無論其社會救助的資格或需要為何，皆需被迫等待3個月才能重新申請補助。社會卡登記系統的運作方式不透明，加上缺乏案件如何做出決策的資訊，對提出上訴的人產生勸阻效果。

缺乏透明度

勞動部並未公開社會卡登記系統的運作方式，也沒有提供截至目前為止對登記系統進行的任何人權風險評估。國際特赦組織認為，必須檢視社會卡登記系統上路以來標記為需調查案件，才能確認系統是否產生歧視性結果。

由於缺乏透明度，目前無法分析登記系統的運作方式。這會破壞塞爾維亞對公共事務透明度原則的承諾，也對確保有效究責形成阻礙。若有更多關於社會卡登記系統的細節，確實能夠讓受影響的社群及更多的公民社會監督其運作、即時指出問題，並行使救濟權和評估系統的效果。提高透明度能促進究責、改善和理解系統，也有助於建立對於系統及其運作的信任。

塞爾維亞的社會卡登記系統證明我們長久以來的認知:在社會救助制度中使用自動化系統，會加劇不平等、加深或擴大歧視，也會對人權形成重大風險。

國際特赦組織演算法問責實驗室負責人Damini Satija

「社會卡登記系統加劇了塞爾維亞社會安全制度現有的漏洞，也揭露了缺乏任何侵犯人權保障即採用自動化真實存在的危險。若沒有仔細關注，資料驅動的自動化系統極有可能成為排除、針對和壓迫的機制。」

「世界銀行和包含塞爾維亞在內的各國政府，在設計和執行類似計畫期間，皆必須執行完善的人權風險評估，確保系統設計能夠消除潛在的人權威脅。更重要的是，如果系統的人權風險無法避免，該系統便無法達成其目的，不應推出。」