【科技與人權】「社會兩難」的解法:改善大型科技業的商業模式

文/ 國際特赦組織科技部 Rasha Abdul Rahim
 
2020年的大事之一,是人們更加依賴用於社交連結和社交互動的線上平台。Facebook和Google等線上平台和服務在疫情期間提供了很多人機會,讓人們能夠繼續與家人和朋友保持聯繫,透過網路遠距上班和上學,也藉此獲取最新的健康資訊。但是,這種便利性犧牲了我們的人權,包括心理健康。9月Netflix發行的新紀錄片《智能社會:進退兩難》(The Social Dilemma)強力的展現了這一點。
 
《智能社會:進退兩難》幫助我們了解這些線上平台如何持續監視和控制我們的生活方式。整個地球有三分之一受到監視,這是「楚門的世界」發展到極致的狀況。
 
4月時,Google前執行長艾立克.史密特(Eric Schmidt)詳細說明:「這些大公司的優勢(也就是我們熱衷於破壞的那些優勢)在溝通能力上…在取得資訊的能力上,是很強的…」「這些公司得到資本並進行投資,打造了我們今日所使用的工具,這些工具也的確幫助了我們。」他也提到,人們應對此感到感激。然而,在這部紀錄片中,矽谷內部人士描繪了截然不同的景象。他們認為,人性最糟糕的一面持續透過這些平台被表現出來,這是這些平台的設計方式所導致的直接結果。
 
這些線上平台的目標在於最佳化三件事情:(一)它們可以讓人們目不轉睛地盯著螢幕長達多久;(二)它們可以得到多少新的使用者;(三)透過向盯著螢幕的人提供廣告,可以製造多大的廣告收益。
 
這些目標都對應到線上平台的潛在商業模式,這種商業模式本質上是透過蒐集我們的個人資訊來獲利。該模型的基本特徵是透過讓人們盡可能長時間地停留在平台上,進而蒐集大量的數據,並使用這些數據來詳細推論關於人們的生活和行為,並透過出售這些預測資料給任何想影響該群眾的人,藉此將這個模式轉變為金錢。
 
正如國際特赦組織2019年提出的報告中所警告,Facebook和Google立基於監視的商業模式,不僅在本質上與隱私權互相對立,還對其他權利構成系統性威脅,包括意見與表達自由、思想自由以及平等和不受歧視的權利。
 
YouTube的演算法會決定下一部即將播放的影片,Facebook的演算法則決定了我們牆上的內容以及對我們投放的廣告。這些演算法常常放大假資訊爭議性的內容,因而助長種族歧視,甚至影響到個人的信念和見解
 
這部紀錄片揭露了主要由白人男性所組成的矽谷團隊如何被賦予一項明確的任務——利用人類心理上的脆弱,包括人類容易成癮、對社會認同的需求,以及對煽動和聳動內容的偏好。這正是因為這些公司發現:讓我們長期使用其線上平台、獲取愈來愈多關於我們的數據、對我們做出更準確預測、從而向我們投放廣告以獲利的最佳方法,就是利用人心的脆弱。
 
換言之,目前在地球上三分之一的範圍內運行的一整個資訊生態系統,其目的不是為我們服務,而是為了操縱和利用我們。Facebook和Google的服務看似「免費」,但正如Google前任設計師Tristan Harris在紀錄片中所說的那樣:「如果你沒有為產品付費,那你本身就是產品。」這些公司的線上平台居於主導地位,這代表如果人們不「同意」這種基於監視的商業模式,那麼實際上就不可能在網路上進行互動。
 
雖然這部紀錄片將這種商業模式定位為一種「社會兩難」,但它根本不必成為一個兩難困境。儘管我們被引導去相信網路的運作必須依靠監視,但事實並非如此。網路並不需要依賴監視來運作。在Facebook或Google等線上平台還很尊重使用者隱私的時期就已註冊,或在這些平台開始要求取得個人資訊之前註冊帳號的人,現在面臨了一個選擇:離開自己所依賴的服務,或是屈從於持續的監視。這不是(也不應該是)一個合理的選擇。
 
我們急切需要政府採取行動,制定規範,以改善這種商業模式並保護人們的權利。這是一個系統性和結構性的問題,因此不易處理,必須結合政治面、法律面和結構面的方案才能得到改善。
 
如果不能解決Facebook和Google所握有的數據和權力過度集中的問題,只對追蹤和使用個人數據的行為設下更嚴格的限制,並不足以解決問題。與此同時,有愈來愈多的的政治人物、監管機構和學者提倡讓大型科技業「分家」,但這些人若不強烈呼籲政府全盤改善這種基於監視的商業模式,僅提倡讓大型科技業分家並無益於解決系統性的人權侵害問題。
 
沒有一種方法可以單獨解決這個問題,我們也無法獨力解決這個社會兩難困境。我們需要政府的領導與緊急措施保護我們免受大型科技業的侵害。
 
本系統已提升網路傳輸加密等級,IE8及以下版本將無法支援。為維護網路交易安全性,請升級或更換至右列其他瀏覽器。