TikTok的「為你推薦」可能推薦對兒童和年輕人心理健康有害的內容

※本文內容可能引發強烈情緒反應

• 技術研究顯示，推薦給肯亞、菲律賓和美國13歲模擬帳戶的影片，接近半數含有可能對心理健康有害的內容。
• 在設立實驗帳戶不到一小時後，研究員便在「為你推薦」頁面上看到美化、正常化或鼓勵自殺的內容。
• TikTok的商業模型本質上帶有惡意，為吸引用戶而極度重視參與度，進而蒐集更多個人資料。

國際特赦組織於11月7日發表的2份報告顯示，TikTok的內容推薦系統及其背後的商業模型，提高了憂鬱症和自殺相關內容的聲量，可能加劇現有的心理健康挑戰，也對平台的年輕用戶帶來危險。

《陷入黑暗：TikTok如何鼓勵自傷和自殺念頭》以及《我的祕密好像被揭穿了：陷入TikTok的監視網路》這2份報告，特別指出TikTok的兒童和年輕用戶遭受的傷害，以及這些傷害由TikTok的推薦系統及其背後的商業模型造成。

平台的演算法內容推薦系統，讓該平台得以在全球快速興起，但也讓已受心理健康困擾的兒童和年輕人面臨嚴重的傷害風險。

國際特赦組織研究員麗莎・迪特默

這些研究結果來自國際特赦組織與演算法透明度研究院（Algorithmic Transparency Institute，ATI）、全國公民大會（National Conference on Citizenship），以及人工智慧鑑識（AI Forensics）的夥伴共同進行的技術調查。

國際特赦組織研究員麗莎・迪特默（Lisa Dittmer）表示：「這些研究結果揭露TikTok的控制欲和成癮性設計，目的為盡量延長用戶的使用時間。研究結果也顯示平台的演算法內容推薦系統，讓該平台得以在全球快速興起，但也讓已受心理健康困擾的兒童和年輕人面臨嚴重的傷害風險。」

「為你推薦」內容

這次技術研究利用超過30個代表13歲肯亞與美國用戶的模擬帳號，測試TikTok的推薦系統對於年輕用戶的影響；另外以手動模擬操作肯亞、菲律賓與美國的帳號各一。

《陷入黑暗：TikTok如何鼓勵自傷和自殺念頭》詳述TikTok無所不用其極地吸引年輕用戶注意，很可能加重心理健康風險，例如憂鬱、焦慮與自傷等。

TikTok的「為你推薦」是高度個人化並可無止盡瀏覽的頁面，由演算法推薦選出系統認為用戶有興趣的內容。

技術研究顯示，使用TikTok平台5至6小時後，幾乎每兩部影片中就有一部與心理健康有關，且都具潛在有害風險，與對心理健康議題沒有興趣的用戶比較，出現數量整整高出10倍之多。

此外，研究員手動重新觀看推播給肯亞、菲律賓與美國13歲用戶模擬帳號的心理健康內容時，出現的「無底洞漩渦」變得更加嚴重。

在手動調查來到3至20分鐘時，「為你推薦」中的影片超過一半為心理健康困擾，短短一小時內出現許多美化、正常化甚至鼓勵自殺的推薦影片。

讓人上癮的設計

根據焦點團體討論、訪談內容，以及肯亞、菲律賓和美國的模擬帳號，加上現有的社群媒體傷害研究以及公共衛生等內容，都顯示TikTok的平台設計鼓勵用不健康的方式來使用應用程式。

馬尼拉的21歲大學生Luis*曾經確診躁鬱症，他告訴國際特赦組織使用TikTok「為你推薦」頁面的經驗。

「它就像個無底洞。從一個影片開始，如果一部影片吸引你的注意，就算你沒有按喜歡，下次打開TikTok也會再跳出來，而你因為覺得眼熟又看了一次，那部影片出現在推薦頁面的次數就會大幅上升。」

菲律賓八打雁省的18歲學生Francis*表示：「我看到一部讓我難過的悲傷影片時，我的『為你推薦』頁面會瞬間都是悲傷的內容，我就陷入了『SadTok』平台裡。平台會影響我的情緒。」

另一位焦點團體受訪者表示：「我看的內容讓我更容易胡思亂想，像是有些人生病或是自我診斷的影片等等。我的心理狀態深受影響，也讓我覺得自己有相同症狀，加重我的焦慮。但我根本沒有去搜尋，影片就自己跳出來了。」

一位菲律賓的21歲女性Joyce*表示：「我刪掉（Tiktok）一陣子了，因為我嚴重上癮⋯⋯我會在TikTok上花好幾小時滑影片，因為你就是忍不住想知道往下滑會出現什麼。」

肯亞的兒童與年輕受訪者都提到，覺得TikTok會影響課業以及和朋友社交的時光，讓他們在半夜不斷瀏覽推薦影片而沒有補充足夠睡眠。

研究期間，國際特赦組織諮詢多位青少年心理專家，證實以上證詞。

儘管年輕族群每個人的回應不同，影響社群媒體使用的背景也不一，但TikTok就像其他社群媒體平台一樣，選擇讓平台設計能盡可能延長用戶的使用時間。

「我們的研究顯示TikTok若持續目前的商業模式，讓用戶的目光一直停留在平台上，可能會讓兒童與年輕族群承受重大健康風險，忽略尊重兒童與年輕人的健康權。」國際特赦組織研究員麗莎・迪特默表示。

監控大網

《我的祕密好像被揭穿了：陷入TikTok的監視網路》顯示TikTok有害的使用者參與機制，讓該平台得以長期進行侵權的資料蒐集行為。

國際特赦組織的研究指出，TikTok的商業模式本質上帶有惡意，優先考量是讓用戶沉溺於使用該平台，才能蒐集更多用戶資料。TikTok也只在全球某些區域提供保障機制，造成有些兒童與年輕族群比其他地區的用戶更容易遭受資料蒐集侵權。

國際特赦組織科技部計畫副秘書長Lauren Armistead表示：「Tiktok在當地資料保護法規與條款較不足的區域，用許多侵入式資料蒐集方法鎖定包含兒童在內的用戶，這表示住在規範寬鬆國家的兒童面臨最嚴重的隱私權侵犯，包含許多主要民族不是白人（Global Majority）的國家。」

「TikTok必須尊重所有年輕用戶的權利，而不是只尊重歐洲地區的年輕用戶。TikTok必須在全球禁止針對18歲以下用戶的廣告內容。」

TikTok也必須停止高度個人化「為你推薦」的預設模式，讓用戶可以主動選擇有興趣的內容，形塑成他們的推薦頁面，若要個人化則必須經過他們的同意。

國際特赦組織呼籲TikTok採取緊急措施，邁向尊重權利的商業模式，相關條款也必須尊重與實踐兒童與年輕族群的權利。

要保障兒童與年輕族群的網路個人資料不被濫用，最好的方法就是由政府透過法律，禁止所有以侵入方式蒐集個人資料，進而生成的針對性廣告內容。

TikTok回應我們的研究結果，指出自己的社群原則已列出禁止發布的內容，如果檢舉或是發現不當內容就會從平台移除。禁止發布的內容包含「展示或宣傳自殺或自傷、提供自殺或自傷相關指示、相關挑戰、魯莽行為、遊戲及協議」、「展示或宣傳自殺或自傷的惡作劇」，以及「分享自殺或自傷的計畫」。

TikTok稱目前正在建立「全公司的人權盡職調查程序，將定期進行人權衝擊評估」。該企業並未詳細說明目前已辨識出的兒童與年輕族群風險。而TikTok目前尚未建立全公司的人權盡職調查程序，就足以顯示他們在尊重人權的責任上有重大失誤。

更多資訊

我們所發布的兩份報告都證實了國際特赦組織先前的研究報告內容。《監控巨頭》報告 (
Surveillance Giants）揭露Facebook與Google的商業模型本質上與隱私權背道而馳，同時威脅其它權利，包含意見與表達自由、思想自由，以及平等與反歧視等權利。

國際特赦組織的兩份報告《社會暴行：Meta與羅興亞人獲得補償的權利》（The Social Atrocity: Meta and the right to remedy for the Rohingya）以及《衣索比亞：Meta的失敗作為導致提格雷社群在北衣索比亞衝突中面臨侵害》（Ethiopia: Meta’s failures contributed to abuses against Tigrayan community during conflict in northern Ethiopia），均顯示Facebook平台的參與商業模式透過放大煽動暴力、仇恨與歧視的極端內容，導致毀滅性後果且助長嚴重的人權侵害。

上述報告都成為國際特赦組織在全球企業問責倡議中的證據，要求以監控型商業模式為主的Meta、Google、TikTok與其他「科技巨頭」處理造成的人權侵害議題。