alexa
置頂

你做的每個行為,都有「政府」幫你打分數!中國的「社會信用制度」將擴大到全世界?

21世紀的數位文化大革命?
文 / 一流人    
2021-07-15
瀏覽數 32,700+
你做的每個行為,都有「政府」幫你打分數!中國的「社會信用制度」將擴大到全世界?
僅為情境圖。取自pexels
分享 Line分享分享 複製連結

編按:「大數據、老大哥、大把銀子」三者之間的關係日益綿密複雜,催生了「智慧」鎮壓。演算法成了一種「迷思」,祕密控制我們的生活。儘管國外批評人士擔心會出現最壞的情況,但中國政府將這定調為現代「社會主義」社會創新的一環。(本文摘自《隱形牢籠》,作者為彼德.布隆Peter Bloom,以下為摘文。)

信用制度是現代「社會主義」社會創新的一環?

你是個好人嗎?你對社區和社會有正面還是負面影響?這些是多數人經常自問的問題。至目前為止,答案基本上很主觀也無法測量。中國的目標是徹底重新恢復個人私德與社會公益,不只是觀念,也包括實踐。中國領導人正設法對全國老百姓落實革命性的社會信用系統,有些人悲觀地稱此舉是「大數據遇到老大哥」:

想像你在這麼一個世界,許多日常活動不停受到監控與分析:你在實體店面與網路商店買了什麼;在某個時間,你人在哪兒;你的朋友是誰,你如何和他們互動;你花多少時間上網、打電動;你支付了(或沒有支付)哪些帳單、繳了什麼稅……現在,想像有一個系統,上述這些行為會被評定為正或負,然後濃縮成一個數字,給分標準是根據政府制定的規則。

儘管國外批評人士擔心會出現最壞的情況,但中國政府將這定調為現代「社會主義」社會創新的一環。中國政府宣稱,這個以數據為本的「信用」制度勢在必行,「建立誠信文化,落實誠信與傳統美德,以守信的激勵和失信的約束為獎懲機制,目的是提高全社會的誠信意識和信用水平」。

在實務上,不良的社會信用評分會限制你出遊,降低你的網速,你的小孩無法進入一流學校,你也無法找到好工作,無法進入高檔旅館,被貼上「壞公民」的羞辱標籤。在已開始實施社會信用制度的城市,一些公民已經見識到其正向成效。32歲的實業家陳先生表示:

我覺得過去6個月來,大家的行為愈來愈好。例如,我們開車時,現在一定會在行人穿越道前停下車禮讓路人。如果你不停車,你會被扣分。起初,我們是因為擔心被扣分,而今則是習慣停車禮讓了。

不僅限於中國的「智慧鎮壓」和「演算法」

儘管有人給予肯定,但這套系統依舊讓人打從心底擔心人類自由的未來。最起碼,它「讓人民承受成為模範公民的壓力」。它代表可能不是那麼混亂,但堪比21世紀的數位文化大革命,而且此現象不僅限於中國。誠如著名技術理論學家亞當.格林菲爾德(Adam Greenfield)所言:

這絕非中國所獨有,所以會擴大到其他地方,(一旦)別處的條件也成熟。社會信用的到來,預告了世界各城市的生活將會出現戲劇性的重大變化,這也包括你可能稱之為家的地方。 

但是原則上,它也可以充當為一次激進的機會,藉由大數據讓企業和政府更負責,因為它們的數據必須被公開追蹤與分享。不過實務上,一個更壓榨的現實埋伏在角落,蠢蠢欲動。社會信用制度的政策在貴州這樣的窮鄉僻壤先行上路測試,並非巧合,這裡的規定少,公共關注度也低,所以吸引了科技巨擘,諸如谷歌、微軟、百度、華為、阿里巴巴,皆陸續在此成立研究機構與數據中心,蘋果(Apple)在2018年稍後跟進。就此而言,「作為中國數據中心的地位,貴州雀屏中選成為地方政府實驗社會信用制度的理想實驗室」。這點揭露了科技界試圖把對數據那種「多還要更多」的無止盡欲望,結合了追求社會進步與文化美德,這景象頗振奮人心,但聽起來也非常極權。

僅為情境圖。取自pexels圖/僅為情境圖。取自pexels

中國的社會信用制度只是最新又最明顯的威脅,顯示全面可行、市場化的數位極權主義(digital authoritarianism)威脅並非空穴來風。這是當代的壓迫形式,建立的基礎是,我們生活裡有愈來愈多面向可被轉換為量化的數據,成為監控我們的主要資源。因此,

許多國家陷入陣痛期,辯論政府可對人民的監視程度。但是在其他國家,對國家監控權的約束少之又少(如果有的話),因此數據獨裁已經近在眼前。

同樣讓人不安的是,「大數據、老大哥、大把銀子」三者之間的關係日益綿密複雜,催生了「智慧」鎮壓。

這些政策以及隨之而來可能成真的做法,再一次引起大家的疑慮,不禁要質疑演算法在人治(human governance)上的角色;演算法成了一種「迷思」,祕密控制我們的生活。各種演算法的影響力愈來愈大,規範我們的人際關係與社會,影響程度之大,前所未見。它們放棄使用數據調查所在的世界,改而愈來愈集中於「繪出」(mapping)我們生活、行動、想法的全貌;這麼做,靠的不是監獄的瞭望塔、政府到家裡安裝的電視監視器,或是街上的監視攝影機,而多半靠的是你手上行動裝置的應用程式,可能是你主動下載,但更常是你沒有掏錢買的程式。

全面監控 VS. 反監控

新的老大哥並非電影裡或海報上那個凶巴巴看著你的獨裁者,而是無所不知的數位「雲」,會「連續、全程、偷偷分析你的數位足跡,這些數據來自於你的種種行為,包括工作、購物、睡覺、飲食、運動、溝通」。這種侵入性監視受惠於我們持續產出的「數位軌跡」(digital tracks),這些數位軌跡是我們在線上凡走過必留下的痕跡,被資本主義體制下的政與商所用,進行經濟剝削。

但我們也不用全然絕望,這些侵犯個人自由及隱私的行為,同時也助長了各種形式的反抗。對抗這種侵入式的監控,叫做反監控(sousveillance),亦即受監控的對象重新定位追蹤與監看的鏡頭,以便更清楚地「看見監控者」。例如現在有一種「haccessible」眼鏡,可以記錄你的活動與行為,萬一你被冤枉,被指控犯了罪,可以將此作為「數位不在場證明」,還自己清白。就政治上而言,手機讓每個市井小民可以拍下警察與政治人物,揭露他們濫權的一面,並將其醜行上傳到更大的網路世界。

每個極權政府的夢想,也幾乎是每一位公民的夢魘,就是能夠在合法統轄範圍的內外,滴水不漏地監視每一個人、每一件事,在某種程度上,這等於是最極端的統治權類型。極權主義的動力也許是為了赤裸裸的權力,但深層的理由是掌握資訊,以利有效且睿智地統治。大數據讓這樣全面監控的渴望歷來首見地更進一步貼近現實,社會鼓勵監控現象,大家不僅會自我監控,也自願讓精英監控他們。

唯一逃過被監看命運的,似乎是精英以及資本主義制度本身。

這個更新版的老大哥標榜主動出擊,而非被動反應,鼓勵個體善用數據提升自己的狀態與福祉,全面監控成了個人獲得健康幸福和專業成就的先決條件。利用數據與自我追蹤技術,對自身及他人都是一種道德義務,以創新又有效的方式,「事半功倍」地提高自己對社會與職場的正面影響力。

僅為情境圖。取自pexels圖/僅為情境圖。取自pexels

全面監控是全方位的公共症候群(public syndrome),大家集體憂慮自己被社會監控與公審。然而這種全面監控也可以透過各種自我監測的行為,包括使用線下或線上的「生活教練」、「電腦監控」工具追蹤各種進度,以激勵自己不斷提高個人目標

另一個較不明顯,但無損其影響力的是社群媒體的功能,可以被用來定期(往往是不知不覺中)規範我們的行為。藉由固定上網(寫日誌或登錄社群媒體),我們把真實人生的自我攤在明處與暗處的網路追蹤與教化的框架裡。我們透過自我監控,希望能打入不同的線上網絡、被這些網絡接納,而數位控制技術因為我們的自我監控被進一步強化,亦即,分享我們的成敗有助於建立支援網,激勵我們進一步朝實現個人及專業成就邁進。

不過,數據監測最讓人察覺不到其存在之處,可能是它做起來方便得很。的確,捍衛網路隱私並非易事,但更難的是顛覆數位老大哥的監視。難怪大家乾脆接受這個事實:精英擁有我們的數據,多數人是愛怎麼使用就怎麼使用。當局為了自己的利益,也會任意使用這些數據,其實不令人意外。

要避開這些看似無所不在的數位控制愈來愈困難,除了讓人心煩,同時也讓人愈來愈不戰而潰,自願被監視。例如,美國國土安全部研發一套名為FAST(Future Attributes Screening Technology,未來行為篩檢技術)的應用程式,分析一個人的生理數據,判斷他們是否為潛在的恐怖分子。「FAST使用非接觸式的感應器,遠端分析一個人的生理與行為釋出的線索,包括眼球運動、身體動作,以及一個人通常不會有意識控制的種種行為。FAST會即時分析收集到的數據,為再次篩檢時提出客觀建議。」在當今這個時代,我們不僅受到祕密數據警察控制,還得自掏腰包為他們的監測活動買單。

《隱形牢籠:監控世代下,誰有隱私、誰又有不受控的自由?》,彼德.布隆(Peter Bloom)著,王曉伯、鍾玉玨譯,時報出版圖/《隱形牢籠:監控世代下,誰有隱私、誰又有不受控的自由?》,彼德.布隆(Peter Bloom)著,王曉伯、鍾玉玨譯,時報出版

分享 Line分享分享 複製連結
數位治理隱私權大數據