精選書摘
本文為《和諧社會:中國,大數據監控下的美麗新世界》章節書摘,經時報出版授權刊登,文章標題、內文小標經《報導者》編輯改編。
中共對於高科技的發展十分狂熱,除了促進經濟發展,更重要的,它可以在「和諧社會」的願景下,全方位控制人民的言行、乃至於心靈,而它的高科技統治體現在網路、大數據整合、監控設備、人工智慧、社會信用體系的綜合應用。透過大量審查信息思想控制和扭曲事實,它會塑造出思想僵化、容易控制的新人類。其次,它會剝奪公民的權利與自由空間。最後,這些科技化、數位化的控制手段愈有成效,其他國家就會紛紛起而效尤,進而威脅民主社會的穩定性與價值。
本書作者馬凱(Kai Strittmatter)擔任《南德日報》(Süddeutsche Zeitung)中國特派記者十多年,一路看著中國人從網路獲得公民討論的權利,又見證國家設置利用人工智慧、大數據等數位科技的社會監控網,達到前所未有的高峰,麻痺了人民的自主性與批判性。在書寫本書的過程中,他廣泛詢問一般民眾對於數位威權的感受,也深度採訪中國新創企業的主管、黨組織的各級幹部,讓讀者從各種角度來認識利用科技手段大幅提高專制獨裁效率的中國樣貌。
「讓守信者處處受益,失信者寸步難行。」 ──取自中國國務院社會信用體系的規劃
中國的新人類不僅是好人,也是誠實的人。「我們想將人文明化,」中國東部小城榮成的一名官員告訴我:「我們目標是將人的行為規範化,如果所有人的行為符合規範,社會自然就穩定和諧。」這名官員喜形於色:「這樣我的工作就輕鬆多了。」誠實的人,就是值得信賴的人,這可能是中國社會最缺的資產:信任。
中國的確陷入信任危機,人人彼此互相不信任。北大教授章政說:「我們的社會仍不成熟,市場秩序混亂。」他認為過去數十年農村人口外移和社會和經濟的轉型是主要原因。「誠實的人是傻子。」王俊秀如此描述中國人普遍的心態。他是北京中國社科院《中國社會心態研究報告》的作者之一。根據社科院上海分院的調查,90%的受訪者認為在今天的中國誰誠實可靠,誰就吃虧。
有些人以為過去的政治運動(尤其文革)是今天無所不在的猜忌的根源,當時以救世主毛澤東的名義挑撥人與人的關係:子女鬥父母,妻子出賣丈夫。王俊秀也把矛頭指向現在:「欺騙的人不用負責」、「公共權力執行者對權力的濫用」。
在這份報告發表的2013年,這樣的公開批評還不會被消音。那一年,有位著名北京社會學家的話在網路上瘋傳:「若是連和尚與老師都在墮落,那這個社會就已經爛透了。」
那也是習近平接下黨和國家主席職位的一年,他意識到這個挑戰:社會完全失去信任將對共黨統治造成威脅,而且有礙市場經濟發展,危及經濟的持續成長。食品有毒、環境汙染、建築偷工減料──在中國毫無節制的資本主義,為了營利可以不擇手段。社科院報告的結論是社會缺乏公平感,建議從法律和制度面來重建和改革。不過,黨另有想法,它想做的事這世界前所未見:打造「社會信用體系」、一種社會信用的評分系統。
我到北大採訪章政教授,他是經濟學院副院長,更重要的是,他是這新制度的重要顧問。教授說:「原理非常簡單。這世上有好人,也有壞人,想像一下好人獲得獎賞、壞人被懲罰的世界。」在這個世界,孝順父母、過馬路走斑馬線和所有帳單都付清的人總是有優先權,搭火車可買「軟臥」票,去銀行可以貸款,但犯錯的人就不行,比如高考考試作弊、下載盜版電影、婦女違反政策多生一胎。在這個世界,全知和隨時能看見你的數位機制比你更了解自己,還能幫你改善自己,因為它不論何時都能告訴你,做什麼事能讓自己更誠實、更值得信賴。說說看,這是不是一個公平、和諧的世界?
為了誠實,上海推出一個手機應用程式:「誠信上海」。下載、註冊,讓軟體掃描你的臉,辨識你的臉部特徵,接著將你的生活資訊調閱出來。我在拜訪上海市經濟和信息化委員會時,官員告訴我,每位市民的個資有5,198筆,由97個單位所提供。這軟體是由負責收集全市數據的信息化委員會所管理:「電費帳單繳了嗎?捐血了嗎?可是税沒繳?搭地鐵沒買票?」你做過的行為會被輸入資料庫,在演算後吐出結果:「非常好」、「好」或「壞」。好的上海居民到市立圖書館借書可以不用付100元人民幣的押金。
章政教授心情不錯,甚至有點興奮。他說,我們為何不好好認識一個人?不只他的過去和今天,「更重要的是他的未來」。這套體系能辨識出壞人、壞的企業和壞的公務員,統稱為失信者。
他們不論在何時何地都會被識破。透過大數據,每一位公民都被印上評價的烙印,這成了他的新身分,決定他能否參與日常生活和獲得社會資源。
教授說:「去榮成看看吧,他們是先行者,中國沒有地方走得更快。」榮成是中國東部海岸的一座小城市,擁有67萬人口、一個天鵝自然保護區、一座核能發電廠──以及一個負責誠信的單位,「誠信辦的人成績十分傑出,」教授說。
這裡正在排練中國的明天。中國有40個左右的示範城市,榮成是其中之一。每個城市走自己的路,不過所有城市都在找最誠信的人。「要做這件事,必須先進入人的內在。」榮成的主任黃春暉這樣告訴我。他單位的名稱不再是誠信辦,「對我們來說,這名字聽起來有點模糊。」社會信用中心是現在的新名稱。黃主任拿出一張紙,畫了一顆蛋,先畫一條線穿過頂端,再畫一條線穿過底部。他說,這就是社會,頂端的人是模範公民,「底部的人我們必須教育他們。」
接著他解釋這套制度。中國所有的企業和公民都是一員,信用評價無時無刻在進行。在榮成,每位市民一開始有1,000分,之後得分有加有減。有些人是AAA級市民(「誠信模範」,1,050分以上),或AA級市民(「誠信優秀」,1,030分至1,049分)。你也可能跌到849分以下的C級,所謂的「警示級別」,或者599分以下的D級,被系統判定為「不誠信」。你的名字從此被列入黑名單,根據《榮成市市場主體信用分級分類管理辦法》,就成了「重點監管對象」。
這套奠基於大數據的系統,目標是即時落實道德教育和行為監控。根據國務院2014年頒布的規劃綱要,社會信用體系能糾正「造假欺詐」、「提高全民族誠信素質」和構建「社會主義和諧社會」,理論上還能讓大眾監督基層政府單位的運作。
黃主任說,這套系統當然有用。先從闖紅燈開始:以前很多司機覺得無所謂,拿到罰單繳錢就沒事了,「現在沒人敢闖紅燈了,因為這樣做會減分」。我在榮成街上詢問兩位當地居民,他們都沒聽過「社會信用」。「這是什麼?」我問的第三人也沒意識到,因為系統早已開始記錄和評價他們全部的生活。他回答我:「既然您說政府會嚴格執行交通法規,那我會開慢一點。我認為這樣做是對的,誠信社會是一件好事。」
曙光社區離社會信用中心不遠,草地修剪整齊,新建的公寓可提供5,000戶家庭的12,000人居住。房前停的是福斯和豐田的汽車,還可看到幾台BMW,顯然住戶是中國的新中產階級。「以前的人想做什麼就做,」社區黨支部書記董建剛說,「現在道德回來了。」身為黨書記,這是他的職責。「我們正在建立誠信社區,」他指著辦公室外面每個人都會路過的告示榜:「我們將失信者的姓名列在這邊。」
王小姐的狗在草地上拉屎沒撿起來──扣5分。宋先生冬天將水倒在門口,水結成冰──也一樣扣5分。
「他們一定覺得很丟臉,」董書記說:「可是這就是評分的目的,看看這邊。」他露出微笑。
周先生幫一對老夫妻搬家──加5分;李先生教書法──加5分;余家出借地下室讓大家一起唱革命紅歌──加5分。鏟雪、帶老人去看病、幫小朋友上課也可得分。
董書記現在介紹分數超過1,000分的明星市民,他們獲得「誠信示範家庭」的榮譽,64歲的退休老人暨黨員同志秦之業就是其中之一。他請客人坐在公寓的沙發上,上面小心鋪著一塊縫好的被子,彷彿坐在粉紅玫瑰上。秦先生在曙光社區住了7年,「我對這裡的一草一木很有感情,」他說,這系統的確改善了社區生活,「如果你有太多負分,其他人就會偷偷說你的壞話:瞧,那人是B或C級,讓你出醜。有時候,我們警告要降級就夠了,光這樣就能嚇壞他們。」
他們將整個社區分成不同的「網格」,每個單位400戶家庭。「每戶家庭可互相監督,」董書記說,「我們還有人負責檢查、打聽,並拍照或錄下錯誤的行為。」早從2003年起,黨就在上海等城市嘗試科技輔助的「網格化社會管理」。類似的管理方式在中國歷史悠久。奠定中國統一基礎、讓秦始皇得以統治的大臣商鞅,在西元前400年已將人口分組,每組5到10戶;人民互相監督,並向政府告密,若一人犯錯,所有人都受罰。他曾說:「重刑,連其罪,則民不敢試。民不敢試,故無刑也。」培養自我管制的新人類,讓這些奴才自己監視自己,當時已是獨裁者的夢想。
中共的道德和社會信用體系在歷史上有先例。16、17世紀中國民間風行所謂的《功過格》,此書充滿儒家和佛教對倫理和生活秩序的想像,內心不安的民眾可用來檢視自己行為的善惡,看它們在業報上是否能功過相抵。在那個年代,政治和經濟動盪,社會和道德敗壞;貿易和市集興起,經濟走向商業化,階級體系因而被翻轉。按照傳統的儒家思想,商人的地位最低,但他們突然贏得聲望和影響力。當時國內外交通更加便利,但官員貪腐、價值觀更迭,《功過格》讓困惑和無助的人民心中有依賴。以袁黃的《功過格》為例,救人一命或保全婦女貞節可得100分,延續香火或收養孤兒得50分,為政府引薦有德之人則是10分。這跟曙光社區的評分榜差別其實不大,只不過當時的業報執行者今天叫做中國共產黨,有大數據幫忙,獎懲在這一生就會施行,最好在當下就實現。
照榮成市管理辦法的解釋,社會信用相關措施以「激勵」為主,懲戒只是為了「幫助」人恢復信用。曙光社區的董書記腦袋想的遠超過自己社區的範圍,「我們努力讓社會充滿和諧。」他提到有父母來拜訪他,想在女兒結婚前知道未來女婿的信用分數,坐在粉紅沙發上的秦老先生聽了大笑。「你當然想知道你女兒嫁給什麼樣的人,」董書記說,「你得承認,換成是你也會做一模一樣的事。」
行為遵循規範在金錢上也有回報。「如果分數像這位秦先生這麼多,去銀行借錢再也不需要抵押,」他說,「很棒,不是嗎?這就是我們的黨:只要你做好事,它也會對你好。」如果我做了壞事?「那你就不准再搭飛機或高鐵,我也不會雇用你。」
沒錯,中共中央和國務院2016年9月公布的《關於加快推進失信被執行人信用監督、警示和懲戒機制建設的意見》也是這樣規定。不誠實的企業將被排除在政府採購外。失信的個人無法成為公務員或金融、保險公司高級主管,從事不動產交易和買車受到限制,也不能搭機、買高鐵票和搭乘夜車的軟臥。他們再也不能住星級以上的飯店,不得在高消費的餐廳用餐,不能出國旅遊,子女也不能就讀昂貴的私立學校。
社會信用體系的許多細節仍不清楚,到底那一個示範城市會脫穎而出?未來將有多種模式平行存在,還是全國統一?最後會演進成不同賞罰機制構成的龐大生態系,還是全面合體的權力控制中心?民營企業的信用評級什麼時候、以何種形式併入?2020年是官方預計實施的時間點,不過目前看來,未來幾年才會逐步引進。光在全國層級,就有46個黨的分支機構和政府部門在研擬細節。中國政府已引進所謂的統一社會信用代碼,每一位公民、每一家企業都有一個號碼,相關數據全儲存在那個號碼底下。
整體拼圖的一部分已付諸實現。褒揚好人代表,鼓勵符合社會期待的行為,將工人封為「勞模」,表揚家庭為「衛生模範」;這些活動在中國已行之有年。2013年施行的新法規定,所有中國人有義務照顧年邁父母,拒絕履行將被追究法律責任。同年,最高人民法院公布欠債不還的名單,後來成了社會信用體系黑名單的基礎,據國家公共信用信息中心的統計,2018年有1,750萬人因此不能搭飛機,550萬人不能搭高鐵。被處罰的人數也迅速上升,據《環球時報》報導,光2019年7月就有256萬名失信者買機票時被拒。在河南省的兩個縣,法院與電信公司合作,打電話給黑名單上的人不會聽到鈴聲,而是聽到語音提示說,此人已被列入「失信被執行人名單」。
這套制度就是要讓人在大庭廣眾面前出醜。政府為信用體系成立「信用中國」網站,用多幅漫畫來解說其概念。其中一幅說,法院如果將某人納入黑名單,就會「在城區多個大螢幕上『晒』出他的照片,讓其無所遁形,街上來往的人都能看到他的照片和信息。」漫畫上可見一名穿西裝打領結的年輕男人,手上捧著一束玫瑰花向一位女士示愛。他滿頭大汗,顯然被認出欠錢不還,頭上寫著「羞愧」的對話框將箭頭指向他。這位漂亮的女士拒絕了他,「你是『老賴』吧?」她在街上的大螢幕看到他:「不會有人跟你相親的。」這幅漫畫的標題是「莫因失信誤終身」。
播放音樂短片的App「抖音」,2018年夏天開始加入追捕失信者的行列,再一次證明,中國私人企業與政府的密切關係。廣西的使用者刷抖音時,會看到名列失信黑名單的人的照片,知道他們去處的人若向警方通報,可分得對方債務的一部分當獎賞。
每個人都可到「信用中國」搜尋黑名單上的人,守信的人會被列入「紅名單」。另一個網站也列出類似的資訊。2018年,全中國新增359萬家名列失信黑名單的企業,其中有爆發假疫苗醜聞的藥商。社會信用體系也將涵蓋外商,北京的中國歐盟商會警告會員要做好準備,這套制度如今已是現實,而且可能「決定個別公司的生死」。目前相關人士已可在線上查閱企業的積分,其主要根據是公司過去執行《勞動合同法》、環境保護、衛生措施和履行合約的情形。
根據2018年3月官方的聲明,懲罰機制應按照「一處失信,處處受限」原則,在飛機上鬧事、逃稅、詐欺和遲交社會保險費的人都會面臨禁止搭乘飛機的懲戒,賣黃牛票或在高鐵車廂吸菸的人,未來半年也禁止搭火車。
自從毛澤東時代以來,中國人就知道什麼是「檔案」、這個將人的一生紀錄下來的機密卷宗,記載每個人的嗜好、工作經歷和政治可靠度。這卷宗跟著人一輩子,但他自己從未親眼看過。只不過,這些文件以前都是紙本,而且幾乎被遺忘了,如今片段的資料第一次組合成整體檔案。
中共2016年通過相關的指導性意見,內容提到「加快懲戒軟件開發使用進度」,目標是對失信者「自動比對、自動監督、自動懲戒」。不論天涯海角,再也沒有漏網之魚。
雖然中國政府最遲從2014年起密集投入這套系統的研發,但直到今天許多中國人仍沒聽說過。「好吧,」一位北京朋友聳聳肩,「反正在這個國家面前,我們每個人都是赤裸的。」只要黨國一干預,中國人對隱私保護多半沒什麼期待,只能雙手一攤表示無奈,「難道會比赤著身子更暴露嗎?」事實上是有可能的,尤其黨國還想打開你的頭顱看看裡面在想什麼。
隨著2020年逼近,愈來愈多失信黑名單浮現,黨媒更常報導實際賞罰的案例,大眾才逐漸意識到社會信用體系的存在。2019年年底,北京地鐵宣布將安裝新的人臉辨識攝影機,並整合入信用體系;系統可自動找到黑名單上的人,確認其「安全風險」並加以特別檢查。在地鐵車廂吃東西被抓到,也會被納入個人信用不良紀錄。2019年起,黑名單上的人再也不能參加公務員考試。2018年夏天,《人民日報》詢問讀者:「信用社會來臨,你準備好了嗎?」許多中國人聽我稍微解釋這套制度後說,社會上多一些信任是件好事。不過,山東濰坊市的一所中學於2018年年初宣布,再也不讓名列黑名單的家長的子女註冊,當時這種連坐法第一次在網路上掀起反彈聲浪。
中國最著名的信用評等制度實驗不是由政府主導,而是由號稱有12億用戶的行動支付軟體支付寶所推出的「芝麻信用」。每位支付寶用戶都可啟用,芝麻信用分最低350分,最高950分。芝麻信用的演算法是機密,不過主要根據五大標準來評估用戶的信用:身分特徵、信用紀錄、履行合約能力、行為偏好和個人關係。
芝麻信用技術總監李應雲舉例說,一天花10小時玩電腦遊戲的人,會被視為是遊手好閒的人,反之經常買尿布的人很可能是負責任的父母。上海《澎湃新聞》報導,地址經常改的人會被扣分,朋友的信用紀錄也會影響芝麻分。這裡的訊息相當清楚:離分數低的朋友遠一點。
芝麻信用也與「百合網」等線上交友平台合作,會員可展示芝麻分提高找到伴侶的機會。分數高的人容易借到錢,更快拿到盧森堡或新加坡等國的簽證。支付寶將目光投向西方,在美國和歐洲許多地方,中國觀光客可用支付寶付帳,軟體也會即時將交易和位置資訊傳回中國。
這聽起來很先進,不過這種商業誠信制度的未來仍充滿不確定性。「中國人民銀行」允許8家機構試行個人徵信業務,最後卻以「數據保護和利益衝突」為由決定一張牌照也不發。網上許多人認為,阿里巴巴設計芝麻信用這樣的獎勵制度,只是為了提高自己平台的流量,真正目的是為了抓住客戶,對於改善用戶信用的幫助不大。媒體也報導說,當中有人為操控的情形;有名駭客在微博誇口說,自己已成功改變支付寶的數據,讓委託他的客戶得到更多分數。柏林墨卡托中國研究中心研判:
「在社會信用體系發展的過程中,數據造假的情況可能會層出不窮。」
社會信用體系的主導者強調此制度的好處,特別是能有效消弭詐欺等社會弊端;因為詐騙案件,中國每年至少損失900億美元。藉由電子交易,數以億計的農人、工人、學生等弱勢才有機會獲得貸款,否則他們原本無法證明自己的信用。它還能鼓勵消費;這個規模龐大的計畫終究是為了刺激景氣。
但這樣的願景也讓一些人感到恐懼。作家慕容雪村說:
「這套制度讓人毛骨悚然⋯⋯他們嘴巴說信任,事實上是為了控制你,並看穿你最深的內在。如果年輕的你不小心在網路上說錯話怎麼辦?好吧,應該不會馬上被捕,但可能護照、駕照會被吊銷,銀行戶頭會被封鎖。」
自從微博帳號被封,再也不能發表小說和劇本以來,慕容雪村改靠在網路上賣化妝品、草莓和哈密瓜維生。「這套制度如果真的開始運轉,中國將超越歐威爾的想像,」他說,「我這種政治立場不可靠的人分數奇低,也許再也不能旅行和搭火車,搞不好還會被房東趕出門,只好到橋下過夜。」這作家遲到一個多小時才到,國安部的人讀了他跟我約見面的微信對話,直到最後一刻還試圖阻止他不要來。
有些人自我安慰說,由於技術的挑戰實在太大,這套新監控系統永遠不可能發揮效用;龐大的數據收集後,因為品質良莠不齊,還得適當地一步步評估。此外,長久以來,中共努力讓中國人言行更文明,人民還是置之不理。搞再多的運動,北京人還是繼續在街上吐痰,上海人大白天穿睡衣上街買菜。
就算充滿人為操控、低效率和貪汙等中國機關的特色,這套制度還是具備獎懲功能,但這樣對社會有幫助嗎?建立誠信社會和政治控制兩大核心目標,很有可能前者最終還是失敗,但後者大獲成功。
不過,到底誰失信和為什麼失信,終究還是由黨來決定。在榮成這個位於中國東岸的未來實驗室,在網路上從事「非法宗教活動」──即禁止和迫害的法輪功──會被扣100分,這可是最嚴厲的懲罰。在黨或地方政府等大型會議場所附近請願、表達冤屈,會被扣50分。到北京上訪,會自動被降到D級,即不誠信的失信者。「不用擔心,」榮成的黃主任說,「我們只處理沒有爭議和有證據的案子。」由法庭審判來證明?「不僅如此,」他說,「還有安全機關的評估。」到頭來還是公安和國安的人說了算。
北大經濟學者章政對這套制度的優點讚不絕口。他說,那些經營不善的公司、收賄的醫生、體罰學生的老師和貪汙的官員很快就會絕跡。不過,他也警覺到國家權力會有過度集中和被濫用的危險。正因如此,他反對成立中央數據庫,以免將全國各地的所有數據集中在一起。這個無所不知的國家資料庫如果真的成立,將是中國社會的大腦。
大權在握的國家發展和改革委員會是社會信用體系的監督者。章政說,他們正考慮引進中央數據庫,「我們認為這樣做很危險。」我們指的是誰?「我們學者。」教授說。但他補充說還有另外的聲音。在中國這樣的體制,這些聲音的份量超過學者。「我們的最大問題是無法參考別人經驗,這是全新的領域,」這位教授說:「可是這件事才會如此刺激。」他上身向前傾,幾乎被狂熱的感覺征服,「人類歷史上從未有過這樣的制度,在地球上我們是首例!這多麼讓人興奮」。
世界第一。對企業和政府機關懷抱著大數據夢想的民主國家來說,這是一記警告,對其他國家也非常有吸引力。德國中國問題專家韓博天(Sebastian Heilmann)稱之為「數位列寧主義」。
「由資訊科技輔佐的中國獨裁體制,」墨卡托中國研究中心預言,「將會成為其他獨裁國家的榜樣,並供應他們相關科技。」
我們確實正在見證披著數位外衣的極權主義重返世界。中國一直是一個獨裁國家,但只有毛澤東在位統治時,才變成極權國家,把手伸進百姓腦袋最幽微的角落、連他們的臥室和親密關係也監視。這種新的極權主義比毛澤東和史達林的統治完美得多,數據的掌握和控制手段超乎前人所能想像,因為我們已經將大腦搬到手機上,一步步在網路中生活和思考,並用數位媒介記錄下來。最棒的是,政權毋須在日常生活散播恐懼,跟以前的極權主義不同,光人民下意識知道暴力隨時可能出現已足夠。先是無人察覺、靜悄悄地潛入,最後人民也成了共犯。
這樣不好嗎?「如果幾十年後,再也沒必要討論這套制度和規定,不是最好的嗎?」在上海市府主管經濟、負責執行社會信用體系的趙姓官員問我:
「再也沒有人敢有失信的念頭,敢破壞社會的共同生活,這點我們或許能辦得到。」
她欣喜若狂看著我:「到了這一天,我們的任務就完成了。」
新人類在這世界上就誕生了。
用行動支持報導者
獨立的精神,是自由思想的條件。獨立的媒體,才能守護公共領域,讓自由的討論和真相浮現。
在艱困的媒體環境,《報導者》堅持以非營利組織的模式投入公共領域的調查與深度報導。我們透過讀者的贊助支持來營運,不仰賴商業廣告置入,在獨立自主的前提下,穿梭在各項重要公共議題中。
你的支持能幫助《報導者》持續追蹤國內外新聞事件的真相,邀請你加入 3 種支持方案,和我們一起推動這場媒體小革命。