AI會讓民主倒退?當人工智慧技術激化政府邁向專制的衝動 就會開啟惡性循環

書摘

原本眾人對網路與社群媒體充滿歡欣與期待,認為這些工具具有推動民主化的巨大潛力。如今,已經有人開始抱持完全相反的結論,認為數位工具從本質而言就是反民主。例如歷史學者哈拉瑞(Yuval Noah Harari)就說:「科技有利於暴政。」

上面兩種非黑即白的觀點都不正確。數位科技既不支持民主,也不反對民主。AI技術的發展也不必然要配合政府監控媒體、審查資訊、壓迫公民的需求,這一切取決於對科技發展方向所做的選擇。

數位科技既不支持民主,也不反對民主

第九章就提過,數位科技本質上是一種高度通用的技術,本來就能用來提升機器實用性,為勞工創造新工作機會,或是打造能提升人類能力的平台。如今科技發展重點之所以放在監控勞工,推動自動化而減少勞工的工作機會,背後癥結在於大型科技企業的願景與商業模式。當AI淪為專制政權及一些號稱民主政府手中的監控工具,根本原因也是如此。

透過網際網路與數位科技,能夠為公民賦權、讓人民有能力反抗獨裁統治,這樣的理想絕非痴人說夢。畢竟加密技術能讓政府無法窺探私人通訊;VPN之類的服務能夠規避網路審查;政府目前還無法解密Tor之類的搜尋引擎(就我們所知),能夠提供更高等級的隱私與安全性。話雖如此,早年對數位民主化的希望卻幾乎破滅,原因是科技界決定將精力投入充滿金錢與權力的領域,那就是政府審查。

當AI技術激化政府邁向專制的衝動,就會開啟惡性循環

因此,科技界選擇走上一條強化數據收集與監控的道路(可說是一條歪路)。儘管運用機器學習大規模處理資料數據的技術相當重要,但政府與企業得以有效監控的真正關鍵,還是在大量資料數據本身。

當AI技術激化政府邁向專制的衝動,就會開啟惡性循環。隨著政府變得更加專制,就更需要用AI追蹤並控制人民,於是進一步推動AI的發展,使其逐漸成為一種完全成熟的監控技術。

舉例來說,自2014年以來,中國地方政府對於臉部辨識與其他類型監控的AI技術需求大幅提高,部分原因就在於當地的政治動盪。政治人物一旦看到當地開始醞釀不滿或出現抗議活動,就會希望強化治安維護與監控。2010年代後期仍有零星的地方性抗議活動,然而正如本章前文所述,雖然有時還能透過社群媒體進行串連,但現在已經不太可能再出現大規模、特別是針對中共中央的抗議活動。

到這個時候,AI工具已經被鎮壓者牢牢掌控,而不是抗議者。地方政府得到AI技術的支持,在防阻與鎮壓抗議時更加得心應手。此外,雖然中國從中央到地方都很願意雇用大批警力,但投入更多AI研發資金後,監控與鎮壓抗議者所需人力似乎有所減少。

中國AI發展的唯一優勢:巨大的數據資料庫

更引人注意的是,有關中國AI新創企業的數據顯示,政府對監控技術的需求,徹底影響產業後續的創新發展方向。與中國地方政府簽約的AI企業,研發重心都愈來愈轉向臉部辨識與其他追蹤技術。或許正是由於這些誘因,讓中國在臉部辨識等監控技術領域領先全球,但在自然語言處理、語言推理、抽象推理等其他領域則出現落後。

國際專家評斷中國AI研究品質的時候,發現在幾乎所有面向上都明顯不及美國,但仍具備唯一一點優勢:資料數據。

西方基於隱私考量,通常會限制研究者可取得的資料類型,但在中國沒有這些限制,因此中國研究者能取得的資料量大得多。當地方政府在採購合當中分享大量資料數據時,對AI研發方向的影響尤其明顯。能夠輕易取得大量資料、使用上不受任何限制,再加上政府對監控技術的強烈需求,中國AI新創企業得以測試研發各種用來追蹤、監控、控制公民的強大應用程式。

中國開始向其他非民主國家出口各種監控用途的AI產品

這裡存在一個監控技術的惡性循環:擁有龐大權力與資金的政府希望壓制異己,因此需要更多AI技術來控制人民;這樣的需求愈強,研究人員就會開發愈多相應的AI技術;壓制人民的AI 技術愈成熟,就愈能得到專制(或準備邁向專制)政府的青睞。

事實上,中國新創企業已經開始向其他非民主政府出口各種監控與壓迫用途的AI產品。例如中國科技龍頭華為,正是這種無限取得資料、得到資金補助研發監控技術的主要受益者,而華為也將這些工具外銷到其他五十個國家。第九章曾提到,技術先進國家研發出基於AI的自動化之後,將會影響世界其他地區,可能對大多數勞工造成巨大的負面影響。基於AI的監控也是如此,大多數公民無論身在何處,只會愈來愈難擺脫壓迫。