耶路撒冷希伯來大學歷史系教授赫拉利(Yuval Noah Harari)於美國期刊《外交政策》(Foreign Policy)發表文章,指大國如美國和中國在人工智能(AI)競賽中領先,並很大可能將掌控人類的未來,又警告科技較落後的國家,若不立即試圖趕上世界步伐,可能會被「數據殖民」— 在經濟和政治上遭大國操控,前景堪虞。
赫拉利專門研究中世紀史與軍事史,屢獲獎項,現任教於耶路撒冷希伯來大學歷史系,著有多本思考人類未來的著作,包括《人類大歷史:從野獸到扮演上帝》(Sapiens: A Brief History of Humankind)、《人類大命運:從智人到神人》(Homo Deus The Brief History of Tomorrow)及《21世紀的21堂課》(21 Lessons for the 21st Century)。去年,赫拉利獲邀在瑞士達沃斯(Davos)世界經濟論壇上,發表有關人類未來的演說。
文章以《誰會贏出人工智能競賽?中美正領導同群-而落伍者將面對重大風險》(Who Will Win the Race for AI? China and the United States are leading the pack—and the laggards face grave dangers)為題,赫拉利稱,發展人工智能是大勢所趨,中美兩國大力發展人工智能,無論是科技大國還是落後小國,全球都會受到「AI 革命」的影響。
中美 AI 競賽 或掌控人類未來
科技較落後的國家,除了要面對自動化對低技術勞工需求的挑戰,也要面對被收集大數據後,可能對當地政治產生的巨大影響。人工智能(AI)已輕而易舉地搜集個人數據,並加以分析和操控民眾的選擇,例如劍橋分析(Cambridge Analytica)涉嫌利用 Facebook 數據,對美國大選結果加以操控。
現時大多數據,都是由中國、美國和以兩國為基地的企業「開採」。赫拉利認為,未來誰能控制數據,不單會重塑全球政經走向,甚至影響人類的未來。把人工智能與生物科技結合,將會是人類將來試圖重新設計身體、腦袋和思想的關鍵,而掌握這些科技的國家如中、美,將會控制人類的未來。對於那些他們視為有用的品質,如紀律和機械式學習能力(rote intelligence)或會被增強,而被覺得是多餘的品質,則因而被忽視。
「中美兩國能掌控這些科技的精英們,會根據他們各自的價值觀和利益,去決定未來每個人的進化走向。」他說。
除此之外,要進一步發展 AI、操控民眾的選擇,政府和企業必須作大規模數據挖掘(data mining),取得大量有關人類真實生活和行為的數據,並加以分析。赫拉利稱,未來可能會產生「數據殖民主義」(data colonialism),即是政府和企業在不同國家開採原始數據,然後集中分析,再用以對各國進行控制。譬如,位於上海或三藩市的科技公司,可以找出某國政治人物和官員的個人及醫療紀錄,利用這些資料去影響他們所作的決定,或是操控公眾對他們的意見。
落後國須共同應對「AI 革命」
赫拉利稱,科技落後的國家面對這浪「AI 革命」只有兩個選擇 — 參與其中或是立法規管。他認為,小國需要成立大型聯盟,如歐盟或由阿根廷、智利和烏拉圭等拉丁國家組成的組織,才能有力抗衡。這些聯盟必須集中火力,發展一些大國忽視的範疇,例如當大國主力發展科技,讓企業和政府監察人民時,這些小國聯盟就可以考慮,發展讓人民反過來監察政府和大企業的科技,例如針對反貪或警察濫權的技術。
相對地,某些國家即使沒能力發展 AI 科技,也可以從立法方面,對這些危險的新興科技進行規管,譬如在自動武器系統以及「超級人類」等範疇。
他又建議, 小國應將數據視為天然資源般看待,既然有法例保障國家天然資源,國際礦業公司要開採的話,就要和當地政府付出相應款項,挖掘數據也應一視同仁,尤其是當挖掘數據,會對當地人口造成傷害。
譬如當企業發展無人駕駛車輛時,需要收集駕車數據,期間或會發生意外,這些數據會用於改善系統。當已發展國家在這方面的法例已嚴格規管,這些企業為得數據,就會試圖在發展中國家進行具人命風險的測試;醫療數據是另一個可能遭濫用的挖掘數據範疇。
赫拉利覺得為時未晚,這些已在提供重要數據的國家,可以成立「數據出口聯盟」應對搜集大數據的跨國企業,至少可以進行商討,以求獲得更好回報。他稱,當未來機械化取代人類勞工時,這些回報,可能有助減輕機械化對當地經濟造成的影響。
全球的弱勢國家是否能避免被「數據殖民」,仍是未知之數,不過赫拉利警告這些國家必須嘗試找出路,「否則若他們繼續逃避現實,只聚焦面對眼前的問題而忽視 AI 競賽,最後他們的命運,會在他們缺席之下被決定。」