(相關資料圖)

美國《外交》雜志8月16日文章，原題：人工智能力量悖論（假設）現在是2035年，人工智能（AI）無處不在。AI系統管理醫院，運營航空公司，并在法庭上較勁。生產力飆升至前所未有的水平，無數以前難以想象的企業以驚人的速度擴張，人類福祉極大改善。隨著科學技術的飛速發展，新產品、新療法和新發明每天都在沖擊市場。然而，鑒于恐怖分子也用智能、不斷進化的網絡武器找到威脅社會的新方法，白領們大批失業，世界正變得日益難以預測，也日益脆弱。

資料圖（IC Photo）

就在一年前，這種情況似乎純屬虛構，但未來這似乎不可避免。生成式AI系統已經能夠比大多數人的寫作更清晰、更有說服力，并且可以根據簡單的語言提示生成原始圖像、藝術作品甚至計算機代碼。而生成式AI只是冰山一角，其到來標志著一場改變世界技術革命的開始，將重塑政治、經濟和社會。

與過去的技術浪潮一樣，AI將使非凡的增長、機遇與巨大的破壞、風險并存。但與之前的浪潮不同，鑒于其威脅到民族國家作為世界主要地緣政治參與者的地位，它還將引發全球力量結構和平衡的巨大變化。不管AI的創造者承認與否，他們本身就是地緣政治的參與者，他們對AI的主導權將進一步鞏固新興的“技術極”秩序。在這種秩序中，科技公司在它們的領域中行使著曾經只有國家才擁有的權力。過去10年，大型科技公司實際上已經成為它們所創造的數字領域的“獨立主權參與者”。AI加速了這一趨勢，并將其擴展到數字世界之外。這項技術的復雜性和發展速度將使政府幾乎不可能以理性的速度制定相關規則。如果不盡快趕上，可能永遠也趕不上了。

幸運的是，世界各地的政策制定者已經開始意識到AI帶來的挑戰，并開始思考如何管理它。不管你喜不喜歡，2035年即將到來。它是由AI帶來的積極進步來定義，還是由負面破壞來定義，取決于政策制定者現在做什么。

AI不同于其他技術，對權力的影響也不同。它不僅帶來政策挑戰，其超進化性質也使得解決這些挑戰變得日益困難。AI與舊技術的不同之處在于，幾乎所有的AI都可以被描述為軍民兩用。驅動汽車的系統同樣可以驅動坦克，一個用于診斷疾病的AI應用程序可能會創造出一種新的疾病，并將其武器化。安全民用和軍事破壞性之間的界限本質上是模糊的。出于這個原因，監管AI的方式不能靠拼湊。如果AI在其他國家仍然不受監管，那么在一些國家監管AI就沒有什么用處。

此外，世界還需要一種方法來管理主要AI大國之間的緊張關系，防止危險的先進AI系統的擴散。一個強大的AI治理機制既可以減輕AI帶來的社會風險，也可以減輕AI作為地緣政治競爭工具的程度。AI可能是變革的獨特催化劑，但它絕不是人類將面臨的最后一個顛覆性技術。成功地管理AI將有助于世界成功地管理新興技術。（作者伊安·布雷默、穆斯塔法·蘇萊曼，任重譯）

關鍵詞：