文｜北京 王彥雨

剛於香港舉辦的世界互聯網大會亞太峰會與香港國際創科展上，人工智能毫無懸念成為全場核心議題。來自數十個國家與地區的官員、學者、科技企業代表達成高度共識：AI必須由人主導、安全可控、向善而行——這不僅是會場共識，更是智能時代全球必須共同守護的核心準則。

人工智能作為引領新一輪科技革命與產業變革的戰略性技術，具備極強的“頭雁效應”，是驅動社會高質量發展的關鍵引擎。它一邊以驚人速度迭代落地，深度改寫產業、民生與社會治理格局；另一邊也把演算法歧視、隱私洩露、深度偽造、產權模糊等一連串新問題擺在我們面前。當技術跑得比規則更快，如何讓人工智能有序向善、真正造福社會，已經成為當下最重要的時代命題。

AI正以我們跟不上的速度迭代

2017年Transformer架構誕生，像是給人工智能按下了加速鍵。短短幾年間，各類大模型密集落地，全球頭部企業密集布局，技術快速走向商業化與大眾化。和幾年前相比，今天的人工智能已經呈現出四大清晰的變化趨勢。

最直觀的是算力需求爆炸式增長。整個行業已經進入算力密集化階段，海量算力成為AI快速迭代的基礎支撐。數據顯示，2012年以來，全球頂尖AI模型訓練所需算力每3.4個月就翻一番，增速遠遠超過經典的摩爾定律。2020年之後，前沿大語言模型訓練算力以每年近5倍的速度擴張，訓練成本年均上漲3.5倍，頂級模型的運行功耗甚至達到數十至數百兆瓦，對能源與基礎設施都提出巨大挑戰。

另一個行業焦點是模型越做越大。2018年前後，OpenAI的GPT-1、谷歌的BERT這類億級參數模型已經算是重大突破；到2020年GPT-3直接跨過千億參數門檻；2023年GPT-4邁入萬億參數時代；2026年初發布的國際主流模型參數量已經達到2萬億，國內最新發布的旗艦大模型也突破萬億級別。這場席捲全球的模型“軍備競賽”，本質上是智能能力的不斷躍升。

應用層面也在快速進化，從單一文字走向多模態融合。現在的AI早已不只是打字聊天，而是能同時處理文本、圖片、聲音、視頻，既能寫文案、做翻譯、編程序，也能理解數小時長視頻、分析數百萬字跨模態文檔。從GPT-4V到Gemini系列，多模態能力已經成為標配，人工智能變得更“全能”，也更貼近真實生活與產業場景。

更值得關注的是，AI正在從“你問我答”走向自主行動。OpenClaw、ArkClaw、QClaw等一批智能體相繼出現，它們不再局限於輸出內容，還能自主完成一長串複雜任務。這種從被動交互到主動執行的轉變，標誌著人工智能進入全新發展階段。

AI帶來的改變滲透到每個角落

人工智能早已不是實驗室裡的前沿概念，它深度融入各行各業，推動整個社會從工業時代快步走向智能時代。隨著“人工智能+”行動持續推進，AI與經濟社會各領域深度融合，正在帶來生產力的革命性提升。

在經濟領域，AI最直接的價值就是推動產業升級。高盛曾預測，未來十年，生成式人工智能有望推動全球GDP提升7%，相當於約7萬億美元規模，同時讓全球勞動生產率每年提高1.5個百分點。一方面，大模型、算力晶片、智能機器人等新興產業快速壯大，智能經濟初具規模；另一方面，AI持續改造傳統產業，讓汽車、物流等行業效率大幅提升，新舊經濟之間的界限越來越模糊。

文化領域同樣迎來全新可能。AI讓文化創作、保護與體驗方式全面升級。藉助多模態生成、數字復活、沉浸式模擬等技術，AI可以自主創作繪畫、音樂、影視等作品，也能讓非物質文化遺產更好地活化傳承。虛擬展館、沉浸式演出、個性化推薦不斷豐富大眾精神生活，把文化體驗拓展到更廣闊的虛擬空間。

對普通人而言，最切身的感受是生活變得更便捷。醫療、教育、交通這些關鍵民生領域，都在被AI悄悄重塑。智能診斷、遠端問診、健康監測讓醫療服務從“病後治療”轉向“全時健康預警”，也在一定程度上改善資源分配不均的問題；智能數字導師可以根據學生的學習節奏定製方案，推動優質教育資源普惠共享；智慧交通、智能調度讓出行更高效、更安全，公共服務正從標準化慢慢轉向定製化。

科研領域也迎來全新範式。AI與物理、合成生物學、化學、材料科學等基礎學科深度結合，催生出AI4S這一科研新模式，大幅提升研究效率。過去需要科研人員長期篩選的數據、樣本，現在靠智能演算法可以快速處理、挖掘規律。麻省理工學院就曾用深度學習工具，短短幾天內就篩選出新型廣譜抗生素，展現出AI加速科研突破的巨大潛力。

社會治理同樣在升級。傳統治理方式偏粗放、效率不高，部門之間還存在信息孤島；而人工智能可以透過海量數據分析，即時監測社會運行態勢、提前預警公共安全風險，智慧政務打破部門壁壘、精簡辦事流程，讓治理更精細、更智能。

技術紅利背後的風險不能視而不見

人工智能在全面賦能社會發展的同時，也帶來一系列倫理、法律和社會問題。演算法不透明、數據被濫用、技術被誤用，都可能直接侵蝕公眾利益與社會秩序。

最常見的隱患是公平性受損。訓練數據本身帶有偏見，或是演算法邏輯存在缺陷，都可能讓AI系統產生歧視。亞馬遜早年推出的智能招聘系統，就曾出現明顯的性別歧視，對女性履歷刻意壓低評分，最終項目被迫停止。一旦演算法歧視滲透到招聘、信貸、公共服務等場景，就會直接破壞社會公平正義。

隨之而來的還有信任危機。當前主流AI系統普遍存在“黑箱”問題，決策過程不透明、邏輯難解釋，普通人很難理解它為什麼作出某個判斷。加上系統本身可能出現誤判，例如無人駕駛汽車因識別邏輯混亂引發事故，都會不斷降低公眾對AI的信任度。

隱私洩露更是高頻風險。新一代生成式AI具備強大的數據抓取能力，在網絡爬取信息、人機交互過程中，很容易收集到個人敏感信息甚至商業機密。三星員工就曾因使用AI工具導致內部機密多次外洩。在AI時代，個人隱私、企業數據面臨更隱蔽、更難防範的威脅。

更值得警惕的是新型網絡犯罪。深度偽造技術可以逼真偽造他人的聲音和面孔，被不法分子用於電信詐騙、惡意勒索、造謠傳播。語音偽造冒充高層轉帳、虛假音視頻擾亂公共輿論，相關案件數量快速上升，對社會誠信與公共安全構成直接衝擊。

此外，知識產權爭議也越來越突出。AI訓練過程大量使用網絡圖文內容，多數並未獲得原作者授權；而AI生成內容的版權歸屬、署名權至今仍模糊不清。AI還能被用來偽造科研數據、實驗圖像，引發學術不端，現有規則體系難以應對。

更遠期但更致命的是生物安全隱患。AI與生物技術加速融合，可能被用於危險病原體的研究與開發，對公共衞生安全構成潛在威脅。相關研究報告已發出警示，人工智能可能加速產生危害人類生存的知識，這一風險絕不能忽視。

讓AI在規範中向前發展

面對技術快速發展與風險交織的局面，全球都在加快構建人工智能治理體系。作為在智能時代承擔重要責任的參與者，我們需要樹立清晰的治理價值觀，讓AI在安全、有序的軌道上持續前行。

首先是堅持善治。人工智能的最終目標是增進人類福祉，一切研發和應用都要以人為本，守住倫理底線。堅決避免演算法偏見、數據濫用、隱私洩露等問題，統籌發展與安全、創新與規制，讓技術始終服務於人，而不是傷害人。

其次是堅持法治。面對數據安全、產權糾紛、深度偽造濫用等新問題，必須依靠法律劃出剛性紅線。歐盟已經實施全球首部綜合性人工智能法案，我國也將人工智能專項立法納入國家立法計劃。健全規則、明確責任邊界，才能有效防範系統性風險。

第三是堅持發展。國際科技競爭日益激烈，不能因為擔心風險就過度限制創新。要把握好“安全托底、創新優先”的平衡，不脫離實際空談倫理，兼顧技術進步、經濟增長和民生改善，給創新留出合理空間。

第四是堅持技治。很多AI帶來的風險，最終也要靠技術來解決。發展可解釋性AI，破解“黑箱”難題；推廣隱私計算、數據加密，減少信息洩露；研發深度偽造檢測工具，遏制新型犯罪。以技治技、以技防技，本身就是人工智能整體競爭力的重要部分。

第五是堅持敏捷治理。AI技術迭代太快、應用場景太廣，傳統滯後、一刀切的監管模式已經不再適用。需要建立靈活、快速響應的治理機制，針對不同領域、不同場景分類施策、動態調整，既有效管住風險，也不阻礙正常創新。

（作者係中國科學院自然科學史研究所副研究員）

（本文發布於《紫荊》雜誌2026年5月號）