飛象網訊（易歡）當前，人工智能技術顛覆性、跨越式突破引發通用人工智能新一輪發展熱潮，推動全球人工智能治理進入規則構建的關鍵階段。中國信息通信研究院發布的《人工智能治理藍皮書(2024 年)》指出，隨著人工智能的飛速發展，人工智能領域發展不平衡、規則不健全、秩序不合理等問題日益顯現，全球人工智能治理面臨前所未有的挑戰。并提出，未來，人類社會將邁向更深層次的智能化發展階段，需要系統謀劃、綜合施策，在倫理監測、制度設計、監管模式、國際合作等方面持續改革創新。
人工智能治理面臨復雜多變新形勢
近一年來，大模型等新技術帶動全球人工智能行業實現高速增長。從產業規模來看，受人工智能存儲、服務器等基礎設施市場拉動，2024年全球人工智能產業收入高速增長。據 IDC 預測，2024 年全球人工智能產業收入規模達 6421.8 億美元，同比增長22.2%。
與此同時，人工智能技術創新需求持續加大，產業鏈條拉長、商業生態分化等特征顯現。自 2022 年 11 月 ChatGPT 發布以來，人工智能已被應用于金融、法律、設計等多個行業。人工智能產業鏈條從大多數情況下由單一企業完成，發展為在開發、調優、應用等不同環節，由不同企業合作完成。圍繞生態主企業構建的商業生態開始出現分化，開源與閉源、通用與專用等不同路線均呈現競爭與融合并存態勢。
人工智能技術深刻變革、迅速發展的同時全球人工智能治理面臨復雜多變新形勢。《人工智能治理藍皮書(2024 年)》強調，全球人工智能行業實現高速增長，在產業規模、投融資、企業數量等方面表現明顯，具身智能、數字人等人工智能應用將驅動下一輪產業洗牌。通用人工智能技術飛速躍遷敲響安全警鐘，幻覺難消除、場景難限定、責任難追溯等特性放大了虛假信息、隱私侵犯、網絡犯罪等現實風險。
其中，在治理需求方面，人工智能安全可控和發展優先路線并存。一方面，國際社會普遍關注人工智能風險問題，將“安全、可靠和值得信賴”理念納入多部共識文件；同時探索通過英國、韓國、法國系列人工智能峰會，推進全球安全研究網絡和評估評測合作。另一方面，各國對技術發展不平衡帶來的“智能鴻溝”問題表示憂慮。
多元主體協同推進人工智能治理進程
《人工智能治理藍皮書(2024 年)》指出，為了推進人工智能治理進程需多元主體協同。主要經濟體政府監管模式各異，規則落地取得實質進展。以我國為例，我國構建四大層級制度體系，初步形成三項落地舉措從橫向來看，我國堅持人工智能發展與安全并重，強調國家主導，涵蓋頂層設計、法律制度、部門規章和技術標準四大層面，形成了由政府引導、多部門協同、公私部門合作參與的全方位治理格局。此外，已有立法為人工智能治理奠定扎實制度基礎。
部門規章方面，我國人工智能治理自2017 年起至今經歷了三個階段，體現出急用先行的治理特點。標準方面，各部門圍繞產業發展和風險治理出臺多項人工智能標準，為企業合規提供具體指引。實踐方面，我國形成監管備案、倫理審查和安全框架三個維度相互獨立又緊密關聯，各有側重但相輔相成的制度保障體系。
此外，企業和專業機構等主體創新探索，形成協同共治生態圈。科技企業、技術社區、行業共同體作為人工智能研發、部署和應用第一線的先行者，通過提供技術工具、充當“資源中介”、促進信息流動以及參與國際治理等發揮重要作用。
國際人工智能治理日益深化，三大維度熱點持續深化。新一輪人工智能技術創新導致治理舉措急劇增加，國家、國際和區域組織等競相發布原則、宣言、聲明等，全球人工智能治理格局復雜而分散，包容性有待進一步提升。機制層面，聯合國醞釀新的人工智能治理協調機制；議題層面，人工智能發展優先與風險管控路線并行；執行層面，各方推動高層次承諾向可執行政策落地。
五大對策建議加速推進人工智能治理
人工智能作為我國實施創新驅動發展戰略的關鍵力量，是加快形成新質生產力的重要引擎。展望未來，人工智能技術帶來的發展紅利和全球性挑戰同步顯現，各國圍繞人工智能評估評測、知識產權、價值對齊等加速搭建規則標準體系，人工智能治理加速邁入實踐落地和國際合作的關鍵窗口。
藍皮書也對加速推進人工智能治理提出了五點建議：一是深化落地人工智能協同敏捷治理模式探索敏捷治理理念，建立靈活性、全面性制度框架，推動人工智能高質量發展和高水平安全實現良性互動。二是系統監測預警人工智能倫理社會影響為有效應對具身智能、數字人等應用帶來的情感依賴、勞動替代等倫理挑戰，應對相關倫理影響進行系統監測預警。三是圍繞要素和場景細化負責任創新方案面對人工智能帶來的制度性挑戰，針對產業鏈各環節，堅持“小步快跑”“邊發展邊治理”的制度路徑具有重要現實意義。四是立足于全生命周期優化安全技術工具人工智能治理既需要完善治理理念與規則，也需要優化治理手段與能力，進一步更新豐富治理工具箱。五是加速落地全球人工智能能力建設方案人工智能治理攸關全人類命運，是世界各國面臨的共同課題，應積極參與并推動國際合作治理。
