人工智能治理“四個A”新框架提出
222
訂閱已訂閱已收藏
收藏點擊播報本文,約
一套面向前沿人工智能(AI)治理的新框架提出。該框架不再把“是否放緩發展”作為唯一選項,而是將倫理風險拆成四個可操作的維度。相關論文發表在最新一期《人工智能與倫理》期刊。
英國安格利亞魯斯金大學學者將這套框架稱為“四個A”:行動(Action)、訪問(Access)、權威(Authority)和分配(Allocation)。研究者認為,前沿模型的訓練速度很難靠“踩剎車”真正控制,因為模型能力不局限於某一家公司或一個國家。更現實的做法,是在不同環節設置相稱的保障措施,即保留有意義的人類控制,引入獨立評估與明確責任,並隨能力變化定期重審。
四個維度分別指向不同類型的倫理問題。“行動”關注人類能否限制AI具體能做什麼﹔“訪問”關注誰有資格接觸或調用危險能力﹔“權威”關注哪些判斷可以被委托給AI,例如醫療或軍事決策﹔“分配”關注AI帶來的利益、負擔與權力如何流轉。框架強調,風險不是單一問題,要先識別它屬於哪一個“A”,再匹配相應的治理工具,開發者主要約束行動,監管機構管理訪問,部署機構守住權威邊界,政府與公共機構承擔分配責任。
框架從以往管理強技術的過程中吸取經驗,參照對象包括核軍控、CRISPR基因編輯治理,以及1975年討論重組DNA技術的阿西洛馬爾會議。框架特別提醒,干預措施可能產生連鎖反應。比如收緊強大模型的訪問權限,雖然能降低濫用風險,也可能把能力與決策權進一步集中到少數企業手中,從而制造新的配置難題。治理不能隻看單點安全,還要監測權力是否失衡。
英國近期政策提供了現實注腳。新設的AI生物安全實驗室計劃借助前沿模型提升生物安全能力,同時依賴對先進模型的可信訪問。
隨著AI加速滲透科研自身,治理緊迫性還在上升。劍橋相關研究顯示,研究自動化可能觸發所謂“智能爆炸”,把數年的進步壓縮到數月。研究者指出,當能力演進快過制度適應速度,隻問“AI是否安全”已經不夠,必須繼續追問:誰在掌控,誰有訪問權,決策權落在何處,最終由誰享受收益、由誰承擔代價。(記者張夢然)
【總編輯圈點】
這項研究把關於AI安全的空泛爭論,拆成幾件具體的事,簡單說就是能否規定它做什麼、誰能用它、哪些決定不能交給它、好處壞處各落在誰身上,這讓各方職責清楚了不少。不過也要看到,目前的框架還沒有給出具體標准,風險高低怎麼衡量、做到什麼樣才算合格等都需要后續進一步討論,“四個A”維度之間還可能互相打架。而且,這套思路主要來自西方監管習慣,各國情況不同,照搬未必好用。下一步,研究者可能要拿出可操作的指標並用真實案例來檢驗。
分享讓更多人看到
- 評論
- 關注


































第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量