院士預測未來五年AI大模型三層風險,腦機接口被點名

中本財經據來源:上觀新聞 作者:第一財經「目前,(AI大模型)風險是可控的。 但當'信息智能'延伸到'物理智能','生物智能'也開始使用時,此時(AI大模型的)風險會比較大。」

清華大學智能產業研究院院長、中國工程院院士張亞勤24日在中國發展高層論壇(CDF)2024年年會期間的一場研討會上表達了上述觀點,該研討會主題為「人工智能發展與治理」。

張亞勤認為,目前,人工智能已發展到大模型時代。 未來5年裡,大模型可能在各個領域都進入大規模應用階段, 並由此產生三層風險。

第一層風險是信息世界的風險。 張亞勤說,目前,人類所應用的大部分智能還屬於「信息式的智能」,海量的信息中不乏錯誤的信息和虛假的信息。

第二層風險則是與生物智能發展密切相關。 張亞勤認為,伴隨機器人、無人機等技術發展和應用,信息智能已逐步與物理世界相連。 當大模型進一步與生物體、人類大腦連在一起的時候,風險可能規模化。

「腦機接口」是張亞勤「點名」的一類生物智能。 所謂「腦機接口」,首都醫科大學宣武醫院院長趙國光曾作出通俗的解釋:通過採集人的意念,經過算法處理、信號分析,將其轉化為機器可識別的指令,並支配氣動手、機械臂、輪椅等外部器械,實現腦機聯合。

作為人腦和電腦連接的橋樑,腦機接口為難治性神經系統疾病治療打開了巨大的想象空間。 據市場機構預測,腦機接口 (BCI) 市場正處於轉型增長期,預計到2030年將達到59.9億美元,複合年增長率高達15.9%。

但該技術也存在倫理方面的隱患--當癱瘓患者因腦機接口技術重獲與外界交互的能力,普通人可能藉助腦機接口變成超人嗎? 今年2月科技部印發的《腦機接口研究倫理指引》,對這種為「普通人變超人」帶來可能性的「增強型腦機接口研究」作出特殊要求。

再進一步看,張亞勤還表示,未來五年里,當AI大模型再連到現實世界中的經濟體系、金融體系、軍事系統,影響電力等網絡,也可能產生較大隱憂,這是第三層風險。 「(對於進入AI時代)人們其實完全沒有做好準備,無論是在治理,還是在就業方面。」 香港大學教授、當代中國與世界研究中心主任李成在同場研討會上也表達了相似的擔憂。

李成提到他近期參加兩場AI治理有關的跨國閉門會議的經歷。 「與會者都是全球領先的科學家,大多數來自於西方國家。 當時有54個國家的首腦都參與了那個會議,探討AI這個話題。 AI其實已經是一頭灰犀牛了,但是沒有人能夠預測它能夠這麼快、這麼大規模地出現在我們的社會裡面。」 李成說。

怎麼解決這些問題? 張亞勤提出了多點建議,其中之一是未來需要科學家、技術從業者和企業家一起「邊發展邊治理」。 「我呼籲把10%的經費投入到大模型風險的研究裡面去,這個研究不僅僅是政策研究,還有其中的很多算法、技術的研究。」 張亞勤說。

清華大學蘇世民書院院長薛瀾在該場研討會上也給出5點治理建議:第一,要加強安全領域的技術研發和國際合作;第二,敏捷治理可能是這個時代需要考慮的一種模式;第三,鑑於外界的規制難以解決信息不對稱的問題,要鼓勵企業的自我規制,並建立相關機制;第四,倡導全球化治理;第五,減少地緣政治對全球科技發展和治理的負面影響。

「比如,在人工智能領域中美雙方一定要加強合作,這樣才能真正解決人類面臨的各種問題。」 薛瀾說。

中本財經據來源:上觀新聞 作者:第一財經 報導