“未來100年后，我們看現在的人類，就像人類看四萬年前的山頂洞人。未來一定是人工智能和機器融合的時代，我們必須正視AI（人工智能）帶來的風險，如果不加以引導控制，可能會引起生存危機。”

伴隨Sora、ChatGPT等接連誕生，人工智能正在引爆新一輪產業革命，在2024年博鰲年會上，中國工程院院士、清華大學智能產業研究院院長張亞勤談到他心中的人工智能發展趨勢。

“這是我第八年參加博鰲，也是第八次在現場討論人工智能。”小i集團董事長兼首席執行官袁輝袁輝笑稱，在他第一次參加時，當時的科技圈普遍認為人工智能的“奇點”還很遙遠，如今科技發展瞬息萬變，人工智能已成為人類需要思考和警惕的巨大挑戰。

第四范式聯合創始人胡時偉則在接受澎湃新聞記者采訪時表示：“新質生產力是定義人工智能的模式和路徑，人工智能是新質生產力重要的技術手段支撐和發展的重要引擎。這是國家戰略層面的重要方向，我們要做的事情就是積極地去實現這個方向。”

人工智能的未來究竟會走向何方？現場，多位學者和企業家展開熱議。

大語言模型就像“黑匣子”

“現在的AI只是一個看似智能的信息處理工具，并不具備真正的人類理解能力。”中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅表示。

人工智能作為學科出現時，普遍被認為能精確描述人類的智能學習或是方方面面，當前的人工智能在行為上看起來有接近人類水平的表現，但在一些關鍵的人類從不犯錯誤的領域，人工智能不停犯錯，這說明現在的人工智能系統還只是一個看似智能但還沒有真正的智能能力的系統。

在曾毅看來，機器人如今仍然是通過行為的模擬，盡可能和人類的接近。“但即使人只能做到60%，機器能做到99%，那百分之一就是人和機器的差別。”

“人工智能是賦能所有行業的，現在已經像感覺空氣一樣感覺到它的存在，而且一旦斷開就再也沒有生存可能，如今人工智能已經浸潤人們生活的每個方面，滲透到思考、呼吸以及每個動作，沒有一個產業有理由拒絕人工智能。”袁輝表示，通用人工智能（AGI）最早的定義就是未來何時會具備人類一樣的自我意識，那將是對人類產生終級挑戰的物種。

“未來人類如何更好利用AI，將會是每個個體、乃至企業跑贏大盤的關鍵。”袁輝認為。

加州大學伯克利分校計算機科學教授斯圖爾特·羅素表示，當前的人工智能系統仍然存在技術缺口，簡單的模型擴展和數據增量并不能完全彌補這些差距。在他看來，現有的大語言模型像是一個“黑匣子”，其內部機制和運作方式并不透明，這使得人們難以確定其真正的目標和潛在風險。

人類在面對比自己更強大的機器時，應該如何保持掌控權？羅素呼吁，應當在人工智能領域進行更深入的研究，以實現所謂的“可證明的AI”，即能夠證明其行為對人類有益的系統。

張亞勤則坦言，未來AI發展風險需要引起重視，人工智能加速了人類腦力的進化，未來一定是人工智能和機器智能融合。但風險很大，我們必須正視風險，如果不加以引導控制，這個風險會轉化成為人類生存的風險。

談國際差距：有能力未來對標國際頂尖

在中美AI差距方面，袁輝表示，本質上從算法、數據和應用場景來看，各個國家有不同的優勢。“中國從互聯網開始，在應用領域是全球領先的。但我們需要在基礎核心的技術研發領域進一步發力。”同時他表示，近年來無論是在專利、知識產權申請還是論文發表方面，從數量和質量方面都有很大的躍升。

科大訊飛副總裁劉聰則告訴澎湃新聞記者，中國確實和國際頂尖的AI水平存在一定差距，這是共識，但是這樣的差距正在持續地追趕，在他看來，通用大模型的主戰場還是底座大模型，中國大模型底座能力需要依托自主可控平臺進行創新。科大訊飛去年與華為聯合推出的首個支持萬億浮點參數訓練的國產算力訓練平臺“飛星一號”，科大訊飛在今年1月30日發布訊飛星火大模型V3.5，同步推出星火語音大模型。訊飛星火V3.5七大核心能力全面提升，其中語言理解、數學能力超過GPT-4 Turbo，代碼達到GPT-4 Turbo 96%，多模態理解達到GPT-4V 91%。

劉聰認為，中國有能力在算力平臺上對標國際頂尖水平，目前，對標GPT-4當前能力的訊飛星火V4.0正在訓練中，預計在2024年6月發布，將在中文能力上實現完全對標。

而在曾毅看來，中國未來人工智能發展不僅僅是要在最基礎模型上進行顛覆式創新，更關鍵的是全自主的軟硬件協同創新，雖然人工智能趨勢是全球化產業鏈，但是中國要做好軟硬件基礎設施上不依賴于可能會脫鉤斷鏈技術的準備。不過，人工智能“脫鉤斷鏈”的做法可能得到全球反對，這會對全球產生更大的數字鴻溝。

他認為，為了避免這樣的趨勢，中國發展人工智能模型算法算力，未來應當它共享給全球。

“AI人才最緊缺，機會才剛開始”

對于大模型和生成式AI的關系，張亞勤表示，前者是技術、后者是能力。因為有了預訓練的、超大規模的、自監督式的大模型，生成式AI才具有巨大能量，未來大模型的走向將分為三個方向，其中，第一個是多模態，第二個是自主智能，第三個是邊緣智能。

張亞勤表示，AI大模型走向自主智能，就可以制定目標、規劃任務、自我制定路徑、自我完成方案、自我編碼。

在談到AI是否會取代人類工作時，高通公司中國區董事長孟樸坦言，他并不焦慮，“我不太相信我們自己創造人工智能把我們完全替代，我倒更擔心的是一部分掌握人工智能的人會搶占先機，人工智能時代，我們要利用人工智能，把最新的技術、最新的教育帶到鄉村，讓所有的人都能掌握這些技術。”

在發展大模型產業中，算力、算法、數據和人才哪個最重要？

胡時偉告訴澎湃新聞記者，目前AI產業人才稀缺，“目前能解決超大規模集群的這些人才，肯定是稀缺的。另外，產業內還稀缺具備數字化思維，能夠用人工智能的技術能夠去解決行業問題，定義行業問題，并解決行業問題的人才。”

張亞勤則表示，上面這些因素都很重要，但長期來看的話，還是人才最重要，“現在人工智能發展階段還處于42公里馬拉松的第5公里，機會才剛剛開始。