趙福全1、劉宗巍1、劉兆鵬2、何偉2
【編者按】
AI（人工智能）的飛速發(fā)展與全面滲透，正在開啟一場顛覆性的時代變革。這場技術(shù)變革既為社會進(jìn)步、產(chǎn)業(yè)重構(gòu)、企業(yè)發(fā)展和個體成長打開了全新的增長空間，也帶來了認(rèn)知顛覆、崗位調(diào)整、經(jīng)營革新、社會治理等多重挑戰(zhàn)與潛在風(fēng)險。機(jī)遇與挑戰(zhàn)共生，紅利與變局并行，身處AI加速落地的關(guān)鍵階段，每個人、每家企業(yè)、整個社會都不得不直面一系列核心拷問：個人如何借助AI賦能、規(guī)避被替代的風(fēng)險，穩(wěn)固自身不可替代的人本價值？企業(yè)如何認(rèn)清AI變革的底層邏輯，跳出盲目布局、低效應(yīng)用的困境，實(shí)現(xiàn)經(jīng)營范式與價值創(chuàng)造的迭代升級？社會如何平衡技術(shù)創(chuàng)新與安全底線、堅(jiān)守人本核心，推動AI產(chǎn)業(yè)規(guī)范、健康、可持續(xù)發(fā)展？
針對當(dāng)下AI時代的種種困惑與轉(zhuǎn)型難題，趙福全教授撰寫2萬余字重磅長文——《AI時代的特征、機(jī)遇、挑戰(zhàn)與應(yīng)對》，以宏大的全局視野和深度的底層思考，系統(tǒng)解答了AI時代的核心命題。全文層層遞進(jìn)、邏輯嚴(yán)密，不僅闡述了AI的本質(zhì)屬性、基本特征、深遠(yuǎn)影響與演進(jìn)方向，還剖析了AI帶給人類社會的巨大機(jī)遇與嚴(yán)峻挑戰(zhàn)，更為各類主體認(rèn)清趨勢、應(yīng)對變局、落地轉(zhuǎn)型提供了一套完備、可落地的認(rèn)知體系與行動方案。
因全文體量較大、內(nèi)容厚重精深，為方便閱讀，我們將全文拆解為6期系列連載，持續(xù)推送。此篇為第3期，誠邀各位讀者關(guān)注和追更，以助系統(tǒng)了解AI時代變革的底層邏輯，明辯轉(zhuǎn)型路徑、從容應(yīng)對變局、把握時代先機(jī)。
【精彩觀點(diǎn)】
“AI是一把‘雙刃劍’：它既是認(rèn)知的增強(qiáng)器，也是認(rèn)知的卸載器。”
“人們將越來越依賴AI獲得信息，AI提供的信息具有離散性和隨機(jī)化的特點(diǎn)，且常常伴隨著一系列錯誤，這些良莠不齊的碎片化信息將直接影響人類掌握知識的系統(tǒng)性和準(zhǔn)確性。”
“人類對知識的記憶其實(shí)是一個知識蒸餾的過程，因?yàn)槿祟愂峭ㄟ^學(xué)習(xí)、思考和實(shí)踐來理解、記憶知識的?！?/span>
“在現(xiàn)實(shí)社會的競爭中，具有高階思維能力、擁有更高認(rèn)知的人永遠(yuǎn)都會碾壓那些低階思維、低認(rèn)知的人。而AI將把這一點(diǎn)徹底放大?！?/span>
“一旦AI失去控制，不僅會給我們的生產(chǎn)生活帶來災(zāi)難性的沖擊，而且最終可能會危及人類的主導(dǎo)地位甚至生存延續(xù)。因此，必須給AI設(shè)置明確的紅線。”
“人并不是要與AI對抗或者比拼能力，而是要回歸自身獨(dú)有的價值，即只有人能體驗(yàn)、能感受、能享受，并由此筑牢人類的思想主權(quán)?！?/span>
【正文】
AI對人類的沖擊、風(fēng)險及其應(yīng)對
1.客觀看待AI：收益與風(fēng)險并存
需要強(qiáng)調(diào)的是，AI的發(fā)展既能帶來巨大收益，也會產(chǎn)生諸多風(fēng)險。而筆者認(rèn)為，這種收益與風(fēng)險在本質(zhì)上都源于AI對人的影響以及由此引發(fā)的人機(jī)關(guān)系的改變。簡言之，AI是一把“雙刃劍”：它既是認(rèn)知的增強(qiáng)器，可以幫助人類處理海量信息并提供決策輔助，成為人類大腦能力的延伸，從而幫助人類突破固有的認(rèn)知壁壘；同時它也是認(rèn)知的卸載器，人類如果過度依賴AI來獲取“標(biāo)準(zhǔn)答案”，就會弱化自身獨(dú)立深度思考和批判性思維的能力，從而削弱人類的認(rèn)知能力。所以，我們一定要在二者之間把握平衡，既要利用AI來提高知識獲取的廣度、深度和效率，更要有意識地加強(qiáng)深度思考，并保留最終的判斷權(quán)和決策權(quán)。也就是說，一方面，我們要充分利用AI工具來快速全面繪制未知領(lǐng)域的全景圖；另一方面，對于風(fēng)險判斷、路線選擇等必須深入思考和慎重決策的重要工作，我們要做到自行主導(dǎo)完成。
2.AI對人類的沖擊：全面深刻、潛移默化
下面具體剖析AI對人類的沖擊，筆者認(rèn)為主要有以下四個方面的風(fēng)險。
一是知識體系遭遇挑戰(zhàn)。由于AI工具的強(qiáng)大和便捷，人們將越來越依賴AI來獲取信息。但AI提供的信息具有離散性和隨機(jī)化的特點(diǎn)，且常常伴隨著一系列錯誤（所謂“AI幻覺”），這些良莠不齊的碎片化信息將直接影響人類掌握知識的系統(tǒng)性和準(zhǔn)確性。事實(shí)上，AI使人類主動、獨(dú)立思考和探索的高階能力面臨急劇下降的風(fēng)險，而系統(tǒng)性、批判性、獨(dú)立性思維恰恰是人類形成主觀判斷力的關(guān)鍵。從這個意義上講，AI絕不是簡單的工具革新，而是會與人類爭奪認(rèn)知主權(quán)。
二是記憶價值顯著弱化。AI可以讓人快速、方便地獲取各種知識，這似乎會導(dǎo)致人類記憶知識的價值銳減。然而記憶一直是人類智能的基礎(chǔ)，更是人類做到融會貫通和觸類旁通的前提。如果套用大模型的術(shù)語，人類對知識的記憶其實(shí)是一個知識蒸餾的過程，因?yàn)槿祟愂峭ㄟ^學(xué)習(xí)、思考和實(shí)踐來理解、記憶知識的。所以，人類在AI時代仍然需要自主記憶一定的知識，這是我們掌握了這些知識的一種體現(xiàn)，其重要性甚至可能更勝從前。試想如果我們腦袋空空、沒有知識儲備，那又如何與AI互動？如何正確判斷AI輸出的內(nèi)容？如何利用AI去創(chuàng)造發(fā)明呢？在此筆者想強(qiáng)調(diào)的是，盡管AI使知識的獲取變得便捷化和低成本，但這與我們需要自行掌握知識并不矛盾。當(dāng)然，我們也不能有意排斥AI，而是應(yīng)該充分利用好AI來賦能我們學(xué)習(xí)知識的過程。同時，我們必須徹底告別“死記硬背”的學(xué)習(xí)方式，更強(qiáng)化對知識的理解式“記憶”，這才是AI時代掌握知識的最佳方法?？傊覀儽仨毲逍训卣J(rèn)識到：使用AI進(jìn)行學(xué)習(xí)和工作是不可逆轉(zhuǎn)的大趨勢，最終不是AI淘汰誰，而是那些懂AI、善用AI的人取代那些不懂AI、不用AI的人。
三是認(rèn)知過程缺失、知識面趨窄。AI端到端的輸出模式使其給出的結(jié)果具有不可解釋性，這讓人“只知其然、不知其所以然”；同時，AI往往基于個性化推薦算法投喂式地向人提供感興趣的內(nèi)容，這又容易讓人陷入到“信息繭房”中。由此人類的認(rèn)知過程將逐漸缺失，這會導(dǎo)致人的技能空心化、應(yīng)變能力退化，只能被動接受AI的輸出；也會導(dǎo)致人的知識面趨窄、志趣單一，變得越來越無聊、也越來越圈層化。反過來，這又將進(jìn)一步加速知識密集型崗位被AI全面替代的進(jìn)程。
四是人機(jī)界限漸趨模糊。綜上所述，AI一方面將給人類帶來前所未有的知識平權(quán)，使普通人都可以快捷獲取各種知識，另一方面又將造成人類的思考能力日益退化。而人類高階思維的退化和情感向AI的遷移，會導(dǎo)致人越來越像機(jī)器一樣“短平快直”地思維，使人的心靈力量逐漸“枯萎”。更有甚者，隨著AI能力的提升，人類正逐漸將道德和倫理“算法化”，把這些凸顯人類底色的核心價值取舍外包給AI來判斷和處置。例如自動駕駛車輛遇險時應(yīng)該優(yōu)先保護(hù)誰等決策，都直接由AI來作出。表面看，這為人類解決了諸多難題；但實(shí)際上，如果沒有合理的前期設(shè)定和過程監(jiān)管，任由AI決定各種事宜，很可能會導(dǎo)致人類價值觀淡漠、社會責(zé)任感下降等一系列問題?？傊?，上述人機(jī)界限漸趨模糊的情況意味著人的思想很容易被忽略、貶值甚至遺棄，由此社會將形成大量的“知識浮游者”——只知道對內(nèi)容無限攝取，卻缺乏辨別和判斷的能力，任由AI“妄言臆斷”。
可見，AI時代最可怕的并不是技術(shù)發(fā)展得有多快，而是人類會不會因此而喪失高階思維能力。由此，人類也將首次面對世界“誰主沉浮”以及“何以為人”的嚴(yán)峻問題。筆者始終認(rèn)為，在現(xiàn)實(shí)社會的競爭中，具有高階思維能力、擁有更高認(rèn)知的人永遠(yuǎn)都會碾壓那些低階思維、低認(rèn)知的人。而AI將把這一點(diǎn)徹底放大。那些“濫竽充數(shù)”“隨波逐流”的人或?qū)⒂捎谌狈λ枷攵鴾S為AI的“寵物”，并最終被AI時代所拋棄。對此，我們每一個人都要有清醒的認(rèn)識。
3.AI對人類的威脅：亟待劃清紅線
由于AI具有空前強(qiáng)大的能力，關(guān)系到世界各國未來的核心競爭力，因此當(dāng)前全球范圍內(nèi)的AI競賽已經(jīng)開啟。主要國家和地區(qū)紛紛傾注海量資源，持續(xù)推進(jìn)AI加快發(fā)展，唯恐落后于人。然而在全球發(fā)力AI“軍備競賽”的同時，作為硬幣的另一面，AI已經(jīng)開始對人類構(gòu)成非?，F(xiàn)實(shí)的威脅，且風(fēng)險在不斷加劇。很多頂級AI專家及企業(yè)家都在不同場合指出，一旦AI失去控制，不僅會給我們的生產(chǎn)生活帶來災(zāi)難性的沖擊，而且最終可能會危及人類的主導(dǎo)地位甚至生存延續(xù)。之前談到有人將AI稱為“人類最后的發(fā)明”，這充分彰顯了AI的巨大潛力與價值，但筆者理解，這其實(shí)還有另外一層含義，即人類文明或?qū)⒁駻I而終結(jié)。
這絕非杞人憂天或者危言聳聽。事實(shí)上，2025年9月全球數(shù)百位知名人士，包括多位諾貝爾獎和圖靈獎得主在內(nèi)，共同在聯(lián)合國發(fā)布了《全球人工智能紅線呼吁》（Global Call for AI Red Lines）倡議，呼吁盡快建立全球AI管控規(guī)則，給AI設(shè)定明確紅線，包括：禁止AI未經(jīng)授權(quán)就自我復(fù)制和改進(jìn)；禁止AI冒充人類，偽造逼真的現(xiàn)實(shí)；禁止AI協(xié)助設(shè)計(jì)、獲取、升級大規(guī)模殺傷性武器；禁止AI擁有自主發(fā)動致命攻擊的權(quán)力等。毫無疑問，這些紅線如果被逾越，必將造成全球秩序的混亂和失控，甚至導(dǎo)致人類的毀滅。
當(dāng)前，人類正站在AI發(fā)展的歷史“十字路口”上，各國都面臨兩難的抉擇：如果過于保守，可能因AI發(fā)展滯緩而陷入落后或被動，在經(jīng)濟(jì)、產(chǎn)業(yè)、科技、資本、人才乃至安全等方面被競爭對手全面壓制；而如果過于激進(jìn)，雖然有望因AI發(fā)展迅猛而實(shí)現(xiàn)繁榮和領(lǐng)先，贏得企業(yè)、產(chǎn)業(yè)乃至國家的競爭優(yōu)勢，但也極易出現(xiàn)AI監(jiān)管和治理滯后，對相關(guān)風(fēng)險疏于防控，從而引發(fā)整個人類的滅頂之災(zāi)。
4.構(gòu)建匹配AI發(fā)展的社會環(huán)境：保障安全、守護(hù)人本
盡管AI對人類的沖擊乃至威脅日益凸顯，但其重塑世界的趨勢不可逆轉(zhuǎn)，其戰(zhàn)略價值更不容忽視，所以人類理應(yīng)加強(qiáng)全球合作與協(xié)同共治，主動直面并系統(tǒng)應(yīng)對AI帶來的多元挑戰(zhàn)。
一是主權(quán)安全挑戰(zhàn)。由于支撐AI發(fā)展的大模型及其背后的基礎(chǔ)數(shù)據(jù)涉及到各國政治、經(jīng)濟(jì)、國防、文化、歷史、價值觀等諸多核心要素，國家主權(quán)大模型的建設(shè)業(yè)已成為競爭的焦點(diǎn)。未來AI技術(shù)過度依賴他國、AI訓(xùn)練數(shù)據(jù)被惡意污染（所謂“數(shù)據(jù)投毒”）或者在國際AI規(guī)則制定中缺乏話語權(quán)等情況，都會危及一個國家的AI主權(quán)安全。為此，各國都必須擔(dān)負(fù)起治理AI的主體責(zé)任，加快構(gòu)建自主可控的主權(quán)AI戰(zhàn)略體系：一方面要確保AI戰(zhàn)略自主性，包括將本國歷史文化、價值理念和法律法規(guī)、治理要求等深度內(nèi)嵌于AI體系中，以筑牢AI基礎(chǔ)設(shè)施主權(quán)，也包括實(shí)現(xiàn)技術(shù)自主可控，還包括保障數(shù)據(jù)主權(quán)等等；另一方面要提升AI的全球競爭力，積極爭取國際標(biāo)準(zhǔn)制定權(quán)和全球規(guī)則話語權(quán)。
二是治理失控挑戰(zhàn)。未來AI的應(yīng)用會日益廣泛深入，而一旦其治理失控，極易出現(xiàn)倫理失范、責(zé)任模糊以及決策不透明等風(fēng)險，這將嚴(yán)重動搖人類的主導(dǎo)權(quán)甚至威脅到人類文明的存續(xù)。為此，我們在大力發(fā)展AI的同時，必須建立起以人本治理為核心的AI制度規(guī)則體系。具體來說，在倫理規(guī)范方面，要將人類的價值深嵌于AI之中，構(gòu)建以人為本的倫理框架，努力確保AI與人類的價值觀一致；在治理機(jī)制方面，要做好AI發(fā)展速度與安全的平衡，既不能因噎廢食，也不能盲目冒進(jìn)，同時要強(qiáng)化AI決策的可解釋性；在法律政策方面，要明確人是AI應(yīng)用方向及內(nèi)容的唯一設(shè)定者，包括做什么事、為什么做、不能傷害誰等等，都必須由人來決定。
三是分配失衡挑戰(zhàn)。如前所述，AI將催生出“強(qiáng)者更強(qiáng)、效率碾壓”的全新格局，由此很可能會導(dǎo)致社會財富加速集中以及人類技能鴻溝化、就業(yè)兩極化。為此，我們必須構(gòu)建起資源分配的普惠共享機(jī)制。一方面要實(shí)現(xiàn)收益共享，如政府征收AI稅來服務(wù)全社會，企業(yè)則承擔(dān)起以AI收益培養(yǎng)人類員工的責(zé)任；另一方面要實(shí)現(xiàn)能力普惠，如企業(yè)拿出通過AI賺取的部分利潤來建立免費(fèi)的AI工具庫等，以此惠及普羅大眾。
四是價值迷失挑戰(zhàn)。更進(jìn)一步來說，AI還可能會帶來人類意義消解、人性異化、文明退化等諸多風(fēng)險。為此，我們必須重新確立人類文明的價值，以意義來引領(lǐng)文明的發(fā)展。一方面要錨定人的價值，人并不是要與AI對抗或者比拼能力，而是要回歸自身獨(dú)有的價值，即只有人能體驗(yàn)、能感受、能享受，并由此筑牢人類的思想主權(quán)；另一方面要堅(jiān)守人本立場，重建對人類思想的信仰、對人類心靈的滋養(yǎng)以及對人類文化的守望。
總之，構(gòu)建匹配AI發(fā)展的社會環(huán)境，既不是要保守地約束AI發(fā)展，也不是要激進(jìn)地推動AI競賽，而是要讓人類在AI技術(shù)營造的類人鏡像中，重新確認(rèn)自身存在的完整意義，進(jìn)而守護(hù)人本價值，再次確立人類的主導(dǎo)地位。也就是說，我們應(yīng)該充分認(rèn)識并積極挖掘AI的機(jī)遇與潛力，客觀理性地看待并應(yīng)對AI帶來的沖擊與風(fēng)險，時刻以安全為底線，始終強(qiáng)調(diào)人的主體性，不斷突破AI可能會對人類自身能力進(jìn)化產(chǎn)生的抑制或禁錮，最終真正實(shí)現(xiàn)惠及全世界、全社會的AI科技向善。
未完待續(xù)，請繼續(xù)關(guān)注《AI將重構(gòu)企業(yè)經(jīng)營范式》
