“AI較難替代的大會大模代下的奧工作有兩個特點”
魏武揮（上海交通大學媒體與傳播學院講師、天奇創投基金管理合伙人）：第一個問題想拋給在座每一位嘉賓，圓桌人工智能替代人類工作的實錄原則是什么？
許紀霖（華東師范大學歷史系教授）：簡單來說，人工智能不能替代不循規蹈矩的本海人。人工智能最能替代學霸，默糾因為學霸沒有原創力，外灘只是大會大模代下的奧機械地回答正確的答案，ChatGPT就是圓桌一個超級大學霸。人工智能可以替代所有循規蹈矩的實錄人，也就是本海困在系統中的每一位。
人工智能也不能替代經常胡思亂想、默糾有想象力和原創性的外灘人，這些人像奧本海默一樣能對人類作出巨大貢獻和創新。大會大模代下的奧
王國豫（復旦大學哲學學院教授、圓桌中國科協-復旦大學科技倫理與人類未來研究院院長）：這可能取決于我們如何定義人工智能，以及人工智能在什么發展階段。剛剛有一位老師在演講中講到，碳基生命會被硅基生命取代，所有工作都會被取代。但目前至少沒有人被完全取代。
復旦大學哲學學院教授、中國科協-復旦大學科技倫理與人類未來研究院院長王國豫。
這是一個非常抽象的問題，意義在于時刻提醒我們，讓人類更有危機感——我們有可能被取代。實際上每個人的生命都可以被取代。作為個體，每個人都可以被取代；作為一個類屬，人類終將走向死亡。不一定說被人工智能取代，但我覺得人是有限的，人類在宇宙中可能只是一個時刻。這不是悲觀，而是提醒我們要珍惜生命存在的意義。
嚴鋒（復旦大學中文系教授）：我認同王老師說的，有一天我們終將被取代。取代并不是一個可怕的詞，這樣的事情在生物演化史上已經發生了很多次，而且我也不認為取代就是死亡，它也可能是一種再生。
我有一個強烈的感覺，今天教師的角色在很大程度上會被取代，并且正在發生。作為教師、一個知識傳播者，正在被ChatGPT取代。但教師還有其他功能和形象，這也是我們在研究思考的：我們可以把哪些方面進一步傳到下一代教師或一種新的師生關系中。
陳運文（達觀數據董事長）：達觀數據專門做大模型落地的應用系統開發，跟技術落地更緊密。我們在實踐過程中看到，當前新一代人工智能技術能替代或減輕的人的工作有兩個特征：一是相對標準化的工作，比如財務工作很標準化。二是這些崗位通常是純腦力勞動，不需要體力勞動，并且是純標準化的工作。新一代人工智能出來后，這些工作是大幅度自動化的，目前這個趨勢非常明顯。
反過來講哪些工作比較難替代，有兩個特點：一是腦力和體力相結合的工作。二是存在大量個性化的工作。我看到一個報道說現在最難被替代的一個崗位是園林綠化工，這是腦力和體力相結合的工作，比如剪草坪、剪樹球，每一棵草、每一棵樹都長得不一樣，而且過程是體力和腦力相結合，當下比較難用AI實現。
劉華[上海稀宇科技有限公司（MiniMax）公共事務副總裁]：“替代”這個詞過于沉重了，在業界，我們更愿意認為大模型技術讓一些行業和工作的生產力大大提高?，F在一些白領的工作是簡單重復的，沒有多少創新性，比如行政文員甚至是比較低階的投資銀行家、咨詢師，這些傳統上我們認為的高階白領，他們從事的都是簡單重復甚至是死記硬背的工作，這種崗位的數量會減少。
當然未來隨著人工智能技術與機器人技術的結合，在運用體力勞動的第一線，如果從事的是簡單重復、沒有多少創新性的工作，這類崗位的數量也會急劇減少。這就涉及到許多其他問題了，總體來說這是社會的進步，更多人能從過去簡單的機械工作里解放出來去做更有原創性的工作。
“教育要做的是ChatGPT+”
魏武揮：我想拋出關于大學的問題，在座的大學老師里有沒有碰到過學生用ChatGPT做作業的？你們怎么看待ChatGPT或大語言模型在高校中使用？
許紀霖：我今年已經在多個高校做過這個話題的演講了，也測試了現在有多少學生用ChatGPT學習，比例在60%左右，無論是華東師大、上海財大，等等。這個比例會增加，到明年可能接近90%。這個潮流是擋不住的，不管學校有沒有進步，這對教育是顛覆性的。ChatGPT重新衡量了好老師、好學生的標準，這個尺度由ChatGPT來定義，也就是說以后一個好老師一定是在ChatGPT的海平面之上的，一個好學生的答卷是超越ChatGPT的，這是顛覆性的，對中國教育是一個挑戰。
華東師范大學歷史系教授許紀霖。
中國過去的教育最強的就是基礎教育，但今天這些學霸式的學習對基礎知識的掌握完全可以用ChatGPT實現。以后無論是個人之間的競爭，還是國家間的競爭，比的不再是學霸的水平，而是0-1這種從無到有的原創性。原創性一定和想象力、直覺有關，但人工智能到目前為止還沒有肉身和情感意識，ChatGPT目前還沒有這種能力，也許以后我們的教育要做的是ChatGPT+，也就是ChatGPT目前還沒有完成的事，比如情感教育、批判思考、想象力，這些讓我們有信心站在講臺上。
王國豫：我沒有玩那么多ChatGPT。ChatGPT是去年11月30日左右開始的，我們在ChatGPT還沒有開始時就研究了大模型。ChatGPT出來后我們也用它做了一些道德能力測試。我也沒有注意到我學生的作業是用ChatGPT來做的。但如果說從互聯網上去尋找資源，這很早就有了。我本人對于它進入教學環節持樂觀開放態度，如果我們有一定的規則來梳理，它對教與學都會有促進。我最近在投一篇英文稿，我英文不怎么好，寫了以后不行，ChatGPT弄完以后明顯比我寫得好，但有一些詞寫得不對，我再修改，ChatGPT起了助力作用。如果它可以作為文獻綜述的一個來源，幫我們尋找而不是簡單復制，這樣的工作它能替代，我們為什么不讓它替代呢？
反過來，就像剛剛中國社會科學院哲學所科技哲學研究室主任、中國科協-復旦大學科技倫理與人類未來研究院教授段偉文講的，它可以把很多知識的水分給擠掉。剛才許老師講了對教育也是一個促進，我們在大學里不僅僅是傳授知識、批判性能力和反思能力，我們還教做人，涉及到知、情、意。我自己覺得沒有危機感，但有很大挑戰。
嚴鋒：我越來越覺得跟魏武揮老師有共鳴，我不但不禁止學生用ChatGPT，還鼓勵他們用ChatGPT，但我發現我的學生用得反而少。
我教創意寫作課，ChatGPT在創意寫作中有很好的應用，比如點子、頭腦風暴、世界構建、人物大綱，對創作來講非常好，而且也是傳統作家的必修課，他們以前也用各種各樣的工具，但都沒有ChatGPT更好更方便。學生用了沒關系，最后寫出來的東西怎么樣還是要經過我的評判。
復旦大學中文系教授嚴鋒。
老師是知識的評估者、價值的評估者、道德倫理的評估者，評估不完全是教師獨占的。比如在寫作課上，評估一個作品不是我一個人說了算的，是所有學生一起參加討論寫得好不好，這不光是知識，也包括了知、情、意這些人類非常復雜的情感，這恰恰是ChatGPT鞭長莫及的。ChatGPT確實給我們起到很好的推力，擠掉以往很多知識的水分，既給我們提供工具，同時還讓我們更能審視傳統教育學的薄弱，包括復制和粘貼的問題。教師、學生、ChatGPT之間建立了一種新型三角關系。
“把狗屁工作扔給ChatGPT”
魏武揮：今天有相當多的人在吐槽上班很沒意思，對職場充滿了厭倦，感覺自己沒有做什么有意義的事。我們把事情交給ChatGPT、交給AI去做，能否從中解脫，去追求藝術、文學、音樂等有意義的事？
許紀霖：人工智能能否創造一種有意義的生活，我的答案是至少目前不可能。去年有本書叫《狗屁工作》，后來翻譯成《毫無意義的工作》，這本書非常暢銷，因為很多人都覺得自己在從事沒有意義的工作，困在系統中。ChatGPT橫空出世后，我們把毫無意義的工作扔給它去做了，我們開始有可能應用我們的想象力、創造力。
ChatGPT到目前為止沒有創意，它寫的文章都是模仿的，不可能寫出魯迅的金句，我家后院有兩棵樹，一棵是棗樹，另外一棵也是棗樹，那種絕句它是想不到的。在創造性、原創性這部分，今天我們可以尋求，我們依然有發揮的空間，到目前為止是替代不了我們的，而創造力和原創力都構成了我們生活的意義。
但我還是要說，不要樂觀，今天僅僅是因為ChatGPT的情感功能和意志功能被關閉了，一旦打開，開發出具身智能這種功能后，它作為硅基生物也可能有想象力，這種想象力超越我們碳基生物，就像“阿爾法狗”下圍棋的境界。未來我們依然面臨新物種的挑戰，它的智慧對我們的挑戰是禍是福是另外一個問題，也許有點遙遠。
但不管怎么說，把毫無意義的工作扔給ChatGPT，讓我們去尋求生活和工作的意義吧。
王國豫：如果一部分工作讓ChatGPT取代了，我沒有工作了，必須尋找新的工作，要么找得到，要么找不到。找不到我可以游山玩水，發現自然的美、藝術的美，但這取決于誰資助我。如果ChatGPT替代了我的工作，我既有時間自由，又有資金自由，我可以去做很多其他工作，可能會有不一樣的新生活，但是不是有意義，這是另外一回事。
即便天天做同樣的工作我也不認為生活就沒有意義，有的意義是工作自身。比如財務會計天天重復性工作，他覺得既養家糊口，也對社會做了貢獻，覺得工作有意義。很多人討厭997、996的生活，因為這不是他希望的，他生命的意義不在工作中，而是在工作之外，工作僅僅是為了養家糊口、維持他作為生命體的生存，這樣一來工作可能就沒有意義。
魏武揮：子非魚安知魚之樂。
王國豫：沒錯。
嚴鋒：意義跟自我認知、追求有關，每個人都不一樣。很多人覺得沒意義，因為他覺得做的不是他想做的事，每個人想做的事都不一樣，如果能真正做自己想做的事，就是最大的意義。從這個角度講，ChatGPT能把我們從非做不可的事情中解放出來。標準化、機械、大量重復的勞動是流水線式的，往往被認為沒有意義，這種事情在大學里也大量存在，就是所謂的學術民工，不停搬運、摘抄甚至是剽竊。ChatGPT對我們的推動是能夠讓我們從流水線式的知識生產中解放出來，更加關注什么是創造、什么是美。
我想到了我的老師，我博士是做中國現代文學的，這是最苦最機械的，要不停找資料。但我們當時和老師在一起吃飯、聊天，在他家玩，他聊他的過去，跟茅盾、郭沫若怎么交往。這就是知識，活的知識，更有生命的知識。他會給學生介紹他的朋友，這些人本來就是現代文學中重要的作家或見證者。在某種意義上，因為有了ChatGPT，我們有沒有可能形成一種新的師生關系？ChatGPT能做資料性的工作，這時候我們是不是能回到更傳統的師生關系，就像蘇格拉底和柏拉圖、孔子和顏回、我的老師和他的學生。
陳運文：絕大部分工作只是謀生而已，追求真正的意義應該在下班以后，下班以后做的事情才是自己真正感興趣的。人工智能時代對絕大部分人最大的價值是可以讓我們加班少一些，上班時間可以縮短，而且這是很快能夠實現的。我相信到我們的子女輩工作時，一個禮拜上5天班實在是太殘酷的事情，在他們的時代可能一個禮拜上三天班、休息四天，一周四天可以追尋生命的意義、生活的意義、工作的意義。
達觀數據董事長陳運文。
我們現在要做的事是努力把人工智能搞得更好，讓更多行業能夠把技術用起來，讓加班變得更少，這才是真正能夠讓我們的工作更有價值，也讓我們的生活體驗更好。眼下坦率地說，人工智能還在很早期的階段，我們現在才剛剛打開一個突破口而已?，F在大家要趕緊把這些技術用起來才行，我們推出自己的大語言模型，鼓勵所有員工用，比如我們員工寫代碼和宣傳文案、設計圖片，大量在用大模型，我們鼓勵每個員工用，用起來才能提升生活的價值、生活的質量、工作的幸福感。
劉華：從一個人的角度講，很難評判技術是否讓人過得更有意義，但對人類一個種群來講，新技術應該會讓種群的生活過得更加有意義。在最原始的階段，人類每天都忙著打獵、采果子，打不到獵物、采不到果子就活不下去。隨著技術推進，滿足衣食住行的時間在人類勞動時間中的占比越來越小。這次通用人工智能技術的演進必然會使我們用于人類基本衣食住行的時間進一步縮短，會讓人類有更多時間去做有意思的事，會有更多時間從事文學創作、藝術創作?？傮w上，新的技術會讓社會的原創性工作時間總量有極大提升。
“上天不用負責，算法得負責”
魏武揮：自動駕駛領域有一個非常有名的問題，乘客坐在一輛沒有人開的自動駕駛車上，當車發現一個非常緊要的時刻，它只有兩個選擇，第一個選擇是翻車，可能會造成乘客受傷，第二個選擇是直接撞上去，把前面的人撞死，這樣乘客不會有事。車會選擇什么？普通人如何看待這樣的算法？非常像電車難題。人工智能體會秉持什么樣的價值觀，我們有很多憂慮，我們該如何預防和防范這類問題？
上海交通大學媒體與傳播學院講師、天奇創投基金管理合伙人魏武揮。
王國豫：這是我和我的博士生在做的課題。對于汽車設計的倫理問題，作為設計者，究竟是犧牲自己還是犧牲路人，很糾結。比如我是一個人還是我孩子在我身邊，對面的路人是跟我沒有關系的人還是有關系的人，這些情況都不一樣，很難就一個抽象的問題做出回答。我們在做一些實驗，希望把問題進一步深化，我作為第三者的模型評價者，所有人跟我沒有一點關系，我怎么設計？當我把自己代入，我要考慮我直覺會怎樣？這是我們在算法研究上需要進一步細化的問題。
如果這樣的車推出來了，我們如何規范它？現在有一系列辦法，首先自動駕駛本身有級別分類，現在整個法律體系還沒有完全變成我們被自動駕駛取代的體系，我們還涉及到前瞻性責任和回溯性責任，規則的問題是回溯性責任，也就是出了問題怎么辦。還有一個責任叫前瞻性責任，比如游泳池旁邊有人看著小孩會不會落水，他有提醒和救人的責任，我們設置了這樣一個看的人，這就是一種前瞻性責任。教育、宣傳等都可以起到前瞻性責任的作用。規則不是簡單的黑和白，有個人的責任、機構的責任、代理的責任，還有共同責任、連帶責任，現在肯定沒有很明確的答案，但在這樣的過程中會不斷完善責任體系，就像我們的法律現在也在不斷完善。
嚴鋒：我完全不知道標準答案，我也不太相信有一個標準答案。但我們可以看到電車難題在ChatGPT時代升級了，展開了更加無窮無盡的討論，而且涉及到非常具體的法律。
不要以為ChatGPT的出現就會把事情搞砸，我不相信它一下子能解決，我也不會相信它把問題搞得更壞，因為原來問題就沒有好的解答，甚至可以說原來是交給上天，現在交給某種算法、某個理性，上天不用負責，算法得負責，現在有責任人了，這是不一樣的。誰在搞算法？算法是不是透明？大家有沒有知情權？算法偏向于什么？比如算法規定車不要壓院士、領導，或者年輕的不要壓、年老的不要壓，這又涉及到隱私和數據采集的問題，以后看到這樣一個龐大的數據海洋，聽上去很可怕，但肯定不比之前更可怕。我覺得有一點，就是要有多樣性、透明性、公開性，讓大家有知情權，我們要學習、要了解ChatGPT，當然有很多是黑箱，我們要盡可能在黑箱之外多了解到底發生了什么。
陳運文：我作為科技從業者，從技術角度來說，今天所有的算法結果，背后都是數據帶來的，與其說是算法帶來的，不如說是算法背后的數據帶來的。我們對于涉及到的價值觀判斷、取舍等，很多時候很偏主觀。我們每個人經常在做出主觀的判斷，我們開車的時候都是自己在不知不覺地做這種判斷，要不要沖過去，還是踩剎車。只不過今天我們把決策權交給了大數據去做，我們概率里有一個大數法則，當數據量足夠大足夠充分時，它做出來的決策一定比絕大部分人根據自己的小樣本學習做出來的決策相對更科學更優秀。所以從價值觀的角度來判斷，沒有一個完全統一的標準，但從結果好壞的角度來看，用海量正確的數據做的判斷，一定比我們每個人根據自己簡單的經驗做出來的判斷，要更科學和更合理。
劉華：大模型首先要有它的倫理，但倫理不是大模型自己的，是大模型的公司賦予它的。我們現在對自己的模型會提一些原則性的要求，按照國家設定的人工智能管理辦法，大模型的運作有一些基本倫理，比如要遵守社會主義核心價值觀，要熱愛和平、反對戰爭，不要民族歧視、種族歧視，要珍愛生命、不傷害他人，這些都是基本原則。
上海稀宇科技有限公司（MiniMax）公共事務副總裁劉華。
至于碰到其他特別棘手的環境，自動駕駛系統會有很多累積的數據，單個人很難做出正確判斷到底是傷害誰，如果有大量累積的數據，也許會非常精準地控制車輛，不傷害任何一方，這是在大量駕駛數據基礎上對車子進行精準的控制。
至于種族歧視的問題，這應該是數據標注的問題，這在大模型發展中肯定會被慢慢去除，會對各種原始數據進行更加精準的標識，現在市面上打開門提供服務的任何大模型都不敢做這種歧視，否則會有很大的麻煩。
“永遠不要讓AI有自主意識???????”
魏武揮：最后有一個開腦洞的問題，跟當下一部非常熱的電影《奧本海默》有關。很多人把原子彈的開發與人工智能相比，如何看待當下現實對“奧本海默糾結”的映射？我們現在是不是在打開潘多拉的盒子，給人類挖了一個巨大的坑？有些人對人工智能有奧本海默式的糾結，這個看法本身對不對？如果看法是對的，我們如何看待這種“奧本海默糾結”？
王國豫：關于《奧本海默》，電影公映那天，我正好在澎湃科技上發過一篇《我的科學觀》，就是講奧本海默糾結的問題。奧本海默事件給我們的啟迪是什么？我認為現代科學已經不是過去古希臘那樣僅僅作為無功利的體系，現代科學用海德格爾的話講，所謂企業的行為實際上就是有組織、有計劃、有目的的，而且是有經濟推動的。
國外現在有個概念叫技科學（technoscience），實際上是把“科技”這個詞連在一起了，技科學的力量非常巨大，它不僅僅是一個工具，實際上有很多不確定性，而這種不確定性一旦發生以后可能是負面的，也可能是好的，人類很難控制。奧本海默的糾結比較天真，他把技術僅僅看作一個技術，或者他也知道，至少沒說出來，他當時希望盡早結束第二次世界大戰，向希拉德、愛因斯坦寫信時希望造出原子彈，加速趕在納粹之前結束第二次世界大戰。
這對我們今天的啟示是，第一，現代科學本身是確定的。第二，在這種背景下，我國2022年發布了《關于加強科技倫理治理的意見》，提到倫理先行，國際上也有預防原則等概念，其實都是希望我們對可能發生的惡果或負面的后果要有提前準備。對所有人來講，最大的警示是我們不僅僅仰望星空，還要心懷道德、心懷敬畏感。
嚴鋒：這確實是一個有意義的比較，技術一定是有風險的，現在沒什么技術沒有風險，生物工程、元宇宙、AI、核彈都有共同的風險，但生命就是風險、生存就是風險，沒有風險就沒有生命。我們得跟風險共存，不可能消除風險，最安全的就是躺在床上什么也不做。我們要控制風險，但我們也得知道，至少不可能完全控制風險，就像核的應用不斷擴散，擴散后大家又覺得不對頭，再去找一個新辦法控制，甚至核擴散在某種意義上講也是一種控制、平衡、制約，就像達摩克利斯之劍那樣，在這個過程中人也要始終保持警覺。我雖然是中文系的，但我是一個技術主義者，我對任何技術都熱情擁抱，去了解、介入。而且越是有道德感、有責任感、希望人類的未來能夠變得更好的人，越要去擁抱技術，你不去擁抱，壞人一定會去擁抱，所以要去對沖、介入。
陳運文：新技術發展時，從人類個體來說，一定是有好有壞的，但對于人類整體來說一定是越來越好的。我覺得在有生之年能看到人工智能在2023年有一個非常好的突破，在未來幾年看到很多非常優秀的成果源源不斷地出來，我感到非常高興，因為它帶來很多新鮮的活力，帶來很多我們能夠暢想的更加美好的未來生活。
劉華：新技術的發明者在發明之初沒有想到對人類可能會有巨大的危害，這對我們人工智能行業從業者來講，要從中汲取經驗教訓。盡管我們行業還是“萌芽期”，技術確實發展得非?？?，我們一方面在不斷迭代模型，提高人類社會生產力，另一方面我們要始終心生畏懼，始終要明白人工智能只是一個工具、手段，人類自己才是最終目的。我們公司從一開始的定位就是AI只是人類的助手，永遠要明確這一點，永遠不要讓AI有自主意識，如果現在AI有自主意識，萬一到了具身智能時代就非常危險。在任何時候對科技都要有敬畏感，要有倫理觀，在大模型運行過程中要把事情跟大模型講清楚，甚至我們要用符合這套倫理的大模型來監督大模型。
