“當下中國最應該關心的對話定空問題是什么？當中國產生了類似（ChatGPT）的技術，要不要向全球開放？我們現在應該達成這樣的中科共識——中國的技術永遠不對任何一個國家封鎖。我覺得至少我代表中國科研人員可以作出這個承諾。院曾毅A應無”

3月25日，間留己在中國發展高層論壇2023年年會上，類自中國科學院自動化研究所人工智能倫理與治理中心主任曾毅如是對話定空說。

談及“脫鉤斷鏈”和技術封鎖對我國人工智能發展可能帶來的中科影響，曾毅表示，院曾毅A應無確實存在這樣的間留己風險，所以類人工智能生成等技術必須要有中國自己的類自替代版本。

“中國沒有失去機會，對話定空失去機會的中科是禁止中國使用技術的企業?！痹惚硎?，院曾毅A應無“中國人工智能生成技術、間留己類ChatGPT的類自技術，大家很快就可以看到。我不能講是水平相當的替代產品，但是它足以達到基本可用的程度?！?/p>

會后，曾毅接受了澎湃新聞（www.thepaper.cn）記者的采訪，就AI勞動替代、人工智能數字鴻溝、人工智能倫理與算法黑箱等問題進行了探討。

澎湃新聞：隨著人工智能技術發展，很多人擔心工作崗位或可能被AI替代。關于勞動力崗位替代的速度和規模，當前各方有不同的預測，對此您怎么看？AI會快速替代人類勞動者么？

曾毅：我想從兩個層面回答您的問題。

一方面，在未來我們可能需要重新定義什么是“工作”。長期以來，撫養子女、照顧老人，以及很多社會服務并不被人們稱為工作。但布魯金斯學會的一項研究表明，或許未來在家當全職媽媽照看子女，照顧年邁老人等可以被稱為“工作”，甚至社會應該支付薪酬。

當前，很多人認為需要通過工作的意義和價值來定義自己，然而我認為恰恰應該是情感付出、情感交互才是人類真正難以被替代的，當“工作”被重新定義，一個人對于社會的價值，對于周圍人的價值也會被重新定義。

另一方面，我并不同意那些“某年某項工作會被替代”的預測。從我目前的觀察來看，任何一項工作都有人不可替代的部分。盡管當前人工智能也可以從事新聞寫作，但相比于專業的人類記者，它缺少對真實世界的理解和價值觀，所以讀者必然會更傾向于人類作者。所以，面對所謂的AI崗位替代，我們要思考的就是自己對工作有哪些獨特的、不可替代的貢獻。

澎湃新聞：今天上午蘋果公司CEO庫克談道，他認為編程或應成為今后人們生存發展的必備能力。如果不掌握編程能力，或將加速與社會脫節。未來AI編程會產生新的數字鴻溝么？這是否會加劇社會的不平等？

曾毅：編程是教人如何像計算機一樣思考，可以培養并提升人的思維能力。大概在2016年左右，美國就提出了計算思維的概念，并籍此發展出了很多課程。但我并不認同未來編程要成為人所必須的技能，整個社會中人工智能也不應該無處不在。

在為聯合國教科文組織編寫人工智能倫理的時候，我們就加入了一條“適度使用”原則：應該用人工智能的地方，留給人工智能，應該留給人類社會的地方就按照人類的方式去發展。

作家舒可文在《城里：關于城市夢想的敘述》中指出，城市的發展，一半是野蠻生長，一半是規劃，這才叫做城市。人工智能與人類也一樣，也需要將一定空間留給人類自己。

澎湃新聞：人工智能與人類的邊界該怎么劃定？又該怎么設定人工智能不能逾越的紅線？

曾毅：當前很多工程技術人員對人文社科和倫理規范還缺乏理解，這可能會造成很大的風險。比如一個技術研究者將某項未經倫理論證的先進技術上線，技術在應用中或可能會造成負面影響，甚至給社會造成重大損失，這時候再發現補救，很多損失可能已經不能挽回。

當前我們的人工智能技術發展還處于初步階段，能夠寫入教科書的確定性結論還不多，還需要更多的研究和探索。

此外，我認為一定要針對理工科領域開設人工智能相關的哲學課、倫理課、工程倫理課。包括人工智能學系、計算機科學系、工程計算系在內的專業應將這些課程設為必修課。未來，人工智能倫理道德不應該是一個分支的研究領域，而應該是所有人工智能從業者的第一課，倫理規范也應成為所有人工智能服務的基礎。

澎湃新聞：當前主流的人工智能采取遺傳算法、神經網絡等方式發展演進，但也存在“算法黑箱”的風險，您是否會擔心不可解釋的人工智能引發“黑天鵝”事件？是否有存在超預期風險的可能？

曾毅：我們不應該接受深度學習成為所有人工智能基座的這件事，因為它不可解釋?，F在最應該做的是什么？應該做科學應有突破的科研攻關，哪怕是從零開始，做可解釋的人工智能，并向著高智能、低能耗的方向延伸。

不能因為深度學習好用，可以解決現在的問題，當下也沒有更好的替代方案，就放棄了最初應該努力的方向。我希望，這些應該努力實現的基礎突破能更多誕生在中國。

然而現狀是，學術界和產業界對深度學習更感興趣，致力于將已經完成的99.9%再往下延伸。

我覺得，如果這些是產業追求短期利益不得不做的事情，那么至少學術界不應該把這個精力花在這里。