■主持人： 

陳 瑜 文匯報記者

■嘉 賓：

成素梅，上海社科院哲學所副所長、研究員

張春美，中共上海市委黨校哲學教研部教授

楊慶峰，中國科協(xié)-復旦大學科技倫理與人類未來研究院教授

編者按習近平總書記指出:“科技是發(fā)展的利器，也可能成為風險的源頭。要前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風險、倫理挑戰(zhàn)，完善相關(guān)法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架?！?/span>

科技倫理是開展科學研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，是促進科技事業(yè)健康發(fā)展的重要保障。如果說創(chuàng)新是發(fā)展的“引擎”，倫理則是約束不合理發(fā)展的“剎車”，兩者缺一不可。如何加強科技倫理治理，推進科技強國建設？如何塑造科技向善的文化理念和保障機制，為增進人類福祉、推動構(gòu)建人類命運共同體提供有力科技支撐？本報約請三位學者研討交流。

主持人：習近平總書記指出:“科技是發(fā)展的利器，也可能成為風險的源頭。要前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風險、倫理挑戰(zhàn)，完善相關(guān)法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架?！苯陙?，我國科技創(chuàng)新水平不斷提升，越來越多的前沿領(lǐng)域闖入“無人區(qū)”，面臨的科技倫理挑戰(zhàn)也日益增多。在這樣的背景下，如何深刻認識科技倫理治理的重要意義？

成素梅：隨著新一輪技術(shù)革命的不斷深化，科技創(chuàng)新成為社會發(fā)展的核心驅(qū)動力，科技專家成為文明轉(zhuǎn)型的推動者，科技產(chǎn)品成為社會生活的塑造者。然而，科技革命在從只能改變?nèi)说耐獠孔匀贿M展到有能力改變?nèi)说膬?nèi)部自然，并以銳不可擋之勢將人類社會帶入智能化發(fā)展階段的進程中，其所帶來的倫理挑戰(zhàn)，正在將社會變成倫理實驗場，有可能將人類推向被毀滅的危險邊緣。因此，我們迫切需要提高風險預判能力和認知能力，使科技倫理治理真正成為科技創(chuàng)新鏈條中的一個必要環(huán)節(jié)或核心維度。

從技術(shù)及其應用層面來看，加強科技倫理治理能夠促進科技健康發(fā)展，完善科技創(chuàng)新體制，減少創(chuàng)新過程中潛在的系統(tǒng)性風險，避免濫用和技術(shù)異化，防范公共安全風險，保障人類福祉，保護個人權(quán)益，維護社會公平，促進可持續(xù)發(fā)展，提升公眾對科技及其產(chǎn)品的信任度。從國際、國家和社會監(jiān)管層面來看，加強科技倫理治理有助于促進國際合作，促進多邊對話與合作，共同應對全球性問題，達成“人類命運共同體”的國際共識。從文化層面來看，加強科技倫理治理有助于重新審視人類的共同價值，增進相互理解，平衡科技創(chuàng)新與人類價值保護之間可接受的結(jié)合點，化解乃至規(guī)避文化沖突，推動科技文明與人文精神的深度融合，塑造具有人文關(guān)懷的科技創(chuàng)新范式。

張春美：推進科技倫理治理，對于規(guī)避科技倫理風險，走向“有溫度的科技文明”具有重要意義，可從三個層面來把握：在技術(shù)層面，倫理治理通過制定倫理規(guī)范、設定特定的“技術(shù)禁區(qū)”（如禁止基因編輯用于人類增強）、重建創(chuàng)新主體道德使命感，構(gòu)建技術(shù)失控的防御之盾，遏制技術(shù)濫用帶來的系統(tǒng)性風險；在社會層面，倫理治理通過開發(fā)倫理風險評估模型、構(gòu)建敏捷監(jiān)管框架和倫理審查制度，科學配置資源和保護脆弱群體，規(guī)避“創(chuàng)新-監(jiān)管”的滯后性陷阱，實現(xiàn)科技創(chuàng)新與風險控制的動態(tài)平衡；在個體層面，倫理治理通過倫理教育和培訓，提升決策者倫理能力，培育大眾科技倫理素養(yǎng)；通過公眾參與式治理，推動社會形成“科技向善”的集體認知，彰顯人類主體性。從根本上講，科技倫理治理是科技與人文交融交匯結(jié)出的碩果，更是擺脫“科技巨人、道德侏儒”的良方，必將在推進科技向善的實踐中照亮人性光輝。

楊慶峰：近年來，生物科技、基因技術(shù)等領(lǐng)域發(fā)展取得突破，一些在這些領(lǐng)域相對落后的國家放松了對科技發(fā)展的監(jiān)管，意圖通過松綁來促進發(fā)展，由此也加劇了人們對未知的、長期的科技安全和倫理方面的擔憂。這種情況下，科技倫理治理的作用要重新理解。對科技倫理治理意義的認識要結(jié)合科技發(fā)展的具體情況來認識，要意識到對于技術(shù)發(fā)展的認知變化。換句話說，促進或抑制某種科技發(fā)展的總體態(tài)度將決定科技倫理治理的未來形態(tài)。

主持人：從黨的十九屆四中全會提出“健全科技倫理治理體制”，到2022年3月我國首個國家層面的科技倫理治理指導性文件《關(guān)于加強科技倫理治理的意見》印發(fā)實施，再到黨的二十屆三中全會明確提出“加強科技倫理治理”……近年來，我國高度重視科技倫理治理工作并取得顯著成效。如何進一步健全科技倫理治理體制機制，護航科技強國建設？

張春美：在中國，科技倫理治理已納入國家治理戰(zhàn)略，這體現(xiàn)了黨和政府對科技倫理治理的行動自覺。建設科技強國，必須補齊科技倫理治理短板，健全科技倫理治理體制機制，實現(xiàn)科技與倫理比翼齊飛。

一是推進科技倫理的法治化。倫理原則和規(guī)范僅僅是一種軟約束，要將抽象的倫理規(guī)范化為具體實踐，需要以適當?shù)姆绞椒椒ǎ瑢⒖萍紓惱碓瓌t、規(guī)范轉(zhuǎn)化為具有剛性約束力的法律規(guī)定。要以專業(yè)化的立法，構(gòu)建倫理治理架構(gòu)和監(jiān)管流程，設置科技創(chuàng)新的緩沖區(qū)，確立創(chuàng)新“有所為和有所不為”的邊界、規(guī)范和準則。對于具有重大倫理挑戰(zhàn)和社會影響的前沿技術(shù)，可通過立法頒發(fā)許可證或設定行為標準，確保創(chuàng)新與倫理協(xié)同推進。

二是推進科技倫理審查規(guī)范化。倫理審查是監(jiān)督倫理原則執(zhí)行情況的重要建制。當下，迫切需要加強審查機構(gòu)、審查流程的規(guī)范化建設。機構(gòu)方面，確立科技倫理委員會多元化和獨立性的組織結(jié)構(gòu)，明確其設立標準和運行機制，擺脫將委員會當成研究機構(gòu)“形象工程”的行政化做法。流程方面，設計倫理評估程序，制定倫理清單，細化倫理審查規(guī)則和標準，建立實時監(jiān)測與糾偏機制，完善問責與補償制度，實現(xiàn)“社會問責”與“質(zhì)量控制”的結(jié)合。

三是推進科技倫理教育制度化。強化科技倫理通識課程體系建設，培養(yǎng)科技倫理人才隊伍；加強科技倫理管理機構(gòu)相關(guān)人員的科技倫理培訓，提升決策者的倫理能力；發(fā)揮科技類社會團體作用，推動科技倫理深入人心。概言之，完善科技倫理治理機制，旨在尊重倫理的基本價值，推進科技創(chuàng)新“既快且穩(wěn)”發(fā)展，為科技強國建設構(gòu)建技術(shù)與人文相協(xié)調(diào)的創(chuàng)新生態(tài)。

成素梅：健全科技倫理治理體制既是搶占科技革命制高點的必由之路、落實科技強國戰(zhàn)略的必然要求、樹立有作為勇?lián)敶髧蜗蠛吞嵘龂H話語權(quán)的重要支撐，也是促進科技創(chuàng)新與社會發(fā)展相協(xié)調(diào)的新維度、應對重大科技風險的新途徑，更是維護國家安全和貢獻中國智慧的新手段。

健全科技倫理治理體制需要“硬約束”與“軟引導”相結(jié)合，有效監(jiān)管和文化塑造相結(jié)合。“硬約束”是指為新興科技創(chuàng)新和應用劃出倫理紅線（比如，明確人工智能、基因編輯、神經(jīng)工程等前沿技術(shù)的倫理界限，建立行業(yè)性的倫理預警機制等）；“軟引導”是指以監(jiān)管和激勵等多種方式引導健康的科技創(chuàng)新行為（比如，將倫理治理深度融入國家創(chuàng)新體系，實質(zhì)性地激勵“科技強國”與“向善創(chuàng)新”相統(tǒng)一的企業(yè)行為，設立倫理擔當創(chuàng)新獎，進行倫理合規(guī)認證等）；有效監(jiān)管是指將政府、社會、行業(yè)、企業(yè)、市場、公眾等多方力量整合起來，在科技創(chuàng)新鏈條中，形成預防-執(zhí)行-反饋-改進相協(xié)調(diào)、適應性評估和動態(tài)優(yōu)化相結(jié)合的監(jiān)管機制，杜絕形式主義和過度干預，不斷填補監(jiān)管空白等；文化塑造是指借助社會活動、行為規(guī)范、教育培訓等形式，促進科技創(chuàng)新的利益相關(guān)者自覺樹立鐵肩擔道義的倫理意識，營造尊重倫理和崇尚責任的科技文化氛圍。

楊慶峰：從倫理性來看，建設科技強國是為了中華民族偉大復興和確保民生福祉的最優(yōu)路徑。此處的倫理性也包括科技倫理治理機制，如何確?？萍枷蛏啤⒖萍及l(fā)展的人民指向維度。因此，科技倫理機制體制建設對于科技強國建設有兩方面作用：一方面是科技強國建設具有人民指向，要強調(diào)以人為本的科技實踐和關(guān)注數(shù)字福祉；另一方面，建設性的科技倫理有助于科技的健康發(fā)展，而健康發(fā)展的科技是科技強國建設的重要保障。從現(xiàn)實來看，如今，我國正在不斷推進科技倫理治理機制自上而下的制度框架的完善，接下來更重要的是如何讓這種觀念框架深入人心，尤其讓科技倫理意識扎根于每個人心中。

主持人：科技倫理問題往往跨越國界，需要全球范圍內(nèi)的合作與對話。習近平總書記強調(diào)，“要深度參與全球科技治理，貢獻中國智慧，塑造科技向善的文化理念，讓科技更好增進人類福祉，讓中國科技為推動構(gòu)建人類命運共同體作出更大貢獻”。如何進一步加強國際合作，為全球科技倫理治理貢獻中國智慧？

成素梅：當代科技發(fā)展正在將人類社會從工業(yè)文明轉(zhuǎn)向智能文明。智能文明既是科學-技術(shù)-社會-人文高度糾纏的文明，也是深度拷問人性的文明。文明轉(zhuǎn)型過程中所新生的科技倫理問題是全人類共同面臨的倫理挑戰(zhàn)。這也是包括中國在內(nèi)的主要科技大國、國際組織和重要智庫紛紛前瞻性地出臺科技倫理治理條例，努力將文明躍遷所面臨的倫理危機轉(zhuǎn)化為發(fā)展契機的原因所在。

中國具有追求人與自然、人與人、人與社會和諧發(fā)展的悠久歷史，擁有深厚的倫理文化傳統(tǒng)和獨特的倫理思想體系，并將其作為社會治理的有效手段，形成了“以德治國”或“為政以德”實踐傳統(tǒng)，以及以儒家為核心的東亞文化圈。在科技突飛猛進的當下，我國應該在以各種形式積極參與聯(lián)合國教科文組織、世界衛(wèi)生組織、國際科學理事會等國際組織發(fā)起的科技倫理治理活動中，將中國的“天人合一”“和諧共生”“科技向善”“責任至上”等倫理理念推向世界，推動建立科技倫理治理的多邊合作機制，平衡國家主權(quán)和全球倫理治理之間的關(guān)系，包容不同文化背景下的倫理差異，發(fā)起成立“全球科技倫理治理聯(lián)盟”，促進各國就重大科技倫理治理問題展開友好對話，在“一帶一路”框架下創(chuàng)建科技倫理治理協(xié)作機制，彰顯中國在科技倫理治理領(lǐng)域內(nèi)的卓越領(lǐng)導力。

張春美：展開負責任的科技倫理治理實踐，不是僵化封閉的自說自話，而應以開放的姿態(tài)，在世界性與本土化的統(tǒng)一中，為全球科技倫理治理貢獻中國智慧。第一，積極參與并主導全球科技倫理治理框架的構(gòu)建，搶占規(guī)則制定制高點。積極參與國際組織治理，倡議國際科技倫理規(guī)則制定。倡導建立包容性國際對話平臺，促進國際交流合作。建立高層對話機制，協(xié)調(diào)跨國倫理爭議，推動全球倫理標準的統(tǒng)一。第二，構(gòu)建中國的科技治理體系以輻射全球。充分關(guān)注科技倫理治理的中國問題，歸納科技倫理治理的中國經(jīng)驗，拓展中國科技倫理治理的知識譜系、話語形態(tài)和思想類型，總結(jié)科技倫理治理的中國方案，為全球科技倫理治理提供中國范本。第三，融合中華倫理文明與全球治理。在國際合作與文化融合中，一方面，要澄清國外對我國科技倫理的文化誤解，防范“文化和價值觀屏障”。另一方面，通過批判性吸收西方理論，結(jié)合中國實踐，將中華文化傳統(tǒng)倫理智慧融入現(xiàn)代治理，促進科技倫理的“中國化轉(zhuǎn)向”。

楊慶峰：科技倫理問題跨越國界、需要全球范圍的合作與對話。法國巴黎AI峰會、英國布萊切利AI峰會、韓國首爾AI峰會以及上海人工智能大會等都是國際性的會議。在科技倫理治理的國際合作中，構(gòu)建人類命運共同體、以人為本、和諧共生、科技向善、智能向善等都是近年來中國貢獻給國際科技倫理治理的智慧。我們期待著中國推出自己的人工智能法，盡快形成完備的法律-倫理-制度的治理體系。

主持人：人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。習近平總書記高度重視人工智能技術(shù)的發(fā)展和治理，提出“以人為本、智能向善”的重要理念。黨的二十屆三中全會提出，“完善生成式人工智能發(fā)展和管理機制”“建立人工智能安全監(jiān)管制度”。當前DeepSeek的火爆，讓AI再次成為熱議焦點。如何應對人工智能發(fā)展中的倫理挑戰(zhàn)，構(gòu)建負責任的人工智能治理體系？

張春美：首先，基礎研究要實現(xiàn)AI倫理治理的認知升維。全面梳理和分析AI倫理難題，把握“人與技術(shù)”關(guān)系面臨的新問題、新情況，找到AI倫理治理的核心問題，展開學理分析和研究。其次，借鑒已有的科技倫理治理成功經(jīng)驗，比如技術(shù)設計中的倫理嵌入、價值觀前置、規(guī)則制定等，探尋AI倫理治理的新路徑。再者，探索倫理治理的協(xié)同發(fā)展模式。這一模式涵蓋多元主體、多種文化和多重語境，以多方協(xié)調(diào)與合作為基礎，借助問題爭論、共同參與、尋求共識等途徑，加強跨界戰(zhàn)略協(xié)同，進行系統(tǒng)性生產(chǎn)并分享治理資源，建立價值共識與制度保障，推動AI倫理治理邁向更加包容、共享與合作的新時代。

楊慶峰：DeepSeek的火爆，伴生生成式信息滿天飛、生成式知識難以辨識等問題。在哲學史上，柏拉圖曾經(jīng)討論過文字是毒藥或解藥、利科討論過歷史是毒藥抑或解藥。如今，生成式人工智能給我們帶來相同的問題。如果它是一種毒藥，那么治理系統(tǒng)就要研制出相應的抗毒“血清”，來中和這種毒性?？傮w來說，我們可以《全球人工智能治理倡議》《人工智能全球治理上海宣言》中的原則為基礎，建立系統(tǒng)的、具有銜接性的和中國特色的人工智能治理體系框架。

重要的是，這個治理體系要務實，能針對產(chǎn)業(yè)和場景應用中出現(xiàn)的問題進行有效處置。另一方面，人工智能的發(fā)展離不開合理想象?？茖W史上，關(guān)于超級機器的思想實驗奠定了現(xiàn)代計算機科學的基礎。因此，人工智能治理也要保持想象力，不能完全對科幻說不。我們要警惕的是科幻敘事中的過度想象和娛樂至上給AI發(fā)展和治理造成的擾亂。

成素梅：DeepSeek作為人工智能發(fā)展的最新標志性事件，極大地彰顯了人工智能無法抗拒的強大影響力，印證了人機雙向賦智的巨大發(fā)展?jié)摿Α５覀儽仨毻瑫r意識到，這種發(fā)展?jié)摿Σ粌H導致了眾所周知的侵犯隱私、種族歧視、社會不公等倫理問題，有可能削弱人的自主性，模糊人機界限，增加難以預測的風險等倫理挑戰(zhàn)，而且更加嚴峻的是，向過去建立在人機二分基礎上的制度安排和法律法規(guī)等提出了框架性挑戰(zhàn)。

因此，我們在構(gòu)建負責任的人工智能倫理治理體系時，除了明確責任主體、倡導算法透明、提供立法保障、構(gòu)成蜂巢式倫理治理和正反面雙清單管理機制、形成應急預案、開發(fā)倫理“穿透式”監(jiān)管系統(tǒng)、成立跨學科倫理研判專家池、建立科技風險防控熔斷機制、加強倫理教育與培訓等一系列具體措施之外，更加重要的是，需要豐富我們的概念工具箱，加強面向未來發(fā)展的倫理框架研究；需要在智能機器成為普遍勞動力的文明轉(zhuǎn)折點，超越為發(fā)展經(jīng)濟而奮斗的思維習慣，開啟從勞動倫理優(yōu)位轉(zhuǎn)向休閑倫理優(yōu)位和讓休閑成為勞動境界的新啟程，前瞻性地營造有利人的全面發(fā)展的文化氛圍，真正踐行馬克思將自由時間作為衡量社會財富標準的理論愿景；需要探索針對復雜智能系統(tǒng)的免責賠付機制，從根本上擺脫算法問責困境和現(xiàn)有人工智能倫理治理原則的落地困境等。

總而言之，我們選擇通過科技創(chuàng)新來驅(qū)動社會發(fā)展，并不只是在選擇科技，還是在選擇人類文明的未來。圍繞智能機器主體性問題展開的討論，在很大程度上，也是關(guān)于人性未來的反思。我們必須既構(gòu)建具有可操作性的科技倫理治理框架，也探索面向未來的倫理治理框架，通過“科技賦智-制度供給-倫理約束-文化塑造”四位一體策略，形成中國特色的科技倫理治理體制。

觀點

成素梅

我們選擇通過科技創(chuàng)新來驅(qū)動社會發(fā)展，并不只是在選擇科技，還是在選擇人類文明的未來。圍繞智能機器主體性問題展開的討論，在很大程度上，也是關(guān)于人性未來的反思。我們必須既構(gòu)建具有可操作性的科技倫理治理框架，也探索面向未來的倫理治理框架，通過“科技賦智-制度供給-倫理約束-文化塑造”四位一體策略，形成中國特色的科技倫理治理體制。

張春美

展開負責任的科技倫理治理實踐，不是僵化封閉的自說自話，而應以開放的姿態(tài)，在世界性與本土化的統(tǒng)一中，為全球科技倫理治理貢獻中國智慧。在國際合作與文化融合中，一方面，要澄清國外對我國科技倫理的文化誤解，防范“文化和價值觀屏障”。另一方面，通過批判性吸收西方理論，結(jié)合中國實踐，將中華文化傳統(tǒng)倫理智慧融入現(xiàn)代治理，促進科技倫理的“中國化轉(zhuǎn)向”。

楊慶峰

科技倫理機制體制建設對于科技強國建設有兩方面作用：一方面是科技強國建設具有人民指向，要強調(diào)以人為本的科技實踐和關(guān)注數(shù)字福祉；另一方面，建設性的科技倫理有助于科技的健康發(fā)展，而健康發(fā)展的科技是科技強國建設的重要保障。如今，我國正在不斷推進科技倫理治理機制自上而下的制度框架的完善，接下來更重要的是如何讓這種觀念框架深入人心，尤其讓科技倫理意識扎根于每個人心中。

來源：文匯報，日期：2025-03-02