中新社北京7月20日電 題:離開科技倫理,人類會被科技“反噬”嗎?
——專訪清華大學(xué)社會科學(xué)學(xué)院教授、科技發(fā)展與治理研究中心副主任李正風
中新社記者 高凱
科技倫理治理作為全世界面臨的共同難題,越來越為大眾所關(guān)注。很多影視作品對此做過探討、想象和呈現(xiàn),如《黑客帝國》系列、《終結(jié)者》系列、《我,機器人》和《機械姬》等。
科技倫理如何開展有效治理?離開科技倫理,人類會被科技“反噬”嗎?清華大學(xué)社會科學(xué)學(xué)院教授、科技發(fā)展與治理研究中心副主任李正風近日接受中新社“東西問”專訪,解答這些問題。
現(xiàn)將采訪實錄摘要如下:
中新社記者:大眾十分關(guān)心科技倫理問題,如果不進行有效治理,人類被科技“反噬”的擔憂會成真嗎?
李正風:從全球?qū)用婵矗萍紓惱碇卫碚蔀樵絹碓街匾淖h題。科學(xué)和技術(shù)的發(fā)展給人類帶來前所未有的新力量,科技產(chǎn)品本身擁有的能力或功能在某些方面遠超人類自身。如果不能善加利用或被濫用就會帶來巨大風險。
包括電影在內(nèi)的不少藝術(shù)作品中,不乏對這類風險的極端化描述,如技術(shù)發(fā)展到一定程度反過來控制和毀滅人類。這種可能前景被呈現(xiàn)在大銀幕上,引起大眾對科技發(fā)展及其倫理問題的重視和反思。
盡管是藝術(shù)創(chuàng)作,但它確實帶來警覺和思考。若我們對科技可能產(chǎn)生的后果不加思考和控制,所謂“新力量”有可能給人類未來的生存發(fā)展帶來威脅,像當前生物技術(shù)、人工智能的發(fā)展等,存在不同程度、不同方式“反噬”人類的風險。
所謂“反噬”是一種較形象的說法,是指人的某種行為或創(chuàng)造物反過來傷害到人自身。“反噬”也有程度的差異,自近代科技革命以來,人們就一直在防范科技成果的不良影響。當科技力量不斷增強,這種不良影響可能超出人類整體可控范圍,或形成根本性、全局性的影響,“反噬”話題隨之為全球共同關(guān)注。
電影《黑客帝國》海報。中新社發(fā) 李江松 攝中新社記者:科技倫理治理被視作全世界面臨的共同難題,西方社會如何著手解決這一問題?西方國家與中國的努力有何異同?
李正風:科技倫理治理是防范風險非常重要的方面,旨在通過向善的價值觀念和相應(yīng)的倫理規(guī)范,引導(dǎo)和約束科技行為。
近代科學(xué)建制化以來,西方科學(xué)技術(shù)發(fā)展較快,科技先行國家或科技發(fā)達國家在科技向縱深發(fā)展中先行一步,較早感受到科技發(fā)展及其應(yīng)用可能帶來的風險,治理行動也更早。
比如,科技倫理委員會在歐美科技發(fā)達國家最早成立于20世紀60年代。作為科技倫理治理中比較典型的審查和約束機制,其主要用來評估和審查研究的倫理風險,一旦未充分考慮可能存在的倫理問題,或因倫理風險過大未得到倫理委員會批準,研究后續(xù)工作都會受到應(yīng)有的約束。
歐美科技發(fā)達國家在科技倫理治理上已形成自下而上較為成熟的系統(tǒng)。但不同發(fā)展狀態(tài)和不同文化背景的人對科技倫理的理解存在差異,治理的重點和方式會因文化傳統(tǒng)、制度結(jié)構(gòu)、社會包容度而不同,所以各國建立的科技倫理治理體系也存在差異。從某種程度講,某個國家認為最好的治理機制,到其他國家不見得仍是最好。
中國是科技后發(fā)并快速追趕的國家,在文化傳統(tǒng)和制度建設(shè)上有自身特點,要建立的科技倫理治理體系既要應(yīng)對當代生命科學(xué)、人工智能等新興科技領(lǐng)域提出的社會倫理問題,也要適應(yīng)本國發(fā)展階段面臨的特殊挑戰(zhàn)。
游客在上海城市規(guī)劃展示館參觀5D沉浸式數(shù)字沙盤。中新社發(fā) 陳玉宇 攝中新社記者:今年3月,中國首個國家層面的科技倫理治理指導(dǎo)性文件——《關(guān)于加強科技倫理治理的意見》出臺,這是繼國家科技倫理委員會成立之后,中國科技倫理治理的又一標志性事件。您如何看待中國科技倫理治理的突出特點?
李正風:這一文件的出臺非常重要,一方面和中國所處的發(fā)展階段密切相關(guān),另一方面也和中國科技倫理治理面臨的挑戰(zhàn)有關(guān)。改革開放以來,中國科學(xué)和技術(shù)快速發(fā)展,比以往更頻繁更直接地面對各式科技倫理問題,尤其是前沿問題。
中國在2016年提出建設(shè)世界科技強國,這和英國在16、17世紀建設(shè)成為世界科技強國,以及德國在19世紀逐漸成為世界科技強國的歷史背景有很大不同。
今天的科技,包括生命科學(xué)、信息科技等,更多涉及到以人類自身為對象的研究。而以前的科學(xué)家更多是將機械運動或無機世界作為主要研究對象。相對而言,過去科技發(fā)展本身引發(fā)的社會倫理問題不像今天這么集中,而當下幾乎科技發(fā)展的每一步都會面對社會倫理問題。中國要在這樣的背景之下建成世界科技強國,就必須在科技倫理問題上成為負責任有擔當?shù)膰摇?/p>
另一方面,一些歐美國家有比較長的時間探索完善自身科技倫理治理體系,中國科技倫理治理發(fā)展相對起步較晚,要在較短時間內(nèi)建立起行之有效的科技倫理治理體系,一是必須加大科技倫理治理的力度,二是必須形成整體性治理的布局,特別是補足補強治理體系中的短板。中國出臺《關(guān)于加強科技倫理治理的意見》,標志著國家科技倫理治理真正進入加強整體治理、全面治理的新階段。
對科技倫理治理而言,共同責任意識的塑造也非常必要。比如人臉識別技術(shù)產(chǎn)品,如何使用才能不損害公眾的隱私權(quán)?隨著人們對科技發(fā)展的倫理意識不斷覺醒,有關(guān)共識的塑造也有了現(xiàn)實基礎(chǔ)。
市民在街頭體驗人工智能技術(shù)。中新社發(fā) 袁宏彥 攝中新社記者:在科技發(fā)展全球化背景下,科技倫理問題不再局限于某一特定的國家或地區(qū),您認為全球科技倫理治理面臨怎樣的挑戰(zhàn),如何共同應(yīng)對?
李正風:全球科技倫理治理面臨的突出挑戰(zhàn)之一是不同國家不同發(fā)展階段帶來的差異,這使得倫理傾銷的問題有可能出現(xiàn)。倫理傾銷是指在倫理治理系統(tǒng)發(fā)展較成熟的國家,一些違背科技倫理規(guī)范的科學(xué)研究很難進行,但它們卻可能被轉(zhuǎn)移到倫理規(guī)范不是很健全的國家去開展。
當代科技發(fā)展的倫理問題具有跨越國家邊界和種族界限的外部性。不論生物醫(yī)學(xué)技術(shù)、人工智能技術(shù)治理,還是數(shù)據(jù)跨境使用都需要不同國家共同努力,全球相互協(xié)作。因此,構(gòu)建全球科技倫理治理的信任和合作機制非常重要。
2021年11月,第三屆世界科技與發(fā)展論壇在北京舉行。中外專家線上線下圍繞“科技倫理治理與信任合作”進行高端對話。中新社記者 孫自法 攝在此過程中,不僅各國要制定行之有效的規(guī)范和制度,也要逐步形成科技倫理治理的國際標準和國際公約,破除狹隘的國家保護主義、民族主義,從人類命運共同體的立場出發(fā),建立全球科技倫理治理中的信任、磋商機制,發(fā)揮并集成不同國家的智慧和力量。
隨著科技不斷發(fā)展,人們對風險有更深刻的認知后,倫理的規(guī)范也在不斷和行政管制、法律約束對接,倫理的規(guī)范不再完全是軟約束。
科技倫理治理絕非要阻礙科技發(fā)展,而是要把握好科技發(fā)展方向,為科技的健康發(fā)展清除阻礙。同時,拓寬科技健康發(fā)展的道路,讓科技真正造福人類。理解科技倫理治理的重要作用,是各國協(xié)力構(gòu)建全球科技倫理治理體系的重要基礎(chǔ)。(完)
受訪者簡介:
李正風,清華大學(xué)科學(xué)社會科學(xué)學(xué)院教授,中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會協(xié)同發(fā)展研究中心主任、中國科協(xié)清華大學(xué)科技傳播與普及研究中心副主任、科技發(fā)展與治理研究中心副主任,曾任清華大學(xué)社會科學(xué)學(xué)院副院長、中國發(fā)展戰(zhàn)略研究會副理事長。中國社會學(xué)會常務(wù)理事、中國自然辯證法研究會常務(wù)理事、中國科學(xué)學(xué)與科技政策研究會常務(wù)理事、科學(xué)學(xué)研究副主編、Cultures of Science副主編。研究領(lǐng)域包括科學(xué)技術(shù)的社會研究、科技哲學(xué)、科技倫理與科技文化、科技發(fā)展戰(zhàn)略與政策、科技傳播與普及等。