■本報(bào)記者 溫才妃

打破理工科學(xué)生對(duì)倫理道德的偏見，還得從認(rèn)識(shí)上轉(zhuǎn)變技術(shù)價(jià)值中立的思想。高校、科研院所凡是涉及科技工程的單位，均要開設(shè)一門科技工程倫理學(xué)課程。課程不能簡(jiǎn)單地等同于知識(shí)課，要讓學(xué)生在科技活動(dòng)中有倫理體驗(yàn)，感受到新技術(shù)應(yīng)用對(duì)民眾可能產(chǎn)生的影響，建立同情心和社會(huì)責(zé)任感。

一個(gè)普通家庭的小男孩馬丁重病住院，他的父母領(lǐng)養(yǎng)了機(jī)器人大衛(wèi)來緩解自己的傷痛。后來，馬丁蘇醒過來，大衛(wèi)逐漸失寵。出廠程序使得大衛(wèi)的一生始終追尋著讓媽媽愛他的愿望，他躲過機(jī)器屠宰場(chǎng)的追殺，經(jīng)歷了一系列吉兇難料的旅程后，終于擁有了在千萬年后被創(chuàng)造出來的獨(dú)屬于他的媽媽。

科幻電影《人工智能》講述了一個(gè)機(jī)器人的情感故事，電影引發(fā)了關(guān)于新技術(shù)帶來的一系列倫理問題的思考——應(yīng)否把機(jī)器人當(dāng)作人類看待？如果機(jī)器人越來越像人，又該怎么處理……

近日，中央全面深化改革委員會(huì)第九次會(huì)議提出要組建國(guó)家科技倫理委員會(huì)，并強(qiáng)調(diào)科技倫理是科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則。

作為科技倫理審查不可或缺的基礎(chǔ)，高�？萍紓惱斫逃�也越來越受到人們關(guān)注。然而，目前的情況并不樂觀。

據(jù)大連理工大學(xué)2017年的一項(xiàng)調(diào)研結(jié)果顯示，我國(guó)理工科學(xué)生在科技倫理意識(shí)的不同方面存在不均衡現(xiàn)象，相比較生命倫理、環(huán)境倫理而言，學(xué)術(shù)道德和工程倫理方面的意識(shí)缺失比較突出。其中，50%左右的理工科學(xué)生對(duì)技術(shù)設(shè)計(jì)活動(dòng)中的倫理要素缺少足夠的考慮。

該項(xiàng)目來自中國(guó)科協(xié)，涉及全國(guó)幾十所高校。

科技倫理教育相對(duì)缺失

“如果某項(xiàng)還存在缺陷的產(chǎn)品被廠家推向市場(chǎng)，您作為該廠的產(chǎn)品設(shè)計(jì)者，是否會(huì)向公眾說明？”

“工程師如果檢舉揭發(fā)不合格工程的內(nèi)幕，輕則丟飯碗，重則生命受到威脅。假如您是一名工程師，并且您知道某些工程不合格，您會(huì)檢舉揭發(fā)嗎？”

……

在上述調(diào)研中，受訪者回答“不會(huì)”“偶爾會(huì)”，“沒有責(zé)任”“小部分責(zé)任”的均占20%左右。較之于回答生命倫理和環(huán)境倫理問題時(shí)的堅(jiān)定，學(xué)生們對(duì)于工程倫理原則性問題的回答表現(xiàn)出明顯的不確定性，在一定程度上也反映著我國(guó)科技倫理教育的現(xiàn)狀。

記者了解到，目前我國(guó)高校設(shè)置倫理委員會(huì)的僅為17.6%，且多為醫(yī)科類院校。即便建有倫理委員會(huì)的高校，不少也缺乏標(biāo)準(zhǔn)化的操作規(guī)程，在指導(dǎo)倫理教育上發(fā)揮的作用有限。

此前，科技倫理課程曾經(jīng)陸續(xù)在西南交通大學(xué)等20多所高校開設(shè)，由清華大學(xué)、大連理工大學(xué)、東北大學(xué)等8校組成的科技倫理研究聯(lián)盟也在共同推進(jìn)相關(guān)科技倫理課程的建設(shè)。但總體而言，開設(shè)比例偏低。

2018年3月，全國(guó)工程專業(yè)學(xué)位研究生教學(xué)指導(dǎo)委員會(huì)頒布的《關(guān)于制定工程碩士專業(yè)學(xué)位研究生培養(yǎng)方案的指導(dǎo)意見》，首次將《工程倫理》課程納入必修課。但僅限于專業(yè)學(xué)位研究生，從整體而言和現(xiàn)實(shí)的需求相距甚遠(yuǎn)。

對(duì)于工程倫理教育，更多時(shí)候來自于教師在專業(yè)課中的零星提及，以及指導(dǎo)研究生過程中的自發(fā)行為。

是否會(huì)對(duì)人造成傷害，是重慶大學(xué)汽車學(xué)院教授褚志剛作科技倫理判斷的標(biāo)準(zhǔn)之一。但他認(rèn)為，這一理解還未完全到位，“直接的倫理判斷容易，但隨著技術(shù)發(fā)展，更多倫理問題間接產(chǎn)生”。

比如，自動(dòng)汽車閃避使得大卡車剎車不及，由此引發(fā)一連串交通事故。事故責(zé)任應(yīng)追究到大卡車上，還是自動(dòng)汽車上？應(yīng)追究技術(shù)本身，還是制作者？類似的問題，目前尚未有明確的認(rèn)定標(biāo)準(zhǔn)。

中國(guó)社會(huì)科學(xué)院哲學(xué)研究所研究員邱仁宗指出，科技倫理涉及面甚廣，應(yīng)重點(diǎn)關(guān)注新技術(shù)帶來的倫理問題，在教育領(lǐng)域也是如此，而這方面教育的缺失應(yīng)引起重視。

缺失在于研究不到位

高校科技倫理教育長(zhǎng)期缺失，或許可以從某些細(xì)節(jié)發(fā)現(xiàn)端倪。

褚志剛告訴《中國(guó)科學(xué)報(bào)》，向國(guó)外期刊投稿必須要有科技倫理聲明，交代清楚不會(huì)對(duì)人、動(dòng)物等產(chǎn)生傷害，然而，向國(guó)內(nèi)雜志投稿卻未見這樣的規(guī)定。

中國(guó)醫(yī)學(xué)科學(xué)院生命倫理學(xué)研究中心執(zhí)行主任翟曉梅指出，長(zhǎng)期以來，我國(guó)學(xué)界對(duì)倫理的認(rèn)知存在諸多誤區(qū)，如把科學(xué)與倫理對(duì)立，認(rèn)為發(fā)展科技不受批判是最理想的狀態(tài)；談及專業(yè)倫理時(shí)，又把倫理的概念泛化，所言非所指，由此導(dǎo)致倫理與科技漸行漸遠(yuǎn)。

學(xué)界尚且如此，教育自然也跟不上。即便人們心中認(rèn)可科技倫理教育的重要性，但在操作層面上缺少科學(xué)的方法。

“有些高校一度將科技倫理教育劃入‘兩課’范疇，且所占內(nèi)容并不多，如職業(yè)倫理、學(xué)術(shù)道德、社會(huì)責(zé)任感等并沒有及時(shí)納入到課程教學(xué)內(nèi)容之中。”大連理工大學(xué)人文與社會(huì)科學(xué)學(xué)部教授王前說。

在邱仁宗看來，教育上的缺位還要從研究上溯源。生命科學(xué)已研究了50年，有了一定學(xué)科積累。由于問題的敏感性，相關(guān)的倫理認(rèn)知逐漸成為共識(shí)。而像人工智能、自動(dòng)汽車等新技術(shù)的研究才剛剛開始，與之對(duì)應(yīng)的倫理認(rèn)知尚存較大爭(zhēng)議。

算法歧視就是人工智能引發(fā)的典型倫理案例。

2015年，“谷歌”曾錯(cuò)誤地將黑人程序員上傳的自拍照標(biāo)注為“大猩猩”。2016年，微軟公司的AI聊天機(jī)器人，在和網(wǎng)民聊天時(shí)被“教壞”，被灌輸許多臟話及種族歧視思想，成為“不良少女”，后被緊急叫停。在“谷歌”的廣告服務(wù)中，男性會(huì)比女性有更多的機(jī)會(huì)獲得高薪招聘信息……

邱仁宗表示，提前構(gòu)建技術(shù)公平規(guī)則、在設(shè)計(jì)環(huán)節(jié)注入倫理觀念，遠(yuǎn)遠(yuǎn)落后于技術(shù)開發(fā)。

而更大范圍的工程倫理發(fā)展相對(duì)緩慢。實(shí)際上，“技術(shù)哲學(xué)早就存在，但技術(shù)倫理學(xué)發(fā)展相對(duì)緩慢，所達(dá)成的共識(shí)不多、差異較大。改善這一切并不是開一個(gè)會(huì)、搞幾個(gè)課題就能輕易解決的，需要專業(yè)倫理的介入、研究。”邱仁宗說。

他希望，借此次國(guó)家組建科技倫理委員會(huì)的契機(jī)，起草科技倫理的一般原則，在每個(gè)領(lǐng)域倫理問題研究的基礎(chǔ)上制定倫理準(zhǔn)則，作為科技工作者決策和行動(dòng)的普遍標(biāo)準(zhǔn)。只有如此，與專業(yè)結(jié)合的科技倫理教育才有理論與標(biāo)準(zhǔn)的依據(jù)。

首要的是開設(shè)必修課

在對(duì)待“科學(xué)研究無禁區(qū)”的態(tài)度上，前述調(diào)研中持贊同傾向的人占到60%以上。因此，打破理工科學(xué)生對(duì)倫理道德的偏見，還得從認(rèn)識(shí)上轉(zhuǎn)變技術(shù)價(jià)值中立的思想。

課堂成為大學(xué)生接受科技倫理教育最理想的場(chǎng)所。

目前兩類開課模式在一些先行高校中進(jìn)行：一是單獨(dú)設(shè)課，納入通識(shí)教育范疇；二是結(jié)合專業(yè)課，在專業(yè)課中滲透?jìng)惱碇�識(shí)。

2016年，我國(guó)工程教育正式加入《華盛頓協(xié)議》，根據(jù)協(xié)議規(guī)定，理工科院校專業(yè)必須開設(shè)倫理類課程。目前，國(guó)內(nèi)高校本科評(píng)估也將開設(shè)倫理課程列為一檔指標(biāo)。

“高校、科研院所凡是涉及科技工程的單位，均要開設(shè)一門科技工程倫理學(xué)課程。”邱仁宗說。

不只是工程類專業(yè)碩士必修，必修的范圍還應(yīng)拓展到博士生、學(xué)術(shù)型碩士生，乃至本科生，成為本次受訪者的共識(shí)。

培養(yǎng)一批既懂科學(xué)技術(shù)，又懂倫理教育，具備跨學(xué)科特征的師資，是當(dāng)下倫理教育的急需。

邱仁宗表示，應(yīng)大力進(jìn)行能力建設(shè)，培養(yǎng)一大批科學(xué)技術(shù)倫理學(xué)的博士和碩士。

王前認(rèn)為，培訓(xùn)專門的師資很有必要。有一定理工背景的教師可以經(jīng)過培訓(xùn)上崗，相關(guān)專業(yè)如自然辯證法的教師也可以經(jīng)過培訓(xùn)開設(shè)科技倫理課程。“不能淺顯地理解專業(yè)倫理，必須深刻鉆研。”有條件的情況下，也可以采取多人授課模式。

在課堂教學(xué)之外，王前提醒，“科技倫理教育還要打破一個(gè)誤區(qū)——基本上只依靠學(xué)校教育，忽視社會(huì)文化環(huán)境與終身教育的重要性”。

前述調(diào)研發(fā)現(xiàn)，在高校理工科學(xué)生科技倫理意識(shí)養(yǎng)成方面，媒體作用最大，其次是課堂教育，再次是導(dǎo)師的言傳身教，最后是課外讀物。

王前表示，學(xué)校教育具有短時(shí)性，學(xué)生們總歸要走出校門，踏入現(xiàn)實(shí)的復(fù)雜社會(huì)之中。如果沒有一個(gè)好的社會(huì)倫理環(huán)境，他們以前接受的科技倫理教育將會(huì)被逐漸淡忘。

另外，學(xué)校教育面對(duì)的主要對(duì)象是未來的科技人員，對(duì)于科技倫理意識(shí)養(yǎng)成作用具有一定認(rèn)識(shí)局限性。在現(xiàn)實(shí)社會(huì)生活中，科技倫理問題并不是單獨(dú)存在的，而是與法律、社會(huì)和政治等聯(lián)系在一起的，在不同的領(lǐng)域表現(xiàn)不同。

知行合一的科技倫理課

什么才是行之有效的科技倫理教育？多年來，王前一直在琢磨這一問題。

“人工智能的應(yīng)用是否越廣越好？如果過分依賴人工智能，人的智能就可能退化，造成工具理性過強(qiáng)，人文理性偏弱，人類的想象、靈感、創(chuàng)造力就會(huì)削弱。”

“給兒童設(shè)計(jì)玩具，僅考慮經(jīng)濟(jì)效益，自然希望孩子不停地看下去，這就會(huì)對(duì)兒童的視力、聽力產(chǎn)生傷害。因此在玩具設(shè)計(jì)中，需要設(shè)置定時(shí)關(guān)閉功能或提醒家長(zhǎng)不能長(zhǎng)時(shí)間給孩子觀看。”

“同學(xué)們，在技術(shù)設(shè)計(jì)環(huán)節(jié)，就要把倫理意識(shí)放進(jìn)去。”在王前主講的網(wǎng)易視頻公開課“科學(xué)技術(shù)與工程倫理”和大連理工大學(xué)“工程倫理”數(shù)字課程中，這樣的例子不勝枚舉。

中國(guó)古代講求知行合一。在王前看來，科技倫理課程不能簡(jiǎn)單地等同于知識(shí)課——上完之后有成績(jī)就可以，還要落實(shí)到具體行動(dòng)中。“要讓學(xué)生在科技活動(dòng)中有倫理體驗(yàn)，感受到新技術(shù)應(yīng)用對(duì)民眾可能產(chǎn)生的影響，建立同情心和社會(huì)責(zé)任感。”

在國(guó)外一些大學(xué)，科技倫理教育形成了相對(duì)成熟的模式和方法。如美國(guó)的價(jià)值敏感設(shè)計(jì)教育、加拿大的角色扮演和情景模擬、荷蘭的負(fù)責(zé)任創(chuàng)新教育、日本的案例教學(xué)等。

在醫(yī)學(xué)教育上，我國(guó)課堂也會(huì)采用角色扮演，師生通過扮演醫(yī)生和患者的角色，將課本知識(shí)轉(zhuǎn)化為臨床實(shí)踐，使得學(xué)生掌握臨床辨證施治的方法,提高醫(yī)生與病人的溝通技巧。

相比西方，我國(guó)的科技倫理教育起步晚、科技倫理意識(shí)不足。在王前看來，有必要開展適合我國(guó)特點(diǎn)的科技倫理教育，聯(lián)系我國(guó)科學(xué)研究和工程實(shí)踐活動(dòng)的具體情況，通過開放式討論，領(lǐng)會(huì)學(xué)術(shù)道德和科學(xué)技術(shù)職業(yè)的倫理精神。

他在科技倫理教學(xué)中增加案例教學(xué)、體驗(yàn)式教學(xué)的成分，讓學(xué)生在具體情境中，知道哪些事該做，哪些事不該做。

“如果將來你所在的某工廠廠長(zhǎng)讓你偷排污水，你干還是不干？如果干了肯定不對(duì)，不干違背命令就可能失業(yè)。你應(yīng)該怎么辦？”在討論課上，學(xué)生的回答五花八門，最后往往在“頭腦風(fēng)暴”和教師引導(dǎo)下，不僅找到正確的應(yīng)對(duì)方式，還強(qiáng)化了批判性思維。

“教師要傳授給學(xué)生合理又巧妙的實(shí)踐智慧。”王前以舉報(bào)“偷排”為例指出，通過討論要讓學(xué)生知道應(yīng)該到哪里舉報(bào)，找什么人控制偷排行為，如何借助媒體、機(jī)構(gòu)的力量達(dá)到阻止偷排的目的，這樣才能讓學(xué)生將來在具體的情境中靈活處理，真正達(dá)到科技倫理教育的目的。