人工智能技術(shù)正給人類社會治理帶來全新的挑戰(zhàn)。對學(xué)術(shù)界而言，有些研究已經(jīng)“等不起”了。
日前，在上海交通大學(xué)計算法學(xué)與AI倫理研究中心成立儀式上，AI倫理課題組負(fù)責(zé)人田豐向全社會征集研究者和志愿者。 “我們現(xiàn)在對人工智能治理的研究還遠(yuǎn)遠(yuǎn)不夠。”田豐是商湯智能產(chǎn)業(yè)研究院院長，兼任上海交通大學(xué)計算法學(xué)與AI倫理研究中心聯(lián)袂主任。在他看來，隨著人工智能賦能百業(yè)效應(yīng)的顯現(xiàn)，將帶來生產(chǎn)效率上百倍乃至上千倍的提升，同時也可能把人性善惡帶來的影響放大百倍、千倍，因此，人工智能治理研究必須走在實(shí)踐前面，通過研究提升人工智能治理能力，從而為城市的數(shù)字化轉(zhuǎn)型提供更好的支撐。
人工智能會產(chǎn)生“歧視”和“偏見”，該怎么辦？
就在去年，深圳法院認(rèn)定人工智能生成的文章構(gòu)成作品并擁有著作權(quán)，這一全國首例判例一度引發(fā)法學(xué)界熱議。而這只是人工智能發(fā)展給人類社會帶來的挑戰(zhàn)之一，也凸顯了人工智能治理的重要意義。
所謂人工智能治理，即針對人工智能的開發(fā)和應(yīng)用所帶來的社會風(fēng)險，確保數(shù)據(jù)安全和算法公正，使科技真正造福于人類并且處于可控狀態(tài)。上海交通大學(xué)中國法與社會研究院院長、著名法學(xué)家季衛(wèi)東說，必須明確相關(guān)的原則、倫理、政策、法律、行業(yè)規(guī)則、技術(shù)標(biāo)準(zhǔn)，形成綜合治理的規(guī)范性框架，并把合規(guī)要求落到實(shí)處。
“隨著信息與通信技術(shù)的迅猛發(fā)展，社會生活的方方面面都在數(shù)字化。法治中國的大政方針則意味著法律系統(tǒng)與社會系統(tǒng)的完全對應(yīng)。數(shù)字全覆蓋、法治全覆蓋，兩者重疊在一起，決定了人工智能治理的重要性。”季衛(wèi)東告訴記者，物理空間與信息空間的交融，以及社會的智能網(wǎng)絡(luò)化，勢必帶來治理方式以及法律秩序原理的深刻變化。
在季衛(wèi)東看來，當(dāng)前的人工智能已經(jīng)具備一定的自主學(xué)習(xí)與決策能力，但并不具備法律人格，而現(xiàn)行法律也未明確界定人工智能的設(shè)計、制造、消費(fèi)、使用等各環(huán)節(jié)主體的責(zé)任與義務(wù)。這使得一旦人工智能在使用過程中出現(xiàn)問題，法律對責(zé)任的認(rèn)定和劃分難度大增。比如，自動駕駛汽車決策錯誤導(dǎo)致人員傷亡、智能醫(yī)療助理給出錯誤醫(yī)療建議導(dǎo)致患者病情加重等，當(dāng)這類情況發(fā)生時，如何明確界定主體責(zé)任？
“弱人工智能演進(jìn)至強(qiáng)人工智能階段后，更會對現(xiàn)行法律法規(guī)及其執(zhí)行機(jī)制等造成深遠(yuǎn)影響。”上海市科學(xué)研究所科技與社會研究室主任王迎春說，從去年發(fā)布的全球人工智能治理年度觀察來看，隨著城市數(shù)字化轉(zhuǎn)型，人工智能會越來越多地用于生產(chǎn)和社會治理，這樣的融合將帶給我們意想不到的挑戰(zhàn)。
比如，當(dāng)下人工智能主要是大數(shù)據(jù)驅(qū)動，訓(xùn)練數(shù)據(jù)的偏差不可避免地會導(dǎo)致人工智能產(chǎn)生“歧視”和“偏見”。不論是曾經(jīng)公開測試的微軟小冰還是別的人工智能，“他們”都在根據(jù)收集到的大數(shù)據(jù)“自主學(xué)習(xí)”中習(xí)得了一些“偏見”和“不良習(xí)慣”。此外，人工智能用于社會治理時，數(shù)據(jù)使用的邊界究竟在哪里？這些都需要學(xué)界進(jìn)一步研究。
“只是技術(shù)的基礎(chǔ)和載體變了，而人性并沒有變”
盤點(diǎn)全球人工智能研究領(lǐng)域的成果，在過去10年，人工智能安全風(fēng)險和防御方面的論文數(shù)量增加了差不多10倍。 “人工智能治理已經(jīng)成為全球?qū)W術(shù)界研究的熱點(diǎn)之一，甚至有學(xué)者建議，設(shè)定全球統(tǒng)一的人工智能的數(shù)據(jù)使用標(biāo)準(zhǔn)。”上海交大法律大數(shù)據(jù)分析中心主任楊力說。
其實(shí)，人工智能治理中的安全問題、法律問題等都并非人工智能出現(xiàn)后才有。在早期互聯(lián)網(wǎng)或者更早IT基礎(chǔ)設(shè)施剛剛開始建設(shè)時，這些問題就已經(jīng)出現(xiàn)。田豐直言：只是技術(shù)的基礎(chǔ)和載體變了，而人性并沒有變。
他舉了個簡單的例子。開源共享是當(dāng)下人工智能發(fā)展過程中倍受推崇的一種方式，因?yàn)樗苯訋砹酥R共享，有助于人工智能的研究和發(fā)展提速。但是，開源共享也使得更多的安全漏洞被暴露出來，同時也會有在一些黑色或灰色產(chǎn)業(yè)地帶活動的人研究開源框架，這會帶來很多難以預(yù)測的產(chǎn)業(yè)發(fā)展風(fēng)險和社會風(fēng)險。
“人工智能的最大特點(diǎn)是效率躍升，這也使得人性中的善惡帶來的影響都會加速放到最大。這也是為什么我們的研究必須要有一定的超前性和前瞻性，并且要加快研究速度，這樣才可能為整個技術(shù)創(chuàng)新發(fā)展鋪平道路。”田豐說。
在關(guān)注技術(shù)創(chuàng)新的同時，還要注意風(fēng)險防范
“當(dāng)下，人工智能治理已經(jīng)受到了政府、智庫以及企業(yè)界等多方面的關(guān)注。但是從學(xué)界研究到現(xiàn)實(shí)應(yīng)用，都應(yīng)進(jìn)一步提速。”季衛(wèi)東告訴記者，技術(shù)往往跑得比法律、社會治理的規(guī)范更快更前，人工智能的發(fā)展已經(jīng)進(jìn)入爆發(fā)期，而治理體系作為法律與社會互動的一部分，其發(fā)展演變卻相對緩慢。
季衛(wèi)東直言，技術(shù)快速迭代提醒國內(nèi)學(xué)術(shù)界要加強(qiáng)跨學(xué)科的協(xié)同研究，要從規(guī)范制定、制度框架以及技術(shù)、道德原則、政策等層面加快對人工智能治理的研究。當(dāng)下的人工智能治理不能只是停留在簡單行政規(guī)制上，而要注意不同價值取向和利益的平衡，采取因勢利導(dǎo)的“助推”手法。
確實(shí)，有一些問題是技術(shù)層面的，比如人工智能的自主學(xué)習(xí)過程中出現(xiàn)的算法“黑箱”導(dǎo)致的問題，就必須從技術(shù)層面解決。但更多在人工智能治理中的問題，需要政府、企業(yè)以及個人協(xié)同解決。以去年發(fā)表在《自然神經(jīng)科學(xué)》雜志上的成果為例，其開發(fā)的人工智能系統(tǒng)，可以將大腦活動轉(zhuǎn)化為文本數(shù)據(jù)。一旦這一技術(shù)成熟用于腦機(jī)接口，那么如何保護(hù)個人隱私，則必須由政府、科技界、法學(xué)界等重新給出解決方案。
田豐同樣認(rèn)為，人工智能治理要關(guān)注的對象，既包括整個產(chǎn)業(yè)鏈中所有各方，也要涵蓋政府、用戶等整個科技治理領(lǐng)域各方的權(quán)、責(zé)、利。
季衛(wèi)東稱，就人工智能治理而言，在關(guān)注技術(shù)創(chuàng)新的同時，還要注意預(yù)防和及時解決人工智能可能帶來的社會問題，政府和相關(guān)機(jī)構(gòu)應(yīng)該及時確立人工智能研發(fā)的安全框架和技術(shù)標(biāo)準(zhǔn)，包括確保人工智能應(yīng)用的合法合規(guī)、人工智能的功能可靠可控、驅(qū)動人工智能的數(shù)據(jù)安全可信，以及人工智能在用于社會治理時的決策公平公正，人工智能算法的可解釋性和可追溯性， “只有這樣才能為我們的城市數(shù)字轉(zhuǎn)型提供更安全、可靠的環(huán)境”。
中國-博士人才網(wǎng)發(fā)布
聲明提示：凡本網(wǎng)注明“來源：XXX”的文/圖等稿件，本網(wǎng)轉(zhuǎn)載出于傳遞更多信息及方便產(chǎn)業(yè)探討之目的，并不意味著本站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性，文章內(nèi)容僅供參考。
