人民政協(xié)網(wǎng)北京12月24日電（記者謝靚）2020年12月23日，全國政協(xié)今年最后一場雙周協(xié)商座談會，探討的是一個關(guān)于“未來”的話題——人工智能發(fā)展中的科技倫理與法律問題。

臨近歲末，沒有什么比談?wù)撐磥砀屓似诖?。即將過去的這一年里，新冠肺炎疫情重創(chuàng)了整個世界，它是危機(jī)，也是啟示：要盡可能做更多的準(zhǔn)備，以應(yīng)對變局中未知的風(fēng)險與不確定性。

如果要列出能夠改變世界格局與歷史進(jìn)程的要素，人工智能必居其一。

作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，人工智能是時代發(fā)展的巨大機(jī)遇，也給科技倫理和法律帶來挑戰(zhàn)，它的“未知”遠(yuǎn)遠(yuǎn)大于“已知”。黨的十九屆五中全會將人工智能作為具有前瞻性、戰(zhàn)略性的國家重大科技項目進(jìn)行部署，是科學(xué)應(yīng)變，更是主動求變。

在政協(xié)這個“攬八方才俊、集各界精英”的平臺上，探討“人工智能發(fā)展中的科技倫理與法律問題”這樣前沿、跨學(xué)科的課題，可謂適得其所。來自不同界別、代表不同利益訴求的委員和專家對人工智能潛在風(fēng)險進(jìn)行預(yù)判，研究構(gòu)建倫理規(guī)則和法律規(guī)范的可能性，在與職能部門的交流中釋疑增信，在思想的碰撞中激發(fā)新的思考，這本身就是一種建設(shè)性成果，是為人工智能發(fā)展注入人文關(guān)懷的有益實踐。

■“技術(shù)之手”會加深社會不公的溝壑嗎？

上世紀(jì)30年代，喜劇大師卓別林自導(dǎo)自演了一部經(jīng)典電影《摩登時代》，描繪了第二次工業(yè)革命后底層工人被“機(jī)械化”洪流裹挾的無奈。

在歷史長河中，每一次重大科技變革都會對既有社會秩序構(gòu)成沖擊，人工智能也不例外。

會上，張大方常委表達(dá)了自己的擔(dān)憂：“由于數(shù)據(jù)質(zhì)量和算法的原因，很多人工智能軟件蘊含性別、年齡、種族歧視，很難發(fā)現(xiàn)也很難消除。一些掌握先進(jìn)人工智能技術(shù)的企業(yè)或個人可能會利用優(yōu)勢地位獲取更多的資源，影響社會公平?！?/p>

這當(dāng)然不是危言聳聽。

前不久，一篇《外賣騎手，困在系統(tǒng)里》的文章在網(wǎng)上刷屏。為提高配送效率，騎手們在平臺算法的控制下疲于奔命。這一報道擊中了很多人的痛點：我們會不會也被算法操縱？

與騎手困境形成對比的是平臺企業(yè)由此獲得的豐厚資本紅利，李迎新委員由此提出疑問：巨型網(wǎng)絡(luò)交易平臺獲得價值密度極高的“大數(shù)據(jù)”，進(jìn)而以“精準(zhǔn)營銷”等方式獲取商業(yè)利潤，這種分配機(jī)制是否公平？是否可能導(dǎo)致收入差距的進(jìn)一步加大？

其實，如果把問題放在當(dāng)前的歷史節(jié)點中審視，就能更深切地理解這種擔(dān)憂。

剛剛結(jié)束的十九屆五中全會首次提出把全體人民共同富裕取得更為明顯的實質(zhì)性進(jìn)展作為遠(yuǎn)景目標(biāo)。這意味著我們要繼續(xù)把“蛋糕”做大，還要進(jìn)一步把“蛋糕”分好。顯然，任由技術(shù)的無形之手加深社會不公平的溝壑，不是這個時代應(yīng)有的價值觀。

“上限不能過，底線不能破，紅線不能踩?！睆埓蠓秸f，應(yīng)強(qiáng)化政府引導(dǎo)、行業(yè)自律、企業(yè)自覺及公民共識，讓每一個人都能成為人工智能受益者。

“任何一項新技術(shù)的出現(xiàn)都可能帶來就業(yè)、收入分配等方面的社會問題?！睍希嚓P(guān)部委負(fù)責(zé)同志回應(yīng)了委員的擔(dān)憂并表示，問題確實存在，但無需過慮，因為技術(shù)導(dǎo)致的公平問題是可以在發(fā)展過程中得到克服的，這已被歷史所證明。

“既不要把人工智能看成洪水猛獸，也不能放任不管，要用發(fā)展的眼光看待發(fā)展中的問題。”汪鵬飛委員說。

也許，相對于簡單的道德審判，我們更需要做的是完善相應(yīng)的制度設(shè)計。守住現(xiàn)實社會的公平底線，“算法偏見”就不會有機(jī)可乘。

■“弱人工智能時代”的數(shù)據(jù)安全

1951年，計算機(jī)之父阿蘭·圖靈(AlanTuring)曾提出："如果機(jī)器能思考，那么它很可能比我們更加明智……這種新的危險當(dāng)然讓我們焦慮。”

危險有多遠(yuǎn)？這是很多非業(yè)內(nèi)人士共同的問號。

為籌備這次會議，全國政協(xié)調(diào)研組赴安徽、江蘇、北京開展專題調(diào)研。調(diào)研中，大家看到了人工智能在交通、家居、醫(yī)療、媒體等諸多領(lǐng)域的應(yīng)用場景，也由此深化了一個認(rèn)知：我們?nèi)蕴幱凇叭跞斯ぶ悄軙r代”。

弱人工智能指的是只能解決特定領(lǐng)域問題的人工智能，它還不具備自主意識。強(qiáng)人工智能的“奇點”到來還有多久，在科學(xué)界依然沒有最終定論。因此，王小川委員建議，“討論倫理及法律問題，‘長遠(yuǎn)’和‘眼下’要分開看?！?/p>

前景不明朗，就不能過早“畫地為牢”，委員與部委負(fù)責(zé)同志一致認(rèn)為，要“讓子彈飛一會兒”。

與其憂心尚未發(fā)生的威脅，不如聚焦業(yè)已存在的風(fēng)險?，F(xiàn)實中人工智能技術(shù)應(yīng)用的突出風(fēng)險是什么？不少委員談到了數(shù)據(jù)隱私與安全。

疫情期間，“刷臉”成為大多數(shù)人通行必不可少的步驟?！叭四?、指紋、DNA等生物特征數(shù)據(jù)，個人醫(yī)療檔案數(shù)據(jù)等都具有唯一性，一旦被采集到不安全的網(wǎng)絡(luò)上，極有可能引發(fā)巨大社會風(fēng)險?！睆氖戮W(wǎng)絡(luò)安全技術(shù)行業(yè)的談劍鋒委員指出了問題的關(guān)鍵。他建議采取負(fù)面清單模式，限制企業(yè)自行采集收集和壟斷數(shù)據(jù)，同時對不可再生數(shù)據(jù)進(jìn)行統(tǒng)一管控。

會上，黃愛龍委員談到App個人信息被過度采集，姜偉委員談到數(shù)據(jù)的權(quán)屬不明確，黃錦輝委員談到要監(jiān)管企業(yè)所使用數(shù)據(jù)的質(zhì)量，雖意見各有不同，但立場都是一致的：保護(hù)數(shù)據(jù)安全刻不容緩。

對于數(shù)據(jù)安全要明確法律上的紅線，這項工作已經(jīng)開始——今年出臺的民法典對收集、處理個人信息作出了明確規(guī)定，全國人大也把個人信息保護(hù)法、數(shù)據(jù)安全法列入了國家五年立法規(guī)劃第一序列。會上，相關(guān)部委負(fù)責(zé)同志的積極回應(yīng)又給大家吃下一顆定心丸：數(shù)據(jù)權(quán)屬的界定與更嚴(yán)格的數(shù)據(jù)隱私保護(hù)規(guī)范已納入決策層的考量范圍。

當(dāng)一個問題反復(fù)出現(xiàn)在社會公共議題之中，往往就是問題得到解決的契機(jī)。對于保護(hù)數(shù)據(jù)安全，我們或許可以抱有更多信心。

■搶占制高點

前沿和關(guān)鍵領(lǐng)域的技術(shù)創(chuàng)新，向來是傳統(tǒng)工業(yè)強(qiáng)國的主戰(zhàn)場。幸運的是，在人工智能領(lǐng)域，中國已躋身國際“第一方陣”。

人工智能依托大數(shù)據(jù)而生，以應(yīng)用場景為核心，而中國龐大的互聯(lián)網(wǎng)體量和豐富的場景應(yīng)用，是人工智能發(fā)展最豐沃的土壤。

我們探索建立人工智能發(fā)展“規(guī)則”，不僅是防范潛在風(fēng)險的需要，也是搶占國際競爭制高點的必然選擇。

現(xiàn)在，美歐等國家以“共同價值觀”劃界全球人工智能治理版圖的趨勢日盛?！皞惱矸蓡栴}已成為全球人工智能話語權(quán)和主導(dǎo)權(quán)競爭的焦點。”會上，相關(guān)部委負(fù)責(zé)同志如是說。

好在，研究探索倫理法律問題的“中國實踐”已經(jīng)拉開帷幕。全國政協(xié)社法委副主任陳智敏認(rèn)為，應(yīng)充分利用我國人工智能發(fā)展的比較優(yōu)勢，在人工智能治理的國際規(guī)則制定上占據(jù)主動、擁有更多話語權(quán)。

會上，陳群常委建議在國家層面上加快相關(guān)制度創(chuàng)新，布局建設(shè)人工智能認(rèn)證體系和全球賦碼系統(tǒng)，以我國超大規(guī)模應(yīng)用市場為牽引，對全球人工智能產(chǎn)品開放登記和提供法律保護(hù)，推動我國相關(guān)法律法規(guī)更多成為國際通行規(guī)則。對此，清華大學(xué)法學(xué)院院長申衛(wèi)星建議構(gòu)建綜合性立法和具體場景立法相結(jié)合的“總-分”式立法體系，他說，這種設(shè)計將有利于增強(qiáng)國內(nèi)外對于中國人工智能技術(shù)的信任度，提升人工智能國際競爭中的軟實力。

1818年，英國的瑪麗·雪萊創(chuàng)作了世界上第一部科幻小說《弗蘭肯斯坦》，以遠(yuǎn)超時代的想象力虛構(gòu)了一個“人造人”的悲劇。當(dāng)時20歲的瑪麗大概不會想到，兩百余年后，一個萬億級人工智能市場已蓬勃興起。

勇敢擁抱技術(shù)變革，是因為聽到了潮水的聲音。我們正在闖過布滿暗礁的藍(lán)海，與未來迎面相逢。