華夏政法大學(xué)傳播法中心研究員、副教授朱巍
DCCI互聯(lián)網(wǎng)研究院院長(zhǎng)劉興亮
華夏社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任段偉文
北京大學(xué)法學(xué)院教授薛軍
近期,一系列事件引發(fā)了公眾對(duì)于人臉識(shí)別技術(shù)濫用得廣泛。隨著人工智能技術(shù)不斷發(fā)展,人臉識(shí)別大規(guī)模地應(yīng)用于安防、支付等日常生活場(chǎng)景中,但這項(xiàng)改變生活得技術(shù)當(dāng)前卻處于爭(zhēng)議中。此前,華夏人大常委會(huì)法工委發(fā)言人岳仲明在感謝會(huì)上表示,人臉識(shí)別等新技術(shù)得應(yīng)用和發(fā)展,給個(gè)人信息保護(hù)帶來(lái)許多新挑戰(zhàn)。華夏人大常委會(huì)法工委將就有關(guān)問(wèn)題進(jìn)一步廣泛聽(tīng)取意見(jiàn),深入研究論證。就此,新京智庫(kù)組織舉辦“人臉識(shí)別不能被濫用”專(zhuān)題研討會(huì),邀請(qǐng)多位法律學(xué)者與可以人士進(jìn)行深入得探討。
議題一
新京智庫(kù):根據(jù)我們得調(diào)查顯示,許多人對(duì)人臉識(shí)別得使用已經(jīng)比較警惕,更傾向于選擇輸入密碼或指紋等驗(yàn)證方式。人臉識(shí)別技術(shù)為何會(huì)出現(xiàn)濫用問(wèn)題,根本原因是什么?
“技術(shù)崇拜”導(dǎo)致人臉識(shí)別泛濫,須建立防火墻機(jī)制
人臉識(shí)別可能誘發(fā)智能化官僚主義
劉興亮:我是一個(gè)技術(shù)派,人臉識(shí)別剛出來(lái)得時(shí)候感覺(jué)還是很酷得。在車(chē)站、機(jī)場(chǎng)刷臉通過(guò),非常快捷。但現(xiàn)在越來(lái)越多得地方和場(chǎng)景都在濫用人臉識(shí)別。這是因?yàn)槿四樧R(shí)別太方便了,而且準(zhǔn)確率越來(lái)越高。很多需要核實(shí)身份得地方,如小區(qū)門(mén)禁、上班考勤等都要進(jìn)行人臉識(shí)別。有些是出于管理方便,有些則是商業(yè)用途。
人臉識(shí)別是個(gè)好技術(shù),但是毫無(wú)限制地在各種各樣得應(yīng)用場(chǎng)景中使用,“圖方便、圖省事”,為了效率而不顧背后潛在得隱患。可以說(shuō),對(duì)技術(shù)得盲目崇拜和樂(lè)觀導(dǎo)致人臉識(shí)別技術(shù)得泛濫使用。
段偉文:企業(yè)或管理部門(mén)出于效率考慮,部署了人臉識(shí)別。但這只是表面上得原因,更深層次上,還有其他因素,比如說(shuō),人臉識(shí)別技術(shù)使用起來(lái)很方便,但可能誘發(fā)某種意義上得官僚主義,可稱(chēng)之為機(jī)械或者智能化得官僚主義。
現(xiàn)在很多城市依賴(lài)智能監(jiān)測(cè)技術(shù)手段進(jìn)行城市治理,如果人們?cè)絹?lái)越多地生活在智能監(jiān)測(cè)環(huán)境之中,就意味著需要一種新型得社會(huì)契約,但是人們還沒(méi)有想清楚。過(guò)去講技術(shù)治理通常稱(chēng)之為技術(shù)統(tǒng)治論或技治主義,是當(dāng)作貶義詞在討論,但現(xiàn)在更多得卻是肯定,缺乏必要得反思。
使用人臉識(shí)別必須要滿(mǎn)足必要性條件
薛軍:人臉信息和其他一些生物識(shí)別信息,都具有終身不可能或者不太可能被更改得特征。公眾對(duì)人臉識(shí)別有擔(dān)憂(yōu),主要原因在于公眾擔(dān)心自己得人臉信息在被搜集、被使用過(guò)程中失去控制,特別是很可能在不知不覺(jué)中被他人搜集了相關(guān)信息。這是人臉信息和指紋等其他生物識(shí)別信息存在比較大得差別之處。
由于人臉識(shí)別技術(shù)高效、便捷,只要把臉湊過(guò)去就可以,因此很容易激勵(lì)大家去使用這個(gè)技術(shù)。但是技術(shù)帶來(lái)得便利,還要與其存在得隱患、風(fēng)險(xiǎn)進(jìn)行綜合考量。在很多刷臉得場(chǎng)景中,相關(guān)操作單位并沒(méi)有建立數(shù)據(jù)后臺(tái)得可以能力,只能連通到其他得存儲(chǔ)網(wǎng)站或第三方公司才能完成刷臉認(rèn)證。這樣得機(jī)構(gòu)能否確保信息安全,會(huì)不會(huì)導(dǎo)致泄露出去,這都是大家特別擔(dān)心得問(wèn)題。
所以,如果一定要利用人臉識(shí)別進(jìn)行身份驗(yàn)證,那么必須要滿(mǎn)足必要性得條件。比如進(jìn)入高度機(jī)密、特別重要得場(chǎng)合,需要可能嗎?杜絕冒名頂替者時(shí),運(yùn)用人臉識(shí)別具有一定得合理性。但進(jìn)入自己得小區(qū)或者其他營(yíng)業(yè)場(chǎng)所,動(dòng)用人臉識(shí)別得必要性與可能存在得風(fēng)險(xiǎn)就不成比例。從法律上來(lái)說(shuō),將來(lái)可能要規(guī)定一個(gè)可選擇性機(jī)制,讓人可以選擇不采用人臉識(shí)別得方法進(jìn)行身份驗(yàn)證。
建立采集、處理分離得防火墻很關(guān)鍵
朱巍:為什么人臉識(shí)別爭(zhēng)議這么大,因?yàn)槿四樖且话谚€匙,后面關(guān)聯(lián)到我們得身份信息。如果再結(jié)合其他得行為軌跡、IP地址等信息,就可以挖掘出很多個(gè)人得信息,并應(yīng)用到許多得商業(yè)場(chǎng)景中去。
人臉識(shí)別是趨勢(shì),是發(fā)展得方向。它能解決很多現(xiàn)在其他方式解決不了得問(wèn)題。比如網(wǎng)絡(luò)中規(guī)定小朋友不能玩,但如果沒(méi)有人臉識(shí)別,很多小孩就會(huì)用家長(zhǎng)得賬號(hào)密碼登錄使用。
人臉識(shí)別重要得是后面得兩個(gè)字——識(shí)別。這意味著它跟個(gè)人得隱私權(quán)聯(lián)系在一起。隱私權(quán)是可能嗎?得權(quán)利。國(guó)外有這樣得案例,瑞典得一個(gè)高中事先未經(jīng)學(xué)生和家長(zhǎng)同意,對(duì)學(xué)生進(jìn)行人臉識(shí)別,結(jié)果遭到了瑞典政府得罰款。
因此我要提出兩個(gè)建議。一是要有一個(gè)防火墻。采集者是采集者,處理者是處理者,二者要分開(kāi)。目前,這個(gè)機(jī)制還沒(méi)有建立起來(lái),誰(shuí)采集了歸誰(shuí)。
二要讓用戶(hù)擁有自我決定權(quán)。動(dòng)物園、兒童樂(lè)園等場(chǎng)所做人臉識(shí)別,我是贊同得。因?yàn)橛腥四樧R(shí)別,可以保障這些場(chǎng)所得公共安全。但如果有人不接受人臉識(shí)別,那可以用身份證等人工方式辨別。這個(gè)決定權(quán)應(yīng)該交給消費(fèi)者本人。
議題二
新京智庫(kù):《個(gè)人信息保護(hù)法(草案)》第13條中首次明確了個(gè)人信息處理得6項(xiàng)依據(jù)。如何才能真正確保對(duì)個(gè)人信息得處理合理合法?
被動(dòng)“同意”不能真實(shí)反映個(gè)人自主意愿
需進(jìn)一步把人臉數(shù)據(jù)當(dāng)做特殊類(lèi)型信息
段偉文:目前普通人得權(quán)利意識(shí)并不是那么強(qiáng),在這樣得信息素養(yǎng)環(huán)境下,把個(gè)人信息權(quán)利或個(gè)人數(shù)據(jù)權(quán)利當(dāng)成“可能嗎?”得權(quán)利,體現(xiàn)出一定得逆向制衡得智慧。
對(duì)人臉、虹膜、步態(tài)等信息得采集和使用實(shí)際上都走在了立法得前面。但與之對(duì)應(yīng)得現(xiàn)實(shí)卻是缺乏有效保護(hù)個(gè)人信息權(quán)利得機(jī)制,個(gè)人往往也沒(méi)有維護(hù)自己信息權(quán)利得意識(shí)和能力。
而且,人臉數(shù)據(jù)在采集之后完全可以用于其他目得,比如說(shuō)做情感分析、心理評(píng)估等。這就導(dǎo)致了新得信息和認(rèn)知得不對(duì)稱(chēng)。所以,人臉識(shí)別數(shù)據(jù)是一種具有開(kāi)放性社會(huì)法律倫理影響得敏感得個(gè)人信息,在一定程度上賦予個(gè)人對(duì)其人臉數(shù)據(jù)得“可能嗎?權(quán)利”,有利于應(yīng)對(duì)未來(lái)可能爆發(fā)得更大得社會(huì)法律倫理風(fēng)險(xiǎn)。
但我覺(jué)得,還是要更進(jìn)一步,在認(rèn)知上把人臉數(shù)據(jù)當(dāng)做特殊類(lèi)型得信息。這就需要更多得研究,并且在概念上有所創(chuàng)新,這些概念可以是對(duì)經(jīng)驗(yàn)得提煉或由場(chǎng)景觸發(fā),運(yùn)用它們可以更好地揭示人臉數(shù)據(jù)得法律與倫理內(nèi)涵,促進(jìn)人們對(duì)人臉數(shù)據(jù)濫用得法律與倫理風(fēng)險(xiǎn)得認(rèn)知。也就是說(shuō),人臉識(shí)別得法律規(guī)制與倫理治理需要更多具有創(chuàng)造性得實(shí)踐智慧。
同意只是入口,要重視強(qiáng)制性規(guī)則設(shè)置
薛軍:《民法典》規(guī)定個(gè)人信息是可以基于個(gè)人信息主體得同意,授權(quán)他人進(jìn)行處理。這個(gè)原則沒(méi)有問(wèn)題。除此之外,在其他情況下合理、合法地處理他人得個(gè)人信息,必須明確列舉事由,并且范圍要明確,不能開(kāi)太大口子。
現(xiàn)在比較大得問(wèn)題在于“個(gè)人得同意”。一是“同意”可能淪為一種純粹得形式,二是“同意”可能帶有某種被迫,不是自由、真實(shí)地反映個(gè)人自主意思得“同意”。所以,怎么確保“同意”機(jī)制不淪為形式,這值得。
我曾經(jīng)與歐盟China得數(shù)據(jù)保護(hù)專(zhuān)員討論過(guò)這一問(wèn)題,發(fā)現(xiàn)他們也面臨同樣得困惑。雖然“同意”規(guī)則可以規(guī)定得比較細(xì)致,但是企業(yè)在獲得用戶(hù)得同意方面,可以很容易地做到形式上得合規(guī)。而如果用戶(hù)需要利用企業(yè)提供得服務(wù),其實(shí)就只能同意,否則就沒(méi)有辦法獲得服務(wù)。
我可以很明確地說(shuō),未來(lái)能夠真正發(fā)揮作用得,是對(duì)于正當(dāng)、合理、必要收集個(gè)人信息之類(lèi)得帶有強(qiáng)制性得規(guī)則。“同意”只是一個(gè)入口,不一定能夠真正發(fā)揮把關(guān)得作用。我認(rèn)為未來(lái)得個(gè)人信息保護(hù)體制應(yīng)該是以行政為主導(dǎo)得。因?yàn)閭€(gè)體太分散,維權(quán)意識(shí)和能力都比較弱,即使被侵害個(gè)人信息權(quán)益,也很難證明侵害者以及實(shí)際得損失,所以還是要高度重視相關(guān)法規(guī)中帶有強(qiáng)制性特征規(guī)則得設(shè)置是否合適、充分。
個(gè)人隱私權(quán)多數(shù)時(shí)候無(wú)需讓渡
劉興亮:個(gè)人隱私權(quán),包括肖像權(quán),是我們每個(gè)人“可能嗎?”得權(quán)利。當(dāng)然,這種權(quán)利在某些時(shí)候要做一定得讓渡,比如在面對(duì)突發(fā)公共衛(wèi)生事件時(shí),會(huì)有一些措施需要個(gè)人做出讓步,像疫情期間得健康碼就是一種案例。
一些企業(yè)和機(jī)構(gòu)可能認(rèn)為人們應(yīng)該是不在乎自己得隱私權(quán),或者會(huì)為了某些便利而放棄隱私權(quán)。這是不對(duì)得。個(gè)人隱私權(quán)一定是在極少數(shù)得情況下才做出讓渡。
朱巍:技術(shù)得發(fā)展不能犧牲個(gè)人得權(quán)利。“同意”有主動(dòng)同意和被動(dòng)同意兩種。《個(gè)人信息保護(hù)法(草案)》規(guī)定得敏感信息處理得“同意”原則是主動(dòng)同意。被動(dòng)同意則包括一攬子協(xié)議,比如企業(yè)彈出得“同意”事項(xiàng)。通常,用戶(hù)都沒(méi)有仔細(xì)看,全部點(diǎn)同意。其實(shí),很多隱私條款是需要單獨(dú)同意得。
而且,互聯(lián)網(wǎng)技術(shù)不斷迭代,在迭代過(guò)程中會(huì)更改網(wǎng)民協(xié)議和隱私條款,但并不會(huì)覆蓋此前得協(xié)議。這意味著,這些應(yīng)用或平臺(tái)在迭代技術(shù),甚至變更服務(wù)得同時(shí),卻不縮減索權(quán),導(dǎo)致它們得索權(quán)范圍非常大,有些甚至已經(jīng)跟現(xiàn)在得服務(wù)沒(méi)有任何關(guān)系。
議題三
新京智庫(kù):人臉識(shí)別技術(shù)在使用過(guò)程中,“同意”是一個(gè)重要環(huán)節(jié)。《個(gè)人信息保護(hù)法(草案)》第14條對(duì)不同情形得“同意”做了細(xì)化。此外第24條、第30條,也都涉及相關(guān)內(nèi)容。“同意”權(quán)利真得能保護(hù)個(gè)人隱私和數(shù)據(jù)安全么?
人臉識(shí)別使用得必要性,才是“同意”得關(guān)鍵
保護(hù)個(gè)人隱私不宜過(guò)分依賴(lài)“同意”
薛軍:《個(gè)人信息保護(hù)法(草案)》有一個(gè)很大得亮點(diǎn),就是對(duì)“同意”規(guī)則進(jìn)行了細(xì)化。主要得思路是針對(duì)不同得場(chǎng)景,對(duì)于“同意”要求得強(qiáng)度或者方式,進(jìn)行差異化設(shè)置。這體現(xiàn)出區(qū)別對(duì)待得立法思路。
同時(shí),可能還考慮了匹配性、比例性得要求。比如,區(qū)分敏感個(gè)人信息和其他個(gè)人信息,相應(yīng)得,對(duì)這些信息進(jìn)行處理時(shí),在法律層面上所需要得“同意”得方式就是不一樣得。
“同意”能否保護(hù)個(gè)人隱私和數(shù)據(jù)安全?我覺(jué)得肯定是能發(fā)揮一定得積極作用,至少告知了用戶(hù),讓用戶(hù)清晰地了解其個(gè)人信息是否被收集了,并且如何被處理了。同時(shí),也便于相關(guān)監(jiān)管部門(mén)審查,企業(yè)是否存在違規(guī)搜集個(gè)人信息得問(wèn)題。
但是,也不宜過(guò)分依賴(lài)“同意”。因?yàn)楝F(xiàn)在得各種個(gè)人信息處理得主體,肯定都會(huì)詳盡地研究個(gè)人信息保護(hù)方面得法律法規(guī)得要求,并做到形式上得合規(guī)。而用戶(hù)如果真得需要這個(gè)服務(wù),他就只能同意,如果不同意就不能享有服務(wù)。
“同意”環(huán)節(jié)里蕞重要得是,它是不是應(yīng)該放在同意范圍內(nèi)
段偉文:現(xiàn)在很多所謂得隱私條款,或“同意”條文,都只是為了達(dá)到數(shù)據(jù)合規(guī)得要求。但里面并沒(méi)有講清楚,這些采集得數(shù)據(jù)到底是干什么用,有時(shí)甚至明確表示,采集得數(shù)據(jù)如果對(duì)用戶(hù)造成傷害,企業(yè)是不負(fù)責(zé)任得。
這樣得“同意”條款存在兩個(gè)問(wèn)題,一是形式化,過(guò)于冗長(zhǎng),讓人不好理解。二是,有得企業(yè)利用這樣得“同意”條款,使得對(duì)用戶(hù)隱私得侵犯和數(shù)據(jù)得泄露,變成了合法合規(guī)得事。
所以,從原則上說(shuō),“同意”得權(quán)利當(dāng)然是需要得,但更重要得是如何能夠真正地保證個(gè)人隱私和數(shù)據(jù)。
這意味著企業(yè)必須要有相應(yīng)得技術(shù)措施和手段,如果沒(méi)有采取相應(yīng)得技術(shù)措施和手段,這樣得“同意”就是形同虛設(shè),甚至是明面上得欺騙。
“同意”環(huán)節(jié)里蕞重要得一點(diǎn)是,我們同意得是什么,以及它是不是應(yīng)該放在同意范圍內(nèi)。因此,討論“同意”要從必要性得角度切入,讓一些不必要得應(yīng)用受到制約。
現(xiàn)在這一訴求是非常明確得,就是要禁止一些領(lǐng)域里不必要得人臉識(shí)別,比如公園進(jìn)行人臉識(shí)別就是沒(méi)有必要得。
知情權(quán)是“同意”得前提,自我決定權(quán)是“同意”得核心
朱巍:“同意”不單純是能不能用得問(wèn)題,這不是問(wèn)題中蕞重要得。“同意”得核心,首先是跨場(chǎng)景使用問(wèn)題。但是,目前這個(gè)問(wèn)題在《個(gè)人信息保護(hù)法(草案)》和《民法典》中都沒(méi)有規(guī)定。
比如說(shuō)用戶(hù)在這個(gè)場(chǎng)景上“同意”了,但你卻拿這些數(shù)據(jù)用到其他諸如人臉適配、消費(fèi)記錄等場(chǎng)景里,這樣就有問(wèn)題了。
其次,用戶(hù)要有知情權(quán)。沒(méi)有知情權(quán)得“同意”沒(méi)有意義。比如,用戶(hù)要知道這個(gè)人臉識(shí)別到底用來(lái)做什么,對(duì)接什么數(shù)據(jù)庫(kù),數(shù)據(jù)會(huì)保存多久,何人使用、何時(shí)會(huì)刪除等信息。
第三,用戶(hù)要知道對(duì)其個(gè)人信息、數(shù)據(jù)進(jìn)行處理用得是什么技術(shù)。現(xiàn)在有一種成熟得照片活化技術(shù),可以將靜態(tài)照片變成動(dòng)態(tài),從而能夠用于進(jìn)行人臉支付等場(chǎng)景。
因此,應(yīng)該在用戶(hù)“同意權(quán)”里加更多得分支,包括技術(shù)處理得限制,數(shù)據(jù)告知得限制等。
知情權(quán)是“同意”得前提,自我決定權(quán)是“同意”得核心。討論“同意”要把握住這兩點(diǎn)。
蕞后,對(duì)于個(gè)人得敏感信息還要進(jìn)行單獨(dú)得“同意”。敏感信息在不同得法律規(guī)定中得定義都不一樣。如果這個(gè)問(wèn)題得不到解決,那么“同意”得問(wèn)題就解決不了。
議題四
新京智庫(kù):人臉識(shí)別被濫用得現(xiàn)象也側(cè)面反映了科技倫理問(wèn)題,目前有哪些手段可以緩解技術(shù)與風(fēng)險(xiǎn)之間得張力?未來(lái)新技術(shù)得出現(xiàn)應(yīng)如何建立相應(yīng)得倫理,并重獲公眾得信任呢?
約束人臉識(shí)別技術(shù),需要訂立新型社會(huì)契約
討論人臉識(shí)別技術(shù)倫理得三個(gè)前提
段偉文:討論人臉識(shí)別技術(shù)倫理、規(guī)范得建立,首先要考慮三個(gè)層面得問(wèn)題。第壹,人臉識(shí)別技術(shù)本身存在局限性和由易獲得性造成得濫用風(fēng)險(xiǎn)。只要不是百分百精準(zhǔn),就意味著技術(shù)本身存在風(fēng)險(xiǎn);同時(shí),人臉識(shí)別技術(shù)也是非常容易獲得得,但技術(shù)水準(zhǔn)參差不齊,人臉識(shí)別技術(shù)因門(mén)檻低易濫用而具有很大得風(fēng)險(xiǎn)性。
第二,對(duì)于個(gè)人信息得保護(hù)和數(shù)據(jù)治理,公共部門(mén)既是數(shù)據(jù)治理得監(jiān)管者,又是數(shù)據(jù)得應(yīng)用者。雖然政府在很多領(lǐng)域具有更強(qiáng)得權(quán)威性,推廣起來(lái)更高效,但公共使用得邊界是什么,技術(shù)治理得公共倫理又是什么?
第三,從技術(shù)得長(zhǎng)遠(yuǎn)發(fā)展來(lái)講,其應(yīng)用怎樣才能普惠公眾?這可能需要訂立新型社會(huì)契約。沒(méi)有契約,任何企業(yè)、任何人、任何地方只要存在可能就能夠部署人臉識(shí)別技術(shù),采集得數(shù)據(jù)還能夠作為其他用途,這其中得風(fēng)險(xiǎn)非常大。
考慮這三點(diǎn)后,我們可以從三方面著手。一是相關(guān)技術(shù)得部署方和相關(guān)企業(yè)得利益相關(guān)方、受益人得責(zé)任,并且這種責(zé)任是要面向不確定性得開(kāi)放后果得責(zé)任,要通過(guò)哲學(xué)上、倫理上得考量,一定程度上體現(xiàn)在法律里面。
二是要通過(guò)設(shè)計(jì)來(lái)保護(hù)一般使用對(duì)象、被監(jiān)測(cè)對(duì)象得權(quán)利。比如對(duì)人臉數(shù)據(jù)得加密技術(shù)或者遮蔽技術(shù)。
現(xiàn)在,人臉識(shí)別技術(shù)已經(jīng)開(kāi)始打破皮膚表面和表面下得環(huán)節(jié),通過(guò)熱敏識(shí)別,在戴口罩得情況下也可以進(jìn)行人臉識(shí)別,這意味著在技術(shù)上已經(jīng)能夠越過(guò)體表識(shí)別體內(nèi)得血液循環(huán),包括靜脈曲張甚至甲亢都有可能識(shí)別。因此,需要加入相關(guān)得加密技術(shù)來(lái)保密數(shù)據(jù);如果沒(méi)有,又沒(méi)有相關(guān)得法律和倫理規(guī)范,技術(shù)就不能“跑”這么快。
第三,我們不要忘記非技術(shù)性解決方案。在依靠大量技術(shù)手段時(shí),同時(shí)要看到更多得人,包括老年人、少年兒童等需要特殊保護(hù)和關(guān)照得群體,應(yīng)該提供一些技術(shù)手段之外得非技術(shù)手段來(lái)滿(mǎn)足這些人得需要。
約束新技術(shù)需要一套新社會(huì)規(guī)制體系
薛軍:高新技術(shù)得使用很受,需要一些社會(huì)規(guī)制,包括通過(guò)制定標(biāo)準(zhǔn)、法律法規(guī)、行業(yè)守則等。規(guī)制得體系可以很豐富而且多元化。不能把法律當(dāng)作唯一能夠發(fā)揮作用得角色,還需要通過(guò)更多靈活、多元化得機(jī)制。這是因?yàn)榧夹g(shù)本身發(fā)展很快,法律很難及時(shí)制定與修改。
所以,我們一定要發(fā)展出適應(yīng)高科技時(shí)代得新社會(huì)規(guī)制體系。技術(shù)準(zhǔn)則、安全評(píng)估準(zhǔn)則或者技術(shù)規(guī)范等,都是很有效得規(guī)制手段,都能夠發(fā)揮一定得作用。具體到人臉識(shí)別技術(shù),目前雖然有一些規(guī)制手段,但是還是欠缺。
比如小區(qū)能否使用人臉識(shí)別技術(shù),至少得有一個(gè)相對(duì)比較權(quán)威得指導(dǎo)性技術(shù)準(zhǔn)則來(lái)說(shuō)明,在什么情況下,有技術(shù)保障能力、具備防范風(fēng)險(xiǎn)要求得時(shí)候可以使用,而其他情況則不能使用。如果有這樣得科技準(zhǔn)則就可以獲得很好得指導(dǎo),并且標(biāo)準(zhǔn)可以隨著時(shí)間得演變不斷發(fā)展。
同時(shí),技術(shù)問(wèn)題可能還是要回歸到技術(shù)層面解決。比如像虛擬號(hào)碼技術(shù)以及條碼化就解決了網(wǎng)約車(chē)、快遞件上個(gè)人信息泄露得風(fēng)險(xiǎn);比如在進(jìn)行算法模型訓(xùn)練時(shí),模型動(dòng)而數(shù)據(jù)不動(dòng)等方式,也有利于確保不產(chǎn)生數(shù)據(jù)合并、轉(zhuǎn)移等風(fēng)險(xiǎn)。
朱巍:對(duì)相關(guān)技術(shù)進(jìn)行立法,并不是拖了技術(shù)、社會(huì)發(fā)展得后腿,而是為了維持社會(huì)更好得平衡。不能因?yàn)槿四樧R(shí)別技術(shù)提供了更高得效率,就把效率當(dāng)作新得正義觀。效率任何時(shí)候都不可能成為正義觀,除非有一定得背景制度。這個(gè)背景制度就是我們今天討論得,人臉識(shí)別技術(shù)需要一定得約束。只有在具備約束得背景下,技術(shù)產(chǎn)生得效率,才能被認(rèn)為符合正義觀。
現(xiàn)在很多企業(yè)強(qiáng)調(diào)科技向善、強(qiáng)調(diào)算法倫理等問(wèn)題,不是在拉效率得后腿,而是要讓整個(gè)社會(huì)得福祉和個(gè)體權(quán)益得正義回到很高得位置上。人永遠(yuǎn)都是目得,而不是手段。(訪談員 鄭偉彬 柯銳 王春蕊)