還在說(shuō)什么原諒不原諒，灰產(chǎn)賺嗨了。

色情業(yè)一直是驅(qū)動(dòng)互聯(lián)網(wǎng)提速的動(dòng)力之一。從互聯(lián)網(wǎng)最原始階段充斥的無(wú)處不在的曖昧彈窗，到時(shí)髦的VR率先在色情產(chǎn)業(yè)中找到了自己的市場(chǎng)剛需。

現(xiàn)在這股風(fēng)刮到了AI界，AI一鍵脫衣、AI一鍵換臉，AI查看女友前科的應(yīng)用紛至沓來(lái)。這不僅僅是色情擦邊球，更侵犯到了隱私，暴露了互聯(lián)網(wǎng)的暗面根植的人性欲望、獵奇和窺私。

穿著衣服也能看光你的身體

最近火到熄火的軟件是Deepnude，號(hào)稱(chēng)可以“一鍵脫衣”，簡(jiǎn)言之，就是上傳一張正常衣著的女性照片，Deepnude能自動(dòng)生成該女性一絲不掛的裸照。而且如果上傳一張男性照片，隱私部位依然顯示為女性。

這個(gè)軟件的火爆程度遠(yuǎn)遠(yuǎn)超出了開(kāi)發(fā)者的想象。短短5天之內(nèi)有50萬(wàn)人使用了它，制造了許多名人，特別是女明星的裸照。

巨大的流量一度造成服務(wù)器不穩(wěn)定，開(kāi)發(fā)者在第四天的時(shí)候試圖暫時(shí)下架，修改bugs重新上線，但是似乎爭(zhēng)議太大，最終Deepnude的團(tuán)隊(duì)在隔日親口宣布產(chǎn)品永久下架，并表示“Deepnude 對(duì)這個(gè)世界還沒(méi)準(zhǔn)備好”。

所以最終，Deepnude沒(méi)能活過(guò)5天。

在Twitter上吳恩達(dá)以一個(gè)父親的身份，對(duì)deepnude之死表示欣慰，并對(duì)AI社區(qū)發(fā)話，你們擁有強(qiáng)大的能力，但請(qǐng)用你們的超能力去做更有價(jià)值的東西，推動(dòng)世界進(jìn)步。

跟扒光女性衣服的Deepnude比起來(lái)，換臉軟件Deepfake只能算前奏。如果你對(duì)楊冪、朱茵換臉視頻還有印象的話，該特效就是來(lái)自Deepfake。

B站上，粉絲們以此制作了偶像換臉的追星視頻，但在國(guó)外，Deepfake被應(yīng)用得最多的場(chǎng)景是成人視頻。甚至有美國(guó)成人網(wǎng)站主動(dòng)推出換臉技術(shù)，為用戶提供個(gè)性化定制視頻，試想色情片的女主角或男主角換上了自己的臉，是不是代入感更強(qiáng)？

可是不能忽視的是，Deepnude和Deepfake都能用來(lái)惡意制作色情圖片，報(bào)復(fù)、攻擊和污蔑他人。

在迅速發(fā)展的科技創(chuàng)新和應(yīng)用面前，法律往往反應(yīng)慢一拍。據(jù)機(jī)器之心報(bào)道，美國(guó)弗吉尼亞州率先對(duì)Deepfake這些新應(yīng)用采取了行動(dòng)，擴(kuò)大了其「色情報(bào)復(fù)法」（revenge porn law）的范疇。

這項(xiàng)擴(kuò)大后的法律規(guī)定：未經(jīng)當(dāng)事人允許分享他人的裸露視頻、照片屬于違法行為，用于「脅迫、騷擾或恐嚇」將被定為一級(jí)輕罪（Class 1 misdemeanor）。無(wú)論該照片或視頻是真實(shí)的還是偽造的。

除了Deepfake，用photoshop或其他工具制作的虛假照片、視頻也包含在內(nèi)。

修正后的法律于當(dāng)?shù)貢r(shí)間 7 月 1 日生效。

查對(duì)方前科，為保護(hù)老實(shí)人而生的原諒寶

如果說(shuō)Deepnude是赤裸裸地為了看身體，而大洋彼岸的中國(guó)的原諒寶則試圖穿越重重迷霧，看到對(duì)方“不為人知”的過(guò)往。

原諒寶自我營(yíng)銷(xiāo)為“為保護(hù)老實(shí)人而生”、“接盤(pán)俠的福音”，如果不想當(dāng)接盤(pán)俠，就用這款軟件檢測(cè)一下現(xiàn)在對(duì)象的“前科”。原諒寶一出世，就包攬了IT界、八卦圈、婚戀圈的話題C位。

使用也很簡(jiǎn)單，上傳一張圖片，系統(tǒng)將圖片與1024、PronHub等特殊網(wǎng)站的數(shù)據(jù)庫(kù)進(jìn)行對(duì)比，如果圖片上人物恰好匹配到了，那么，結(jié)果就是Fail，圖中人極有可能是特殊工作者，如果沒(méi)有，則顯示為Pass，可以原諒ta。

原諒寶的由來(lái)得從2018年8月，一位@將記憶深埋的微博用戶的想法說(shuō)起。他表示為了幫助碼農(nóng)初步過(guò)濾“退休小姐姐”，聯(lián)合了幾位朋友把1024、91等網(wǎng)站上的視頻和圖片打上標(biāo)簽，進(jìn)行人臉匹配。

巧合的是，2018年7月就有一些平臺(tái)零碎地發(fā)布信息表示，一個(gè)叫原諒寶的APP正在眾籌，即將啟動(dòng)老實(shí)人保護(hù)計(jì)劃。這些信息是否也來(lái)自發(fā)起人團(tuán)隊(duì)，則不得而知。

差不多一年之后，這個(gè)創(chuàng)意變成了初步的現(xiàn)實(shí)，并取得了有點(diǎn)驚人的成果。今年5月27日，@將記憶深埋稱(chēng)，“半年時(shí)間，100多TB數(shù)據(jù)， 利用1024、91、sex8、PronHub、xvideos 等網(wǎng)站采集的數(shù)據(jù)對(duì)比Facebook、instagram、TikTok 、抖音、微博等社交媒體。我們?cè)谌蚍秶鷥?nèi)成功識(shí)別了10多萬(wàn)從事不可描述行業(yè)的小姐姐?！?/p>

并且彼時(shí)，@將記憶深埋 還有將此商業(yè)化的打算。

支持者認(rèn)為這就像婚戀交友版本的征信報(bào)告，可以迅速識(shí)別出所謂的渣男、渣女。反對(duì)者認(rèn)為，這會(huì)侵犯隱私，甚至惡意中傷。5月30號(hào)，“原諒寶”的百度指數(shù)沖到最高點(diǎn)。人們心思各異，一些人希望用來(lái)查看對(duì)方過(guò)往，一些人想看看里面有沒(méi)有自己的熟人。

發(fā)酵的輿論風(fēng)暴，糾結(jié)的程序員

原諒寶也引發(fā)了外網(wǎng)的熱議。一些網(wǎng)友在Twitter上指出危害，這可能會(huì)使一些人被侮辱和敲詐勒索，同時(shí)指出該項(xiàng)技術(shù)的適用范圍也許在尋找被拐賣(mài)的受害者中更恰當(dāng)，而非一個(gè)程序員為了找出自己交往對(duì)象的過(guò)去歷史。

對(duì)于數(shù)據(jù)收集行為是否恰當(dāng)?shù)馁|(zhì)疑，@將記憶深埋 以自己居住在德國(guó)，而德國(guó)的色情產(chǎn)業(yè)是合法的為由進(jìn)行反擊。

但是國(guó)外網(wǎng)友認(rèn)為未經(jīng)當(dāng)事人允許的情況下，私自建立人臉數(shù)據(jù)庫(kù)，在德國(guó)并不合法。此外還有人指出這也違反了歐盟的《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡(jiǎn)稱(chēng)GDPR），侵犯了公民隱私權(quán)，以及被遺忘權(quán)。

即使對(duì)于性工作者本身，也有人認(rèn)為這也只會(huì)帶來(lái)傷害，因?yàn)樗鼘⑿怨ぷ髡叩乃饺诵畔⑵毓?，很多性工作者也有正常的生活，做色情行業(yè)是為了還貸款和生活。

男女權(quán)力的爭(zhēng)議再次被放大。據(jù)VICE中國(guó)報(bào)道，《Rage Becomes Her》的作者 Soraya Chemaly 表示：“這是一個(gè)可怕的范例，它完美解釋了這些系統(tǒng)和制度是如何在全球范圍發(fā)生作用，幫助男性占據(jù)主導(dǎo)地位的。

監(jiān)控、假冒、敲詐勒索、不實(shí)信息總是先發(fā)生在女性身上，然后才暴露在公共領(lǐng)域，直到男性也受到波及，才會(huì)引發(fā)關(guān)注?！?女權(quán)主義研究和機(jī)器學(xué)習(xí)方面的專(zhuān)家也認(rèn)為此項(xiàng)目是一種被算法驅(qū)動(dòng)的騷擾。

當(dāng)然，沒(méi)有誰(shuí)比旋渦之中的當(dāng)事人更糾結(jié)了。@將記憶深埋將微博名改成“把自己關(guān)在房間里反省的書(shū)生”向公眾致歉，并表示“100多TB數(shù)據(jù)在半小時(shí)內(nèi)會(huì)徹底清空”，目前這則道歉已經(jīng)被刪除，微博名也被重新改了回來(lái)。

并且，@將記憶深埋 在微博上重申，微博上的@原諒寶官方 這一賬號(hào)與自己無(wú)關(guān)，且“本人未發(fā)布過(guò)任何手機(jī)端App”，并風(fēng)險(xiǎn)提示道，目前市面流行的原諒寶很可能是灰產(chǎn)團(tuán)隊(duì)編寫(xiě)用來(lái)竊取用戶信息。

去年這一創(chuàng)意提出之際，聞?wù)吡攘葻o(wú)幾，可以看做是碼農(nóng)圈的一個(gè)興趣試點(diǎn)。但是今年的軒然大波中離不開(kāi)灰產(chǎn)的碰瓷，它們樂(lè)見(jiàn)其成，甚至變相助推，呼喊婚戀市場(chǎng)將迎來(lái)大地震，讓各方“撕”得越來(lái)越兇猛，把流量做大，被激起了好奇心的人自動(dòng)入甕。

在原發(fā)起人刪庫(kù)之后，立馬有人跳出來(lái)，截胡流量。

6月4號(hào)登陸APP store商店的“原諒寶”并非原團(tuán)隊(duì)所開(kāi)發(fā)，除了名字是“原諒寶”，APP還特意頂了一個(gè)帶X的綠帽子，牢牢把自己掛在了這個(gè)大熱點(diǎn)上。

而且下載后必須要交30元的會(huì)員費(fèi)才能使用。用戶們交完30塊錢(qián)后，馬上發(fā)覺(jué)被騙，因?yàn)檫@個(gè)APP根本沒(méi)有任何上傳圖片和識(shí)別系統(tǒng)，看起來(lái)更像一款陌生人社交軟件，界面簡(jiǎn)單，是一款做得很倉(cāng)促的產(chǎn)品。

截止2019年7月1日下午5點(diǎn)32分，APP首頁(yè)顯示“已有956542人加入APP”，956532乘以30元，就是將近3000萬(wàn)元。

這個(gè)名不副實(shí)的山寨寶APP很聰明地把爭(zhēng)議帶來(lái)的流量變成了人民幣。雖然現(xiàn)在互聯(lián)網(wǎng)大都流行顯示虛假的用戶數(shù)據(jù)，百萬(wàn)用戶數(shù)未必真實(shí)，但充值人數(shù)還在持續(xù)增加。只要圍繞原諒寶的爭(zhēng)議聲不止，這款頭頂綠帽的APP就能有源源不斷的進(jìn)帳。

有趣的是，很多花了30塊錢(qián)上門(mén)的人，發(fā)現(xiàn)這款A(yù)pp無(wú)法看過(guò)往，也無(wú)法看熟人，干脆碰碰運(yùn)氣，開(kāi)啟“約”模式。

除了應(yīng)用商店，目前微信上也能搜到一個(gè)名叫原諒寶的個(gè)人公眾賬號(hào)。該號(hào)本質(zhì)上像一個(gè)山寨廣告號(hào)，雜七雜八地混雜了一些娛樂(lè)文和圖片修理功能。而之前網(wǎng)絡(luò)流傳的微信端的公眾號(hào)，即賬號(hào)主體為“西安曲江新區(qū)灝蕊睿百貨商貿(mào)店”已經(jīng)刪除了所有文章，也沒(méi)有查詢(xún)工具入口。

但@將記憶深埋 特意聲明與自己無(wú)關(guān)的微博“原諒寶官方”賬號(hào)依然存在，且簡(jiǎn)介為“保護(hù)個(gè)人隱私，全網(wǎng)檢測(cè)是否被偷拍或偷攝，并提供我們力所能及范圍內(nèi)的數(shù)據(jù)清除服務(wù)?！边@是不是和著名灰色產(chǎn)業(yè)“開(kāi)房記錄查詢(xún)和開(kāi)房記錄刪除”有異曲同工之妙？

@原諒寶官方 目前僅僅保留了兩條微博，第一條就是公測(cè)版的測(cè)試鏈接。點(diǎn)開(kāi)后，會(huì)看到一則聲明，表示僅對(duì)真實(shí)人員進(jìn)行識(shí)別匹配，至于檢測(cè)后給出的數(shù)據(jù)可信度問(wèn)題，聲明稱(chēng)不提供詳細(xì)來(lái)源。

該測(cè)試的火爆程度有增無(wú)減，目前已經(jīng)有將近兩百萬(wàn)人次查詢(xún)。頁(yè)面中的 “想知道TA拍過(guò)的照片和視頻嗎”、“查詢(xún)有風(fēng)險(xiǎn)，備好救心丸”等字眼，都在喚起人的窺探欲。

照片的分析過(guò)程乍一看，很像醫(yī)美APP的五官掃描和全臉?lè)治?，下一秒似乎能跳出一個(gè)整容咨詢(xún)報(bào)告。查詢(xún)后的結(jié)果會(huì)給出一個(gè)原諒指數(shù)。系統(tǒng)與開(kāi)放數(shù)據(jù)進(jìn)行匹配，匹配到的結(jié)果越多，則原諒指數(shù)越低。原諒指數(shù)如果在90%以上則可以認(rèn)為你們的關(guān)系很安全。

雖然掛著人工智能的頭銜，但是檢測(cè)過(guò)程和結(jié)果就跟星座命理一樣玄乎。

因?yàn)閿?shù)據(jù)來(lái)源未知，如何匹配未知，服務(wù)器如何荷載這么多數(shù)據(jù)未知。如果照片匹配到很多則得出不安全的結(jié)論，似乎又創(chuàng)造了一個(gè)灰產(chǎn)機(jī)會(huì)，即可以故意用換臉軟件移花接木，在所謂的相關(guān)網(wǎng)站上傳某些人的圖片，再回頭找人要錢(qián)，再收費(fèi)操作刪除。

而且類(lèi)似原諒寶這樣平臺(tái)如果真的投入運(yùn)營(yíng)，還會(huì)涉及平臺(tái)數(shù)據(jù)采集和公民信息保護(hù)問(wèn)題。

目前我國(guó)對(duì)App的數(shù)據(jù)采集加強(qiáng)了監(jiān)管。

《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法（征求意見(jiàn)稿）》自今年5月5日起公開(kāi)征求社會(huì)意見(jiàn)，并明確，App違法違規(guī)收集使用個(gè)人信息共分為7種情形：沒(méi)有公開(kāi)收集使用規(guī)則；沒(méi)有明示收集使用個(gè)人信息的目的、方式和范圍；未經(jīng)同意收集使用個(gè)人信息；違反必要性原則收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息；未經(jīng)同意向他人提供個(gè)人信息；未按法律規(guī)定提供刪除或更正個(gè)人信息功能；侵犯未成年人在網(wǎng)絡(luò)空間合法權(quán)益。

針對(duì)中國(guó)目前的公民信息保護(hù)上存在立法分散的情況，2019年，十三屆全國(guó)人大常委會(huì)已將制定個(gè)人信息保護(hù)法列入了立法規(guī)劃，更加系統(tǒng)的公民信息保護(hù)的立法工作正在穩(wěn)步推進(jìn)中。

回到原諒寶本身，現(xiàn)代人的感情關(guān)系并非原諒寶可以拯救。但是原諒寶的流行和爭(zhēng)議，再次放大了信任問(wèn)題，也點(diǎn)燃了每個(gè)人心中隱秘的窺私欲，我們窺探別人，也被別人窺探，互聯(lián)網(wǎng)不過(guò)呈現(xiàn)了我們亙古難題的一角。