9.9元生成AI寫真，小程序妙鴨相機(jī)走紅，用戶人臉隱私誰(shuí)來(lái)保護(hù)？

生成式AI技術(shù)正在改變更多行業(yè)，當(dāng)國(guó)內(nèi)大模型產(chǎn)品在B端深入垂直行業(yè)時(shí)候，更靠近C端用戶的小程序妙鴨相機(jī)，一經(jīng)推出迅速走紅。

近日，一款在線生成專業(yè)質(zhì)感大片的AI相機(jī)“妙鴨”掌握了引爆社交圈的流量密碼，只需9.9元，上傳21張照片，用戶可以生成一套可媲美天真藍(lán)、海馬體的AI寫真，并可將圖片上傳微信朋友圈、微博等社交平臺(tái)。

上線不足半月，秒鴨相機(jī)團(tuán)隊(duì)發(fā)布公告，近期網(wǎng)絡(luò)上出現(xiàn)多個(gè)假冒“妙鴨相機(jī)”的產(chǎn)品、仿造“妙鴨相機(jī)”官方渠道的賬號(hào)、軟件和小程序，給消費(fèi)者造成嚴(yán)重的信息安全隱患。同時(shí)，用戶發(fā)現(xiàn)，隨著使用人數(shù)增多，用戶生成照片時(shí)間需等待數(shù)小時(shí)，妙鴨相機(jī)的火爆可見一斑。

火速躥紅之后，妙鴨相機(jī)遭遇“隱私”爭(zhēng)議，爭(zhēng)議背后，是網(wǎng)民對(duì)于個(gè)人隱私安全的擔(dān)憂：用戶上傳的照片如何處理？應(yīng)用方是否會(huì)將用戶照片挪作他用？若上傳的照片被用于AI模型訓(xùn)練，那用戶的一些面部特征是否會(huì)出現(xiàn)在其他地方的生成圖片？而這些不僅僅是妙鴨相機(jī)，也是更多需要上傳照片的相機(jī)應(yīng)用所面臨的問題。

收費(fèi)9.9元，數(shù)千人排隊(duì)

近半年來(lái)，以ChatGPT為代表的大模型產(chǎn)品甚囂塵上，國(guó)內(nèi)企業(yè)也掀起“百模大戰(zhàn)”，在此背景下，妙鴨相機(jī)于6月開始內(nèi)測(cè)，打出的口號(hào)是“讓每個(gè)人擁有一個(gè)屬于自己的AI攝影師”。

打開妙鴨相機(jī)小程序，首先需要上傳一張正面照片，隨后補(bǔ)充至少20張照片，在該步驟，系統(tǒng)會(huì)提示照片是否達(dá)標(biāo)，已上傳照片的質(zhì)量超過多少百分比的用戶，用戶可以選擇補(bǔ)充更多照片，讓“數(shù)字分身”效果更棒。上傳照片后，用戶需關(guān)注妙鴨相機(jī)公眾號(hào)，完成付費(fèi)流程，標(biāo)準(zhǔn)價(jià)是29.9元，限時(shí)特惠9.9元，一旦購(gòu)買成功，不支持退款。

從用戶的分享來(lái)看，上傳照片后，用戶可以得到不同風(fēng)格的寫真，如商務(wù)寫真、時(shí)尚海報(bào)、證件照、旅游大片等，生成的照片均帶有水印，想要下載高清照片或照片原圖需支付額外費(fèi)用。而當(dāng)澎湃新聞記者試用該程序后，發(fā)現(xiàn)生成照片預(yù)計(jì)需要3小時(shí)25分鐘，前面有1308人。

隨著使用用戶的增多，等待時(shí)間較長(zhǎng)被付費(fèi)用戶詬病，用戶對(duì)需上傳21張照片、模板效果不是很好也略有不滿。有網(wǎng)友指出在晚上高峰期間，曾碰到4000至5000人排隊(duì)，等待時(shí)間需十幾個(gè)小時(shí)，另有網(wǎng)友表示：“美顏美到不像本人，但又依稀有本人的影子?！?/p>

在記者的朋友圈，一位關(guān)注互聯(lián)網(wǎng)行業(yè)的研究員分享了自己的三點(diǎn)體會(huì)：“一是妙鴨相機(jī)后臺(tái)算力算法應(yīng)該一般，用時(shí)長(zhǎng)、精度差；二是模板少，尤其對(duì)于男性而言，參與度低，但這應(yīng)該是一個(gè)未來(lái)很好的應(yīng)用場(chǎng)景；三是經(jīng)過這一波走紅，妙鴨積累了數(shù)據(jù)與收入，未來(lái)可以繼續(xù)講故事融資?！?/p>

針對(duì)網(wǎng)友的聲音，妙鴨相機(jī)曾在7月17日表示，寫真的效果還遠(yuǎn)沒達(dá)到團(tuán)隊(duì)的理想狀態(tài)，會(huì)繼續(xù)優(yōu)化“提香”的能力；妙鴨相機(jī)并不是攝影師的敵人，將很快開啟對(duì)攝影師邀請(qǐng)制的內(nèi)測(cè)合作，通過妙鴨，攝影師可以將自己的風(fēng)格和審美制作成模板，從而讓更多人享受到他們的創(chuàng)意。

妙鴨相機(jī)的背后公司是誰(shuí)？

天眼查APP顯示，妙鴨相機(jī)的主體公司是成立于2006年的未序網(wǎng)絡(luò)科技（上海）有限公司，該公司是一家從事軟件和信息技術(shù)服務(wù)為主的企業(yè)，注冊(cè)資本為5520萬(wàn)美元，其法定代表人張龍名下有多家公司，張龍也是優(yōu)酷視頻（西安）傳媒科技有限公司的法定代表人、執(zhí)行董事兼總經(jīng)理；而未序網(wǎng)絡(luò)科技（上海）有限公司的監(jiān)事馮云樂也同時(shí)擔(dān)任了多家阿里系公司的監(jiān)事。

未序網(wǎng)絡(luò)科技（上海）有限公司與阿里有何關(guān)系？一位阿里文娛方面人士告訴澎湃新聞?dòng)浾撸骸笆牵ò⒗铮┐笪膴蕝⑼兜膭?chuàng)業(yè)團(tuán)隊(duì)?！?/p>

據(jù)澎湃新聞?dòng)浾吡私猓搫?chuàng)業(yè)項(xiàng)目組從今年1月開始做妙鴨相機(jī)，7月份完成妙鴨的1.0版本，隨著妙鴨相機(jī)的走紅，團(tuán)隊(duì)在開心的同時(shí)希望保持“低調(diào)”。

是否保障用戶隱私和數(shù)據(jù)安全引發(fā)爭(zhēng)議

妙鴨相機(jī)的走紅，讓用戶再次討論起AI軟件所帶來(lái)的風(fēng)險(xiǎn)問題。有安全研究員曾告訴澎湃新聞?dòng)浾?，類似于AI換臉軟件從用戶處獲得的信息主要是肖像圖片，從技術(shù)角度而言，它并不比其他上傳照片的App有更多風(fēng)險(xiǎn)，但若該類軟件向用戶索取了更多的肖像使用授權(quán)，這意味著用戶會(huì)暴露更多的風(fēng)險(xiǎn)。

對(duì)于妙鴨相機(jī)， 國(guó)內(nèi)知名白帽子公司KEEN公司聯(lián)合創(chuàng)始人、獨(dú)立安全研究員宋宇昊告訴澎湃新聞?dòng)浾撸匆豁?xiàng)應(yīng)用是否正規(guī)，可以從兩個(gè)方面來(lái)看，一是用戶上傳的照片是否會(huì)被存儲(chǔ)、存儲(chǔ)多久、照片和用戶信息在傳輸和存儲(chǔ)過程中，是否存在泄露風(fēng)險(xiǎn)；二是上傳的照片是否會(huì)被用于AI模型訓(xùn)練。

“第一種情況，一旦由于外部攻擊或內(nèi)部不法人員導(dǎo)致泄露，那么用戶的照片與相關(guān)的用戶信息可能流入黑產(chǎn)，被用于針對(duì)性的詐騙，或者其他犯罪行為。第二種情況，如果用戶的照片在用戶不知情的情況下，被用于模型訓(xùn)練，那么用戶的一些面部特征可能會(huì)出現(xiàn)在其他地方的生成圖片中，這可能是用戶不希望發(fā)生的。”宋宇昊說。

澎湃新聞?dòng)浾卟榭疵铠喯鄼C(jī)的隱私政策發(fā)現(xiàn)，對(duì)于儲(chǔ)存期限，隱私政策并沒有直接給出明確的時(shí)間期限，而是“我們只會(huì)在達(dá)成本政策所述目的所需的期限內(nèi)保留您的個(gè)人信息，除非法律有強(qiáng)制的留存要求”。

妙鴨相機(jī)指出，在中華人民共和國(guó)境內(nèi)產(chǎn)生或收集的個(gè)人信息，存儲(chǔ)在中國(guó)境內(nèi)的服務(wù)器。除非取得用戶的單獨(dú)同意，或?yàn)榱寺男信c用戶訂立的合同，或?yàn)榱俗裱煞ㄒ?guī)規(guī)定的義務(wù)，應(yīng)用方不會(huì)向境外提供用戶的任何個(gè)人信息。

值得關(guān)注的是，此前有網(wǎng)友在社交平臺(tái)指出，在妙鴨相機(jī)最初版本的用戶協(xié)議中，用戶需授權(quán)妙鴨相機(jī)在全世界（包括元宇宙等虛擬空間）范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費(fèi)的和非獨(dú)家的許可，使得妙鴨相機(jī)可以任何形式、任何媒體或技術(shù)（無(wú)論現(xiàn)在已知或以后開發(fā)）使用用戶的內(nèi)容。這一“霸王條款”引發(fā)網(wǎng)友不滿。

對(duì)此，妙鴨相機(jī)團(tuán)隊(duì)7月20日發(fā)布回應(yīng)：“已經(jīng)收到用戶關(guān)于妙鴨用戶協(xié)議的反饋，原協(xié)議內(nèi)容有誤，我們第一時(shí)間根據(jù)妙鴨的實(shí)際情況進(jìn)行了修改，在這里鄭重地向大家承諾，您所上傳的照片只會(huì)用于數(shù)字分身制作，不會(huì)提取也不會(huì)用于識(shí)別和其他用途，且分身制作完成后自動(dòng)刪除?！?/p>

即便如此，一位不愿具名的安全人士向澎湃新聞?dòng)浾弑硎?，其在使用妙鴨小程序時(shí)，在第一步就已決定不使用該程序?！拔以谑褂弥邪l(fā)現(xiàn)，首先要上傳的圖片要求是五官清晰的正面，這幾乎是證件照的要求水平，社交媒體上，我們都沒有上傳過如此高清無(wú)碼的照片；其次，未來(lái)，AI技術(shù)會(huì)越來(lái)越強(qiáng)大，你不知道以后一張照片會(huì)被利用到什么程度，也不知道對(duì)方或好或壞的目的；最后，我對(duì)新生的公司做的這種應(yīng)用，持非常謹(jǐn)慎的態(tài)度，不會(huì)上傳自己的高清照片，更何況該小程序此前就有‘霸道協(xié)議’?！?/p>

據(jù)澎湃新聞?dòng)浾吡私猓瑢?duì)于互聯(lián)網(wǎng)應(yīng)用在用戶隱私保護(hù)、用戶信息保存方面已有諸多規(guī)定。比如，《中華人民共和國(guó)網(wǎng)絡(luò)安全法》規(guī)定，網(wǎng)絡(luò)產(chǎn)品、服務(wù)具有收集用戶信息功能的，其提供者應(yīng)當(dāng)向用戶明示并取得同意；涉及用戶個(gè)人信息的，還應(yīng)當(dāng)遵守本法和有關(guān)法律、行政法規(guī)關(guān)于個(gè)人信息保護(hù)的規(guī)定；《中華人民共和國(guó)個(gè)人信息保護(hù)法 (草案)》明確個(gè)人信息處理者的合規(guī)管理和保障個(gè)人信息安全等義務(wù)，要求其按照規(guī)定制定內(nèi)部管理制度和操作規(guī)程，采取相應(yīng)的安全技術(shù)措施，并指定負(fù)責(zé)人對(duì)其個(gè)人信息處理活動(dòng)進(jìn)行監(jiān)督；《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》規(guī)定， 經(jīng)營(yíng)者及其工作人員對(duì)收集的消費(fèi)者個(gè)人信息必須嚴(yán)格保密，不得泄露、出售或者非法向他人提供。經(jīng)營(yíng)者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施，確保信息安全，防止消費(fèi)者個(gè)人信息泄露、丟失。

此外，《生成式人工智能服務(wù)管理暫行辦法》將于2023年8月15日起施行，該《辦法》既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要，其中明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

不過，有法律人士向澎湃新聞?dòng)浾咧赋觯骸耙陨弦?guī)定只是作為參考，相關(guān)法規(guī)的適用需要根據(jù)具體情況進(jìn)行判斷?！?/p>