9.9元一鍵生成AI寫真 安全嗎?

  來源:廣州日報張露2023-08-09
打印本文
核心提示:此前,一款名為“妙鴨相機”的AI相機小程序在朋友圈走紅,用戶只需上傳21張照片,并支付9.9元,就可以得到寫真大片。不過,隨著這款A(yù)I相機小程序的火爆,質(zhì)疑也隨之而來,

此前,一款名為“妙鴨相機”的AI相機小程序在朋友圈走紅,用戶只需上傳21張照片,并支付9.9元,就可以得到寫真大片。不過,隨著這款A(yù)I相機小程序的火爆,質(zhì)疑也隨之而來,最核心的是因用戶隱私和數(shù)據(jù)安全問題。


 律師建議,如發(fā)現(xiàn)平臺一攬子強制收集信息的,要堅決拒絕,否則容易產(chǎn)生信息泄露風(fēng)險。記者注意到,《人臉識別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》亦規(guī)定使用人臉識別技術(shù)處理人臉信息,應(yīng)當(dāng)取得個人的單獨同意或者依法取得書面同意。

 體驗

 支付9.9元 收獲AI“寫真大片”

 此前,一款名為“妙鴨相機”的AI相機小程序在朋友圈走紅。記者實測發(fā)現(xiàn),在“妙鴨相機”小程序上制作AI寫真需3步:第一步,先上傳一張正臉照,再上傳20張以上不同表情、不同角度的照片,用以制作“數(shù)字分身”;第二步,選擇模板生成寫真;第三步,精修寫真或直接下載。

 記者支付9.9元后,便進入制作數(shù)字分身流程,系統(tǒng)提示前方排隊人數(shù)超4000人,預(yù)計制作分身需要等待6小時。制作完成后,該程序生成了自己的“AI數(shù)字分身”模板,同時生成3組“寫真”。據(jù)悉,小程序共提供30多種模板,包括古風(fēng)、都市、證件照、休閑等多種風(fēng)格。如果覺得照片不像本人,還可以點擊“更像我”按鈕進行精修。記者拿著生成的照片跟朋友分享。“有些照片像你,有些卻不像,但都是美化的效果?!迸笥言u論道。

 “不太像本人,”有體驗者說,“但照片都是美美的,很養(yǎng)眼?!币灿胁簧倬W(wǎng)友抱著好玩的心態(tài)體驗一番:“9.9元體驗一把AI寫真,也是劃算的,可以發(fā)個朋友圈娛樂一下。”另外,也有體驗者表示,這些照片模板少,尤其對于男性而言,建議增加多一些男生模板。

 其實,AI寫真或者AI相機不是什么新鮮事情。今年5月底,美顏相機AI寫真上線,可基于用戶模型快速生成高級寫真,AI上妝,AI生成場景氛圍,即使在普通場景或臟亂差的環(huán)境下也能拍攝。

 記者還嘗試使用了美圖秀秀的“百變AI頭像”小程序,發(fā)現(xiàn)僅需上傳3張以上照片(包括3張),就可以根據(jù)性別生成專屬AI頭像,100張專屬AI頭像優(yōu)惠后僅需9.9元。

 疑問

 個人照片真的只用于AI圖像生成嗎?

 不過,用戶一次性將自己如此多的照片上傳到網(wǎng)絡(luò),并且允許小程序進行AI聯(lián)網(wǎng)處理,難免也會有些擔(dān)心?!拔业恼掌娴闹皇怯糜贏I圖像生成碼?”有人提出疑問。

 細心的網(wǎng)友發(fā)現(xiàn),“妙鴨相機”一開始在用戶服務(wù)協(xié)議中寫道:“您特此授權(quán)我方在全世界(包括元宇宙等虛擬空間)范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費的和非獨家的許可,使得我方可以任何形式、任何媒體或技術(shù)(無論現(xiàn)在已知或以后開發(fā))使用您的內(nèi)容”。

 不少網(wǎng)友表示,該用戶服務(wù)協(xié)議中授權(quán)許可的表述過于霸道,質(zhì)疑其有沒有保障用戶隱私和數(shù)據(jù)安全。上述協(xié)議引發(fā)質(zhì)疑后,“妙鴨相機”在其公眾微博平臺發(fā)布協(xié)議修改公告稱:“您所上傳的照片只會用于數(shù)字分身制作,不會提取也不會用于識別和其他用途,且分身制作完成后自動刪除?!?

 此外,眼尖的消費者注意到,“妙鴨相機”在付款的界面寫道:“本服務(wù)購買后即刻生效,一旦購買成功,不支持退款。”對此,上海市消保委認為,“妙鴨相機”在付款頁面以灰色小字標(biāo)注的“一旦購買成功,不支持退款”涉嫌侵害消費者的公平交易權(quán)。隨后,“妙鴨相機”在官方微博回應(yīng)稱,“妙鴨相機”提供的是基于算力的服務(wù),因此照片生成后即視為服務(wù)完成。不過如果因為技術(shù)問題,造成數(shù)字分身生成失敗,可以退款,而且免費再次生成。

 記者注意到,《人臉識別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》規(guī)定,個人自愿選擇使用人臉識別技術(shù)驗證個人身份的,應(yīng)當(dāng)確保個人充分知情并在個人主動參與的情況下進行,驗證過程中應(yīng)當(dāng)以清晰易懂的語音或者文字等方式即時明確提示身份驗證的目的。

 建議

 一定要認真閱讀用戶協(xié)議及隱私政策

 “AI生成海報小程序收集的用戶照片,屬于個人敏感信息?!睆V東南方福瑞德律師事務(wù)所律師梁宇麒接受記者采訪時表示,“妙鴨相機”更新后的人臉信息使用條款基本遵循了“明確告知”原則,同時協(xié)議也告知了用戶相關(guān)權(quán)利,基本符合法律對信息收集的要求。但從保護個人信息的角度看,更重要的是落地執(zhí)行,要建立完善的保護制度并付諸實踐。

 梁宇麒還表示,用戶對自身的個人信息尤其是個人敏感信息(包括姓名、地址、身份證號碼、人臉、指紋等)要加強保護意識,如遇到網(wǎng)絡(luò)平臺收集個人信息時,要認真閱讀其用戶協(xié)議及隱私政策等,弄清平臺收集信息的目的、方式和范圍是否超出自己使用的功能所需要的信息范圍。如發(fā)現(xiàn)平臺一攬子強制收集信息的,要堅決拒絕,否則容易產(chǎn)生信息泄露的風(fēng)險。

 事實上,生成式人工智能服務(wù)已引起監(jiān)管機構(gòu)的關(guān)注。7月中旬,國家網(wǎng)信辦聯(lián)合7部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》,其中規(guī)定,服務(wù)提供者對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護義務(wù),不得收集非必要個人信息,不得非法留存能夠識別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄。服務(wù)提供者應(yīng)當(dāng)依法及時受理和處理個人關(guān)于查閱、復(fù)制、更正、補充、刪除其個人信息等的請求。該辦法將于8月15日起施行。

(編輯:鳴嫡)



9.9元一鍵生成AI寫真 安全嗎?



 

免責(zé)聲明:

1、本網(wǎng)內(nèi)容凡注明"來源:315記者攝影家網(wǎng)"的所有文字、圖片和音視頻資料,版權(quán)均屬315記者攝影家網(wǎng)所有,轉(zhuǎn)載、下載須通知本網(wǎng)授權(quán),不得商用,在轉(zhuǎn)載時必須注明"稿件來源:315記者攝影家網(wǎng)",違者本網(wǎng)將依法追究責(zé)任。
2、本文系本網(wǎng)編輯轉(zhuǎn)載,轉(zhuǎn)載出于研究學(xué)習(xí)之目的,為北京正念正心國學(xué)文化研究院藝術(shù)學(xué)研究、宗教學(xué)研究、教育學(xué)研究、文學(xué)研究、新聞學(xué)與傳播學(xué)研究、考古學(xué)研究的研究員研究學(xué)習(xí),并不代表本網(wǎng)贊同其觀點和對其真實性負責(zé)。
3、如涉及作品、圖片等內(nèi)容、版權(quán)和其它問題,請作者看到后一周內(nèi)來電或來函聯(lián)系刪除。