近日，杭州警方披露AI大模型換臉竊取個(gè)人隱私全國(guó)首案，令人細(xì)思極恐。
犯罪分子將受害人靜態(tài)照片，輸入到模型中，再通過(guò)文字、語(yǔ)音提出需求，生成一段活體視頻。這段活體視頻可以模仿人臉進(jìn)行點(diǎn)頭、眨眼、側(cè)臉，突破平臺(tái)人臉認(rèn)證，強(qiáng)制登錄他人賬號(hào)，獲取大量受害人隱私數(shù)據(jù)出售獲利。
這只是AI技術(shù)應(yīng)用亂象的冰山一角。近年來(lái)，人工智能技術(shù)迅猛發(fā)展，帶來(lái)更多新機(jī)遇和更便捷服務(wù)，但新技術(shù)也往往被一些不法分子利用，成為違法犯罪的“幫兇”。
AI“換臉”實(shí)施詐騙、AI偽造圖片傳播謠言、AI推銷(xiāo)電話讓人不堪其擾……種種亂象，不僅侵犯消費(fèi)者合法權(quán)益，威脅人身財(cái)產(chǎn)安全，也阻礙了AI行業(yè)的健康有序發(fā)展。
毋庸置疑，AI是科技發(fā)展的重要方向，是各國(guó)競(jìng)爭(zhēng)的科技高地。但發(fā)展AI的同時(shí)，絕不能忽視其風(fēng)險(xiǎn)隱患。為狂飆的AI系好“安全帶”，讓其成“幫手”而不是“幫兇”，重在加強(qiáng)治理和規(guī)范。
在近期舉行的2024年國(guó)家網(wǎng)絡(luò)安全宣傳周上，AI的安全應(yīng)用問(wèn)題，成為熱門(mén)話題。期間，相關(guān)部門(mén)發(fā)布《人工智能安全治理框架》1.0版，提出人工智能安全治理原則等方向性的破解思路。一些應(yīng)對(duì)AI安全風(fēng)險(xiǎn)的黑科技也亮相網(wǎng)絡(luò)安全博覽會(huì)，比如AI實(shí)時(shí)鑒偽系統(tǒng)，針對(duì)AI換臉、AI擬聲等詐騙套路進(jìn)行有效識(shí)別、反制。
科技從來(lái)都是“雙刃劍”，是好是壞，是益是害，關(guān)鍵看握劍的人準(zhǔn)備怎么用。在大力發(fā)展AI的時(shí)候，務(wù)必增強(qiáng)安全意識(shí)，加強(qiáng)相關(guān)安全技術(shù)推廣應(yīng)用，推動(dòng)社會(huì)各方形成治理共識(shí)，讓AI更好造福人類(lèi)。(文案：馬若虎)
編輯：譚鵬
