新聞中心首頁
近日,浙江省杭州市公安機關(guān)偵破一起利用人工智能(AI)技術(shù)偽造活體視頻,突破部分網(wǎng)絡(luò)平臺登錄認證,竊取用戶信息的案件。這起案件也引發(fā)了公眾對于AI技術(shù)使用安全問題的關(guān)注。
近幾年來,隨著AI技術(shù)的快速發(fā)展,其正以強大的數(shù)據(jù)處理能力和模擬學(xué)習(xí)能力影響著社會生活的方方面面,也給個人信息保護、網(wǎng)絡(luò)安全治理帶來了新的挑戰(zhàn)。從此次公安機關(guān)偵破的案件看,不法分子將靜態(tài)照片輸入AI大模型中,可以生成一段能夠模仿真人點頭、眨眼等動作的活體視頻,從而突破部分網(wǎng)絡(luò)平臺的人臉登錄認證限制。這些不法分子在登錄他人賬號竊取用戶敏感信息后,將其出售獲利。這不僅侵害了用戶的個人信息權(quán)益,也給整個網(wǎng)絡(luò)安全帶來了嚴重威脅。
事實上,這只是AI技術(shù)被濫用的一個縮影。從此前發(fā)生的利用AI“換臉”“擬聲”實施詐騙犯罪,到借助AI技術(shù)合成虛假新聞擾亂視聽,再到使用“AI換臉”軟件生成虛假淫穢視頻……這些都表明,AI技術(shù)是一把“雙刃劍”,其既可能成為人類的幫手,幫助人們提升工作效能、改善服務(wù)體驗,也有可能成為不法分子的幫兇,給公眾生活帶來難以防范的安全隱患。這一方面警示網(wǎng)絡(luò)平臺要持續(xù)升級安全防護措施,對任何利用技術(shù)手段實施違法犯罪的行為進行有效攔截反制;另一方面也啟示我們要與時俱進織密法網(wǎng),更好發(fā)揮法治對于人工智能健康發(fā)展的規(guī)范和保障作用。
值得注意的是,此前我國制定的網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等法律,已在一定程度上涉及對人工智能的安全監(jiān)管。同時,我國還專門針對人工智能的治理出臺了一些部門規(guī)章。在近期舉行的2024年國家網(wǎng)絡(luò)安全宣傳周上,相關(guān)部門還發(fā)布了《人工智能安全治理框架》1.0版。公安、網(wǎng)信等部門也對各類利用AI技術(shù)手段實施違法犯罪的行為進行有力打擊,取得了一定積極成效。但對AI技術(shù)潛在風(fēng)險的防范與治理注定是一項長期工程,必須久久為功。
總之,只有在引導(dǎo)鼓勵人工智能創(chuàng)新發(fā)展的同時,對AI技術(shù)濫用可能引發(fā)的安全風(fēng)險予以依法防范化解,讓相關(guān)各方清晰認知并守住使用AI技術(shù)的法律邊界,才能讓AI等新興技術(shù)更好地服務(wù)經(jīng)濟社會發(fā)展,成為推動社會發(fā)展進步的積極力量。(馬樹娟)
焦作網(wǎng)免責(zé)聲明: | ||||||||
|
近日,浙江省杭州市公安機關(guān)偵破一起利用人工智能(AI)技術(shù)偽造活體視頻,突破部分網(wǎng)絡(luò)平臺登錄認證,竊取用戶信息的案件。這起案件也引發(fā)了公眾對于AI技術(shù)使用安全問題的關(guān)注。
近幾年來,隨著AI技術(shù)的快速發(fā)展,其正以強大的數(shù)據(jù)處理能力和模擬學(xué)習(xí)能力影響著社會生活的方方面面,也給個人信息保護、網(wǎng)絡(luò)安全治理帶來了新的挑戰(zhàn)。從此次公安機關(guān)偵破的案件看,不法分子將靜態(tài)照片輸入AI大模型中,可以生成一段能夠模仿真人點頭、眨眼等動作的活體視頻,從而突破部分網(wǎng)絡(luò)平臺的人臉登錄認證限制。這些不法分子在登錄他人賬號竊取用戶敏感信息后,將其出售獲利。這不僅侵害了用戶的個人信息權(quán)益,也給整個網(wǎng)絡(luò)安全帶來了嚴重威脅。
事實上,這只是AI技術(shù)被濫用的一個縮影。從此前發(fā)生的利用AI“換臉”“擬聲”實施詐騙犯罪,到借助AI技術(shù)合成虛假新聞擾亂視聽,再到使用“AI換臉”軟件生成虛假淫穢視頻……這些都表明,AI技術(shù)是一把“雙刃劍”,其既可能成為人類的幫手,幫助人們提升工作效能、改善服務(wù)體驗,也有可能成為不法分子的幫兇,給公眾生活帶來難以防范的安全隱患。這一方面警示網(wǎng)絡(luò)平臺要持續(xù)升級安全防護措施,對任何利用技術(shù)手段實施違法犯罪的行為進行有效攔截反制;另一方面也啟示我們要與時俱進織密法網(wǎng),更好發(fā)揮法治對于人工智能健康發(fā)展的規(guī)范和保障作用。
值得注意的是,此前我國制定的網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等法律,已在一定程度上涉及對人工智能的安全監(jiān)管。同時,我國還專門針對人工智能的治理出臺了一些部門規(guī)章。在近期舉行的2024年國家網(wǎng)絡(luò)安全宣傳周上,相關(guān)部門還發(fā)布了《人工智能安全治理框架》1.0版。公安、網(wǎng)信等部門也對各類利用AI技術(shù)手段實施違法犯罪的行為進行有力打擊,取得了一定積極成效。但對AI技術(shù)潛在風(fēng)險的防范與治理注定是一項長期工程,必須久久為功。
總之,只有在引導(dǎo)鼓勵人工智能創(chuàng)新發(fā)展的同時,對AI技術(shù)濫用可能引發(fā)的安全風(fēng)險予以依法防范化解,讓相關(guān)各方清晰認知并守住使用AI技術(shù)的法律邊界,才能讓AI等新興技術(shù)更好地服務(wù)經(jīng)濟社會發(fā)展,成為推動社會發(fā)展進步的積極力量。(馬樹娟)
|
焦作網(wǎng)免責(zé)聲明: | ||||||||
|
|
|