应当按照国家有关规定开展安全评估;网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的

  • 时间:

【人民日报高狄逝世】

網絡音視頻信息服務提供者應建立健全信息安全管理等制度

國家網信辦負責人指出,規定明確了監督檢查要求和執法協助要求。各級網信、文化和旅游、廣播電視等部門應當建立日常監督檢查和定期檢查相結合的監督管理制度,網絡音視頻信息服務提供者應當配合監管部門開展執法工作。

昨日,國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合發佈《網絡音視頻信息服務管理規定》,提出網絡音視頻信息服務提供者和使用者利用基於深度學習、虛擬現實等新技術新應用製作、發佈、傳播非真實音視頻信息的,應當以顯著方式予以標識。規定自2020年1月1日起施行。

針對現實中網絡音視頻平臺出現違規行為由誰來監管的問題,規定也給出了答案。

國家互聯網信息辦公室有關負責人表示,出台規定,旨在促進網絡音視頻信息服務健康有序發展,保護公民、法人和其他組織的合法權益,維護國家安全和公共利益。

因此,亟須出台有針對性的管理規定,明確網絡音視頻信息服務提供者及其技術支持的主體的信息內容安全管理責任,規範網絡音視頻信息服務提供者關於利用深度學習、虛擬現實等新技術新應用的管理要求,為網絡音視頻信息服務及其相關技術的提供、使用、管理等提供有效的依據。

上述負責人指出,當前,網絡音視頻信息服務迅速發展,用戶規模不斷壯大。有關數據顯示,國內網絡音視頻行業正在持續高速發展,當前,我國網絡音樂用戶規模已達6.08億,網絡視頻用戶規模已達7.59億。

談及此次出台規定的背景,國家網信辦有關負責人表示,出台《規定》是促進網絡音視頻信息服務活動健康有序發展的需要。

還有不少網友擔心,在“AI換臉”技術的加持下,如果個人照片被擅自挪作他用會帶來風險。

《規定》提出,國家鼓勵和指導互聯網行業組織加強行業自律,建立健全網絡音視頻信息服務行業標準和行業準則,推動網絡音視頻信息服務行業信用體系建設。

網絡音視頻信息服務提供者應當部署應用違法違規音視頻以及非真實音視頻鑒別技術,發現音視頻信息服務使用者製作、發佈、傳播法律法規禁止的信息內容的,應當依法依約停止傳輸該信息,採取消除等處置措施;網絡音視頻信息服務提供者應當建立健全闢謠機制,發現網絡音視頻信息服務使用者利用基於深度學習、虛擬現實等虛假圖像、音視頻生成技術製作、發佈、傳播謠言的,應當及時採取相應的闢謠措施,並將相關信息報網信、文化和旅游、廣播電視等部門備案。

這樣的擔心並非空穴來風。據媒體報道,2017年12月,一個名為“深度偽造”(deepfakes)的用戶在美國論壇Reddit上發佈了多段色情視頻,不同的是,他讓電腦學習好萊塢女明星的圖像資料,然後把女明星的面部移植到色情片女主角臉上,近乎完美地實現了動態換臉,這引發了大量討論和抨擊,最後以賬號被封告終。

■ 案例ZAO軟件AI換臉被疑泄露隱私

然而,很快有網友質疑“ZAO”用戶協議中的“不可撤銷、永久,可轉授權”等內容,可能存在隱私安全方面的問題。9月3日,工信部約談該軟件相關負責人,要求其嚴格按照國家法律法規以及相關主管部門要求,進行自查整改。

但與此同時,也帶來了傳播違法和不良信息、侵犯人民群眾合法權益等風險隱患,特別是隨著“深度偽造”等新技術新應用在網絡音視頻領域的運用,這些風險進一步集聚、放大,可能被利用從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動,造成政治安全風險和國家安全、公共安全風險,對社會穩定造成不良影響。

規定明確,網絡音視頻信息服務提供者應當依法取得法律、行政法規規定的相關資質;應當建立健全用戶註冊、信息發佈審核、信息安全管理等制度。任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事法律法規禁止的活動,侵害他人合法權益。

國內也存在利用AI換臉技術製作淫穢視頻的產業鏈。據新京報此前報道,隨著AI技術走紅以及門檻降低,售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜“換臉+女明星姓名”的發帖者,售賣通過AI換臉技術合成的視頻,閑魚上還有賣家提供“定製換臉”服務,買家提供明星或私人照片,賣家即可將淫穢視頻中的主角“移花接木”。

新京報訊 昨日,國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局發佈《網絡音視頻信息服務管理規定》。

今年9月,一款名為“ZAO”的手機軟件突然流行起來,網友只需要上傳一張正面照,就可以用“AI換臉”技術把照片製作成網絡熱門表情包,或是替換經典電影片段中主角的臉,製作短視頻。

網絡音視頻信息服務提供者應建立健全闢謠機制

解讀2 誰來監督檢查?各級網信、廣電等部門應建日常監督檢查制度

規定還明確了法律責任,網絡音視頻信息服務提供者和網絡音視頻信息服務使用者違反本規定的,由網信、文化和旅游、廣播電視等部門依照相關法律法規規定處理。

規定明確,網絡音視頻信息服務提供者和網絡音視頻信息服務使用者違反規定的,由網信、文化和旅游、廣播電視等部門依照《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《互聯網新聞信息服務管理規定》《互聯網文化管理暫行規定》《互聯網視聽節目服務管理規定》等相關法律法規規定處理;構成違反治安管理行為的,依法給予治安管理處罰;構成犯罪的,依法追究刑事責任。

此外,規定還提出,國家鼓勵和指導互聯網行業組織加強行業自律,建立健全網絡音視頻信息服務行業標準和行業準則,推動網絡音視頻信息服務行業信用體系建設,督促網絡音視頻信息服務提供者依法提供服務、接受社會監督,提高網絡音視頻信息服務從業人員職業素養,促進行業健康有序發展。

解讀1 為何出台規定?網絡音視頻平臺利用新技術亟待規範

規定提出,網絡音視頻信息服務提供者基於新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務,或者調整增設相關功能的,應當按照國家有關規定開展安全評估;網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基於深度學習、虛擬現實等新技術新應用製作、發佈、傳播非真實音視頻信息的,應當以顯著方式予以標識,不得利用基於深度學習、虛擬現實等新技術新應用製作、發佈、傳播虛假新聞信息。

两中国公民被绑架冰雪奇缘2票房女子灌肠肠道穿孔烈士张伟杰告别18岁哥哥杀害弟弟鼠年贺岁金银币冰雪奇缘2票房孙杨事件现场视频住院女子被殴致死蒋劲夫否认家暴人民日报评张云雷心脏骤停正确抢救北京初雪拯救互联网计划高以翔女友飞浙江鹿晗加盟冰冰公司鹿晗加盟冰冰公司苹果设计师离职北京延庆下雪蒋劲夫否认家暴腾格里沙漠污染物高以翔录节目昏厥国足排名降至75操场埋尸彻底清查两中国公民被绑架住院女子被殴致死瑞士冰川或失90%具荷拉留悲观纸条拯救互联网计划神农架1.2米金雕