上月，X平臺(tái)（原推特）在全球監(jiān)管重壓下，正式封禁了旗下AI聊天機(jī)器人Grok的 “比基尼模式”，禁止其將真人照片編輯成穿著暴露服裝的圖像。

這一舉措源于Grok被廣泛濫用，用戶(hù)通過(guò)標(biāo)簽@grok就能生成未經(jīng)同意的性化深度偽造內(nèi)容，甚至涉及未成年人，引發(fā) “賽博性暴力” 爭(zhēng)議。

據(jù)了解，Grok的圖像編輯功能曾允許用戶(hù)上傳照片并生成穿著比基尼、內(nèi)衣等暴露服裝的版本，每小時(shí)產(chǎn)生數(shù)千條違規(guī)內(nèi)容，數(shù)百名女性和兒童成為受害者。

印尼、馬來(lái)西亞率先封禁Grok服務(wù)，英國(guó)通信管理局 (Ofcom) 啟動(dòng)正式調(diào)查，歐盟委員會(huì)也發(fā)出嚴(yán)厲警告。

本月18日，英國(guó)政府進(jìn)一步升級(jí)監(jiān)管，提出AI不雅內(nèi)容緊急刪除新規(guī)：

要求科技公司在48小時(shí)內(nèi)刪除平臺(tái)上未經(jīng)同意的私密圖像、性化深度偽造內(nèi)容等侵害性圖片，違規(guī)平臺(tái)將面臨全球收入10%的巨額罰款，或被禁止在英國(guó)提供服務(wù)。

Ofcom正考慮對(duì)私密圖像實(shí)施數(shù)字標(biāo)記，實(shí)現(xiàn)類(lèi)似兒童性虐待材料的自動(dòng)刪除機(jī)制。

這一新規(guī)是對(duì)《在線安全法》的補(bǔ)充，此前英國(guó)《數(shù)據(jù)法案》已將未經(jīng)同意制作私密圖像定為刑事犯罪，首相基爾·斯塔默強(qiáng)調(diào)：“沒(méi)有任何平臺(tái)能獲得免費(fèi)通行證，必須保護(hù)民眾尤其是兒童免受非法AI內(nèi)容傷害”。