隨著人工智能技術(shù)的迅猛發(fā)展，AI生成內(nèi)容已越來越多出現(xiàn)在互聯(lián)網(wǎng)上，然而對AI技術(shù)的不當(dāng)使用也頻頻引起社會關(guān)注。3月26日，抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告，指出將嚴格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。
根據(jù)公告，此次抖音將重點治理利用AI生成假外國人、假精英及利用AI生成形象騙互動等三類內(nèi)容：
一是生成境外虛假人設(shè)，消費愛國心理、博取關(guān)注。用虛假外國人的形象，以想嫁給中國、想到中國生活、評價社會事件等言論博取眼球。
二是生成俊男美女虛假形象，騙取互動，交友導(dǎo)流。直接稱用戶為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導(dǎo)、唱情歌、為你謀福利等表達虛假情感的內(nèi)容，將用戶導(dǎo)流至私人聊天工具，甚至進行詐騙。
三是生成精英人士虛假人設(shè)，發(fā)布心靈雞湯、財商、偽國學(xué)、厚黑學(xué)、偽成功學(xué)等不良內(nèi)容，低質(zhì)吸粉，甚至引流到站外以賣課、入群等方式獲利。
值得注意的是，除了封號等常規(guī)處罰手段，抖音此次在公告中特別提到了“平臺已掌握部分黑產(chǎn)團伙不當(dāng)使用AI生成虛擬人物用于犯罪的線索，將報警打擊。”這種嚴厲的措辭在抖音過往的公告中并不常見，顯示抖音此次治理的力度或?qū)⑾喈?dāng)大。