AI的腦洞，不能為違法而開

AI時代，幾人歡喜幾人愁。 在AI芯片巨頭寒武紀(jì)A股收盤價強勢超越茅臺、坐實“新股王”之位當(dāng)天，8月28日，良品鋪子因AI生成的“花生上樹”海報陷入爭議。兩則新聞，均指向AI這把“雙刃劍”。 盡管良品鋪子隨后致歉并承諾，對所有產(chǎn)品宣傳材料進行全面科學(xué)性核查，但其實它最該反思的，不是海報疏忽，而是宣傳失真——人們支持、看好人工智能，但對以假亂真的Deepfake（即深度偽造技術(shù)），實在煩不勝煩。 如何治理AI造假？9月1日起正式施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《辦法》）給出一個方案——未來，所有AI合成的內(nèi)容，都必須依法打“電子水印”。 人們苦AI造假已久。 “辣眼睛”的AI“腦洞”，污染社會認知。“相親相愛一家人”里，長輩分享的視頻里神童輩出。1歲的嬰兒會干家務(wù)；2歲的小孩寫一手好毛筆字……若只是提供情緒價值倒還好，問題是，網(wǎng)民認知參差不齊，真有不少人信以為真。解構(gòu)真實，販賣奇觀，不知不覺中，AI還在瘋狂污染知識庫。從各種未經(jīng)核實甚至七拼八湊的信息到奇奇怪怪違反常識的視頻，Deepfake的信息越多，DeepSeek等AI大模型越可能抓取到虛假信息學(xué)習(xí)。久而久之，AI幻覺陷入循環(huán)黑洞，人們再難在互聯(lián)網(wǎng)上搜尋真相，不同群體間的認知差距也會越來越大。視頻一刷、AI一看，九年義務(wù)教育都白干。 “好賣相”的AI廣告，污染營商環(huán)境。良品鋪子宣傳好東西，卻不去拍真實的照片，AI生圖是省事兒，卻也給虛假宣傳開了“傳送門”。直播里飽滿的大果，讓人垂涎欲滴，沖動下單，結(jié)果到手是殘次品；滿屏的美女模特，看著衣服是絲綢，結(jié)果到手是“抹布”……實際上，如今商家借助AI制造商品“幻象”比比皆是，甚至能“山寨”同行整個店鋪，讓原創(chuàng)商家處境艱難。還有消費者，用AI偽造“劣質(zhì)產(chǎn)品”證據(jù)，以此給差評、逼退款、薅羊毛。生意雙方“所見即所得”，所見的是虛假，所得的是騙局。 “太逼真”的AI克隆，成為違法捷徑。通過AI換臉、AI語音生成等技術(shù)，在虛擬世界克隆一個人已經(jīng)非常簡單，甚至有時候“連親媽都分不清”。你以為視頻里和你說話、找你要生活費的是你女兒，其實是騙子；你以為正在帶貨的是偶像，其實也是騙子——前不久，奧運冠軍全紅嬋、王楚欽就莫名成了“三無”雞蛋代言人。還有人把普通人照片換臉到色情片上，以此造謠、敲詐，8月30日，女臺球運動員王思諾發(fā)布視頻稱，自己遭人惡意利用AI人工偽造淫穢視頻并傳播。她報警后，有很多相同遭遇的網(wǎng)友站出來支持她。Deepfake的手還可能無底線伸向包括未成年人在內(nèi)的每個人，竊取隱私、毀壞名譽、詐騙勒索、歪曲真相，如此亂象，必須嚴(yán)管。 為什么人人痛恨D(zhuǎn)eepfake，卻屢禁不絕？ 造假被“賦能”，批量生產(chǎn)。今年以來，“80后死亡率突破5.2%”“DeepSeek就AI模型違規(guī)關(guān)聯(lián)王一博與某腐敗案發(fā)布道歉聲明”等假消息，一度引得輿論嘩然。甚至有黑客在國際新聞中換臉兩國元首，制造恐慌。從文字到視覺，AI讓造假的門檻更低，傳播的速度更快，識別門檻卻更高了。 “反制”慢半拍，技術(shù)和監(jiān)管強制性不足。其實給AI“打碼”的技術(shù)早就可以實現(xiàn)，無論是生成端還是使用端，都可以通過直接在圖片/視頻等內(nèi)容上加水印的方式，或者，用類似“藏頭詩”等方式，把辨識標(biāo)簽隱藏在文本和數(shù)據(jù)信息中。只不過，由于過去沒有強制要求，各AI技術(shù)方案提供商擔(dān)心標(biāo)識后會影響使用率，為了市場競爭也就“睜一只眼閉一只眼”了。 如今，《辦法》實施，技術(shù)監(jiān)管有了強制力，從源頭給生成內(nèi)容打標(biāo)簽、給Deepfake上“鐐銬”，給觀者一雙“火眼金睛”。 8月26日，國務(wù)院印發(fā)《關(guān)于深入實施“人工智能+”行動的意見》（以下簡稱《意見》）。人工智能時代已經(jīng)加速到來，但AI運用不能蒙眼狂奔。值得一提的是，在8月28日寒武紀(jì)登頂“新股王”當(dāng)晚，公司就發(fā)布公告，八次提到“風(fēng)險”、十遍強調(diào)“理性”，謙之又謙。正如創(chuàng)始人陳天石說：“和行業(yè)前輩比，我們還是個孩子。羅馬不是一天建成的，長跑才剛剛開始。”人工智能時代，以技術(shù)“鋼印”讓Deepfake出局，也只是對決的開始。 從信息生成到傳播，每一步都需要“把關(guān)人”。在生產(chǎn)端標(biāo)注“AI”并非一勞永逸，技術(shù)端和“黑客”斗法，讓水印清洗難上加難；平臺主動識別、標(biāo)注AI造假，有效打擊貨不對板、AI詐騙等行為。而媒體乃至每個人，都要進一步提升信息識別能力，遇到夸張驚悚的信息和圖片別著急轉(zhuǎn)發(fā)。 正如《意見》中提到，“打造更有品質(zhì)的美好生活”“開創(chuàng)社會治理人機共生新圖景”……人工智能，固然聰明，卻不能讓其聰明才智用在歪門邪道上。