知名央視主持人現身網絡直播間？竟然還播報起虛假廣告？近日，北京市場監管部門查處了首例利用人工智能(AI)技術進行虛假廣告宣傳的案件。北京一公司在直播中宣稱其產品能夠治療多種疾病，而實際該產品僅為普通食品，不具備疾病治療功能。此外，直播中還出現了知名央視主持人的形象，經鑒定，該形象完全是利用AI技術偽造生成。
近年來，人工智能技術日益成熟，“AI換臉”的技術門檻大幅降低，如今僅憑一張圖片、一段聲音，就能生成高度逼真的偽造視頻。這讓一些不法商家心生歹念，利用AI深度偽造科學家、醫生、運動員、演員等知名人士的面容和聲音，炮制出一個個AI“李鬼”。
這類新型違法行為不僅侵犯了被仿冒者的合法權益，營造出“權威背書”的假象對公眾實施欺詐，給內容安全帶來挑戰，更蠶食著社會賴以運轉的信任基礎。當作假的圖像被AI包裝成“有鼻子有眼”的視頻肆意擴散，當仿冒的名人形象在直播間里一本正經兜售偽劣商品，當電信詐騙者的聲音和容貌竟然與受害者的家人一模一樣……在AI生成內容紛繁復雜的今天，倘若“眼見為實”不復存在，社會信任又該如何維系？
為解決AI生成內容以假亂真的問題，今年9月，我國《人工智能生成合成內容標識辦法》正式施行。該辦法明確要求所有AI生成的文字、圖片、視頻等內容必須添加顯式標識“亮明身份”，同時鼓勵添加數字水印等隱式標識，讓公眾明確知道哪些內容可能源自AI生成。既然已有規定，有關部門就應加大監管和執法力度，對違反相關規定的平臺和個人依法查處，形成震懾。此次北京市場監管部門查處相關案件，就開了個好頭，釋放出對“AI造”加強監管的強烈信號。
內容傳播平臺、AI生成服務平臺和應用程序分發平臺則要盡到相應的責任義務，落實好有關要求，進一步優化AI識別技術，加強鑒偽追溯能力，與監管部門同向發力，守好“真實”的邊界。與此同時，廣大網民也要保持警惕，加強對信息真偽的甄別，不被虛假信息蒙蔽雙眼。
當前，我國人工智能技術正在飛速發展，針對不同應用場景的安全標準和法律準則在不斷完善中。構建良好網絡生態，需要各方共同努力，把“眼見為實”的網絡空間還給我們每個人，守護好社會信任的根基。
