注冊新用戶
立即注冊
請輸入搜索內(nèi)容
注冊新用戶
修改密碼
日前，四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《辦法》），規(guī)范了人工智能生成合成的內(nèi)容標識，以保護公民、法人和其他組織合法權(quán)益，促進人工智能健康發(fā)展。
今年初，隨著DeepSeek等AI應(yīng)用爆火出圈，各行各業(yè)都迫不及待探索AI在各自領(lǐng)域的應(yīng)用，期待通過AI提升效率、創(chuàng)造新價值。
然而，面對洶涌而來的AI應(yīng)用熱潮，一些亂象也引起了人們的關(guān)注。比如：AI生產(chǎn)的虛假信息對受眾產(chǎn)生誤導(dǎo)、污染輿論空間；不法分子利用越來越逼真的AI生成技術(shù)仿冒他人、實施詐騙。再如在電商領(lǐng)域：部分不良商家靠AI假圖和低價吸引消費者下單，但“貨不對板”；部分直播間用AI造假背景偽裝“工廠發(fā)貨”，對消費者構(gòu)成欺騙；部分投機取巧的商家借助AI大量盜取原創(chuàng)商家的圖片，毫不費力地惡意抄款，加劇行業(yè)競爭。可以說，面對AI造假現(xiàn)象，不同行業(yè)面臨著不同的現(xiàn)實問題。
《辦法》的出臺旨在防控人工智能（以下簡稱AI）技術(shù)造假、濫用現(xiàn)象。互聯(lián)網(wǎng)平臺是AI生成信息的主要傳播媒介，平臺理當是治理的中堅力量。《辦法》規(guī)定了相關(guān)內(nèi)容的標識規(guī)范，并且明確規(guī)定了相關(guān)平臺的審核、檢驗責(zé)任。《辦法》出臺后，平臺也開始積極響應(yīng)。如快手、豆包等內(nèi)容平臺開始在信息流中標注AI生成字樣，提醒消費者注意甄別。再如，淘寶通過模型識別，攔截失真的AI假圖上傳；明確嚴禁利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真與實際不符的商品信息效果圖。
值得一提的是，不同于資訊、娛樂內(nèi)容，商品圖片直接關(guān)系到消費決策，AI的應(yīng)用應(yīng)當本著提高消費體驗、促進原創(chuàng)等原則，否則很容易淪為黑灰產(chǎn)的“助攻”。若使用AI假圖宣推產(chǎn)品現(xiàn)象泛濫，將直接傷害消費者的消費體驗、消費意愿，打擊誠信經(jīng)營的商家的經(jīng)營信心，也將無法實現(xiàn)“品質(zhì)電商”的目標。電商平臺完善規(guī)范、推出治理措施，值得肯定。但要最大限度降低AI濫用影響、還消費領(lǐng)域清朗空間，還需全社會的支持和努力。
“該如何兼顧技術(shù)進步和倫理規(guī)范”等問題愈加現(xiàn)實和迫切，只有秉持發(fā)展與安全兼顧的原則，才可能讓AI真正服務(wù)于美好生活。人必須有價值判斷、相關(guān)的企業(yè)和平臺必須有價值取向，防控AI應(yīng)用亂象應(yīng)盡早，要各盡其責(zé)。
編輯：葉淑君