[劉曉慶] 劉曉慶辟謠!但網上還有很多,老百姓怎麼辦?
攝影工作室的“樣照”也可能來自AI生成（圖源：記者使用AI生成）
再比如，社交平台的分享等板塊，美輪美奐的城市風光、鬼斧神工的自然景致撩撥著觀看者的打卡之心，可當滿心期待的網友向發布者追問具體坐標時，得到的往往是沉默。直至有眼尖的網友壹語道破天機：這些 “照片” 大概率是 AI 虛構，發布者自然無法給出真實的地址。
在社交平台的“分享”板塊，出現了很多AI圖片，為發布者拉流量，卻誤導觀看者
面對 AIGC 滲透到生活的方方面面，如果只是提醒觀看者提高警惕、加以辨別，不足以從根本上解決問題。對很多並不了解 AI 等新技術的網友來說，更是不可能完成的任務。
所以，要解決 AIGC 內容充斥網絡的問題，必須從源頭上采取舉措。
壹方面，相關平台必須正視目前 AIGC 內容充斥網絡的現狀，直面平台自己的問題，而不是壹味將責任推卸給發布者。
不難發現，壹些商家、自媒體之所以熱衷於 AIGC，是因為這些內容能夠躲過平台的審核機制，以“真實”的形象出現在社交平台上，甚至利用平台現有算法，為它們的擴散獲得機會。
以“傍名人”“假名人”類AIGC內容為例，不法分子利用名人效應吸引眼球；與此同時，平台也成為名人效應的受益者。所以，“傍名人”“假名人”的現象層出不窮，平台做的卻只是“賬號被舉報甚至被官方查處後才封號”的事後管理，而沒有從發布伊始就拒絕相關虛假信息。
再比如，AIGC內容之所以出現在“分享”版塊中，與傳統算法不辨真偽有關。傳統算法過度聚焦用戶即時反響，單純依據互動量等指標推薦內容，卻忽視了AIGC帶來的虛假問題，反而為虛假內容擴散大開綠燈。
要解決以上問題，必須有的放矢，精准施策。
首當其沖的是名人賬號監管亟待強化。
名人作為公眾焦點，壹旦賬號被盜用、造假，危害深遠。所以，平台應該構建更加嚴苛的名人賬號認證體系，確保賬號創建與運營的真實性。
其實，現有的很多技術已經可以幫上忙，比如通過面部動態識別、聲紋加密比對等生物技術手段，判斷是“真人”還是“數字人”；或者用最簡單的方式——人工審核，加大對各種冠以名人名號的賬號審查，發現 “傍名人”“假名人”後立刻下架，將負面影響扼殺在萌芽。
其次，給AIGC打上技術“烙印”勢在必行。
AI生成的文字、圖片、視頻混雜在信息流中，普通用戶很難憑肉眼甄別。指望造假者主動標注，也無異於與虎謀皮。所以，大模型開發者等提供AIGC服務的企業有必要與信息發布平台聯手，用技術手段為AIGC內容生成人眼不可識別但技術能夠鑒定的“隱形標簽”、特殊標志。這樣壹來，只要用戶在平台上發布AIGC內容，平台就能自動識別，並添加水印、標簽，注明其“AI 制造”身份，既讓用戶在瀏覽時心中有數，避免被虛假信息誤導，也便於後續的內容追溯與管理。對於故意隱匿AIGC 標志、企圖魚目混珠的發布者，則可以施以嚴厲的懲罰，如限流、封禁賬號等，以儆效尤。
最後，針對那些缺乏關鍵要素卻博人眼球的信息，平台可以要求發布者補充關鍵信息；若發布者無法按照要求完成，可以采取公開提示、流量限制、封號清退等方式，督促發布者上傳真實信息。
舉個例子，對於旅游打卡地只曬圖不留址、好物推薦只談功效不提品牌等模糊內容，平台可以在前端展示進行提示，告知用戶，相關信息不完整性、不確定；同時，調整推薦策略，降低此類信息的曝光權重，讓真正有價值、真實可靠的內容回歸大眾視野。而在後台，平台要提醒發布者補充信息或下架內容，如果反復發布虛假內容，則對賬號限制懲戒。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
再比如，社交平台的分享等板塊，美輪美奐的城市風光、鬼斧神工的自然景致撩撥著觀看者的打卡之心，可當滿心期待的網友向發布者追問具體坐標時，得到的往往是沉默。直至有眼尖的網友壹語道破天機：這些 “照片” 大概率是 AI 虛構，發布者自然無法給出真實的地址。
在社交平台的“分享”板塊，出現了很多AI圖片，為發布者拉流量，卻誤導觀看者
面對 AIGC 滲透到生活的方方面面，如果只是提醒觀看者提高警惕、加以辨別，不足以從根本上解決問題。對很多並不了解 AI 等新技術的網友來說，更是不可能完成的任務。
所以，要解決 AIGC 內容充斥網絡的問題，必須從源頭上采取舉措。
壹方面，相關平台必須正視目前 AIGC 內容充斥網絡的現狀，直面平台自己的問題，而不是壹味將責任推卸給發布者。
不難發現，壹些商家、自媒體之所以熱衷於 AIGC，是因為這些內容能夠躲過平台的審核機制，以“真實”的形象出現在社交平台上，甚至利用平台現有算法，為它們的擴散獲得機會。
以“傍名人”“假名人”類AIGC內容為例，不法分子利用名人效應吸引眼球；與此同時，平台也成為名人效應的受益者。所以，“傍名人”“假名人”的現象層出不窮，平台做的卻只是“賬號被舉報甚至被官方查處後才封號”的事後管理，而沒有從發布伊始就拒絕相關虛假信息。
再比如，AIGC內容之所以出現在“分享”版塊中，與傳統算法不辨真偽有關。傳統算法過度聚焦用戶即時反響，單純依據互動量等指標推薦內容，卻忽視了AIGC帶來的虛假問題，反而為虛假內容擴散大開綠燈。
要解決以上問題，必須有的放矢，精准施策。
首當其沖的是名人賬號監管亟待強化。
名人作為公眾焦點，壹旦賬號被盜用、造假，危害深遠。所以，平台應該構建更加嚴苛的名人賬號認證體系，確保賬號創建與運營的真實性。
其實，現有的很多技術已經可以幫上忙，比如通過面部動態識別、聲紋加密比對等生物技術手段，判斷是“真人”還是“數字人”；或者用最簡單的方式——人工審核，加大對各種冠以名人名號的賬號審查，發現 “傍名人”“假名人”後立刻下架，將負面影響扼殺在萌芽。
其次，給AIGC打上技術“烙印”勢在必行。
AI生成的文字、圖片、視頻混雜在信息流中，普通用戶很難憑肉眼甄別。指望造假者主動標注，也無異於與虎謀皮。所以，大模型開發者等提供AIGC服務的企業有必要與信息發布平台聯手，用技術手段為AIGC內容生成人眼不可識別但技術能夠鑒定的“隱形標簽”、特殊標志。這樣壹來，只要用戶在平台上發布AIGC內容，平台就能自動識別，並添加水印、標簽，注明其“AI 制造”身份，既讓用戶在瀏覽時心中有數，避免被虛假信息誤導，也便於後續的內容追溯與管理。對於故意隱匿AIGC 標志、企圖魚目混珠的發布者，則可以施以嚴厲的懲罰，如限流、封禁賬號等，以儆效尤。
最後，針對那些缺乏關鍵要素卻博人眼球的信息，平台可以要求發布者補充關鍵信息；若發布者無法按照要求完成，可以采取公開提示、流量限制、封號清退等方式，督促發布者上傳真實信息。
舉個例子，對於旅游打卡地只曬圖不留址、好物推薦只談功效不提品牌等模糊內容，平台可以在前端展示進行提示，告知用戶，相關信息不完整性、不確定；同時，調整推薦策略，降低此類信息的曝光權重，讓真正有價值、真實可靠的內容回歸大眾視野。而在後台，平台要提醒發布者補充信息或下架內容，如果反復發布虛假內容，則對賬號限制懲戒。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: