[寫真] 互聯網上到處都是"辣眼睛"的"AI寫真"
在該運動博主看來，雖然平台並未承認過“擦邊內容能夠吸流”，但經過她的多次嘗試，至少在她看來，“擦邊的內容，流量遠比正常發布的內容要高。”
該運動博主表示，不僅僅是小紅書，在抖音、快手、微信視頻號等短視頻平台，同樣存在類似的問題，“我在這幾個短視頻平台都嘗試過發泳裝AI短視頻，流量非常好。”但考慮到她的運動IP形象，她最終沒有走該風格。
壹名在社交平台擔任運營工作的內部人士也向《聽筒Tech》表示，壹般來說，內部生態會給到特定內容的流量支持，在平台的扶持下的快速起號。
上述內部人士表示，“流量支持的參考標准，包括關鍵詞匹配、興趣推薦，以及互動和停留時間等不同參考維度。比如，用戶的點贊、收藏、評論，以及在筆記上的停留時間，直接決定了內容是否會被推薦給更多人。”
這也造成這樣壹個誤區， 很多人以為爆款內容是“隨機的”，但實際上，爆款背後都有清晰的流量邏輯。當然，上述內部人士亦表示，“刷流”也是重要的推流手段。
針對“上述野蠻生長的AI擦邊寫真，是否存在壹定意義上的扶持”，上述人士表示，“這並不好說，但平台的算法問題肯定存在。”
是時候高度重視了
無論是大量擦邊AI寫真內容的存在，還是兜售AI擦邊生意的賣課行為，這背後都直指壹個問題，平台監管存在漏洞。
而這已不是第壹次出現。
以小紅書為例，在過去的幾年裡，平台涉黃、違規交易等都曾掀起過輿論焦點。
2020年11月，小紅書被曝出推送大尺度美女裸露照片和視頻，內容露骨且包含暗示性。2021年9月，央視曝光小紅書存在大量泄露未成年人身體隱私的視頻。
更廣為人知的，2023年8月，壹篇題為《小紅書“旅游搭子費用全包”涉黃了》的文章在網上引發軒然大波，稱小紅書上的旅游搭子筆記，打著”找搭子“旗號，實則涉及性交易。
盡管，每次小紅書都表示將進行調查和處理，但實際效果卻並不理想。
即便時間走到2025年，面對TikTok“面臨封禁”期間，海量美國用戶投向小紅書，幾乎在壹夜之間，小紅書平台就出現了大量海外博主擦邊信息和照片。
這再次暴露了小紅書內容生態監管的薄弱。而彼時，有業內人士表示，小紅書真的需要進壹步細化審核標准了，以適應不同法律環境下的內容監管要求，避免因內容違規而引發的法律風險。
小紅書也不是沒有行動。今年2月13日，小紅書官方賬號“薯管家”發布公告，稱從去年12月至今，治理團隊對美妝個護、食品、3C數碼、生活服務等15個行業、1695個存在違規營銷行為品牌進行了處罰。
但從目前的情況來看，小紅書似乎有點“心有余而力不足”。
而抖音方面，盡管也進行了多次對“涉黃”等相關內容進行監管，但截至目前，依然無法有效改善平台的生態。
實際上，這種反復出現的問題不僅損害了平台的形象和聲譽，更讓用戶對其信任度大打折扣。尤其是，在監管日益嚴格的今天，平台如何有效遏制不良內容的傳播，仍成為亟待解決的問題。
不過，壹位算法工程師告訴《聽筒Tech》，“實際上，各大主流App，也都推出了AI標識功能，而且也在加強對AI圖片、視頻的審核。但從目前的情況來看，效果壹般。尤其是面對越來越先進的AI工具，有時連平台也無法真正判別出來。”
當然，對此，國家方面也有了壹定的動作。2024年9月，網信辦發布了關於《人工智能生成合成內容標識辦法（征求意見稿）》征求意見通知，要求平台和服務提供者，對AI生成內容明確標識，比如添加水印。
但這仍需要平台端的大力支持。
此前，中國社會科學院大學法學院副教授、互聯網法治研究中心主任劉曉春表示，“為防止平台利用AI涉及暴力、侮辱性內容的輸出，可采取不同的技術手段。在輸出端，服務商應進行篩選和再次審查。”
不過，面對用戶的種種質疑，平台的監管力度明顯仍有欠缺。至少目前來說，這無法改變用戶對平台和整個生態的不信任。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
該運動博主表示，不僅僅是小紅書，在抖音、快手、微信視頻號等短視頻平台，同樣存在類似的問題，“我在這幾個短視頻平台都嘗試過發泳裝AI短視頻，流量非常好。”但考慮到她的運動IP形象，她最終沒有走該風格。
壹名在社交平台擔任運營工作的內部人士也向《聽筒Tech》表示，壹般來說，內部生態會給到特定內容的流量支持，在平台的扶持下的快速起號。
上述內部人士表示，“流量支持的參考標准，包括關鍵詞匹配、興趣推薦，以及互動和停留時間等不同參考維度。比如，用戶的點贊、收藏、評論，以及在筆記上的停留時間，直接決定了內容是否會被推薦給更多人。”
這也造成這樣壹個誤區， 很多人以為爆款內容是“隨機的”，但實際上，爆款背後都有清晰的流量邏輯。當然，上述內部人士亦表示，“刷流”也是重要的推流手段。
針對“上述野蠻生長的AI擦邊寫真，是否存在壹定意義上的扶持”，上述人士表示，“這並不好說，但平台的算法問題肯定存在。”
是時候高度重視了
無論是大量擦邊AI寫真內容的存在，還是兜售AI擦邊生意的賣課行為，這背後都直指壹個問題，平台監管存在漏洞。
而這已不是第壹次出現。
以小紅書為例，在過去的幾年裡，平台涉黃、違規交易等都曾掀起過輿論焦點。
2020年11月，小紅書被曝出推送大尺度美女裸露照片和視頻，內容露骨且包含暗示性。2021年9月，央視曝光小紅書存在大量泄露未成年人身體隱私的視頻。
更廣為人知的，2023年8月，壹篇題為《小紅書“旅游搭子費用全包”涉黃了》的文章在網上引發軒然大波，稱小紅書上的旅游搭子筆記，打著”找搭子“旗號，實則涉及性交易。
盡管，每次小紅書都表示將進行調查和處理，但實際效果卻並不理想。
即便時間走到2025年，面對TikTok“面臨封禁”期間，海量美國用戶投向小紅書，幾乎在壹夜之間，小紅書平台就出現了大量海外博主擦邊信息和照片。
這再次暴露了小紅書內容生態監管的薄弱。而彼時，有業內人士表示，小紅書真的需要進壹步細化審核標准了，以適應不同法律環境下的內容監管要求，避免因內容違規而引發的法律風險。
小紅書也不是沒有行動。今年2月13日，小紅書官方賬號“薯管家”發布公告，稱從去年12月至今，治理團隊對美妝個護、食品、3C數碼、生活服務等15個行業、1695個存在違規營銷行為品牌進行了處罰。
但從目前的情況來看，小紅書似乎有點“心有余而力不足”。
而抖音方面，盡管也進行了多次對“涉黃”等相關內容進行監管，但截至目前，依然無法有效改善平台的生態。
實際上，這種反復出現的問題不僅損害了平台的形象和聲譽，更讓用戶對其信任度大打折扣。尤其是，在監管日益嚴格的今天，平台如何有效遏制不良內容的傳播，仍成為亟待解決的問題。
不過，壹位算法工程師告訴《聽筒Tech》，“實際上，各大主流App，也都推出了AI標識功能，而且也在加強對AI圖片、視頻的審核。但從目前的情況來看，效果壹般。尤其是面對越來越先進的AI工具，有時連平台也無法真正判別出來。”
當然，對此，國家方面也有了壹定的動作。2024年9月，網信辦發布了關於《人工智能生成合成內容標識辦法（征求意見稿）》征求意見通知，要求平台和服務提供者，對AI生成內容明確標識，比如添加水印。
但這仍需要平台端的大力支持。
此前，中國社會科學院大學法學院副教授、互聯網法治研究中心主任劉曉春表示，“為防止平台利用AI涉及暴力、侮辱性內容的輸出，可采取不同的技術手段。在輸出端，服務商應進行篩選和再次審查。”
不過，面對用戶的種種質疑，平台的監管力度明顯仍有欠缺。至少目前來說，這無法改變用戶對平台和整個生態的不信任。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: