[写真] 互联网上到处都是"辣眼睛"的"AI写真"
在该运动博主看来，虽然平台并未承认过“擦边内容能够吸流”，但经过她的多次尝试，至少在她看来，“擦边的内容，流量远比正常发布的内容要高。”
该运动博主表示，不仅仅是小红书，在抖音、快手、微信视频号等短视频平台，同样存在类似的问题，“我在这几个短视频平台都尝试过发泳装AI短视频，流量非常好。”但考虑到她的运动IP形象，她最终没有走该风格。
一名在社交平台担任运营工作的内部人士也向《听筒Tech》表示，一般来说，内部生态会给到特定内容的流量支持，在平台的扶持下的快速起号。
上述内部人士表示，“流量支持的参考标准，包括关键词匹配、兴趣推荐，以及互动和停留时间等不同参考维度。比如，用户的点赞、收藏、评论，以及在笔记上的停留时间，直接决定了内容是否会被推荐给更多人。”
这也造成这样一个误区， 很多人以为爆款内容是“随机的”，但实际上，爆款背后都有清晰的流量逻辑。当然，上述内部人士亦表示，“刷流”也是重要的推流手段。
针对“上述野蛮生长的AI擦边写真，是否存在一定意义上的扶持”，上述人士表示，“这并不好说，但平台的算法问题肯定存在。”
是时候高度重视了
无论是大量擦边AI写真内容的存在，还是兜售AI擦边生意的卖课行为，这背后都直指一个问题，平台监管存在漏洞。
而这已不是第一次出现。
以小红书为例，在过去的几年里，平台涉黄、违规交易等都曾掀起过舆论焦点。
2020年11月，小红书被曝出推送大尺度美女裸露照片和视频，内容露骨且包含暗示性。2021年9月，央视曝光小红书存在大量泄露未成年人身体隐私的视频。
更广为人知的，2023年8月，一篇题为《小红书“旅游搭子费用全包”涉黄了》的文章在网上引发轩然大波，称小红书上的旅游搭子笔记，打着”找搭子“旗号，实则涉及性交易。
尽管，每次小红书都表示将进行调查和处理，但实际效果却并不理想。
即便时间走到2025年，面对TikTok“面临封禁”期间，海量美国用户投向小红书，几乎在一夜之间，小红书平台就出现了大量海外博主擦边信息和照片。
这再次暴露了小红书内容生态监管的薄弱。而彼时，有业内人士表示，小红书真的需要进一步细化审核标准了，以适应不同法律环境下的内容监管要求，避免因内容违规而引发的法律风险。
小红书也不是没有行动。今年2月13日，小红书官方账号“薯管家”发布公告，称从去年12月至今，治理团队对美妆个护、食品、3C数码、生活服务等15个行业、1695个存在违规营销行为品牌进行了处罚。
但从目前的情况来看，小红书似乎有点“心有余而力不足”。
而抖音方面，尽管也进行了多次对“涉黄”等相关内容进行监管，但截至目前，依然无法有效改善平台的生态。
实际上，这种反复出现的问题不仅损害了平台的形象和声誉，更让用户对其信任度大打折扣。尤其是，在监管日益严格的今天，平台如何有效遏制不良内容的传播，仍成为亟待解决的问题。
不过，一位算法工程师告诉《听筒Tech》，“实际上，各大主流App，也都推出了AI标识功能，而且也在加强对AI图片、视频的审核。但从目前的情况来看，效果一般。尤其是面对越来越先进的AI工具，有时连平台也无法真正判别出来。”
当然，对此，国家方面也有了一定的动作。2024年9月，网信办发布了关于《人工智能生成合成内容标识办法（征求意见稿）》征求意见通知，要求平台和服务提供者，对AI生成内容明确标识，比如添加水印。
但这仍需要平台端的大力支持。
此前，中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春表示，“为防止平台利用AI涉及暴力、侮辱性内容的输出，可采取不同的技术手段。在输出端，服务商应进行筛选和再次审查。”
不过，面对用户的种种质疑，平台的监管力度明显仍有欠缺。至少目前来说，这无法改变用户对平台和整个生态的不信任。
觉得新闻不错，请点个赞吧
好新闻没人评论怎么行，我来说几句
该运动博主表示，不仅仅是小红书，在抖音、快手、微信视频号等短视频平台，同样存在类似的问题，“我在这几个短视频平台都尝试过发泳装AI短视频，流量非常好。”但考虑到她的运动IP形象，她最终没有走该风格。
一名在社交平台担任运营工作的内部人士也向《听筒Tech》表示，一般来说，内部生态会给到特定内容的流量支持，在平台的扶持下的快速起号。
上述内部人士表示，“流量支持的参考标准，包括关键词匹配、兴趣推荐，以及互动和停留时间等不同参考维度。比如，用户的点赞、收藏、评论，以及在笔记上的停留时间，直接决定了内容是否会被推荐给更多人。”
这也造成这样一个误区， 很多人以为爆款内容是“随机的”，但实际上，爆款背后都有清晰的流量逻辑。当然，上述内部人士亦表示，“刷流”也是重要的推流手段。
针对“上述野蛮生长的AI擦边写真，是否存在一定意义上的扶持”，上述人士表示，“这并不好说，但平台的算法问题肯定存在。”
是时候高度重视了
无论是大量擦边AI写真内容的存在，还是兜售AI擦边生意的卖课行为，这背后都直指一个问题，平台监管存在漏洞。
而这已不是第一次出现。
以小红书为例，在过去的几年里，平台涉黄、违规交易等都曾掀起过舆论焦点。
2020年11月，小红书被曝出推送大尺度美女裸露照片和视频，内容露骨且包含暗示性。2021年9月，央视曝光小红书存在大量泄露未成年人身体隐私的视频。
更广为人知的，2023年8月，一篇题为《小红书“旅游搭子费用全包”涉黄了》的文章在网上引发轩然大波，称小红书上的旅游搭子笔记，打着”找搭子“旗号，实则涉及性交易。
尽管，每次小红书都表示将进行调查和处理，但实际效果却并不理想。
即便时间走到2025年，面对TikTok“面临封禁”期间，海量美国用户投向小红书，几乎在一夜之间，小红书平台就出现了大量海外博主擦边信息和照片。
这再次暴露了小红书内容生态监管的薄弱。而彼时，有业内人士表示，小红书真的需要进一步细化审核标准了，以适应不同法律环境下的内容监管要求，避免因内容违规而引发的法律风险。
小红书也不是没有行动。今年2月13日，小红书官方账号“薯管家”发布公告，称从去年12月至今，治理团队对美妆个护、食品、3C数码、生活服务等15个行业、1695个存在违规营销行为品牌进行了处罚。
但从目前的情况来看，小红书似乎有点“心有余而力不足”。
而抖音方面，尽管也进行了多次对“涉黄”等相关内容进行监管，但截至目前，依然无法有效改善平台的生态。
实际上，这种反复出现的问题不仅损害了平台的形象和声誉，更让用户对其信任度大打折扣。尤其是，在监管日益严格的今天，平台如何有效遏制不良内容的传播，仍成为亟待解决的问题。
不过，一位算法工程师告诉《听筒Tech》，“实际上，各大主流App，也都推出了AI标识功能，而且也在加强对AI图片、视频的审核。但从目前的情况来看，效果一般。尤其是面对越来越先进的AI工具，有时连平台也无法真正判别出来。”
当然，对此，国家方面也有了一定的动作。2024年9月，网信办发布了关于《人工智能生成合成内容标识办法（征求意见稿）》征求意见通知，要求平台和服务提供者，对AI生成内容明确标识，比如添加水印。
但这仍需要平台端的大力支持。
此前，中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春表示，“为防止平台利用AI涉及暴力、侮辱性内容的输出，可采取不同的技术手段。在输出端，服务商应进行筛选和再次审查。”
不过，面对用户的种种质疑，平台的监管力度明显仍有欠缺。至少目前来说，这无法改变用户对平台和整个生态的不信任。
觉得新闻不错，请点个赞吧
好新闻没人评论怎么行，我来说几句| 分享: |
| Note: | _VIEW_NEWS_FULL |
