测评六大社交平台：AIGC大爆发，但治理仍滞后

　　21世纪经济报道记者肖潇 实习生袁清渠 北京报道

竞争争秩序，永远是常说常新的话题。尤其是在新旧产业交替的时刻。

在过去一年，我们看到，互联网平台旧脚本的问题尚未解决，在存量竞争中矛盾越发突出；人工智能带来的新故事里，亦充满了安全与治理的迷惑。

即日起，我们将推出《2024年竞争秩序场报告》，聚焦电商、社交平台和端侧AI三大领域，从过去一年的典型案例入手，梳理竞争秩序的裂隙与演变。这不是一份解决问题的清单，而是一份抛出问题的地图：哪些秩序出现了裂隙？又将如何塑造未来的市场格局？

　　AIGC点燃社交平台：仍以辅助工具为主

　　AIGC已经成为社交平台创新发展的重要引擎。2023年的妙鸭相机以“AI玩图”掀起热潮，各大平台随即将AIGC技术深度融入业务线，希望带来全新的互动模式与用户体验。

　　在2024年春节前后，微博推出“评论罗伯特”账号。作为微博官方推出的评论机器人，只要用户发布大于10字的原创微博，就有可能随机收到自动回复，开启了平台对AIGC的场景化探索。

　　随后微博推出了一系列功能型AI账号，比如@夸夸小猫猫，为用户提供夸赞服务；@配图猫，则能够智能识别影视台词并生成配图。但与前者的触发机制不同，此类AI账号依赖用户主动交互，需要关注账号或@特定名称，作为一个账号全面运营的能力有限。

　　其他社交平台如哔哩哔哩、小红书也在AI账号方向探索，提供以提升信息理解效率为核心的工具。例如，哔哩哔哩的“AI视频小助理”可通过主动评论触发，自动生成视频内容总结并以时间戳呈现。这类AI账号依旧都以工具属性为主，尚未形成具有独立商业价值的生态。

　　相较之下，短视频平台对AIGC的运用更加多元，有更强的创作属性。

　　抖音将AI工具与短视频内容生产深度融合，交互门槛可以说是所有平台中最低的。比如，视频上传环节集成了“AI特效”模块、内嵌了AI小程序，使用户能像使用滤镜一样调用生成式AI。数据显示，生成宠物对口型AI视频的“FacePlay”抖音小程序，在2024年累计使用超过1.1亿次，成为平台热度攀升的助推器。

　　此外，快手推出“可灵AI”APP，抖音旗下的剪辑软件“剪映”在去年5月推出“即梦”APP，都进一步强化了AIGC在视频领域的应用。

　　AIGC治理压力凸显：维权难、标识难、侵权争议大

　　AI技术的快速普及也引发了复杂的治理难题。从真假难辨的生成内容到涉嫌侵权的作品，再到潜在的伦理争议，平台面临的治理压力愈发显著。

　　结合各大平台现行规则，我们可以看到平台重点关注的AIGC问题集中在四个领域：虚拟数字人直播、AI换脸、AI种草带货，以及AI内容标识。

　　在虚拟数字人直播上，各平台的态度不一。微信视频号将其划归“非真人直播”，并实施严格限制。抖音和小红书则采取折中策略，要求数字人直播需完成注册与备案，而快手等平台暂未作出明确表态。

　　几乎每个平台都强调了AI换脸的危害。可以看到，AI换脸的风险主要体现在两个方面：一是深度伪造可能侵犯用户的肖像权，甚至被利用于色情复仇和金融欺诈等违法犯罪活动；

　　二是商业化滥用。尤其是在“种草式”隐性商业化内容增多的背景下，AI换脸一旦用来种草带货，容易涉及歪曲事实、虚假宣传或产品质量问题，直接触及《消费者权益保护法》和《广告法》的红线。目前只有小红书明确禁止通过AI生成内容虚构用户体验、进行商业变现，其它平台尚未出台类似的细化规则。

　　可以说，AIGC侵权会是各大平台未来的治理难点。AI侵权成本较低、用户侵权证据取证较难，怎样合理且及时地保护用户权益，将成为一个重要挑战。 

　　目前业内普遍认为，对AIGC内容进行明确标注，是最可行的通用解决方案。六家社交平台都要求用户在上传内容时声明是否由AI生成，并在内容发布后显示“AI生成”标签。

　　但测评发现，实际执行效果仍存不足。一方面是因为，大多AI标注入口隐藏较深，且没有显著提示，用户上传作品时需点击2~3次才能发现；此外，仅仅依靠用户自觉难以跟上技术的发展。尽管抖音、小红书、哔哩哔哩三家平台已公开表示自己会通过技术手段自动监测疑似AI生成的内容，但整体鉴别能力仍有很大提升空间。 

　　值得一提的是，越来越多平台既是玩家又是裁判，即又是内容产地又是AI开发者。这种情况下，用户上传内容的版权到底能被如何使用、平台能不能用它们训练AI，也是一个需要长期关注的问题。

　　当下的拉扯在于：对于平台而言，一旦公开把授权AI训练条款明文列进用户服务协议中，往往会引发用户不满和抵制；而对于创作者而言，只要存在技术黑盒，很难维权举证AI的“侵权”行为。因此大多平台选择回避争议，通过“不公开”训练数据来源来控制风险，但这种信息不透明的策略只会加剧创作者对平台的猜疑链，长期逐渐透支平台的公信力。

　　秩序规则：治理新规出台，仍待落实

　　2024年，针对AIGC的治理进入快车道。9月14日网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》（下称《AI标识办法》）。此前标明AI生成的责任更多放在AI技术提供者身上，而《AI标识办法》对传播平台明确提出了核验要求——如果核验发现文件元数据中有隐式标识，需要在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容。 

　　除了按要求增加AI标识，各平台都在针对AI应用的泛滥问题作出具体治理。比如2024年3月，抖音表示，针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置。《抖音关于不当利用AI生成虚拟人物的治理公告》点名了滥用AI的具体行为：

　　2024年6月，腾讯视频号拟修订《视频号橱窗达人“发布低质量内容”实施细则》。修订后的细则将“挂机录播”部分的内容改为了“非真实直播”，违规示例中包括使用AI等工具生成虚拟形象进行直播的行为。该限制举措在业内引起不少关注。

　　司法案件上，小红书此前推出的文生图产品Trik AI被诉侵权使用训练语料案，在2024年6月于北京互联网法院正式开庭审理。四位插画师指控大模型的运营方未经授权，将自身美术作品用于训练AI模型并应用于商业用途；而运营“Trik AI”的被告公司辩称，被告的大模型训练行为即使使用原告作品，也应属于合理使用，不构成侵权。目前，该案还在审理中。