TikTok 意外事件引发关注

2025 年，TikTok 宣布推出新工具“Symphony Digital Avatars”，该工具旨在让品牌能够在广告中使用由人工智能生成的真实人物版本，为营销活动增添“人性化触感”。品牌可以利用 AI 驱动的配音功能，在 TikTok 的指导方针内输入脚本，使虚拟形象说出他们想要的内容，且只有拥有 TikTok Ads Manager 账户的用户才能使用该工具。

然而，据 CNN 发现，TikTok 意外发布了一个指向其新 AI 虚拟形象工具内部版本的链接，这个版本没有任何防护措施或安全保障。这意味着任何 TikTok 用户都可以创建未经审核和标记的视频，让 AI 虚拟形象说出几乎任何内容，包括能够按照指令背诵阿道夫·希特勒的《我的奋斗》中的片段。CNN 科技记者 Jon Sarlin 表示，他能够使用自己的 TikTok 个人账号访问该 AI 工具。在 X（前身为 Twitter 的平台）上，Sarlin 透露他能够让 TikTok 的 AI 虚拟形象背诵奥萨马·本·拉登的“致美国的信”，说出白人至上主义口号“十四字真言”，告诉人们喝漂白剂以及在错误的日期投票，还能朗读希特勒的《我的奋斗》。

此外，这些视频都没有水印表明它们是 AI 生成的，这意味着如果这些视频被发布在平台上，毫无戒心的 TikTok 用户可能会将其视为真实内容。

“一个技术错误”

当 CNN 就这些视频联系 TikTok 时，该公司的一位发言人将其称为“技术错误”，“该错误使得极少数用户能够在几天内使用该工具的内部测试版本创建内容”。TikTok 表示现已解决此问题。

TikTok 还补充道：“如果 CNN 试图上传其创建的有害内容，这些内容会因违反我们的政策而被拒绝。TikTok 是负责任的 AIGC 创作的行业领导者，我们将继续在所有 TikTok 产品公开推出前进行测试，并建立我们所应用的安全缓解措施。”

在 X 上，Sarlin 透露 TikTok 没有回应 CNN 关于该公司正在采取何种措施“以防止此类严重错误再次发生”的后续询问。

值得注意的是，在当今互联网时代，类似的技术问题可能会引发严重的后果。各大平台都应该加强技术管理和内容审核，以避免此类事件的发生。同时，用户也应该提高自己的辨别能力，不轻易相信和传播未经证实的信息。

风口星公众号

扫码关注领【TK 运营地图】

风口星合作，请扫码联系！