Instagram 不过滤 AI 内容，仅打标签，新功能却引剥削风险担忧

Instagram 坚持不过滤 AI 内容让用户自主选择Instagram 负责人亚当·莫塞里在接受播客采访时明确表示平台不会过滤掉人工智能生成的内容而是要让用户知道内容是否由人工智能生成。他认为喜欢人工智能内容的用户应该能够拥有一个全是人工智能内容的信息流而不喜欢的用户也不应被迫看到这类内容。检测 AI 内容困难打标签或成主要手段莫塞里承认检测人工智能生成的内容“很困难”随着人工智能模型的不断改进Instagram 可能“失去识别人工智能帖子的能力”。他提出用户可以直接询问‘这是人工智能生成的内容吗’而平台应能告知判断结果。此外给非人工智能生成的“相机拍摄内容”打标签可能“更实际”。新功能引发剥削风险担忧平台面临挑战随着 Meta 的人工智能图像生成器 Muse Spark 上线Instagram 用户可将其他用户标记到自己的人工智能创作中。然而美国全国性剥削问题中心执行董事海莉·麦克纳马拉指出这一功能“为剥削、性虐待、骚扰和身份欺诈创造了明显且可预见的机会”。这表明 Instagram 在拥抱人工智能技术的同时也面临着如何保障用户安全和权益的挑战。编辑观点Instagram 不过滤 AI 内容的策略体现了对用户选择权的尊重但检测难题和新功能风险给平台带来挑战未来需平衡技术发展与用户安全。