Meta 宣布广泛推出 AI 支持助手，用于 Facebook 和 Instagram 的内容审核，并表示将"减少对第三方供应商的依赖"，转而采用 AI 系统进行内容执法。
系统部署
核心功能
Meta 在官方博客中表示，AI 系统将承担更适合技术处理的工作：
"虽然我们仍会有人工审核内容，但这些系统将能够处理更适合技术的工作，如重复性的图形内容审核，或对手不断改变策略的领域，如非法药物交易或诈骗。"
应用范围
- Facebook：主要社交平台
- Instagram：图片和视频分享平台
- 重复性审核：图形内容识别
- 动态威胁：非法药物、诈骗检测
行业背景
人工审核困境
过去一年，为大型科技公司工作的内容审核员面临 PTSD 等心理健康风险，已开始组织争取更好待遇。2020 年，Facebook 内容审核员集体诉讼达成和解，承认工作对心理健康的影响。
AI 替代趋势
Meta 的决定反映了科技行业用 AI 替代人工审核的趋势，但也引发了对审核质量和就业影响的担忧。
影响评估
积极方面
- 效率提升：AI 可处理大量重复性审核任务
- 风险控制：减少人工接触有害内容的机会
- 成本优化：降低对第三方供应商的依赖
潜在问题
- 误判风险：AI 可能无法准确理解复杂语境
- 就业影响：第三方审核承包商员工面临失业风险
- 透明度：AI 审核决策过程缺乏可解释性
未来展望
Meta 表示将继续保留人工审核团队，但 AI 系统将承担更多工作。这一模式可能成为其他社交平台的参考，推动整个行业向 AI 驱动的审核模式转变。