QQ评论审核就是给每条留言先过一遍机器，机器先看有没有敏感词比如脏话或者广告。要是机器觉得有问题，就自动删掉或者标红提示用户修改。要是机器觉得没问题，再让人工仔细检查一遍。人工得看有没有图片里藏着链接，或者用户用拼音代替敏感词。比如之前有用户发"11月1日"提醒国庆，机器可能识别成敏感词，这时候人工就会手动放行。

为啥得这样搞呢？因为每天有上亿条评论要审核，光靠人工根本忙不过来。腾讯前年财报说，AI审核占90%的工作量，每秒处理2000条评论。但机器可能漏掉5%的违规内容，比如用"jsk"代替" Jesus"。所以得人工兜底，但人工审核每天只能处理300万条，占总量0.03%。这就好比用扫雷仪先扫雷，再让专家手拆雷包。现在有些账号用谐音梗"qwe"代替"求我"，机器识别率不到60%，这就得靠人工看上下文。要是光用机器，每天得删2.4亿条违规评论，光靠人工根本招架不住。