黑名单主要是根据规则和用户行为数据筛选出来的。比如有人多次发广告或者骂人，系统会自动标记。然后人工再仔细看一遍，确认是不是真的有问题。这些被标记的人或账号就进到黑名单里了。常见的场景有电商平台防、社交媒体删恶意评论，还有手机号防诈骗。

这是因为规则和人工结合能提高准确性。比如中国互联网协会大前年报告说，60%的企业用自动+人工的方式，识别错误率比纯自动的低30%。像某电商平台试过只用机器，发现每天有2万次漏掉，改用人工复核后，漏网次数变成500次以内。社交平台处理谣言也更快了，以前人工要3天才能删完100条，现在系统先标记再人工确认，1天就能处理完200条。数据还显示，用黑名单后诈骗电话拦截率从45%升到82%，但有个问题，就是小企业人工审核成本太高，一个月要花2万块工资。