哔哩哔哩审核疑似用了某种向量机或者贝叶斯
根据观察,应该没有有钱到上LLM审查。除开经典敏感词直接屏蔽,他在语言向量空间中划定了一个禁区,一旦进入这个禁区就会触发shadow delete,当场吞掉,如果压线可能触发人工审核,表现为几分钟到几小时后shadow delete
只要在语言中添加中国相关的概念,会急剧拉近和禁区的距离,如果中国概念和负面情绪组合,不管在描述什么,有很大概率也会进入禁区。这种概率学非常智能,就算你完全没有提到中国概念,但是描述内容会导致对中国的负面性联想,也会被删。
以及骂人相关的向量加入也会导致被删,如果骂人词汇累积到一个程度就会直接消失,和骂人内容无关。如果人的实际表达空间发生了突变,没有和禁区完全重叠,就会导致审核暂时失效。比如煞笔会急剧增加被删概率,但是傻福暂时没有这个效果
由于使用了概率性工具,这个删帖机制具有高度不确定性,可谓是把御民术发挥到极致了。这种划定概念禁区是很恐怖的,堪比大洋国新话,直接把人的思考的意义空间扣掉了一部分,直接失去了描述老大哥不好的语言工具。很多弱智学生大概也是深受这种东西的影响,思考基石被扣掉了一部分,最终就是只会太假瞎骂和喷粪