大家聊聊AI做论坛内容审核这个场景合不合适？

最近逛论坛的时候总看到有违规帖没被及时处理，还有好多广告党注册小号发垃圾内容，人工审核的版主每天都得花好几个小时扫帖子，真的很辛苦。我之前看到有AI做内容审核的案例，就想到这个场景是不是特别适合咱们论坛用？
我大概想的流程是这样：先把论坛过去几年的违规帖子、社区管理规则都喂给AI模型训练，让它先学会识别敏感词、引战言论、垃圾广告这些违规内容。用户发帖的时候，AI先做第一轮筛选，完全合规的直接放行，疑似违规的标出来转给版主人工复核，这样版主就不用一条条扫所有帖子了，光处理AI筛出来的问题帖就行，效率至少能提一半。
当然我也想到会有问题，比如会不会误封正常用户？比如用户开个玩笑被当成引战，或者发的正常内容里有敏感词被误判。这个的话可以做申诉通道，用户申诉之后，管理员可以手动调整，把误判的案例加进训练集，慢慢优化模型的准确率，慢慢就不会误判了。
大家觉得这个场景能不能落地啊？有没有踩过类似内容的坑？或者你们有没有想到其他适合论坛的AI应用场景？比如自动回复新人提问？或者给热门帖子自动加精华推荐？都来聊聊呗。