← 返回首页
常见系统能力Content Moderation

内容审核

用户发的东西过滤一遍。不然一夜之间黄赌毒广告能把平台毁了。

做什么会用到

  • 01做内容社区：文字关键词过滤 + AI 语义审核（OpenAI Moderation API 免费）
  • 02做图片平台：AI 识别裸露 / 暴力 / 政治敏感 —— 七牛云、阿里云有现成 API
  • 03做评论系统：新用户发的先人工审 / AI 审后放出，老用户自动通过
  • 04中国境内产品：还要对接“网信办备案 + 关键词库”，否则可能被下架

想用它怎么问 AI

「我的【XXX UGC 产品】要做内容审核。请告诉我：文字 / 图片 / 视频 各用什么工具（国内 + 国外），审核流程怎么设计（先审后发 vs 先发后审），成本估算。」

相关词

管理后台风控内容平台