惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Vercel News
Vercel News
博客园 - 司徒正美
大猫的无限游戏
大猫的无限游戏
Last Week in AI
Last Week in AI
V
Visual Studio Blog
阮一峰的网络日志
阮一峰的网络日志
小众软件
小众软件
宝玉的分享
宝玉的分享
Apple Machine Learning Research
Apple Machine Learning Research
美团技术团队
WordPress大学
WordPress大学
博客园 - 聂微东
人人都是产品经理
人人都是产品经理
罗磊的独立博客
The Cloudflare Blog
V
V2EX
月光博客
月光博客
有赞技术团队
有赞技术团队
Y
Y Combinator Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
GbyAI
GbyAI
博客园 - 【当耐特】
T
Tailwind CSS Blog

博客园 - xerwin

卷积网络的可视化解释-类激活映射 深度学习:文本分类模型中的“蒸”功夫 深度强化学习之COMA [深度强化学习]D3QN原理及代码实现 浅谈TD3:从算法原理到代码实现 不等式视角下的策略梯度算法 深度学习与强化学习的两大联姻:DQN与DDPG的对比分析 浅谈从Q-Learning到DQN 浅谈德州扑克AI核心算法:CFR [行者谛听内容安全]游戏社交如何建立内容审核机制 怎样打击游戏中违法交易的灰黑产业链? [深度学习]实现一个博弈型的AI,从五子棋开始(2) [深度学习]实现一个博弈型的AI,从五子棋开始(1) 推荐移动应用:群落(Groupcells)——全球第一款基于图片组的近场社交电子商务平台 [学习]SVM入门(一) MongoDB and C# HP大中华区总裁孙振耀退休感言 [缓存]软件测试之验收测试 C++数据类型与C#对应关系
内容安全的主要场景有哪些
xerwin · 2022-07-14 · via 博客园 - xerwin

在当下环境中,互联网运营者有时会不知如何管理内容安全。聊天信息、短信、文章和直播视频充满了内容安全风险,因此在市场上发展出了多家内容审核的企业,为有需求的公司提供内容安全的核心能力。以下是AI识别业务中的常见场景:

场景一:UGC内容智能审核

UGC内容主要分为几类。首先是会员区,在互联网场景中,需要管理会员区的许多内容(会员头像、会员名称、会员屏幕切割)。由于某些平台管理是不可以擅自更改会员信息,因此必须管理会员区域。

其次就是其他互动类别,如市面上常见的游戏世界频道可能存在的不良言论需要被管控时,AI审核可以实施帮助。

第三类也是近几年非常火爆的渠道:直播区。如直播封面、直播本身的视频内容、弹幕和互动信息。第四类是严格控制的电子商务场景,如禁止在互联网上销售烟草。

最后一部分则是新闻门户网站。如果是通过自媒体发布的,这一领域的风险很小,但如果是通过第三方转换的新闻,则需要审查第三方转换的内容,以避免对平台造成进一步风险。

场景二:垃圾短信/彩信

目前,许多中国运营商正在分销短信业务,AI内容中的云通信领域技术可以帮助各大企业精准对客户群体发送必要信息,实时跟进营销、通知与反馈。

场景三:游戏防拉人与舆论风控

在联机游戏(尤其SLG游戏领域)的平台中,时常会出现一些非正常用户在不同渠道进行打金、拉人、引导消极言论等行为。这样的现象将会影响游戏更新迭代的方向准确性,使玩家的游戏环境遍地,并引起游戏厂商的负面评论。

因此反灰产及实时舆论监控的产品在此时是非常必要的,因为它将支持游戏运营中的差异化防控策略,不断助力精细化外挂管理,从而增加一款游戏的热度寿命与正向口碑。

场景四:未成年认证(防沉迷)

基于深度学习生物识别算法、动态风险感知等多种AI手段的应用,提供安全精准的身份认证服务。实时调用国家核心数据源库,杜绝黑库、私库,从终端设备、网络传输、服务器、数据管理等各个环节全面保证用户信息隐私绝对安全。

场景五:人脸扫描 

谛听安全可以为相关的公司提供相关的人脸搜索功能,如通过扫描顾客的皮肤进行针对性和定制化的健康报告,帮助机构为顾客提供出更加准确的千人千面的营销方案。

在AI科技不断进步的当下,人工智能的内容安全场景覆盖在不断增加,对于市场中的企业而言,通过可视化的智能系统优化场景与现有的技术体系帮助厂商减少成本、助力绿色环境,将是谛听安全持之以恒的愿景与目的。