网易易盾朱浩齐:数字内容风控如何保障线上业务安全
移动支付网2020/11/9 14:16:26

11月3日,北京金融科技产业联盟、移动支付网主办的2020第五届中国金融科技安全大会顺利召开。网易易盾CTO朱浩齐以《数字内容风控如何保障金融线上业务增长》为主题进行了分享。

疫情下的机会与挑战

2020年,突如其来的新冠病毒疫情,使得实体行业遭受到了巨大的冲击。对于金融行业来说,疫情对“无接触”式服务的要求,极大的推动了各种线上服务的发展,银行App是其中非常重要的一环。

在银行数字化转型的过程中,App成为了银行工作人员和用户之间新的柜台,7×24小时在线。用户从App中获得最新的业务消息,银行通过App进行获客、办理业务。

据统计,上半年银行业务承压的同时,手机银行方面无论是客户数量还是客户活跃度都获得了一定的增长,很多金融业务从线下搬到线上。

朱浩齐表示,业务的线上化加大了信息的覆盖层面和传播力度,借助用户的社交网络开展营销、体验、提供多种目的的金融服务一定是未来的趋势,这将给金融机构带来新的机会。

在金融机构线上内容展现形式越来越丰富,内容展现场景越来越丰富的同时,新的挑战也来临了。朱浩齐表示,内容要丰富,内容要有趣,同时内容会存在监管风险,比如说色情、暴恐、诈骗之类。

当前,国家高度重视内容监管,一方面,法规要求多且趋于完善,另一方面,内容监管专项治理活动长期开展,内容监管已经常态化。这对以银行App为代表的新兴内容平台提出了更高的管理要求。

网易易盾解决方案

目前,内容安全领域的黑灰产对抗非常激烈。对抗已经转变为打“擦边球”的形式。举例而言,账号头像换成比较性感,但不属于色情的图片;发表的内容多是正常的评论,但个人头像里都是隐晦的色情引流信息,以此来增强对抗性。

网易易盾内容安全技术覆盖文本、图片、音频、视频四种形态,能智能识别过滤涉黄、涉政、暴恐、广告等十几大类上千小类的有害内容。朱浩齐表示,内容生态的治理不仅是对内容进行处理,还需要纵深的检测防御体系进行辅助。

核心技术分析

深耕安全领域22年,网易沉淀了非常多的经验,无论是对于安全规则的理解,还是信息安全相关的技术研发。网易易盾致力于用“硬核”技术来对网络空间进行监控,判断,甚至自主判断,辅助我们进行实时、准确、有效地治理。

针对真实场景下垃圾率情况分析,网易易盾提出了多模型融合分层计算的方法。在保证召回率的同时,节约90%的计算量。

基于对有害内容特征的深刻洞察,配合多层级的内容风控模型,易盾的内容安全解决方案能够在保证精确度的前提下,将目标检测、特征检索、内容分类等一系列内容处理周期从数周缩短到2~3天。

朱浩齐表示,针对强对抗环节,网易易盾推出了全链路内容风控体系。该体系在文字、图片、音频、视频内容检测引擎的基础上,融入了反作弊风控引擎和7×24小时策略运营管家服务,在智能内容检测引擎精准确识别违规内容前提下,通过多维度用户行为检测,全面掌控每个可能影响内容风控的环节,从而降低内容安全风险。

全链路内容风控体系是易盾从源头进行内容安全治理的具体体现,贯穿了用户全生命周期的纵深防御体系——从账号注册、登录、用户行为、内容发布以及登出。其背后,运用了多个技术对用户进行画像分析,包括人机识别、风险名单、IP画像、设备模型、行为模型、业务模型、关联分析和规则系统等。


展开全文
相关阅读
资讯查询取消