多家券商接入网易易盾，一站式防范金融社交化下的内容风险

“金融+社交”是近年来兴起的一项创新举措，金融机构利用人际网络效应，在APP内上线形式多样的内容，让任何人都可以学习专业金融知识、获悉即时市场讯息、培养自我风险意识。各大银行、证券巨头正在竞相尝试与探索。华泰证券与中信证券分别在全国推广了人气APP：“涨乐财富通”与“信e投”。

证券经纪业务向“平台”转型的同时，首当其冲的改变是“风控合规管理”范畴扩大，数字内容风控成为大型证券公司长久运营的必备底层技术之一。传统编辑审核制已经无法满足快速的内容发布节奏。证券公司转向由应用程序接口（API）驱动、以云计算为基础的内容安全智能解决方案。

在金融投资移动终端中，UGC内容板块是数字内容风控的“台风眼”。易盾与多家国内头部券商机构合作，围绕社交和内容，检测包括“投教资讯”、“社区论坛”、“投顾客服”在内的业务板块，全面保障APP内容安全。

CASE 1

华泰证券 X 金融社区论坛

秉承着"合规是底线，风控是能力"的理念，华泰证券“涨乐财富通”引入了易盾文本检测、人工检测服务，一站式化解金融投教社区论坛内的评论风险。过去几年来，“涨乐财富通”在互动与交流场景中再无“后顾之忧”，月活用户数不断上涨，成功引爆金融社区“用户圈”。

01

金融科技时代

国民级券商转型APP

华泰证券创立于1991年，是一家中国领先的技术驱动型证券集团，为个人和机构客户提供专业、多元的证券金融服务。长期以来，华泰证券被视为行业的龙头，在业内率先进行领先的金融科技战略布局，并先后在上海，香港和伦敦的证券交易所上市，是国内第一批进入全球扩张的财富管理机构，在海内外积累了众多用户。

华泰证券从2014年起走上转型之路。近年来，以“涨乐财富通”APP为平台，华泰证券向客户提供全方位投资理财服务。用户在一个软件中可快速完成行情浏览、资讯阅读、股票买卖、交易数据分析等操作，免除炒股时多个软件切换的烦恼。

自APP上线以来，华泰证券通过支持UGC内容，给予其更多曝光位置，与PGC内容一道搭建了高质量内容营销体系，将销售获客渠道从线下拓展到线上，把咨询、交易、清算、售后等业务流程沉淀到平台上。数据显示，2020年6月，涨乐财富通内月度活跃用户数达到911万，7月突破1000万，刷新券商行业记录。

02

合规风控升级

烦恼来自社区论坛

在互联网浪潮的助推下，“涨乐财富通”用户涨势喜人，而以“用户”为中心的互动与交流则是喜忧参半，最核心的忧虑在于UGC内容失控，内容审核能力不足。

在APP中，用户参与度更高，包括上传头像、填写用户资料、发表文章、留下评论……一举一动可能带来风险。对华泰证券而言，UGC内容主要有两大风险：

第一，引流信息暗藏金融诈骗风险，投资者无辜“中招”，平台有责任防范于未然。近年来，以UGC内容为导火索金融诈骗事件时有发生。犯罪团伙在APP内发布评论或留言，引导投资用户进入微信、QQ等群聊中，以所谓成功案例引诱出资，套住钱财后快速离场。这些引流信息往往隐藏在用户评论、用户头像、用户资料等模块中，人工逐一排查和清理难度大。

第二，论坛评论夹杂着的色情、涉政、违禁、灌水、广告、谩骂等有害违规内容。一方面，无意义、无营养评价影响用户体验，另一方面，用户消极唱衰金融政策、政治历史导向不正确，随时触碰到监管“红线”，令平台防不胜防。

在业务转向、监管要求、平台责任的三重考量之下，在华泰证券内部形成共识的是：向信息化社区方向探索的过程中，华泰证券亟需加强内容安全治理，接入一套全面的数字内容审核系统，对社区论坛的评论进行快速审核，消化来自用户创作内容的多种风险。

03

由表及里

一站式自动巡检整个社区

在摸清具体内容风险之后，下一步是确定检测哪里？如何检测？

为了化解这些风险，网易易盾的产品经理深入了解华泰证券的社区内容生态体系以及内容风险传播路径，确定需要纳入日常监测的线上场景，量体裁衣地定制内容安全解决方案。

在使用场景方面，镶嵌在金融投教社区内的论坛是风险UGC内容的主要来源，自然也成为了此次内容风控的重点。此外，包括用户头像与个人信息在内的用户资料也有大概率露出。上述两大类风险内容是不可疏忽的薄弱环节。

在违规类型方面，对抗的轻重缓急和难度有所不同。借助于易盾“用户画像”“智能决策引擎”“语义模型”三位一体的智能检测能力，华泰证券可以非常方便地将色情、涉政、违禁、灌水、广告、谩骂等常规有害违规内容纳入即时巡检雷达中，精准触发并过滤。

此外，在内容文本对抗中，黑产一直在变，且犯罪成本很低，因此对抗手段不能“一刀切”，尤其是危害性较高、变化多端的诈骗信息、涉政类信息。易盾向华泰证券提供专属运营策略经理和特征学习技术员，高频化输出定制风控策略，不仅迭代持续变种的敏感词、策略规则与语义模型，不断随着诈骗信息、涉政信息的变化而调优，真正做到“魔高一尺，道高一丈”，而且跟踪黑产用户画像、用户关系和用户IP，形成高频违规用户名单，从根源阻截有害内容产生。

如果没有一个流程成熟、技术过关的合作伙伴，想要完全堵截APP内多个社交场景下的全种类的垃圾内容将是一项艰巨的工程。华泰证券通过API接入易盾自研的“内容检测机制”，一站式自动巡检社区内用户评论、用户资料、用户头像等高风险UGC板块，依据内容检测的轻重缓急，在控制整体成本的基础上有效解决客户问题。

04

对社区内容风险先知先觉

自2017年开始，易盾持续为华泰证券旗下的“涨乐财富通”提供文本检测、人工检测服务，实现社区论坛清朗有序的重要目标，助力国民级APP内上亿用户安全沟通。

近年来，网络黑产活动呈现团伙化，有害内容发布在春节、国庆等敏感时期更为集中。在此变化与考验之下，华泰证券在接入易盾的检测能力后，得以用更严厉手段出击：

第一，打击寄居在广告引流信息中的金融诈骗，有效抑制发案，保护每一位投资用户的权益；

第二，严禁谩骂、人身攻击、无意义灌水等不文明行为，维护社区秩序，实现金融社交化的战略转型。

在服务期间，网易易盾每周反馈定制舆情监测报告，每年输出客户专属服务报告，全景展示来自于新闻和社交媒体端热门话题的内容风险可能。从源头出发，易盾设定敏感关键词、策略规则组合、语义模型，针对敏感信息进行实时预警。

2020年，网易易盾助力华泰证券检测几百万条来自社区论坛内的数字内容，拦截有害数据数十万条。数据显示，有害数据删除率达12.01%。其中，最频发的内容风险依次为广告、灌水、谩骂。

CASE 2

中信证券 X 在线投顾客服系统

依托于理财APP "信e投"，中信证券推出了数字化驱动的投顾服务。投资用户可以随时在线和投资顾问聊天，而来自用户的有害违规内容频频出现在对话中，令线上投顾们苦不堪言。为此，中信证券接入易盾的文本检测，在对话中实时审核文字、图片，自动拦截谩骂、灌水等一系列有害违规内容，守护证券公司与投资者之间的"互动之门"。

01

入局新蓝海

券商投顾线上服务买方

中信证券是一家拥有26年历史的大型证券公司，专注于投资银行、经纪业务、证券交易和资产管理等领域。截至2019年底，中信证券资产管理业务受托管理资金总规模达1.39万亿元，连续11年稳居同业首位。

近年来，中信证券全面数字化转型，加码布局金融科技前沿领域，推出一站式全能交易平台"信e投”。来自总部与各级营业部的数千名投资顾问从线下来到线上，入驻至APP内的投顾社区，面向投资者提供一体化的投资策略咨询服务，以自己的方式发展投资用户。

以"信e投”为载体，各级投资顾问在投资社区向用户输出投顾组合、投顾报告、投顾直播、悬赏问答等内容，通过“信策略”“信专题”“信组合”“资产配置”“信日评”“信新闻”等拳头产品，让信息的传导和输出能够直达投资用户。如有疑问，投资用户可一键开启一对一投资咨询服务，解决了线下营业厅所存在的沟通即时性不佳和服务半径有限的问题。

在“投资社区”与“在线投顾客服系统”打通后，中信证券实现贯穿整个投资周期的伴随式服务。投资社区促进投资者之间的信息互享，而在线投资顾问系统带动了投资者与投资顾问之间的互动频率，进一步帮助中信证券驱动客户规模跃升。

02

金融社交新生态下

内容暗礁险滩

在线投资顾问系统既为投资者和投资顾问之间的交流探讨提供了便捷，也给中信证券带来了不少烦恼。有的客户一旦发现投资回报不理想，就直接用脏话骂投资顾问，也有的客户雇佣水军无意义灌水，试图扰乱投资顾问的工作节奏。为了让良性互动持续下去，建立并维护的探讨规则是关键。如何在投顾咨询对话中实时审核文字、图片，自动拦截谩骂、灌水等有害违规消息成了重中之重。

除了投顾客服的对话检测之外，社区论坛评论也是中信证券的内容风控中的一大重点。在社区论坛评论中混杂着色情、涉政、违禁、灌水、广告、谩骂等有害违规内容。这些违规评论的背后大概率是专业网络黑产，带来的风险不可小觑。一方面，一条评论中的违规广告隐藏着整个黑产“引流”产业链，致使平台用户成为“待宰羔羊”。上游黑产通过APP话术引流，针对炒股散户等高价值人群开展群推广，为下游诈骗团伙的资金收割做准备。另一方面，以色情、涉政、违禁为代表的有害违规内容或将致使平台陷入灾难性的监管风波和运营危机。

综上所述，通过“在线投顾客服系统”“线上社区论坛”这两大场景，中信证券得以更加贴近用户，打造市场领先的买方研究品牌，为客户资产配置提供专业支持。不过，金融社交化产生的问题也比较多，横梗在内的内容安全之困主要有三个：如何精准拦截平台诈骗广告引流，防止用户受骗？如何彻底清除灌水、谩骂等信息，保障平台各项内容栏目运营顺利开展？如何全面减少色情、涉政、违禁等常规违规内容，避免招致监管？

03

一站式智能API

守护有温度的投顾服务

对于拥有多元化内容生产线的证券集团而言，引入自有编辑团队对内容进行逐条审核将产生一笔不菲的费用，不仅下效率低，跟不上社交时代毫秒级的内容生产节奏，而且会错过隐藏较深的有害违规内容。

为了解决这些问题，中信证券引入网易易盾一站式数字内容快速审核服务，以应对平台运营侧、监管合规侧的多维度内容安全需求。

网易易盾与中信证券一起，基于最活跃的IM即时对话，绘制出了所有可能的内容问题，形成“敏感词”“策略规则”及“语义模型”层层关联的内容风控体系。在易盾精英运营和技术团队的助力下，层层内容风控要素被融入自动化拦截程序中，成为安装在APP中的内容安全的永动机，及时堵截即时咨询中的粗言秽语，在内容发布前毫秒级审核论坛评论文本中是否带有色情、涉政、违禁、灌水、广告、谩骂等有害违规内容。

在此基础上，网易易盾从用户维度出手，给频繁违规发言的用户打上标签，助力中信证券从源头遏制违规信息发出。整个过程中最主要的是，通过仔细研究违规案例，逐渐摸清问题用户背后的信息，包括内容发布方法、团伙特征、设备信息与手机号等，区分个人和团体犯案，分而治之。

在合作中，中信证券从强大的API中调取文本检测能力，人机结合的办法可快速审核IM即时对话和社区论坛评论，遏制住急剧上升的内容风险，为管理人员、投资顾问、销售客服打造干净清朗的对话空间，以更好地聆听来自投资者者的声音。

04

对数千条UGC内容进行实时管控

过去一年，易盾新增通用模型15个，实现模型迭代109次，新增印地语、菲律 宾语、法语等9种语言，新增细分违规内容45个，包含热点舆情、领导 人相关、英雄烈士等分类。

网易易盾每年帮助中信证券过检近千万条聊天记录与社区评论。在后台，过去30天的违规聊天记录、用户评论、用户情况一目了然，更加准确地还原APP内的内容风险，助力内容治理。

CLOSE

智能内容风控技术护航国民级券商APP

自成立之初，易盾就将“内容安全”列为发展战略之一，利用“人工智能”、“大数据”和“云计算”，通过SaaS模式来服务行业客户，从而在不同行业建立起示范效应，减轻数字经济时代企业的内容安全合规压力。

对于金融券商机构而言，产品、购买方式从线下搬到了线上，内容风控成为一项全新合规要求。从用户保护和监管合规角度出发，多家银行、券商APP均已适配内容安全保护机制。网易易盾内容安全解决方案服务了包括华泰证券、中信证券、招商证券、国金证券、方正证券在内的十多家证券领域的领军者。