引流是所有网络诈骗的“前菜”，骗子们通过社交平台发布精打细磨的话术，将触手伸向普通用户，一步步使之成为受害者。诈骗团伙在社交平台上，批量注册账号和发布诈骗内容，犯罪成本低，防控难度大。
面对越演愈烈的网络欺诈问题，易盾携手多家社交媒体平台，从诈骗“话术”“设备”与“行为”中找出共性特征，全链路智能防控和治理。内容安全的任务是拦截讲故事、玩感情、追热点、引诱人的各类话术，与“用户风险分级治理”并行，进一步减少诈骗案件的发生率。
正所谓“道高一尺，魔高一丈”。今年，网络黑产也学聪明了，他们不仅想各种办法来躲避一些关键词的侦察，一些实例就是如下图所示这样，把“微信”改成“崴芯”。
如此种种，通过对文本中的违规内容进行变形变异，从而达到绕开模型识别检测的目的。
随着文字识别算法的进步，通过基于注意力的数据增强方法，在模型训练过程中对将来可能变形的文字进行提前预判，并生成多种变形后的内容对训练数据进行补充，同时在模型输入中增加拼音和字形方面的特征，从而让模型学习到变形文字的全局语义信息，避免过拟合于局部的特征词。
易盾NLP类人工智能算法系统在对抗中表现出优异性能，黑产的变种文本话术难逃自动化文本识别“法眼”，败下阵来。可惜黑产不到黄河心不死，还在持续对抗。易盾数据挖掘组从黑产行为相似性入手与之对抗，发现了另外三个黑产进化趋势。
一是，真人众包发布。“随着长期攻防对抗的升级，现在引流内容发布逐步转变为一种真人众包的行为，通过在线上发布兼职信息，邀请社会人员参与发布诈骗引流信息。”
通过机器人群控、自动化脚本工具发布引流脚本，达到短时间刷量、广撒网的目的。然而，自动化脚本已经在近年来被认定为典型的黑产行为，很快够被人工智能算法系统定位，导致平台上存在相似行为的账户被“连根拔起”，属于是拔出萝卜带出泥，对黑产工作冲击巨大。
以这种方式，黑产就不需要利用自身设备参与作恶，这些设备往往在此前作恶中，被标注为“违规风险”，再次行动将迅速被人工智能系统定位。同时，正常账户出来发布引流信息，给人工智能系统造成错觉，也使得安全方研究恶意账号行为共性的难度陡增，对定位真正的恶意用户非常不利。
二是，多模态内容引流。从前，文字是恶意引流信息的主要载体。为了躲避侦察，引流信息发生进化，企图在不同的内容类型之间进行随意切换。
“前几年，整体对抗更多体现为文本内容，而今年引流逐步由文字向图像转变，甚至是音视频。” 这就需要更多算法模型参与其中，增加图文音视的全方位人工智能算法训练，才能更精准定位出问题。然而这给我们带来的直接压力就是语义理解投入成本非常高。
三是，作案时间自然化。黑产逐渐从长时间持续作恶，演变为短时间作弊，突破人工智能模型在时间维度上的漏洞。
账号维度风险检测的优势在于从源头上控制内容风险，但由于需要一个行为数据累积的过程才足以让模型做出高精度识别，导致存在严重的滞后性，无法及时应对新用户的短时作恶行为。
实际工作中我们经常会遇到以下情况：针对专项问题治理的账号风控模型刚上线，拦截性能突出，线上问题迅速得到控制，但随着时间推移，黑产通过批量注册的行为，结合使用自动化工具，操纵多个新的平台账号，批量发布同质恶意信息。线上问题死灰复燃。
新用户的短时作恶行为，大批量注册完账号之后，在短短的几分钟内广撒网发布引流和诈骗信息，过去系统对账号的作恶观察以小时为主，就错过了这一部分突发行为。
为了应对如上种种全新挑战，易盾的人工智能对抗模型也进行了升级。
多维协同的用户风险意图识别
区别于传统风控基于“非正常人”特征来做风险识别的常规范式，真人众包的欺诈方式，其用户行为、画像属性、社交关系等特征往往比较离散，话术模式变化随机而频繁。欺诈者可能在某些数据维度上跟正常用户都没什么区别，而某些行为或话术和欺诈的关联度却很高，因此易盾数据挖掘将该风控问题抽象为用户风险意图识别任务。
数仓、特征、模型实时化升级
从数仓架构上做了时效性升级，通过 Hive 离线与 Flink 实时特征批流一体化技术，实现账号风险特征的批流合并及分类模型的在线实时推理，将异步检测时延由离线小时级提升到分钟级，从而对新用户短时刷量行为起到显著的拦截效果提升。
手机号/ IP 画像：前置资源风险识别
易盾通过统一的全域关系图谱框架融合了易盾域内外跨产品多源数据，并应用半监督图学习技术，自研推出了高精度的亿级手机号及 IP 画像库，应用于注册登录等新账号冷启动场景的前置风险对抗。
2022 年度战绩-内容安全
业务安全
突发攻防战，人脸验证被不明势力挑战
“刷脸”取代“验证码”成为时兴的验证方式。移动 APP 支持“刷脸登录”，进小区必须“刷脸解锁”，买东西可以“刷脸支付”…… “无感式”身份验证技术悄悄进入千家万户。
风险可能在风平浪静的瞬间一触即发。某热门社交平台突然受到恶意人脸攻击，被大量出现这种恶意攻击数据围困得水泄不通。
黑产团伙模拟人脸开展活体检测，凭借视频翻拍、PS 攻击、捏脸脚本等攻击手段企图打开社交平台的“大门”。这家平台采取相关努力，从限制用户 ID 到封禁 IP，一系列对抗操都不见效果，对这些攻击手段感到无助、束手无策，最终找到易盾调整策略与攻击者对抗。
受到攻击后，易盾优先切换全新的活体防御策略，效果依次增强。
首当其冲的是让人脸照再次经过“静默活体系统”的二次检测。开启新策略后，观察攻击数据有明显拦截，PS 人脸攻击数据基本能防御住，但仍旧有部分狡猾数据通过系统“法眼”。
易盾技术团体又尝试切换活体策略为“静默活体动作照”，即系统开始考察真人动作，更多攻击数据被拦截下来。此时问题并没有彻底解决，部分自动化脚本的视频翻拍太过真实，而骗过了系统的眼睛。为此，考察范围从1个动作上升至4个动作，拦截效果更好了，但仍存在个别数据通过的问题。
对此，易盾专门进行了紧急讨论。由于此前在“活体模型”研发上的准备充足，现有模型已可抵御黑产攻击。易盾立即测试了多个“活体模型”，并给客户紧急升级，快速实现新旧模型切换。升级后，类似攻击都遭到拦截，解决了客户的问题。
“技术上，用户反馈的问题不能很好得到解决时，我们将活体效果放在首位，实行双周会机制对于定期受到的攻击数据单独反馈分析。”易盾技术支持表示，他们作为一支长期备战部队存在，持续督促优化进度。
他们给客户建议，一是，日常看用户的异常数据，有利于在突发事件中掌握分析防御的主动性。二是，身份信息可以通过多维度校验，例如“活体检测+实人认证+人脸比对”组合形式，并做好前后端分离避免敏感信息泄漏，针对用户信息要求日趋严格。
这一年，业务遇到的攻击数据类型，包括人脸PS、纸张打印、屏幕翻拍、面具伪装等，易盾的活体识别服务对上述问题实现全面拦截。同时，得益于今年的技术升级，模型的泛化性得到有效提升，因此未来遇到未曾见过的攻击类型时，也将大概率拦截成功。截至目前，今年总计完成了 82844 次攻击对抗。
对于网络平台而言，恶意注册登录等同于利用虚假身份信息突破平台防线，是薅羊毛、刷单、广告灌水、恶意爬虫等欺诈行为的前奏，危害较大。
“刷脸”活体身份信息带入验证环节，虽然带来了前所未有的便利，但新型安全防攻击拦截注定是一场持久战。为用户创造了便利安全防攻击拦截注定是一场持久战，对这类恶意攻击易盾也做好了准备，从日常数据分析、人审数据、客户使用效果调研、算法模型和客户端模型等工作不断优化，时刻备战！
2022 年度战绩-业务安全
移动安全
作弊多样化，工作室“黑科技”有利可图
以 FPS 类游戏为例，外挂使用者通过锁头、透视等功能瞬间秒杀正常玩家，游戏还没开始就结束了。
一款外挂动辄能为制销者带来数十万元甚至更高的收益。2019 年，南京警方破获的一起案件中，一个游戏外挂团伙半年时间内就非法获利 5000 多万元。新闻报道只是冰山一角。
易盾移动安全专家指出，部分玩家为了追求一时快感，或是为了炫耀自身能力，使用甚至制作外挂。虽然我们无法避免这种行为的发生，但是我们一定要有对应的处理机制。
从正式上线的那一刻起，游戏就开始面临外挂的风险。以当年火爆全网的《传奇》为例，无数玩家彻夜沉迷于该游戏，从而也引起了一些不法分子的注意。当时，一个热门的外挂就是玩家使用变速齿轮，在游戏的各种环节中占尽优势。外挂也是该款游戏无人再玩的重要原因之一。
再说到近几年的热门游戏都有遇到过外挂的问题，从小游戏《羊了个羊》，到重度游戏《第五人格》，都难逃黑产的魔爪。“只不过随着现在游戏公司的安全意识也提升了，对外挂的重视程度也更高了，但是仍然无法避免外挂的存在。”
今年，一款策略经营类游戏找到易盾，原因是遭遇了黑灰产急如星火般的攻击。当时，技术团队通过运行多开环境方面进行针对性挖掘，和工作室团伙历经一个多月的持续对抗，最终帮助客户定位嫌疑团伙 10 个，累计管控工作室账号 256 万个。
黑产为了突破游戏的防护与封锁，在攻击中也引入了先进设备与技术。这一类黑产组织高效，被称为“打金工作室”。针对工作室团伙，对抗防御的难点丛生：一是易篡改，在即时对抗之后，工作室团伙会马上敏锐的调整各类设备参数，来躲避检测和打击；二是对抗手段单一，需要配合游戏方多种管控手段并行；三是易隐藏，实现工作室功能的一些外挂辅助可能会跨运行环境，出现难检测、无法检测的情况；四是运行环境复杂，工作室除了软件，甚至可以通过一些物理硬件实现同步行为等功能。
针对以上几点，技术组以工智能、机器学习等技术升级手段对专业游戏工作室进行了“降维打击”。易盾首次采用客户端的设备指纹和 IP 节点进行聚合对抗之后，发现这批初始号团伙的本地设备指纹出现了修改。
“他们将模拟器进行拷贝以后，再进行游戏安装，通过挂载 IP 代理，导致之前使用的 IP 节点变成了多地流窜的现象。”易盾移动安全技术组表示。
针对这个情况，技术人员将数据按照“账号”、“行为”、“IP”三个维度建模，进行攻击链归集模拟，最终将表面上无关联的流窜 IP 通过模型识别串联。
在这之后，他们将一些行为放到了模拟器之外，导致无法检测到异常软件，最终技术组通过AI对40多个维度数据进行重构训练，在 8 个风险模型下输出高风险团伙数据，帮助客户定位这批对抗团伙。
移动安全技术组今年上线了团伙检测功能，基于反外挂 SDK 的数据收集，通过 AI 训练多个数据聚合模型，截至当前，团伙检测累计定位工作室团伙超 8000 个，检测工作室群体账号 1029 万，沉淀工作室黑设备 18 万台。
黑产之下无完卵。如果游戏对外挂行为置之不理，劣币驱逐良币，在未来的某一天或将遭遇正常玩家流失的苦果。
2022 年度战绩-移动安全
故事到这儿还没结束，黑产们并不会死心，每一年绞尽脑汁突破安全技术的层层堵截，而安全技术工作者也在努力识别黑产的障眼法，打磨防控能力，整体防控水位一年更比一年高。
By 网易易盾
