Soul App发布二季度生态安全报告，AI反诈Agent识别准确率达93%以上
人工智能正在全面赋能互联网平台生态治理工作，能够有效提升内容识别效率、风险研判精准度，让平台治理更加精细化。但当下社交领域各类风险持续迭代，黑灰产批量作弊、杀猪盘诈骗、虚构人设、私聊诱导消费等行为隐蔽性持续增强，且形成完整传播链路，对平台风控工作提出更高标准。在此背景下，Soul App正式对外发布《2026年第二季度生态安全报告》，将AI技术全面落地反诈、违规账号清理、私聊管控、未成年人防护等各个环节，把风险识别范围从单一内容审核拓展至账号特征、互动行为、完整社交链路的综合研判。https://img2.danews.cc/upload/ajax/20260828/c26d50fdf04113ff8ea57a3f86714416.jpg针对黑灰产批量注册、高频发布、频繁变换内容的典型特征，Soul App升级批量作弊识别能力，把大量风险内容拦截在社区传播前。经过多轮策略优化，相关策略的风险内容处置率由上线初期的约30%提升至60%，大幅压缩黑灰产账号在平台内的存活周期。在诈骗专项治理板块，平台重点针对杀猪盘相关账号搭建专属AI Agent，区别于传统固定关键词审核模式，系统结合账号特征、互动行为、内容语义完成综合判定，相关Agent能力准确率已达到93%以上，实现高风险账号提前识别。二季度，Soul App同步推进假人设专项整治，累计处置假人设违规账号3万余个，识别并处理相关帖子8万余条，缓解虚假身份内容对真实社交体验造成的干扰。https://img2.danews.cc/upload/ajax/20260828/e3251f62f52f51b211c4d316962224df.jpg完成账号层面风控后，Soul App针对广场、群聊、私聊全场景搭建精细化治理规则，集中处置低俗擦边、有偿交友、言语攻击、外部违规引流等内容。报告数据显示，平台二季度通过机审直接拦截违规内容400万条，处置相关跟帖评论726万条，累计拉黑违规设备3723个，日均向2533名用户推送社区规范、文明表达提醒。对于低质低俗、恶意攻击、引流类信息，平台结合识别、审核、流量限制多重手段综合处置，日均处理相关低质内容超过13万条；针对虚假邀约诱导线下消费的消费托风险，平台上线自动化专项治理策略，累计处置相关风险账号约3.2万个，减少用户遭遇诱导消费的概率。私聊场景防护、AI图像识别、未成年人保护同步配套落地，Soul App重点优化女性用户私聊隔离机制，日均帮助用户隔绝网暴和频繁骚扰3099次，日均处置存在私聊不文明行为的用户1737个，日均引导用户文明发言19.9万次。平台搭建分层AI图像识别链路，识别AI人像、虚假场景、盗图内容后推送中性提示，识别流程在后台运行，不干扰用户正常发帖。未成年人保护新增发帖AI自动审核能力，平台主动识别未成年人的比例已超过99%，推动青少年防护从事后处置转向提前防范。https://img2.danews.cc/upload/ajax/20260828/eb08419fc0a1e8e6fcdf1b8277fae0fe.jpg除技术管控手段外，Soul App运营官方账号“风纪球长”开展常态化安全宣导，公示违规典型案例、科普社交礼仪与网络反诈知识，二季度相关内容累计触达用户47万人。未来Soul App会持续融合AI识别、人工复核、产品防护、用户教育，搭建覆盖内容、账号、设备、社交链路的全流程治理体系，兼顾社区安全与用户社交体验，打造真实友善的线上社交空间。
页:
[1]