腾龙公司开户单条发布的本钱低至1厘,一人可控制6000部手机,应对热点新闻,48小时炮制并发布4000多条有害信息……这是“AI水军”的战绩。
本年春节档,电影《蛟龙行动》堕入排片困境、影片遭受水军歹意打低分等论题引发网友热议,艺人、导演等被进犯,终究官宣撤档。2023年春节档上映的电影《无名
》首映还没开端,在某交际途径就已出现漫山遍野的低分点评。本年2月,小红书办理团队发布,3个月内共处置黑灰产账号超越100万个。这些事件背后都有网络水军的影子
,他们假装成普通网民或顾客,经过发布、谈论等对正常用户的观念和决策产生影响。
记者查询发现,曾经以真人为主的网络水军,正凭借AI大模型进化。网上浮现出一条环绕AI水军的产业链,有触及绕开实名制批量注册账号和供给各类技能服务的上游,
有供给防封养号的中游以及多种形式变现的下流。当AI生成的很多虚假内容和定见占据流量,我们是否也会逐步失去辨认实在国际的才能?
AI水军更具煽动性
春节假期,曾在人气艺人作业室任职的杨冰看了热映电影。因作业习惯,她在观影后会阅览票务网站的谈论,看到谈论区里,用户对电影《射雕英雄传:侠之大者》打出
1分,理由是电影非纯汉语配音。杨冰觉得古怪,一般人会以为电影中的方言使观众有沉溺感。更何况,途径显现,这位用户未曾购票。此番点评,更像是AI大模型了解到电影
中有方言元素而生成的。
谈论区还有一则差评是关于电影《哪吒2》,写到“教材”等和电影根本无关的内容。在杨冰看来,这可能是由于片中有主人公经过师门查核的剧情,算法对此做了解读,
仿制了其他电影谈论区里的内容组成而来。“并不是不能批判电影,而是他们乃至连电影都没看过。”依据作业阅历,她笃定这些电影的谈论区充斥着水军。
在杨冰看来,请水军算是业界公开的隐秘。杨冰在艺人作业室任职,会和水军打交道。请水军的可能是资方,也可能是粉丝行为。水军发布的内容只为达到雇主的意图,或
制作声浪,或进犯对手。跟着近年来AI大模型的发展,这个曾以真人为主的集体引入AI,战斗力猛然晋级。此前,杨冰的甲方计划拍照一部电影,选角时在两名艺人间犹豫。杨
冰联系了水军,请他们发布帖子放出风声。数小时内,由AI生成的策划案和案牍迅速完结,论题很快发酵,引发双方粉丝的骂战。杨冰觉得,AI水军更易假装成路人,AI生成的
帖子、谈论乃至比一些真人写的更具煽动性。
“水军频道”非常活泼
腾龙公司官网杨冰透露,网络水军有一条介于灰产和黑产之间的产业链,冒头就被打,却又“野火烧不尽”。她介绍,作业室以往凭运营执照向通讯运营商购买企业卡,养
300个左右的途径账号。为了缩减本钱,项目方会招募社会化程度低或圈子小的学生等兼职人员来养号,经过真人运用、互相重视点赞来维持账号的活泼度。到了项目推行期,
这些账号会发布相应的推行内容。不过,这套作业流程的缺点除了声量小、团队臃肿外,还简略泄密,职业界不乏一场场营销策划被泄露的先例。为规避风险,也有资方会挑
选网购水军服务来制作声浪。
记者在某即时通讯软件中名为“水军频道”的讨论组中看到,频道里活泼着370多人,使命主、中介和水军都会在频道内发布需求,有派活的,有讨活的。他们保持着松
散的合作联系,形成众包、分包的上下流模式。自称“散人”的水军几乎人手具有多部手机、数十个交际媒体账号。使命主一般会招募大批“散人”来完结使命。“散人”领
取发帖、控评等使命后,会把发布内容在各大交际途径铺开,接着反应截图和传达效果来“领赏”,一般每条谈论有1元至1.5元的报酬,若账号有必定粉丝量或谈论被认定为“
优质”,还能获得额外酬劳。如果碰到“压热度”“删帖”等紧急状况,价格更高。
跟着AI大模型发展引发重视,杨冰几次与水军的接触中都能感遭到,“真人水军正渐渐向AI水军进化”。
互联网安全服务公司“极验”是一家为NIKE、Airbnb等全球36万家网站和App供给互联网安全服务的公司,首要供给行为验证、设备标识、一键认证等产品。该公司市场
部负责人叶幸介绍,公司与黑产已有12年的对立经历,一年为客户拦截AI水军进犯累计21.7亿次。AI水军凭借人工智能技能生成AI与自动化脚本,在互联网上批量生成内容,
蓄意控制言论走向。与传统真人水军相比,AI水军的危害性更大,其本钱低但效率高,可全天候多使命操作。
依据线索,记者顺藤摸瓜“走”进这条正在晋级的水军产业链。相较曩昔,这条产业链细分成上、中、下流三层。AI水军产业链的上游是指环绕打破实名制、以底层技能开
发完结改机和批量注册的囤号环节;中游是运用网络搭建和集控体系来养号、逃避运营商和途径对账号是否为正常用户的管控;下流则经过买卖账号、引流、刷榜、带节奏等方
法变现。AI在这条产业链中的作用是贯穿一直的,在上游可辅佐技能人员优化代码、技能,在中游可大批量生成不同需求的内容,在下流能为水军生成策划方案。由于有了AI大
模型的强壮才能,黑灰产人员才有了单人或几个人就能安排一支AI水军的想象空间。
不少人铤而走险囤号
国内通讯运营商作业人员告知记者,国内通讯运营商推出“一证五户、一证十号”的方针,即用户在单一运营商下处理手机号卡数量最多不超越5张,在所有运营商下处
手机号卡的总数最多不超越10张。也便是说,即便叠加一些运用允许多账号注册的途径规矩,单个用户的账号注册数量也有上限。而黑灰产人员要组建有规模的水军部队,就
先要打破方针约束,让自己的手头上有成百上千能够发声的账号。
腾龙公司网址囤号是产业链里要害一步。供给账号注册服务的卖家小黄说,囤号流程大致是,先贱价回收或租借手机,经过改机软件修正手机机型等参数来假装设备。在
他们的作业室里,一台台手机被平铺成一面墙的样子。此外,也可布置办理大批量实体或虚拟电话卡的“池子”,在电脑上控制手机,经过接收验证码的“接码”环节完结批
量注册。技能、设备、服务,囤号依流程上的不同节点被拆分成数个子项目,卖家会给这些项目披上比如跨境电商创业、无人直播带货等新业态的外衣,让人乍看不会觉得这
类项目越过法律底线,让他们得以在二手交易途径上被找到。而在相关产品详情页下方,有卖家以“sm(实名)”“接码”等圈内黑话留言,引导买家到微信、QQ等站外交际途径交流交易,完结整套流程。
在小黄口中,没有经过实名制认证和运用过的账声称“白号”。抢手交际途径的白号价格为每个15元至20元。经过实名制认证的账号则是这个圈子里的奇货。由于不少途径设定用户必须完结实名制认证,才能完整运用途径功能。当记者提出想要已完结实名制认证的账号时,小黄以不了解记者意图为由推脱。但在承认记者购买意图不是为了欺诈后,小黄又表明能够转卖“朋友”的账号。经过实名制认证的账号价格为每个140元至160元,售后服务包含保证账号3日内不被途径封禁。
记者了解到,为了完结“AI水军团”,不少人铤而走险囤号、打破实名制。叶幸表明,他们在查询中发现,黑灰产会经过暗网、国外即时通讯软件电报等方法不合法购买部
分公民隐私信息,再借此批量注册,绕过“本人身份承认”。
整个黑产年利润可观
有了必定数量的账号,黑灰产从事者就进入养号环节。简略来说,养号便是让一个账号看起来像真人在运用。杨冰以为,在这个环节,AI的用途很大。以往,养号费时费力
,这也是市面上对水军的需求大于供给的原因之一。但是,在2019年春节后,供需联系发生变化。以往挑活干的水军安排自动找到杨冰,咨询有无下单意愿,并给出约为过往
价1折的价格。
AI从业人员揣摩,能和“骨折价”扯得上联系的只要一件事——2018年6月,GPT1.0发布。经过阅览理解,GPT能生成具有逻辑性和连贯性的自然言语文本,并翻译成
另外一种言语。
AI在自然言语处理范畴有了新进展。杨冰发现,原本需求几名兼职人员苦想许久的1000条谈论或动态内容,AI只需几分钟就能高质量完结。AI还有了写代码的才能。一
个具有根本编程才能的人能够让AI生成代码控制爬虫软件,在交际、电商途径等谈论区内采集实在用户发布的动态、谈论回复,直接运用或以此训练AI模型。
叶幸介绍,在与黑产对立的过程中,曾发现黑产定向抓取产品点评。以化妆品产品为例,水军选取点赞数量靠前的谈论,提取出“冷白皮”“持妆不卡粉”“yyds(永远
的神)”等词,总结出“心情词+场景描述+效果感叹”的谈论结构化模板,批量生成高质量谈论和“种草”文章。“原来雇人发100篇帖文的钱现在能生成10万条谈论。”
腾龙公司客服记者尝试运用当下抢手的AI大模型,在提示词中规则谈论结构,要求生成100条夸奖记者虚拟出的一部电影的观后感和谈论。10多秒后,这款大模型就供给
了很多高质量谈论。令人些许安慰的是,该AI大模型表明,“为保护安全鸿沟,此处仅展现部分示例,完整内容需脱敏处理后供给”,故而只显现出10条谈论内容。也有令人
担忧的地方,当记者将AI生成的内容夹杂着真人写的内容一同展现给网友阅览时,部分人表明很难辨别。杨冰表明,如果运用一些开源的模型,并布置到本地,再在提示词上
下点功夫,迷惑性就更强了。
在产业链最下流的变现层,AI水军依据雇主需求在短时间内完结发布各类内容或许点赞、谈论的作业。“这些都是网络水军最直接的变现方法。”此外,引流、博眼球、
造谣、“薅羊毛”、欺诈都归于水军变现的途径。据报道,2024年,南昌警方在查办的一同传达谣言虚拟事实打乱公共秩序案中发现,不法分子经过AI软件生成内容的方法
,短时间内生成了很多文章,最高峰一天能生成4000篇至7000篇,开始预算每天的收入在1万元以上。
叶幸告知记者,以水军其间一个事务“刷量”为例,开发改机软件、AI话术生成器的利润率为60%,倒卖电话卡、账号和动态IP的利润率为35%,控制群控设备完结点
赞、弹幕等使命的利润率约为15%。资金经过中介抽成、虚拟钱银洗钱终究满意某些MCN机构造假需求,助推主播签约费暴涨6倍,而单作业室3个月即可完结250%左右的
投资回报率。纵观整个黑产,年利润或超200亿元。
加强AI办理,使其向善
为了办理这类黑灰产,相关部分、各大途径、企业可谓煞费苦心。2024年以来,网信部分继续加大对网络水军冲击力度,严肃查办网络水军安排招募、推行引流、刷量
控评等问题,协调封闭、下架网站途径400余家,整理违法违规信息482万条,处置账号和商家店铺239万个、群组5.2万个。2月18日,交际途径小红书经过其官方账号“薯
管家”发布黑灰产团伙的典型行为,提示用户提高辨别力。曩昔三个月,办理团队共处置黑灰产养号超越100万个。
车企蔚来作业人员表明,企业曾见过疑似AI改写同一内容、相同配图很多水军账号分发,来抹黑企业的状况。本年2月8日,蔚来创始人李斌在直播间“策反水军”,表明
将对自动供给线索的水军供给奖励。第二天,蔚来法务部发布的一则“赏格公告”显现,蔚来将供给100万元赏格,面向全社会征集黑公关线索。
北京师范大学新闻传达学院、计算传达学研究中心教授许小可介绍,前期,关于真人水军、AI水军的辨认相对简略。黑灰产人员常在一个荫蔽场所内作业,相关的IP地址
等信息不会变化,而正常用户每天有各种活动,手机显现出不同的IP、地理位置等。一些监控软件、途径能够使用这个细节辨别并封禁存疑的账号。此外,传统网络水军需投
入很多人力,只需求查看发帖用户包含年纪、性别、好友等各项特点,再看一下该用户的发帖内容优劣和论题的相关度,再辅以部分途径的验证机制,根本能判定是正常用户
仍是疑似水军。但是在当下,单靠这套辨认方法很难再精准冲击。AI水军可经过算法批量生成案牍,还能模拟实在用户的行为。
很多人感叹,现在已越来越难辨认同在一个场域的网友是真人仍是AI。叶幸介绍,依据极验数据和多职业服务经历,电商、交际、金融三职业的AI水军渗透率可能在30
%到40%。
叶幸指出,当下和黑产之间对立,本质上都是本钱博弈,需求不断让黑产的投入产出比失衡。选用的方法仍是从技能、策略和资源耗费多维度下手,比如经过增加进犯
难度、延伸破解时间、耗费硬件资源等。
腾龙公司开户加强AI办理,使其向上向善,一直是主管部分尽力的方向。近来,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工
智能生成组成内容标识方法》,自2025年9月1日起施行。方法明确人工智能生成组成内容标识首要包含显式标识和隐式标识两种形式,并要求人工智能生成组成内容必须
增加标识。