【论文】基于开源情报对网络社交媒体中域外势力操纵账号的挖掘及管控对策研究

 

【摘要】：

[研究目的]网络社交媒体被政治势力用于发布虚假言论、煽动性言论、仇恨性言论,甚至是反政府言论,混淆公众视听,给国家安全带来严重威胁。因此,针对此问题亟需开展对域外政治势力操纵的社交媒体账号进行挖掘分析和治理管控方面的研究工作。

 

[研究方法]在世界各国政治势力利用网络社交媒体开展特定政治意图舆论宣传的背景下,进一步分析我国境内存在的域外势力实施的反政府舆论宣传的恶劣行为,深入剖析域外势力使用机器人操纵网络社交媒体,造成他国乱局的手段和方法。 

 

[研究结论] 提出利用大数据建模和人工智能技术对域外势力控制的可疑账号进行管控的方法。建议我国政府在总体安全观的指导下,对现有法律进行修订和完善,出台相关法律的实施细则,构建以政府为主导、多方共同参与的网络社交媒体管控体系,以维护国家安全。

 

关键词:网络社交媒体;域外势力;虚假宣传;政治机器人;社交账号

中图分类号:G354

 

引言

在当今信息技术时代,技术的发展改变了获取信息、表达观点或相互交流的方式。社交媒体的廉价、易用和受欢迎的特性使其成为一种强大的工具,但是其也被政治势力用来传播错误信息或者进行虚假宣传活动,通过使用算法、深度学习和人工智能等技术手段,扩大虚假信息在网络中的传播范围,提升传播速度,以实现政治战略和目标,影响大众思维,引导人们对事件的行为和观点。

 

社 交 媒 体, 如 博 客、 微 信、Twitter、Facebook、GooglePlus、Instagram 等,都是丰富的信息来源,由于全球有数十亿社交网络用户,通过提取与网络社交媒体相关的元数据,对账号注册信息、发帖时间、发帖地点、发帖设备以及转发、关注、点赞、回复、提及、超链接等社交网络信息进行综合分析,能够挖掘出重点账号以及幕后的操纵者。例如,近期在某些国家发生的游行示威,这些游行示威甚至逐渐最终发展为暴乱活动。仔细观察分析此类事件能够发现在多个国家和地区发生的示威场景都有着共同的特点:所有人员都有统一的服装,免费的防护用品和饮水、食品等,还有统一的手势和招牌动作。其实,这些都是复制的东欧、中亚颜色革命中的成熟经验。利用开源情报工具分析后还发现:这些参与游行示威的人,表面上看起来似乎是无组织的自由组合,但都离不开网络社交媒体和即时通讯工具,甚至是使用网络加密通讯工具进行联系与组织的,重点人员还参加了相关培训。

 

1.全球政治势力操纵网络社交媒体开展舆论宣传的现状

 

心理学研究专家模拟利用网络社交媒体开展虚假宣传的实验,实验结束后告知被测试人员:刚才的事件是假的,以便帮被测试者从错误印象中摆脱出来。但事实却显示,这点极难完成。被测试者一旦确立了一个认知,哪怕稍晚些时候就被证伪了,其影响仍会继续存在。这种现象是几种认知过程共同作用的结果,人类的思维倾向于把新的信息放在既有印象的背景中去理解。因此,即使把真相告诉了人们,但依旧抹不去既有印象。一些政府和非政府组织正是利用了人类思维定势的这个特点,使用人工智能技术操纵聊天机器人和聊天软件,广泛传播对其有利的视频、图片和文章,从而达到特定政治目的。

 

波兰内部安全机构人员 Krzysztof Tylutki 发表论文中就将网络社交媒体称为“另一种大规模杀伤性武器"。网络社交媒体不仅成为传播信息的有效路径,也成为各国政府和社会组织争相利用和争夺的舆论宣传阵地和思想意识战场。美国加利福尼亚州“未来研究所"就曾发表文章声称其发现七个国家政府在利用网络水军开展舆论宣传的证据和线索,报告称:“这些网络水军的活动几乎与现代互联网的规模和发展速度同步"。华盛顿大学的通讯教授Katy Pearce 说,他研究了 Facebook 在阿塞拜疆的使用情况,“人们有时会担心阿塞拜疆政府关闭 Facebook,但那是不会发生的,Facebook 恰恰是政府控制社会最有效的工具"。

 

Facebook 和 Twitter 等社交媒体似乎正在“努力"应对国家政府和其他组织对其平台上重要资源的利用。数以百万计的假帐户利用算法操纵用户可以看到的东西,而位置欺骗等技术可以使集中控制的帐户看起来像是位于不同地区的真人形成的网络舆论大军。世界各国正在利用互联网将信息技术作为权力整合和社会控制的手段,推动虚假信息操作,并且传播和宣传规模比以往更大。

 

为了应对 Twitter 和 Facebook 上发起的各类革命和社会运动,各国政府最初只能审查内容,阻止访问社交媒体、并且使用监控技术审查其公民。但事实证明,通过大量的虚假信息和匿名威胁来淹没平台反而更加“有效“,研究人员称之为“信息污染”战略,这是由网络社交媒体迅速传播的特性所导致的。牛津大学牛津因特网研究所的计算宣传项目研究了利用社交媒体操纵舆论的问题。分析了七个不同社交媒体平台上的数千万个帖子后发现计算宣传中有几个明显的全球趋势,比如:社交媒体是政治参与的重要平台,也是传播新闻内容的重要渠道;社交媒体平台是年轻人发展其政治身份的主要媒体;社交媒体被积极地用作操纵公众舆论的工具。

 

近年来,互联网界面临的问题常常被称为信息武器化。“混合战争“和“公开和持续的跨界冲突”等短语经常使用,世界经济论坛将错误信息列为社会面临的主要威胁。由于通信公司已经建立了信息高速公路基础设施,切断了传统的看门人(新闻媒体的编辑),不仅能传播轰动性的错误信息,而且可以不成比例地用于认可政治行为体。用于在线执行特定任务的算法驱动的计算机程序已经侵入了全世界的政治对话。机器人占据了近 50% 的在线流量,并且在最流行的社交媒体平台上占据了活跃用户的很大一部分。例如,在Twitter 上,约有 3000 万活跃账户由机器人驱动,它们模仿人类用户并产生大量信息。

 

2. 域外政治势力利用网络社交媒体在中国境内进行反政府舆论宣传的方法分析

 

2.1 政治势力利用虚假公司注册网络社交媒体账号在中国境内进行舆论宣传

 

政治势力除了使用域外twitter、facebook、telegram 等社交媒体在中国境内开展反政府宣传以外,中国境内网络社交媒体也被政治势力广泛利用,开展各种表面看是传播社会负面新闻,或者支持某些弱势群体,实则是搞乱人们思想、扰乱人们价值观、培养民众反政府情绪,最终达到反政府宣传的目的。

 

在开源情报分析工作中发现,在国内影响力非常高的某社交媒体平台也常常被政治势力利用。虽然,网络社交媒体公司利用人工智能技术对发帖内容开展了审核工作,一些明显的反政府言论,甚至涉恐涉爆、违反法律法规的文章可以被机器算法屏蔽或删除。但是,一些账号采用了关键词规避技术后仍然可以顺利通过审核,这些账号不断地围绕社会负面新闻热点,深挖和放大负面新闻,持续地灌输和煽动群众反政府的潜意识和情绪。比如 2020 年 7 月,笔者发现某社交媒体群里曾有人大量转发抨击社会的负面视频,以达到传播反政府思想的政治意图。经过分析后发现,这是一个在 2020 年 5 月 30 日新注册的某网络社交媒体账号,其使用“某某百货商行“工商信息注册账号“ ****”,该账号内几乎没有原创文章,都是转载的各类传递社会负面消息的视频。通过企查查等开源情报工具查询其工商注册信息,可知“某某百货商行”是 2020年 5 月 24 日新注册的公司,注册地址为“河南省某市某产业园 19 号”,除了有法人名字外,该公司登记注册信息中无电话、无邮箱、无网址、无产品服务、无实缴资本、无社保等其他任何信息。用该地址进一步检索发现,从 5 月 22 日到 26 日,短短 5 天时间,该地址上就注册了十多家同类型的百货商行,而且全部都是除了注册地址和法人名字外,无其他任何登记信息。

 

类似利用购买“皮包公司”的注册信息开设网络社交媒体账号的情况在境内社交媒体上比比皆是,比如笔者 2020 年 8 月发现一个网络社交媒体账号“某某趣事”使用的“皮包公司”注册地址为某小商品物流城*号楼*室,在同一地址上一个月就登记了 392 家同类型的“皮包公司”。这种利用工商注册信息开设网络社交媒体账号的手法,和电信网络诈骗团伙利用购买工商注册信息开设对公银行账户用于实施诈骗完全相同。

 

2.2 政治势力对我国开展舆论战的方法分析

 

某些少数国家长期存在着“中国是与他们对立的极权、专制、独裁、黑暗、邪恶的国度”的扭曲认知,对中国进行和平演变和“ 颜色革命”成为他们的终极目标。

 

某些国家除了按照传统运作模式,以动摇中国民众政治信念和制造不稳定因素为基本目标进行舆论宣传以外,还日益重视在全球范围内向其他国家及在国际组织层面大范围传播有关中国的负面报道,抵消中国在地区层级的正面影响,通过不断削弱和打压中国提升国际地位的努力,遏制中国实力的进一步壮大以及在国际社会中的影响力。

 

对上述两个案例分析后可知,政治势力操纵中国境内网络社交媒体已经有很成熟的套路,没有硝烟的舆论战随时随地都在进行着。首先,为了规避国内网络社交媒体账号需要实名注册的问题,域外政治势力通过灰黑产市场大量购买工商注册信息或者个人身份信息,再用买来的信息注册大量的社交媒体账号,有的是直接大量购买凭借他人信息注册的社交媒体账号,储备待用。其次,在需要利用热点新闻炒作某个事件时,政治势力通过网络水军团队或者政治机器人团队,操控这些买来的以及新注册的社交媒体账号,大量集中转发包含社会负面评价信息的文章、图像、视频。随着计算机建模能力、仿真能力和推演能力的增强,人工智能技术进步也将涉及政治、经济、社会、文化、军事、外交等领域,未来基于全域战、多域战的智能舆论战将会成为常态。舆论战行动和舆论战力量不仅将突破人类体力、脑力和智力的生理极限,克服人类容易疲劳、无法持久作战的弱点,并可以针对特定群体随时开展舆论博弈。

 

最后,域外政治势力再利用其运营和掌控的非常有影响力的大号或者政治势力所掌控的媒体和公知大V 转发这些文章、图像、视频或者消息,从而达到快速传播、扩大影响力,降低群众对于政府的信任,增加群众对政府和社会制度的不满,进而煽动群体性事件发生,甚至演变成街头暴力活动,造成社会动荡,逐渐实现向颜色革命演变的目的。

 

3.政治机器人在网络社交媒体虚假宣传中的应用

 

政治势力为了提高虚假信息的传播速度,快速提升社交媒体账号的影响力,利用人工智能技术研发政治机器人(团队) 代替真人操作。政治机器人是一个自动账户,被编程为像用户那样交互,特别是在社交媒体上机器人的运营商借助算法注册或者购买的形式掌控着大量社交媒体账号,凭借虚假的个人身份向尽可能多的目标群体传播具有特定目的的政治诉求,在短时间内引起广泛的具有较大影响力的社会舆论。出于传播虚假信息的目的,政治机器人可以用来推动某些政治事件的发展,传播带有放大或者误导性的消息和扭曲的政治言论。而且存在政治机器人被反复使用,散布虚假信息干预选举结果的情况,这表明存在可重复使用的政治机器人网络黑市。由于人们对虚假信息机器人的影响日益担忧,Twitter 在2018 年 5月至 6 月期间暂停了多达 7000 万个账户,为了打击虚假新闻,Facebook 在2018 年第一季度删除了 5.83 亿个虚假账户。专家预计,下一代机器人将使用自然语言处理,使其更难被识别为机器人。

 

3.1 网络社交媒体中政治机器人的分类

 

政治机器人是社交机器人的一种类型。社交机器人是在社交网络中扮演人的身份,拥有不同程度人格属性且与人进行互动的虚拟 AI 形象。其中,被政治势力操控并在社交媒体中广泛参与政治讨论的机器人程序,被称为“政治机器人”。在利用网络社交媒体的反政府宣传运动中,机器人与人类行为者一同参与了宣传工作,并且机器人在政治危机期间被作为强有力的宣传工具。政治机器人可以分为核心机器人和外围机器人两大类,核心机器人又被细分为三个类别:短命机器人,长期存在机器人和文章生成机器人。每类机器人的工作任务又有所不同,短命机器人主要用来大量转发其他账户的文章,却很少发布自己账户的推文,工作时间较短,一般持续 5 周左右的时间;长期存在机器人与短命机器人的不同是由于使用了规避网络监管的策略,账号在线持续时间较长,一般在数十周以上,然后才被暂停了账号;文章生成机器人主要用来生成并发送推文,但很少转发其他账号的文章。外围机器人是指参与传播过程的机器账户,他们的任务是转发核心机器人生成的一条或多条推文。

 

3.2网络社交媒体中政治机器人的行为策略 

 

政治机器人在社交媒体中参与讨论现实政治话题,发表虚假信息和言论,影响社会网络舆论环境。由于政治势力的政治意图不同,机器人的行为策略也不尽相同。因此,可以通过机器人的行为表现,分析其背后政治势力的行动目的。政治机器人的行为策略主要有以下四种:

 

a. 制造虚假人气。政治机器人冒充为政治领袖的支持者,营造粉丝数和点赞数飙升的假象,表面上制造政治人物在社交媒体上广受欢迎的情景,这是政治机器人的一项基本行为策略。

b. 推送大量政治消息。在西方国家常被用于大选和化解政治危机,机器人向潜在选民推送政治新闻资讯,鼓励用户将支持候选人的信息转发给好友并完成

投票。

c. 传播虚假或垃圾政治信息。政治机器人扩散大量垃圾信息或虚假信息,对敏感的政治话题大肆夸张传播,煽动线上网民和线下群众参与其中。同时,也发布大量无关政治的垃圾信息以持续提升人气,吸引更多的人群关注。

d. 制造烟雾,混淆视听。魔术师在表演时会使用的一种技巧,让观众在观看表演魔术时看向别处。政治机器人也会在网络社交媒体上使用类似的策略,发布无关新闻,但这些垃圾新闻信息是与特定的政治话题标签绑定的,通过发布大量替代性的垃圾话题标签来扼杀和掩盖现实讨论,从而模糊舆论空间,干扰政治讨论。

 

4.域外势力利用政治机器人开展反政府舆论宣传的实施路径分析

 

4.1 域外势力利用政治机器人干扰国家政治生态环境 

 

从全球范围来看,政治机器人主要被用在的在政治选举、社会动员、政治干扰三种应用场景中。使用政治机器人可以将政治信息在短时间内大范围进行广泛传播,对民众的政治参与意愿也有一定的促进意义。同时,政治机器人对网络舆论的干预也会影响公众正常的舆论表达。域外政治势力通过利用政治机器人模仿人类用户以混淆舆论视听,对公民信息进行自动化抓取和分析,操纵公共舆论,扰乱正常的组织信息交流。域外势力通过将具有社交属性、看似没有宏大叙事、 “人畜无害”的符号或图案作为自己的标签,在社交媒体上利用话题标签带节奏,建立有利于政治势力特定政治意图传播的标签,污染别人的标签、甚至改写热门标签的成分,这其实跟当年的“郁金香”一样,是发动颜色革命的新形态。

 

 

4.2 利用开源情报大数据挖掘技术对某政治势力操纵政治机器人账号行为进行识别与判断 

 

近年来,在某些国家和地区的政治乱局中,某政治势力利用网络社交媒体平台发布大量虚假信息,编造政治事件,抹黑、造谣以扰乱他国国内政局和邻国间相互的政治交往关系,对他国国内民众政治舆论造成误导,制造国家间紧张态势。通过查阅相关新闻、网站、百科等信息,利用开源情报收集整理了与该政治势力有关的6个相关重点话题,并且对相关话题通过基于开源情报大数据挖掘技术的网络社交媒体分析系统进行处理和关联分析,深层次洞察和研判事件发展的时间脉络,进而挖掘出在相关事件中处于关键传播节点的数十个Twitter 账号,再对这些账号进行逐一细化和分析,最终分析出这些网络媒体账号之间的关系。通过对关键的 26 个个人推特账号和 47 个组织推特账号进行追踪和梳理分析后,能够得出以下结论:

 

a. 该政治势力进行反政府舆论宣传是提前经过周密策划的。根据开源情报分析发现:某重点关注账号是 2020 年 1 月注册的,直到 4 月才发布第 1 条推文,即账号注册时间比启动该账号发布虚假信息推文的时间要早 3 个月,这一特征充分表明政治势力是早有预谋和计划的,在相关话题事件发酵前就已经提前注册和话题密切相关的社交网络账号。进一步分析发现,转发该账号推文最多的是一些经常发布反政府言论的个人和非政府组织甚至是某些极端思想政治组织和人物的活跃账号,可见各种政治势力间是有着频繁且密切的联系,甚至还得到某些域外政府的支持。

 

b. 域外政治势力统一操控网络社交媒体账号。根据开源情报分析还发现:某重点话题页面于 2020 年 4月创建,其中包含大量反政府言论,负责管理此页面的人员和评论者都与反政府组织有关。域外势力统一操控网络社交媒体账号的步骤和方法是:首先,按照预谋计划在关键时间节点由某一个网络社交媒体账号率先发帖,编造虚假信息,假借正义之名,号召成立政治运动同盟组织;然后,政治势力中的另一个账号表示积极响应,给予支持并且大量转发推文来扩大宣传;接下来,随着同盟组织的影响力不断提升,吸引更多不明真相的账号加入并且大量转发推文;最终,发展成为网络社交媒体反政府同盟组织。通过对参加同盟组织的网络社交媒体账号注册时间和发帖内容进行深度分析后,发现其网络行为具有明显的规律性和一致性,因此可以得出该同盟组织的网络行为是有组织、有计划的,背后是有域外组织统一操控的。

 

c. 域外势力使用了大量政治机器人账号用于虚假政治舆论宣传。通过对推特上大量账号和发帖进行机器自动扫描,发现如下与该域外政治势力有关的重点账号符合政治机器人特征:

 

重点账号一:该账号的推文原创的较少,仅有大量转推和引用其他用户的帖子,且无回复互动,判断该账号是机器人。

重点账号二:该账号于 2019 年 9 月注册,注册地址在孟加拉国,实际关注和转发某国反政府虚假宣传相关文章较多。并且发现与其关系密切的数个注册时间相同,为了吸引粉丝而选择转发T 恤主题的账号。这些账号发帖时间过于均衡,发帖都是通过网页客户端发送,判断为域外势力操纵的政治机器人可能性较大。

重点账号三:该账号的推文全部是网页端发送,点击该帐户的“ 推文和回复"栏并向下滚动最新的300条帖子,发现该账号缺少互动,只是发帖,从来不与其他账号互动,没有任何内容回复,判断是政治机器人操纵。

重点账号四:该账号仅白天发帖,其发帖时间均匀分布,主要是网页发送推文且无回复,符合使用自动化程序控制发帖特征,判断是政治机器人操纵。

重点账号五:该账号使用多个国家的多语种发布推文,其发帖时间非常固定,具有明显的规律性时间特征,推文内容包含较高频率的URL,并且无回复,判断是政治机器人操纵。

重点账号六:该账号于 2008 年 5 月注册,2020 年6 月 26 日后开始发推文,很明显是新启用的僵尸账号。并且此账号发推时间较集中,平均每天发帖数量过多,是政治机器人操纵可能性较大,且通过推文内容判断与域外势力关系密切。

重点账号七:该账号于 2014 年 1 月注册,2020 年才开始启用,且每天的发帖数量在1000 条以上,几乎等于 24 小时不休息,每分钟都在发帖,完全不符合人类行为特征。因此判断该账号为政治机器人操纵。

重点账号八:该账号于 2009 年 2 月注册,仅 2016年 1-2 月和 2019 年 8 月以后发推文,存在与其他多个账号集中同时发布相同或者相似推文内容的情况。因此,判断该账号是新启用的僵尸账号且为政治机器人操纵。

 

通过对与该域外势力相关联的其他账号进行全面分析研究后发现:很多账号都具有明显的政治机器人操纵特征。比如,有的账号转推和点赞很有规律;有的账号会用多种语言发送推文,甚至包含人类用户通常不会发布的字符;有的账号没有头像、冒用他人头像或者使用卡通、风景、名人头像,具有匿名化特征;还有的账号使用的 ID(就是带@ 的那个名字)是由算法生成的数字字母组合等等。

 

4.3域外势力利用网络社交媒体进行反政府宣传的操控方法和路径

 

通过对上述推特账号,特别是八个重点账号进行分析后,可以得出政治势力利用网络社交媒体进行反政府宣传的操控方法和路径。域外政治势力通过网络社交媒体平台将各国“民主运动人员”组群,利用政治机器人等科技手段,采用团队操控注册新的网络社交媒体账号和启用历史僵尸账号的方式,大量发送反政府内容的虚假造谣网帖,并通过其掌控的新闻媒体及有影响力的个人账号进行大量转发,从而在互联网上快速传播,达到特定政治目的。

 

域外政治势力还妄图利用互联网和青年亚文化开展分裂民众、颠覆政权的线上和线下活动,对青少年造成恶劣影响,进而危害我国的文化安全、意识形态安全,乃至国家安全。其实施反政府舆论宣传的路径主要体现在以下四个方面:

 

a. 域外势力选取青少年普遍感兴趣的饮食、漫画等作为切入点,进行大量“二次元”式卡通漫画风格的宣传创作,恶意迎合青少年群体的趣味和喜好。

b. 域外势力以符号化图案在社交媒体中晒图打卡,利用了当下众多青少年文化圈层的基本心理,设计大量海报和插画,以引诱大量不明真相的青少年关注并且参与到非法游行示威等政治活动中。

c. 域外势力利用全职专业摄影师,日夜捕捉堪比好莱坞大片式构图和光影的示威游行照片,美化暴力、破坏行为,进一步误导青少年。

d. 域外势力以跨媒介的方式,在动漫、游戏和网络歌曲、网络电台等青少年聚集的媒介形态中进行扩散,并附带支持同性恋等特殊圈层的青年亚文化议题,以障眼法的方式浑水摸鱼的同时进一步绑架舆论。

 

5.对域外势力利用网络社交媒体开展反政府舆论宣传的管控方法和对策

 

掌握了域外势力利用网络社交媒体进行反政府舆论宣传的操控方法和路径后,针对在我国境内存在的政治势力实施的危害我国国家安全的恶劣行径问题,提出管控方法和对策。我国政府要对政治势力操控的社交媒体账号加强管控,全面治理网络社交媒体平台中利用政治机器人传播反政府虚假舆论宣传的行为;利用大数据建模和人工智能等技术坚决遏制境内外各种政治势力的反政府宣传活动;构建政府主导、多方共同参与协作的多元共治的社交媒体治理新范式;通过立法强化对网络违法信息言论的法律监管,寻求“网络自由"和“法治监管"之间的动态平衡。

 

5.1 基于大数据建模技术建立关键信息数据库对域外势力操控的高危账号进行管控 

 

对域外势力操控高危账号的治理和管控可以通过建立关键信息数据库,应用数据碰撞、比对分析的方法,全面掌控政治势力操控的社交账号信息以及易被迷惑群体的社交账号信息,有针对性地开展治理管控和教育宣传工作。具体实施步骤是:

 

首先,要求国内网络社交媒体和应用软件建立平台举报功能,政府职能部门根据举报线索收集与政治势力反政府宣传相关的账号信息,并且对账号注册信息开展大数据建模分析,挖掘同类可疑账号,建立可疑网络社交媒体账号数据库。

其次,分析可疑网络社交媒体账号的人员注册信息及工商注册信息中的注册时间、注册地址、实缴注册资金、联系电话、网址、邮箱等重要内容,再利用大数据建模技术挖掘同类工商注册信息,形成高危工商注册数据库。这种方法和打击电信网络诈骗案件中针对涉案对公账户的数据建模分析模式基本相同,并且已有较成功的案例。

再次,利用可疑网络社交账号数据库和高危工商注册数据库开展数据交叉比对分析,形成高危网络社交数据库。同时,分析相关高危网络社交账号的资金流转、注册使用地址、关联设备、关系人员和关联社交账号等信息,挖掘背后的操纵势力,形成政治势力操控高危网络社交账号数据库。

最后,对关注和转发高危网络社交账号信息的社交账号进行分析比对,建立易被迷惑群体社交账号数据库。针对易被迷惑群体编辑和制作符合其思维和文化水平及其感兴趣的视频、图像、文章,有针对性开展正面宣传和思想教育宣传。

 

5.2 利用人工智能技术对网络社交媒体中的政治机器人进行治理

 

政治机器人是通过大量转发推文、参与话题进行广告发布或实现舆论影响的,主要体现形式是虚 假 信 息 的 传 播。美 国 达 特 茅 斯 学 院 学 者Subrahmanian 认为,社交机器人账户特征通常具有共性,主要表现在文本语法、文本语义、时间行为、用户资料和网络等特征。例如,对于僵尸机器人按照共性特征可以将其推文内容细分为新闻、意见、垃圾邮件或者钓鱼邮件、证词、对话、突发新闻、动员抵抗或者支持、动员援助、征求信息、信息提供、流行文化等 12 类,再根据这些特征就可以对僵尸机器人账号与人类账号进行区分和识别。网络社交媒体中对政治机器人的检测识别和治理管控工作主要包括两个方面:

 

一方面,运用人工智能和机器学习算法对共性特征集分析后,能够精准地对政治机器人进行有效识别,然后将机器人账号进行封禁或者从网络社交媒体平台中移除。同时,平台提供封禁账号的申诉功能,支持被移除账号提交恢复账号使用权的申请。基于社交图的检测法、人工众包检测法、基于活动特征的检测法是三类主要利用计算机学对机器人进行检测的方法,再结合网络取证和社会网络分析技术能够对政治机器人进行更加准确的识别。其中,基于活动特征检测法通过应用社交机器人探测分类器能够发现机器人和人类在网络社交媒体上发文内容以及行为上的差异,探测分类器主要由四个部分组成:熵组件用于检测用户推文的规律性和周期;机器学习组件用于检测垃圾推文等机器人常用发文类型;账户属性组件通过检查推文中的外部 URL 比率或检查发文设备(web、移动端或API)以帮助检测和判断机器人;决策生成器组件用来决定对被识别为机器人账户的管控行为。

 

另一方面,政府和社交媒体平台共同建立服务于平台治理的机器人管理员团队。但要注意的是,需要将管理员团队中的机器人账号列为白名单,以免被人工智能检测算法识别后误移除网络社交媒体平台。该团队定期向网络社交媒体账户群发平台管理规范和约束性措施具体实施办法等规章制度和相关宣传资料,保证媒体平台监督部门与社交账户的强交互性以及媒体平台发布信息及时有效的传递性;机器人管理员团队通过神经网络等机器自主学习方法,不断迭代对政治机器人账号的检测识别算法,同时持续积累不同亚文化群体的语言形成语料知识库,全面提高对虚假信息识别的准确度;机器人管理员团队还能够完成话题分类和内容验证,对社交网络平台实时监督,在发现平台中存在虚假信息传播时,可以以相互关注、转发、点赞和评论等群体性行为与政治势力操控的政治机器人形成对抗;由于机器人管理员团队具有群体性进化演变能力,因此可以培养团队核心领袖机器人,吸引大量真人粉丝与其建立相互信任的关系,在处理突发性事件时第一时间利用领袖机器人的影响力传递正能量信息,从而实现揭穿虚假事件,还原事件真相,引导网民理性立场和站位,提升应对舆情事件的能力。

 

5.3在总体国家安全观的指导下,构建政府、网络社交媒体平台和社会公众多元共治的社交媒体治理新范式

 

面对域外势力利用网络社交媒体进行舆论导向操控、干涉政治生态、危害国家安全的严峻态势,国家监管职能部门要在习总书记总体国家安全观的指导下,积极构建政府、网络媒体平台和社会民众共同参与、共同监督、共同治理网络社交媒体的新范式,同心协力应对网络社交媒体中各种威胁国家安全的问题。

 

政府相关监管职能部门要联合开展网络社交媒体领域的管控工作。在中共中央网络安全和信息化委员会办公室(简称:网信办) 的全面统筹下,明确和优化网络社交媒体政府各相关职能部门的工作职责,做到对网络社交媒体平台 24 小时全面监管,应用大数据可视化分析等科技手段对网络媒体平台上发布的信息进行持续性跟踪和分析,对网络举报线索要及时核查,定期对不良违法信息开展汇总和分析,对网络平台整改工作进行全过程督导。通过分析高危工商注册数据和高危网络社交账号数据,组织公安、工商、银监会、工信部等部门联合开展打击买卖个人信息、工商信息、账号信息的专项整治行动,铲除相关黑灰产业链,开展源头治理。政府各职能部门要组织相关企业共同研究注册登记流程中易被违法犯罪和政治势力利用的环节,改进和完善注册登记流程,尽量减少被其利用的可能,增加其使用成本。

 

强化行业自律,对网络社交媒体平台进行有效监管和有序治理。要加大对网络社交媒体平台提供者的监管力度,将国内运营的域外网络媒体社交平台全部纳入监管范畴,建立约束网络平台运营行为的统一行业规范和管理制度,明确划分网络平台提供者的管理职责和范围,建立行业自律制度。对于拥有用户规模较大的社交网络平台必须自行承担屏蔽、删除、清理平台上非法言论的法律责任,要定期公布平台用户举报情况和处理结果,对于违反法律规定的网络社交媒体平台责任单位要给予高额罚款。政府监管部门应该要求网络社交平台向用户提供 24 小时非法虚假内容的举报服务,并且建立接受举报后的处理制度,及时对举报线索中的违法言论进行核查和回应;网络社交平台要制定专人处理用户举报信息,对于严重危害国家安全、违法的言论内容必须在接到举报核查证实后立即删除,对于被认定为非法内容的发帖在核实后要进行屏蔽、删除和断链接等处理;网络社交平台对举报线索的内容、核查情况、处理时间、处理结果等工作情况要定期上报政府相关职能部门,形成政府监督和行业自治相结合的良性互动机制。

 

总体国家安全观中指出要切实增强全民国家安全意识,把法治贯穿于维护国家安全的全过程各环节。这就要求社会公众平时要多关注国家的方针政策,要积极学习科普知识,要有能力分辨网络社交媒体中的虚假信息、反政府谣言和极端思想,要自觉提升抵御虚假信息和谣言的“自觉性”与“免疫力"。 社会公众在网络社交媒体中如果发现反政府言论、虚假信息等网络违法线索,要及时向网络平台和政府监督部门举报,充分发挥社会公众对网络社交媒体平台监督的主体意识,增强全民维护国家安全的使命感,形成全民参与、多方互动、共同监督的良好氛围。

 

5.4 我国要加强网络社交媒体方面的立法和法律监管

 

2016 年网信办相继出台了《互联网信息搜索服务管理规定》、《移动互联网应用程序信息服务管理规定》、《互联网直播服务管理规定》 等一系列规范性文件,分别对互联网信息搜索、互联网应用程序信息服务、互联网视频直播服务进行了规范,但这些立法对于互联网违法行为的规范,特别是对网络社交媒体平台中的危害国家安全、侵犯公民权益的后果和救济方式以及惩罚措施的相关规定内容还不够具体,迫切需要对其内容进行丰富和完善。《使用网络社交媒体“ 九不准"》中虽然明确禁止九种不当网络社交言论行为,但对于每种禁止行为的处罚标准和惩罚措施没有提及,而且仅是在社交媒体使用者层面进行了行为约束,对媒体提供者没有相关规定。

 

2017 年 6 月 1 日起施行的《中华人民共和国网络安全法》 ( 简称《 网络安全法》),旨在保障网络安全,维护网络空间主权和国家安全、社会公共利益,保护公民、法人和其他组织的合法权益,促进经济社会信息化健康发展。《网络安全法》虽然加强了互联网方面的立法,但仅是框架式的法律规范,缺少具体的实施细则。

 

2019 年 12 月发布的《网络信息内容生态治理规定》(简称《治理规定》)突出了网络信息内容生态治理主体的多元化,明确多元参与协同共治的治理模式,《治理规定》中明确网络信息内容生产者应当防范和抵制八类不良信息,不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。但是,《治理规定》的性质是部门规章,其适用受到诸多限制,使其更具倡导性、欠缺实践性,对发布者、使用者、发布平台和行业组织的约束力较弱。

 

因此,在新时代总体国家安全观的指导思想下,我国应当对《网络安全法》 等现有法律法规进行修订和完善,比如今年 1 月,国家网信办已经就《互联网信息服务管理办法(修订草案征求意见稿)》 公开征求意见。我国需要以现有基本法为基础,借鉴全球各国在互联网治理方面的立法优点,制定管控网络社交媒体平台方面专门法律。

 

比如,德国在《社交媒体管理法》立法过程中实行社交媒体网络信息的分类分级治理机制,再根据不同类型的危害程度规定了相应的处罚标准。德国将网络平台的信息主要划分为三大类:第一类属于诽谤、诋毁、新纳粹和暴力煽动的言论;第二类是明显的违反现行法律的言论;第三类是具有争议的言论。对于第一类言论,社交网络平台必须在 7 天内删除用户举报的非法内容;第二类言论,必须在举报后24 小时内删除或屏蔽;第三类言论,也必须在举报后 7日内做出处理。我国还要进一步对网络安全相关立法模式和法律规定的侧重点进行明确和细化,既要规范社会公众在网络社交媒体平台上的言行和法律责任,又要对平台提供者的监管职责和相关责任进行明确;既要使网络监管更加有效,又要保护合法言论。从而实现依法治网,以法律来约束网络平台的行为,切实维护网络空间正常的交流秩序,维护国家安全。

 

由于与互联网治理相关的行政机关结构框架错综复杂,很容易出现管理内容交叉的问题,导致各行政机关工作协调不够顺畅,规定的内容出现重复甚至冲突等现象。因此,需要通过立法的方式明确各相关行政机关的行政组织地位和法律地位。目前,我国对网络社交媒体领域进行管制的主要政府部门是网信办,虽然《网络安全法》对网信办的职能和职责有所规定,但是其行政组织法地位、管理事项及管辖范围仍不十分明确,所以应当在相关法律和行政法规中更加清楚的阐释网信办的管理范围以及和其他职能部门的关系,明确网络社交媒体领域监管主体,准确划分各监管部门的工作职责,调整政府监管框架,建立具有反馈机制和处理机制的统一行政组织监管体系,确保行政监管职能部门工作能够更加高效顺畅。

 

6 结语

 

网络社交媒体被一些国家、政客和政治势力所利用,通过操纵政治机器人,传播诱导性虚假信息,实现在政治范畴对公众意识形态的误导宣传,达到影响他国政治生态,扰乱甚至颠覆他国政局的险恶目的。境内网络社交媒体平台上也存在着大量用来传播、攻击或对抗中国政府的虚假信息,严重影响了我国的国家形象和国家安全。本文详细分析了域外势力利用网络社交平台和政治机器人进行反政府舆论宣传的方法和路径。为了应对我国国家安全方面存在的风险,从基于开源情报的大数据建模分析、人工智能技术、政府职能部门监督管理和出台相关法律实施细则等方面给出了有针对性的管控方法和对策。

 

参考文献(略）

 

文章来源：《情报杂志》网络首发论文 

作者：邵雷，石峰 

网络首发日期：  2021-11-05

引用格式：  邵雷，石峰．基于开源情报对网络社交媒体中域外势力操纵账号的挖掘及管控对策研究[J/OL]．情报杂志.

https://kns.cnki.net/kcms/detail/61.1167.g3.20211105.1103.016.html 

 

来源：丁爸 情报分析师的工具箱微信号