拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

“呵呵、回去多读点书再来评论、你开心就好……”曾几何时,网络成了不少人“戴着面具”肆意发泄负面情绪的地方。

在社交平台上跟他人交流时,也常被直白的人身攻击,或是看似“友善”但实则“阴阳怪气”的评论气到“上头”。如何治理“网络语言暴力”和“阴阳怪气”,也已成为国内外社交网络平台都面临的严峻课题。

9月20日下午,知识内容平台知乎在成都举办了一场独特的“阴阳怪气”展。记者来到现场,首先进入视野的便是一幅布满“呵呵”字样的书法创作,这是来自知乎“书法话题优秀回答者”梁源的作品,他表示创作这幅作品是对此次展览的一点思考,是此次展览的开篇词,希望以这样的形式来表达对网络暴力的态度。

拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

据了解,网络讨论中的“阴阳怪气”也可以用“杠精”行为指代。以“通常是不针对发言内容,而是批评对方的语气”以及“通常是提出反对观点,但不给或给出极少数论据支持”这两类言论为代表,此类内容极大的伤害创作者们的体验,也成为想要通过互联网好好交流的人们的一大困扰。

拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

展出现场相关负责人表示,此次展会选取了网路上常见的“阴阳怪气”式评论内容,邀请专业用户进行了漫画、书法创作,希望通过传统艺术与现代语言的结合,带动人们对于“隐形的网络言语暴力”的思考,传达“阴阳怪气”的说话方式对人际交流的影响。

有趣的是观众顺着参观路径会来到名为“阴阳怪气粉碎机”的房间,可以把写在纸上最不想听的网络暴力语言丢进“粉碎机”中,以表示对这些不文明行为的“彻底粉碎”。

支撑:AI“瓦力”保障良性讨论空间

在此次展出的交流会上,知乎社区治理运营总监孙达云,内容质量管理团队技术负责人刘兆来分别从运营、技术角度阐述了知乎用AI技术在网络语言暴力层面的最新探索。

拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

国际知名孵化器YC联合创始人保罗.格雷厄姆曾将网络的反对意见归纳为金字塔式的七层,较高的六层和七层是“针锋相对的反驳”与“正中要害的反驳”,而最低层次则是人身攻击和谩骂。

现场分享中孙达云同样赞同这样的观点,他表示每位知乎入职员工都会收到一本格雷厄姆的《黑客与画家》,这也是平台希望构建一个开放而又理性同时又能让用户实现有效讨论的知识内容平台。

“例如经典的‘呵呵’,由于双方不同关系、说话的不同场景和时间都会带来迥然不同的表意。”孙达云告诉记者,处理“阴阳怪气”问题的核心难点在于网络语言的复杂性。即便是人工判定都存在标准化难度,算法模型的训练挑战就更为艰辛。他表示知乎自主研发的“瓦力”算法机器人已经开始代替人工,用高效率维护社区讨论的良好氛围。

如何识别判断这些非标准化的评论语言?瓦力可通过从情感倾向性、亲密关系、文本特征三方面入手,建立了内容情感模型、用户亲密度模型和文本识别模型,并通过训练不断迭代完善。三大模型的结合,不仅摆脱单一算法模型的局限性,也让“瓦力”的“阴阳怪气”识别准确率超过大多数人工判断。

拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

记者注意到,9月17日的知乎官方账号显示已对AI机器人“瓦力”进行了产品升级,推出“瓦力保镖”新功能。它能够主动对网友评论的“阴阳怪气”类内容进行智能识别,同时进行毫秒级地识别和折叠处理。

从事社交运营的相关人士认为,AI瓦力的先试先行,为建立互联网公共讨论秩序这一行为上提供了可参照的范本。

专访:每周20万条用户举报信息 把“杠精”关进小黑屋

拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

展出后孙达云及刘兆来接受了记者采访,问及瓦力系统的内容处理能力时,他表示目前平台平均每周大概能收到20万条以上来自用户的主动举报。用户的举报内容提交后都会先通过瓦力系统进行识别,接下来再进入到人工环节。另外在瓦力的训练和上线过程中,内容样本的库容量基本上都达百万级别以上。

刘兆来补充到,瓦力机器人现在处理的还包括不友善、骂人、阴阳怪气的内容,后面会做一些其他的内容的升级,比如说情感问题、医疗(求医问药)等等,会根据社区的情况不断追求变化做升级。

知乎方面希望通过 AI 和人机结合,构建“智能社区”。让每个来到知乎的人,都能快速的看到他感兴趣的人和内容;让他的疑问能快速得到最合适的解答,他的思考能够转变为可流通和消费的知识,从而彻底改变知识的生产方式和迭代效率。

从“知识社区”到“普惠内容平台”,不断进化的知乎正以 AI 技术融合社区运营,高效满足用户在多场景下获取知识、信息和专业服务的需求,让高价值知识更快速有效的普惠每个人。

成都商报实习记者 杨程

编辑 李飞龙

未经允许不得转载:其他 » 拒绝网络评论的“阴阳怪气”,知乎用 AI 技术攻克网络暴力

相关推荐