“系统监测到有网络表演主播涉嫌违规,根据算法判定该主播举止不当……”杭州市文化市场行政执法队网络执法大队大队长胡孟良向记者介绍。此时,平台已自动将这条蓝色预警信息推送给企业,责令主播立即整改。
这是12日记者在市文化市场行政执法队看到的工作场景。“借助数字化手段,我们现在监管隐蔽的网络问题更加得心应手。”说起运行4个月的“文管在线”,胡孟良用得最多的词是高效。
目前,杭州各平台签约的网络表演主播有190余万名,如何对这些主播进行有效监管是监管部门一直在思考的问题。借助数字化改革浪潮,今年7月,杭州市委宣传部和市文广旅游局主导开发的“文管在线”正式上线。系统重塑了网络文化监管、旅游团队监管、“野导”查处、娱乐场所巡查的业务流程,从机制上推动“三色”预警处置和响应评价的创新突破。
“以往,一个执法人员同时最多监测2—3名主播,每小时能审核图片约1200张。而且,我们在执法中发现,晚上10点至凌晨2点是网络表演违规情况的高发时段,之前由于网络直播平台多、主播多、违规内容稍纵即逝,执法人员疲于盯防,加上取证手段单一,执法效率不高。”胡孟良说,而现在,“文管在线”一台服务器即可同步2000路进行实时监测,每小时审核图片72000张,且24小时不间断运转。监测过程中如果发现异常情况,平台将自动取证预警,并对处置结果进行多维评判,这相当于增加了2000双眼睛和永不休息的工作好帮手。
在市文化市场行政执法队,记者真实感受到了胡孟良所说的“以算力换人力”的便捷高效。在“文管在线”屏幕上,网络文化场景模块的企业在册数、企业应用分析、违规内容分析、违规告警处理等关键数据实时更新。系统通过自动抓取技术和构建风险评估预判模型,对网页、音频、视频等网络文化产品中低俗、色情、涉暴等违规内容进行全量监测和AI智能审核。一旦发现问题,立即按风险程度设定红、黄、蓝三色预警,并自动固定证据,其中红色由市本级监管部门处理,黄色由区县监管部门处理,蓝色由企业自行处理。目前,杭州全市超过1500家网络文化公司已被纳入“文管在线”,仅这两周平台就检测到70条预警线索,其中6条已推送给相关部门作进一步判断和处置。
“可以说,‘文管在线’实现了对全市文化市场可量化、可评价、可晾晒的精准画像。”胡孟良说,他们将不断积累经验,对平台进行迭代升级,衍生更广场景,覆盖更多范围,让“文管在线”发挥更大的社会治理效应。