新技术如何助力网络内容生态治理?多位专家共

2021-07-23 12:00

  网络安全,是国家数字化战略的“底盘”。内容安全,是国家数字化战略的“方向盘”。当日下午,数位来自学界、业界的资深人士围绕“新技术助力网络内容生态治理”主题展开圆桌讨论,迸发新观点。参与圆桌讨论的嘉宾有,同济大学全媒体研究院副院长陈立生教授,上海人工智能研究院数字化治理中心主任彭嘉昊,数美科技联合创始人、CTO梁堃,科大讯飞听见业务媒体行业总监张伟,圆桌讨论由上海社科院新闻研究所新媒体研究中心主任王蔚主持。

  如今网络空间每天新增的信息数以亿级,哪些信息才算违法违规内容?对此,上海人工智能研究院数字化治理中心主任彭嘉昊从三个维度给出定义。其一,触犯民事法律的信息,比如涉及个人隐私、涉及名誉权损害等。其二,触犯行政法规的信息,比如未经政府审核的信息,尤其是涉及到自然灾害的信息。其三,是和网络安全相关的犯罪信息,如涉及黄赌毒等。

  “利用技术手段对现有互联网内容进行管理,是网信部门正在探讨的一个重点。”彭嘉昊介绍,目前已有越来越多的技术手段渗透到管理手段中,管理与技术融合已经是大势所趋。

  对于文字、图片、音频、视频等多种形态的网络信息,我们在审核时面临哪些挑战?

  对此,数美科技联合创始人、CTO梁堃表示,第一个挑战是内容量大,如何提高机审效率是头一个挑战。第二个挑战是内容安全定义比较“泛”,需要识别的维度非常多。第三,做违规内容识别时,发布人可能存在“对抗性”。对于“对抗性”,梁堃解释道,“比如姓名的变体、影射,或者是在漫画和视频中涂抹、修改,或通过影子和镜子来传达信息”。梁堃表示,这就需要在识别算法上不断改进。

  人工智能如何在网络安全中发挥科技力量?科大讯飞听见业务媒体行业总监张伟对行业科技进行了介绍,他以直播带货为例解释了人工智能在效率上的优势。他表示,直播带货中的观点、图像是否涉恐、涉政,单纯的人工审核很难在短时间内实现高质量的监测,而人工智能可以对直播的实时转播进行关键词提取,分析是否有违规信息、是否有虚假宣传。此外,带货主持人之前是否受过相关处罚,也可以通过人脸识别技术快速鉴别。

  此外,张伟特别介绍,对于留言评论互动及表情包,人工智能审核效率更高;对于多语种夹杂的内容,人工智能审核更为敏感。

  面对复杂多元的网络环境,我们应如何构建和保障网络安全?同济大学全媒体研究院副院长陈立生教授对主流媒体的担当寄予厚望,在他看来,在由多种类型的媒体共同构建的传播体系中,主流媒体应该起到定海神针的作用。“在形塑社会认知和引导舆论环境上,主流媒体要有担当。当大家的注意力逐渐转移到内容价值上,主流媒体一定会上在内容生产上大放光彩。”陈立生说。