45SkiCWjrl9 hope.huanqiu.comarticle以科普代替“搜索沉默” 让技术实现正向引导——“绿网计划”打造科学性公益科普新模式/e3pmh4858/eqngbhuat<article><section data-type="rtext"><p><em data-scene="strong">摘</em><em data-scene="strong"> </em><em data-scene="strong">要</em><em data-scene="strong">：</em>本案例描述了网络非正常搜索问题后的公益力量。围绕非正常搜索问题，在浙江省市场监督管理局指导下，阿里安全、阿里巴巴公益、百度安全联合发起“绿网计划”公益项目。2021年4月，为了更好的进行网络科普，解决“搜索沉默”问题，“绿网计划”新增上线涉及人身公共安全（枪支弹药、管制器具、危化品等）、个人信息安全（隐私侵权）等领域的非正常搜索公益科普教育宣导页面，扩增关注至五大领域非正常搜索问题。随后，“绿网计划”不断升级，针对“未成年保护”扩大覆盖包括对游戏沉迷、宠粉诈骗、色情低俗、个人信息安全、守护生命健康(自杀/抑郁用品)等的科普引导，对涉嫌未成年人发起的非正常搜索，平台将引导其至“绿网计划”公益宣导页面。据了解，截至目前，通过风险感知、公益页面引导发起的守护生命公益行动，多方联合已救助4400余名因抑郁症等产生轻生倾向或行为的人，仅拨打宣导页面心理咨询热线就有34000余人。</p><p><em data-scene="strong">关键词：</em>绿网计划；未成年保护；公益科普；人工智能；网络搜索</p><p><em data-scene="strong">案例正文：</em></p><p>什么是非正常搜索？网民以软色情、破解游戏防沉迷系统、野生动植物，甚至毒品、自杀等为关键词进行搜索，这些可能对社会带来风险和不适的搜索行为被称为非正常搜索。而这些搜索背后，有些是企图作恶，更多则是好奇或迷茫。</p><p>每一年,涌入互联网平台的非正常搜索高达数百亿次。这些搜索涵盖黄赌毒、野生动植物、自杀（抑郁）用品、游戏沉迷交易等关键词，极有可能对社会带来风险和不适。</p><p>根据官方数据显示，阿里系平台每年都会面临超过72亿次非正常搜索，百度平台仅2020年前三季度，就遇到了386.7亿次用户非正常搜索行为。</p><p>如何应对非正常搜索？此前互联网普遍做法是将非正常搜索页面做屏蔽和拦截处理，网友进行搜索后页面会显示“抱歉，搜索的页面找不到”，虽然短时间内规避了风险，但治标不治本，用户难免会在互联网上进行更加广泛和深入搜索。</p><p>为了对非正常搜索进行正确引导，在浙江省市场监督管理局指导下，阿里安全、阿里巴巴公益、百度安全联合发起“绿网计划”公益项目。2021年4月，为了更好的进行网络科普，解决“搜索沉默”问题，“绿网计划”新增上线涉及人身公共安全（枪支弹药、管制器具、危化品等）、个人信息安全（隐私侵权）等领域的非正常搜索公益科普教育宣导页面，扩增关注至五大领域非正常搜索问题。</p><p><em data-scene="strong">让回应有温度</em></p><p>“我们希望将这些时刻都在发生的非正常搜索，转化成为社会各界都能参与进来，一起做正向引导的公益项目。”项目发起代表方阿里巴巴集团首席风险官郑俊芳如此解释“绿网计划”发起的目的。</p><p>对搜索平台而言，除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控，还需厘清到底哪些用户“请求”需要引导和帮助。比如，有些搜索可能是因抑郁试图轻生的绝望呼救，也可能是沉迷游戏的少年在无奈求助。</p><p>每一次求助都应该得到回应，但回应不应该是空白的页面和冰冷的报错，这也是“绿网计划”发起的初衷。</p><p>“绿网计划”公益项目成立之初，关注“守护生命健康”、“野生动植物保护”和“未成年人保护（电子烟、毒品、软色情、赌博、游戏沉迷等）”三大领域，将458亿次非正常搜索转化为正向的公益宣导教育。</p><p>2021年4月，“绿网计划”新增上线涉及人身公共安全（枪支弹药、管制器具、危化品等）、个人信息安全（隐私侵权）等领域的非正常搜索公益科普教育宣导页面，扩增关注至五大领域非正常搜索问题。</p><p><i class="pic-con"><img data-alt="宣导页面" src="//img.huanqiucdn.cn/dp/api/files/imageDir/4b8ee9b008af1fda73b17df935da49b7u1.png?imageView2/2/w/1260" /></i></p><p>今年6月1日，按全国“扫黄打非”办公室“新风2021”集中行动安排部署，积极配合“净网2021”“护苗2021”工作，阿里安全、阿里巴巴公益与抖音安全中心联合发起绿网计划2.0，旨在帮助未成年人解决遇到的各类网络安全问题。绿网计划2.0将针对“未成年保护”扩大覆盖包括对游戏沉迷、宠粉诈骗、色情低俗、个人信息安全、守护生命健康(自杀/抑郁用品)等的科普引导，对涉嫌未成年人发起的非正常搜索，平台将引导其至“绿网计划”公益宣导页面。</p><p>“绿网计划”上线后，覆盖淘宝、闲鱼、夸克等14个APP涉及相关关键词的搜索页将不会再出现“抱歉，搜索的页面找不到”，取而代之的是政策法规和科普知识，公益代言大使的呼吁、相关合规替代商品的推荐，并提供对应类目的援助措施等解决方案。</p><p><i class="pic-con"><img data-alt="绿网计划2.0" src="//img.huanqiucdn.cn/dp/api/files/imageDir/9c539f3e88817a4a9ccdaa2e1558fa18u1.png?imageView2/2/w/1260" /></i></p><p>“绿网计划”希望通过告知用户非正常搜索行为存在的问题以及相关后果影响，从而引导用户停止非正常搜索行为，并能建立起正确的认知，并提供相应的援助措施或解决方案。</p><p><em data-scene="strong">运用人工智能技术实现</em><em data-scene="strong">用户行为正向引导</em></p><p>在技术层面，“绿网计划”整合了阿里多年来沉淀的多项算法能力，包括绿网技术产品，有物种识别能力、视觉场景的识别能力（如山路、户外场景）、OCR识别能力（识别是否存在对违禁品的描述，相关图片是否存在异常文字导向）和ASR能力（识别是否存在对违禁品的暗示）。运用人工智能技术结合用户不同搜索场景关联识别用户的需求，进行更精细化的科普宣导并给与对应解决方案。“绿网计划”将平台的风险防控能力转化为风险服务能力，体现了科技的温度和平台责任感。</p><p>其中，绿网技术产品是基于阿里多年沉淀的人工智能技术，为企业用户提供成熟的、轻量化接入的内容安全解决方案，提供对多模态内容的全风险智能识别能力，构建风险主动发现、风险趋势监控、风险识别能力迭代的全链路闭环解决方案，保障业务内容的潜在风险及时发现、及时处置，应用的信息内容安全。</p><p><em data-scene="strong">共建科普知识体系，打造科学性、趣味性的公益科普模式</em></p><p>多方行动形成了良好的互动。为保证宣导页面的科普内容权威性、科学性和准确性，“绿网计划”联合监管部门、社会公益组织、专业科学领域研究者协同共建科普知识库。例如，在野生动植物保护专题中，与中国野生动物保护协会等共建专业科普知识，从物种的生存现状、物种分类、濒危情况、养育方式等多维度向社会群众宣导野生动植物知识，加强公众对野生动植物的保护意识。</p><p>围绕守护生命健康，2021年3月，“绿网计划”发起“公益小画家”的招募活动，以“美好的一天”为主题进行创意绘画，最终筛选出14幅画作呈现在用户搜索自杀（抑郁）用品的搜索页面中，让孩子们给世界带去一点微光。</p><p>同时，“绿网计划”打通了阿里公益三小时平台，通过“点击守护”的互动参与模式，呼吁大众走出公益保护的指尖一小步，加入社会共治、全民参与的公益事业。</p><p>围绕未成年人保护，“绿网计划”上线“益起动”功能，倡导用积极健康的方式疏导学业压力及负面情绪，通过捐步挑战为乡村小学建跑道。同时，项目联合西湖区检察院、湖南卫视、刑侦剧《谎言侦探》进行科普教育传播，在淘宝、闲鱼部署儿童保护公益互动，并通过真实案件提升未成年人自我保护意识和科普教育。</p><p><em data-scene="strong">公益明星代言、跨界营销提升公众感知，减少非正常搜索</em></p><p>"绿网计划"获得了社会各界的响应。林志玲、佟大为、毛晓彤等11位知名艺人担任“绿网计划”公益代言大使，并通过录制应援寄语、微博及抖音传播等方式呼吁大家关注并加入。通过正能量公益明星效应及社媒传播推广，广泛覆盖并触达互联网用户，从公众端进行普法和专业知识宣导，从源头减少用户非正常搜索行为。</p><p><i class="pic-con"><img data-alt="公益互动专题" src="//img.huanqiucdn.cn/dp/api/files/imageDir/983a19aaeb876b16f3d76f6498634756u1.png?imageView2/2/w/1260" /></i></p><p>2021年7月，阿里“绿网计划”联合国家反诈中心、湖南卫视、刑侦剧《谎言真探》发布首个线上反诈剧本杀。通过真人实景交互、以跟随测谎师余男破案视角进行沉浸式剧本杀体验、识破骗局。国家反诈中心、芒果TV、湖南卫视、芒果季风、谎言真探等官方矩阵发布反诈剧本杀联名海报，剧集主演余男、邢佳栋、王薇等明星艺人发布应援VCR呼吁大家提升反诈意识。截至目前，“绿网计划”宣传曝光量已达3.1亿+，极大提升互联网用户感知和公益行为转化。6月至今，累计有50.6W人成为“绿网计划”公益守护官。</p><p>根据数据显示，去年至今，该公益项目通过风险感知、公益页面引导发起的守护生命公益行动，联合集团CCO客服、阿里健康、线下警方、专业机构已救助4400余名因抑郁症等产生轻生倾向或行为的人，仅拨打宣导页面心理咨询热线就有34000余人。目前，“绿网计划”已向全网进行了2100多万次正向的科普宣传教育。覆盖淘宝、闲鱼等14个APP，非正常搜索词扩增至15000多组，9家公益合作机构加入，形成了包括阿里、百度、抖音等在内的内容安全治理公益组织——绿网计划联盟。</p><p>阿里巴巴集团平台治理部副总裁肖水贤认为，商业领域沉淀的数字化技术不仅可服务于自身，还应和更多社会治理场景打通，用数字化技术联结、支撑、直达每一个社会要素，为社会治理带来更大的价值。</p><p>“绿网计划”的意义一方面让网络治理从事后走向事前，从惩戒转向预防，用“智理”实现“治理”，体现了平台对不良行为的坚决抵制，对维护网络治理的坚定捍卫。通过平台数字化的技术手段及完善的运作机制协同相关部门进行社会治理和案件侦破，通过快速响应和闭环处置，提升治理效率。</p><p>另一方面，体现了网络治理从“堵”到“疏”、从治控商家到引导消费的转变。通过每天上千万次的触达转换，把公益宣导精准推送给特定消费者，唤起消费者的合规意识和理性消费。</p><p>新技术的应用改变了原有的治理模式，数字化治理时代的到来将重塑社会治理的范式，为实现更加公平、更有效率的社会治理提供了更多可能。</p></section></article>1636105025167环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：赵鹏环球网163610502516711[]//img.huanqiucdn.cn/dp/api/files/imageDir/9c539f3e88817a4a9ccdaa2e1558fa18u1.png{"email":"zhaopeng@huanqiu.com","name":"赵鹏"}