新规剑指算法乱象,大数据杀熟或被终结

要健全各行各业的数据资源治理体系,就要进一步探索公共数据和社会数据的融合机制,引导基于具体场景深入探索数据资源的权益分配制度,加强数据价值释放中隐私保护技术创新和应用,切实加强数据安全、算法监管等领域的管理实践,推动构建全国一体化数据要素市场体系。

在算法无处不在的今天,打开手机上任意一款APP都有“猜你喜欢”类似的功能。本是为了更好地满足用户个性化需求而生的算法推荐,如今却因大数据杀熟、控制热搜、诱导沉迷与过度消费等负面“标签”频频引发争议。为规范算法应用、强化大数据治理,工信部等四部门近日联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起正式施行。专家认为,《规定》的出台标志着算法产业开启强监管模式,未来在社会各界共同努力下,算法的使用终将回归技术向善、服务大众的初心。

2345截图20211028093243.png

算法技术关键词:透明、自主、向善

从整体来看,《规定》基本沿用了此前意见稿的结构和内容,对于“反大数据杀熟”、“用户修改算法标签”、“反不正当竞争”、“未成年保护”、“反沉迷”等网络关心的重点内容。相较之下,《规定》新增了包括老年人权益在内的更多细节,并提高了对应条例的罚款标准。

回顾此前有关算法的争议,用户知情权是一个核心焦点,因此算法“透明”成为一个关键词。《规定》中明确指出,“应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。”“(鼓励)优化检索、排序、选择、推送、展示等规则的透明度和可解释性。”业内专家指出,这意味着各大平台必须打开所谓的算法“黑箱”,将算法使用的目的和程序向用户据实以告。透明原则不仅能够有效保障用户知情权,还能在一定程度上降低算法推荐对网络舆论的影响。

中国信息安全研究院副院长左晓栋认为,大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的。此次出台的《规定》赋予了用户自主选择权与删除权。《规定》要求算法提供者应当“向用户提供不针对其个人特征的选项”,或者“提供便捷的关闭算法推荐服务的选项”。用户一旦执行关闭,“算法推荐服务提供者应当立即停止提供相关服务。”不仅如此,“算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。”用户可以有针对性地删除自己不想对外透露的个人“标签”。

此外,《规定》还针对未成年人、老年人等群体的算法推荐服务内容进行了详细规定。例如要求为老年人提供智能化的适老服务、禁止诱导未成年人沉迷网络等。中国政法大学数据法治研究院教授王立梅认为,这正是将科技向善理念落实为具体业务要求的体现。

《规定》将助推数据要素市场健康发展

实际上,作为各大平台收集和处理数据、推送信息、调配资源的核心力量,算法已经无处不在。赛迪顾问大数据产业研究中心总经理郑昊对《中国电子报》记者说道:“平台运行的技术逻辑是算法,平台商业价值和竞争优势的基础是算法,同时,给国家利益、社会公共利益和公民合法权益带来风险的也可能是算法。《规定》作为我国第一部以算法作为专门规制对象的部门规章,具有重要时代意义。”

宏观来看,《规定》的出台明确了算法推荐技术的定义,为治理算法推荐服务提供了诸多针对性举措,构建了算法安全风险监测、算法安全评估、算法备案管理和违法违规行为处置等多维一体的监管体系,为重塑数据要素市场秩序奠定了基础。

具体而言,算法应用的两大主体——服务提供商和使用者将受到影响。中国科学院科技战略咨询研究院大数据战略研究中心执行主任冯海红对《中国电子报》记者分析称:“对个人用户而言,《规定》构建了用户权益的保护机制,特别是关于‘算法服务提供者的告知义务’、‘个人用户的算法服务选择权’、‘完善人工干预和用户自主选择机制’等相关条款,将有效解决用户面临的‘大数据杀熟’、‘信息茧房’等突出问题。”

而对算法推荐服务提供者而言,《规定》对其基本价值导向、数据审核管理制度、用户模型与标签管理、算法推荐生态管理、用户自主选择机制、互联网新闻信息服务、信息垄断等方面均做出了严格的规定。受访专家皆认为,这将有利于规范算法推荐服务提供者的相关经营行为,积极促进算法推荐服务规范健康发展。

上海大邦律师事务所高级合伙人游云庭表示:“《互联网信息服务算法推荐管理规定》是继三大数据法,即《网络安全法》、《数据安全法》和《个人信息保护法》,以及《互联网信息服务管理办法》颁布后的一个自然延伸。”

重塑算法价值观,完善数据治理

推荐算法本身其实只是一项高效的技术工具,可以快速实现对用户需求的精准挖掘,以内容推送代替用户寻找,提高信息传播效率。借助平台的连接属性,算法技术成功走出虚拟网络,直接作用于社会或个人,是当今万物互联的一个具象案例。优秀的推荐算法可以说是构建互联网生态中不可或缺的一环。然而,究竟从何时起,本该大放异彩的“算法”却沦为了饱受诟病的“算计”?

快手联合创始人宿华此前曾公开表示:“社区运行用到的算法是有价值观的,因为算法的背后是人,算法的价值观就是人的价值观,算法的缺陷是价值观上的缺陷”。对此,郑昊认为,重塑算法产业秩序,首先就是要树立正确的价值取向,要求算法导向正确、正能量充沛,算法应用公平公正、公开透明,算法发展安全可控、自主创新,有效防范算法滥用带来的风险隐患。《规定》的推出,就是要把算法装进监管的“笼子”里,督促算法推荐服务提供者坚持主流价值导向,让算法应用回归向上向善的初心。

《规定》的落地还需付出诸多努力。郑昊表示,一方面,应加强算法安全风险监测。对算法的审核、评估和验证应当把算法的公平性、透明程度及数据使用的最小必要原则等作为评价维度。同时,要积极开展算法安全评估,对算法的设计、部署和使用等全生命周期应用环节评估缺陷和漏洞,研判算法应用产生的意识形态、社会公平、道德伦理等安全风险,并提出针对性应对措施。此外,还应该建立算法分级分类体系及算法备案制度,分级分类体系建立有利于对各类算法进行梳理并针对不同算法实施不同的监管制度,可以有序推进算法备案,从法律角度对算法进行全面监管。

冯海红建议,要健全各行各业的数据资源治理体系,就要进一步探索公共数据和社会数据的融合机制,引导基于具体场景深入探索数据资源的权益分配制度,加强数据价值释放中隐私保护技术创新和应用,切实加强数据安全、算法监管等领域的管理实践,推动构建全国一体化数据要素市场体系。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论