从技术伦理看智慧城市建设困境

智慧城市的一大特点就是线上安全与线下安全相融合。在消费互联网情景下,网络安全从以往的金融信息安全、个人隐私保护、数据安全、系统安全的线上安全,已经拓展到涉及交通安全和公共安全的线下安全。

近期,一篇名为《外卖骑手,困在系统里》的文章刷爆朋友圈,文中描述了智能算法利用派送时间、规划路线和超时罚款不断压迫外卖骑手,实现资本疯狂追逐剩余价值的城市生活景象,引发舆论广泛关注。外卖平台企业通过自愿增加等待时间选项向消费者转嫁责任的甩锅方式,更引发了舆论狂潮的强烈不满。在快节奏的都市生活下,消费者选择更高效、更佳用户体验的平台理所当然。正所谓算法生病,给消费者喂药,智慧城市建设过程中的技术伦理问题凸显。

综合各方言论,从企业发展角度出发,平台间围绕用户体验的极速竞争,需要不断提升用户黏性来构筑竞争壁垒,催生了平台对“最后一公里”送达的竞速;从资本角度出发,资本的天然逐利属性,难以抑制压低成本提高利润的原始冲动;从外卖骑手角度出发,因为互联网行业用工制度的种种缺陷,外卖骑手的社会保障和权利难以向传统行业用工制度看齐,要想生存只能选择成为转盘上的“小白鼠”。智能算法在智慧城市(消费互联网)中发挥了催化剂的作用,这一套“游戏”规则至少从表面上看让企业(利润)、骑手(收入)、消费者(消费体验)三方利益取得一致,那究竟是谁付出了代价?

2019年数据显示,全行业外卖订单配送时间比过往3年减少了10分钟。而仅2017年上半年数据显示,上海平均每2.5天就有1名外卖骑手伤亡,南京的数据是平均每3天,深圳每10天发生的涉外卖交通违法行为1780余起。在一系列触目惊心的数字下,唯一付出代价是城市公共安全和交通管理成本。智慧城市伊始,初衷之一就是要扞卫公共安全,降低管理成本,提升管理实效,可以说技术伦理导致的一系列成本最终被转嫁到了城市管理端。

那么,牺牲了公共安全的责任应该由谁来承担呢?共青团中央维护青少年权益部、国家邮政局机关党委联合公布的《促进快递配送从业青年的职业发展和社会融入》调研报告显示,快递员劳动合同的总体签约率仅为78.7%。加盟制运营模式下,网点作为承包方要自负盈亏,为了节约成本和规避风险,大多不与快递员签订劳动合同,便于随时解聘。外卖平台也只与第三方人力资源公司达成劳务派遣输出协议,规避平台在用工方面的大量成本。出了事故劳务公司认为这是骑手自己的责任,骑手认为是企业设计的算法不合理,从而陷入了无人担责的负循环。抛开用工制度设计层面,这个由智能算法引发的城市问题上升到智慧城市治理层面,或者说因为数字化治理能力未能跟上消费互联网的发展。智慧城市的公共安全治理首要要落实公共安全的责任主体。一是算法设计的不准确、不合理会威胁公共安全,企业要承担责任;二是骑手出现主观违反交通规则的行为,承担直接责任;三是因各种原因违反交通安全的行为未被执行处罚,导致违法成本过低,存在管理责任。需要在管理端引入智慧城市的高阶阶段--现代数字城市的三大特征:安全为先、需求牵引、迭代发展。

安全为先--城市治理向网络空间安全转向>>

智慧城市的一大特点就是线上安全与线下安全相融合。在消费互联网情景下,网络安全从以往的金融信息安全、个人隐私保护、数据安全、系统安全的线上安全,已经拓展到涉及交通安全和公共安全的线下安全。网络安全向网络空间安全(也称赛博安全)的转向,现代数字城市所提出的安全为先与赛博安全发生关联。在产业互联网情景下,智慧城市的车联网安全、工业互联网安全和关键信息基础设施安全同样关系着城市的交通安全和公共安全。在网络空间与城市现实空间融合过程中诞生了很多新的安全问题,涉及到智慧城市治理的方方面面,困在算法里的外卖骑手只是刚刚揭开了冰山的一角。在交通领域,由于导航线路规划不准确、自动和半自动驾驶技术不可靠而导致的交通事故屡见不鲜。目前,无人驾驶公交车辆已经在我国部分城市开始试运行,人为驾驶和无人驾驶将在未来相当长时间内共存,是否会带来新的安全问题,这对现代数字城市治理提出了新的挑战。

需求牵引--城市管理者需求未得到满足>>

智慧城市对城市管理治理的精细化程度提出了非常高要求,不同领域的数字化进度的差距,都会产生新问题倒逼管理甚至制度完善优化。被誉为互联网“上半场”的消费互联网在“最后一公里”送达的环节出现问题,让我们不由得反思,智慧城市建设在制度优化、技术伦理、精细化管理方面亟待进步。智慧城市管理短板可否通过物联网、车联网等新技术弥补,来满足智慧城市对交通安全的精细化管理需求;平台的智能算法应用调整是否需要进行审查监督;交通违规成本是否要追溯平台企业或劳务派遣(或加盟)公司;互联网用工是否需要建立职业规范培训;政府是否需要出台互联网行业标准规范等。通过新技术实现精细化管理并形成责任倒逼机制,从而树立现代数字城市的精细化管理的样板。

迭代发展--注意数字化转型中的技术伦理问题>>

市场中的企业和各种经营主体是城市活力的源泉,承载着市民的就业、消费、服务,在智慧城市的初期办公信息化、政务信息化等主要是提升城市整体运行效率、打通信息孤岛、提升管理服务的作用,智慧城市的中期是当消费互联网、智慧交通的出现,基于大数据和精准推送的数据服务深入发展,基于移动端的万众互联、车联网、物联网的智能算法大量推广应用,技术伦理问题开始显现。比较典型的如着名的“电车难题”,需要考虑在现实中发生的可能性。智慧城市的未来阶段正在形成,如工业互联网、人工智能、无人技术的大量应用,一个真正基于海量数据运转的数字城市将会呈现,技术伦理问题会更为凸显,需要前瞻性的布局并开展相关研究,做到有备无患,真正建立一个链接和谐幸福的智慧城市。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论