手机应用商社会责任亟须重视 工程和商业伦理不能忘

2018年09月13日07:37  来源:光明日报
 
原标题:手机应用:工程和商业伦理不能忘

近日,打车APP滴滴出行又出事了。继三个多月前郑州空姐遇害案后,又一名年轻女孩乘坐顺风车遇害。在暴风骤雨般的抨击下,滴滴出行宣布“在全国范围内下线顺风车业务,内部重新评估业务模式及产品逻辑”。

顺风车业务最受人诟病的设计就是其“印象标签”功能,车主可以对乘客进行评价,包括颜值、穿着打扮、性格等。顺风车车主在未接单之前就能看到这些评价,而且可以选择自己想要搭载的乘客。滴滴顺风车业务相关负责人曾明确表示,顺风车是带有一定社交属性的产品。从其打出的广告语也可以看出,比如“不仅是顺风,而且还顺眼”“不怕贴标签,就怕你不约”等。带有性暗示的社交场景,一旦从社交平台直接过渡到极其私密的私家车内,其危险指数和不可控程度大大增加。

滴滴出行是人们常用的打车类APP。现在,在人们的手机里,除了打车类APP,还有社交类的、新闻资讯类的、游戏类的等。它们深入影响着人们生活的方方面面,人们似乎被各类APP牵引着、控制着,每天乐此不疲地沉迷在手机中。

滴滴顺风车业务很长一段时间都受到用户好评,直到发生恶性事件后,人们才警觉其背后不合理的产品逻辑。那么其他APP呢?是否也存在靠打道德和法律“擦边球”来吸引用户的情况?对于目前人们过度使用手机的现象,该如何看待?手机应用商需要怎样的监管?记者就此进行了采访。

1 手机应用商的社会责任亟须重视

在很多人看来,手机依赖完全是个人的事情,自己完全可以选择不看手机或少看手机,而各类娱乐或游戏APP设计得令人“喜闻乐见”无可厚非,对于互联网公司来说,能够留住客户就意味着成功。

然而实际上,在智能手机和各类应用的强大“攻势”和设计下,人们已不那么容易放下手机。现在很多APP似乎拥有一种让人欲罢不能的力量,使应用与人之间建立了一种难以剪断的纽带。人们明知在APP上耗费了巨大精力,却很难摆脱它的奴役,甚至是自愿被奴役。这种对手机的依赖导致了行为上瘾,进而导致人们的注意力被滥用,使得人们本该有的现实沟通和体验面临萎缩。

在北京理工大学人文社科学院教授范春萍看来,智能手机作为当代最前沿的人类工具之一,不仅延伸人的肢体,还在逐渐延伸人类心智,它与全部信息工具一道重构人类的主体间性和交流方式,培育新的行为方式,其中就包括大家担忧的“毒瘾式消费”。“在这样的背景下,除了个人要调整自己的行为,做出自主选择,手机应用商也应遵从工程伦理和商业伦理,承担相应的社会责任。”范春萍说。

“手机应用商的社会责任基于它相对于个人用户的‘非对称优势’。”上海交通大学科学史博士陈自富说,比如新闻资讯APP,可以利用大数据给个人用户“画像”,向用户不断推送其感兴趣的信息;打车APP可以利用女性的性别红利,拓展所谓的社交业务,吸引用户;游戏APP通过大数据分析,深谙用户心理,无节制地通过猎奇、暴力等内容设计,绑架自制力较差的青少年和成年人。

“由于这些互联网企业的资源和能力更强,拥有对消费者的非对称优势,因此也应承担相应的企业伦理责任。”陈自富认为,企业要为其商业行为产生的社会后果负责。如果企业的商业行为导致人们公认的种种不良社会后果,其行为应受到道德谴责,触犯公序良俗和法律底线的,应坚决予以惩戒。

2 不能为了利益丢掉技术开发的初心

人们过度沉迷手机,导致一系列个人和社会问题,比如脑疲劳、沟通和思考能力下降、道路安全、焦虑症等。“这一切是表象,它的深层次逻辑在于智能技术对人类社会关系和行为方式的重构。这种重构带来的是一场深刻的危机。遗憾且危险的是,人们对这场危机的关注和应对远远不够,更多的人盯着的只是商机,而这使问题更加复杂化。”范春萍说。

湖南师范大学人工智能道德决策研究所研究人员孙保学指出,现阶段,我们正加速进入信息社会,以效率和效用为标准的技术理性,比以秩序和规范为标准的价值理性受到更多的重视。在法律法规尚不成熟时,技术往往呈现多维且发散的发展趋势。

孙保学列举说,一些企业为追求利润,在技术发展初期的“政策真空”阶段往往会尝试技术应用的各种可能性,打“擦边球”现象比较常见;激烈的商业竞争使得一些商家铤而走险,游走在道德和法律的边缘;鼓励技术创新的宏观政策也让个别企业以“法无禁止皆可为”替不合规的“技术创新”辩护,有时甚至援引技术的价值中立为自己开脱责任。

“随着问题的不断暴露,一些不符合社会伦理规范和法律制度要求的行为,将受到来自社会或共同体的集体限制甚至禁止。”孙保学坚信,在将来很长一段时期内,价值理性的引领作用必将受到越来越多的重视。棱镜门和脸书数据泄露等事件都反映出公众在这方面的意识觉醒。

新技术并不是“洪水猛兽”,依赖也并不可怕。从人类技术发展史上看,人们在生产、生活中依次形成了对轮子、铁犁、蒸汽机、内燃机、汽车、电力和网络等的强烈依赖,在当时的历史时期,这些新事物的出现也曾遭遇过一些人的反对或抵制,但最终仍全面而深刻地嵌入社会生活中。在某种程度上,文明的进步恰恰建立在对先进技术的依赖上。问题的关键,是这类技术能否被正确利用,能否朝着人类终极福祉的方向发展。

陈自富表示,从目前的手机应用技术来看,为了追求效率和利益,忽略技术开发的初心,是最值得警惕的。传统文化中的价值判断和取向,没能很好地引导技术的发展方向。

“人类观察、改造世界的能力在增强,如果说工业革命导致的环境污染等后果某种程度上是由无知造成的,那当代社会具有对技术后果更强的预见能力,我们可以建立有效的监测和纠偏机制,就像青藏铁路修建时对生态的主动保护一样。”陈自富认为,审慎地开发和应用技术,对促进人类社会发展和幸福是必需的路径。

3 如何引导手机应用商“做正确的事”

有数据表明,手机游戏的用户主要集中在青少年群体。有位做手机游戏的应用商曾经表示,他赚钱很容易,一天几千万元的流水,但是觉得很罪恶。因为他们每天做的事情就是用大数据分析孩子们玩游戏的行为特点,最大限度吸引和留住心智尚未成熟的青少年玩家。他想过和脑力开发的公司合作,让孩子们在游戏中提升脑力。但经详谈发现,如果合作的话,他就干不过其他游戏公司,成本太高,于是放弃了。

这位应用商的境遇是目前移动应用领域存在的劣币驱逐良币现象的一个缩影。在激烈的互联网商业竞争下,谈“情怀”似乎是件奢侈品。成千上万的互联网公司,每天都在你死我活的斗争中生存。

“在责任归属不明晰的情况下,如果违法成本较低,靠市场主体提高主体自觉和自我约束往往不太奏效。”孙保学认为,稳妥的办法应该是给技术理性套上价值理性的“紧箍”,这要求社会治理体系和诚信体系的完善,要将这种外在约束固化为社会制度的一部分,才会让尊重用户、使用正向价值不至于沦为空谈。他认为,可以设置道德算法审查委员会来规制市场上的APP,使其在设计上合乎伦理法规。

范春萍建议,可以借助媒体平台开展讨论,探讨手机应用开发的算法规则和手机应用商的社会责任、职业伦理等,对大众进行启蒙教育,提升人们的媒介素养,以伦理共识指导和约束互联网行业发展。

谁来塑造智能社会“拇指一代”人群的完美人格?谁来解决工业社会中知识流通不畅、创新力不足、社会发展不均衡等问题?包括手机应用商在内的互联网公司都责无旁贷。而技术只有与追求人文价值关怀和社会责任统一起来,才是人们所期望的。

陈自富指出,在这方面,无论是西方发达国家中的产业巨头,还是国内一些负责任的互联网企业,都有成功的例子。比如谷歌的信条从“不作恶”变成“做正确的事”;微信在改善人们交流方式的同时,也营造了相对干净的使用环境。他认为,不是不能为之,而是商业利益驱使下的不愿为之。担心行业自律和外部管制影响产业发展,不足以成为不作为的借口。

在陈自富看来,平台企业具有天然的垄断优势,对这种垄断,主要可通过行业自律、外部立法和用户评价来进行规范,必要时需要企业出具相关伦理责任报告,主动说明其没有滥用这种优势,就像公交、铁路、供电等行业一样,其产业形态本身具有一定的垄断性,但前提是外部立法约束(如价格管制等)和自我证明没有滥用这种优势。

“政府、学术界、非政府组织等也要行动起来。比如大学加强工程师伦理教育;政府对于信息生产内容和APP的开发,建立有效价值引导机制;通过对话、协商、公约、行政法规、用户投诉曝光、APP分级排名机制等手段,推升移动互联网治理水平等。”陈自富说。(本报记者 龚亮)

(责编:宋心蕊、赵光霞)

推荐阅读

人民日报创刊70周年
  70年,25541期,25541个日夜,人民日报与党和人民风雨兼程、一路相伴,一同走过革命、建设和改革的峥嵘岁月,一起走进更加昂扬的新时代。
【详细】人民日报创刊70周年   70年,25541期,25541个日夜,人民日报与党和人民风雨兼程、一路相伴,一同走过革命、建设和改革的峥嵘岁月,一起走进更加昂扬的新时代。 【详细】

2018(第三届)全国党报网站高峰论坛
  2018(第三届)全国党报网站高峰论坛暨全国党报网站总编辑看天津活动6月20日在天津市举行,主题为“媒体融合:宣传新时代 拥抱新时代”。
【详细】2018(第三届)全国党报网站高峰论坛   2018(第三届)全国党报网站高峰论坛暨全国党报网站总编辑看天津活动6月20日在天津市举行,主题为“媒体融合:宣传新时代 拥抱新时代”。 【详细】