编译:Apricock、姜范波、魏子敏
“我们的生活状况依赖于陌生人的道德规范,而我们绝大多数也总是其他人眼中的陌生人。”
——比尔·莫耶斯,前白宫新闻发言人
让我们先来想象以下两个场景:
-
你是一名数据分析师,参与构建了近乎完美的针对性广告平台。这个平台推动了数十亿美元的业务,但随后被外国黑客用以影响总统竞选,并攻击民主制度。
-
你写了一个机器学习拼写检测算法,这个算法是全世界最[1]优的,在全球范围内广为应用。但有一天[5],它将一些处方药的名称自动更正为其他名称,给无辜的人造成了伤害。
不可否认,如今技术人员手中的权利和能力比任何一个时代都要强大。
这两个例子也并非完全出于想象。哈佛大学Crowd Innovation Lab近期参与的一项研究——使用算法自动识别一起犯罪是否属于团伙犯罪引发了技术人员是否该对技术结果负责的巨大争议。
而面对自己开发的算法可遭受到的道德指责,哈佛大学的一位论文作者这样公开回应道:“我只是个工程师。”
工程师的职责真的仅限于开发吗?
通过设计产品、区分优先级、将其投入生产,技术研发者实际上正在影响着越来越多未曾谋面的人。
这些被开发完成的产品存在于人们的手腕上、笔记本电脑里、口袋中,因此也存在于人们的头脑中。
但是,不同于医生、警察、教师这些有着明确道德准则的职业,给技术开发者的道德准则却时而如白纸黑字般分明,时而却含糊不清。
Visual Basic之父、资深[6]程序员Alan Cooper在Interaction 18上就这一话题发表了演讲,并提出,不仅医生、教师,技术人员在就职时也该遵循自己的一套“希波克拉底誓言”。
点击查看其演讲完整内容:
https://interaction18.ixda.org/program/keynote--alan-cooper/
因为我们不仅要修补现有技术中的漏洞,更要在未来技术中预防这类滥用行为。
每个人都有不同的评判标准。谈及如何合理使用影响深远的产品时,人们也会有不同的意见。正因如此,技术人员们更应寻求深入理解所使用的模式和方法,以此了解它们带来的心理影响,以及与设计初衷相异的用户体验。不仅如此,当我们认为事已越界时,应该不惧权威、直言不讳。
纵然作为工程师、设计师、产品经理、数据科学家等的技术人员已在人们的日常生活中举重若轻,行业道德体系的教育和监督还有待完善。
领悟这一发现的过程使我们更深入理解了那些将道德准则纳入职业宣言的行业,Alan Cooper也因此将医生的希波克拉底誓言改编为技术人员ff0000的版本。
他说,“虽然这不是科技从业者的第一份誓言,也不会是最[1]后一份,但却是新世界的一部分。在这个新世界中,我们不能再忽视我们所作所为应负的责任和潜在的影响。”
我们将这份宣誓誓言摘录如下:
技术人员的宣誓誓言
我宣誓,尽我之能力及判断力实现此誓言:
我谨记,不论个人用户或集体用户,皆非数字或目标,而是应被尊重的人。
我将尊重前人来之不易的创造性成果,并甘于将自己所知授予后人。
我将应用自己的能力于终端用户的利益与价值,若相悖于产品目标,则坚决拥护前者。
我将谨记,技术之中不但包含科学,也包含艺术,同情心、技巧和对所做决定带来后果的警惕之心比技术知识、经济利益、地位提升更有价值。
我将不畏承认“我不知晓”,亦不会在需要深入的评价或多角度的思维时,不向同事求援。
我将尊重客户的需求,以保持与技术的健康关系。试图解决问题时,我将力求与对应受众建立直接联系。
我必会谨慎前行,在生活的平衡操作中,若面对伦理或道德争议,我将选择终止所为。
我将力求为受我技术影响的人们来带裨益,但我承认我的技术或将带来严重的不良后果。我将以谦虚的态度和对自己极限的清醒认知,面对并承担前述重大责任。
我将谨记,我的工作不仅是构建平台、应用或网站,最[1]终更将影响人类,而人们应用我成果的水平可能影响到其家庭、经济稳定性或精神健康。如果我坚信我的成果符合道德标准,我应承担其直接后果的责任。
我将竭力防患对用户的剥削,因为预防胜于补救。
我将谨记我是社会的一员,我对社会负有特定的责任。我知晓其他人类同胞可能因我而身心健康,或失之强健。
重中之重是,我明白我是守卫者,我应格外关注我的技术产生的影响,甚于服从权威。若我不违背誓言,则可享受生活,并因自己的成果而喜悦,现世和身后受人尊敬。
愿我能够严守最[1]高使命,并能恒久经历为世人提供帮助之欢欣。