域名频道资讯站 
数字信息技术使几乎任何人、任何时间、任何地点都能轻易获得信息。这对我们社会的各个方面，从工业生产到分配、到商品和服务的消费，都产生了深远的影响。就像之前的技术革命一样，数字信息技术的影响如此广泛，我们不再只是简单地利用它——做我们以前做过的事情——而是通过改变我们的行为方式来适应它。
今天，数字信息技术已经重新定义了人们如何与他人进行社交互动，甚至如何找到伴侣。消费者、生产者和供应商、实业家和劳动者、服务提供者和客户、朋友和合作伙伴之间重新定义的关系，已经在社会上造成一场剧变，正在改变后工业时代对道德理性的定义。
我们正站在下一波科技革命的风口浪尖：人工智能。20世纪晚期的数字革命将信息带到了我们的指尖，让我们能够快速做出决定，而机构做出决定，从根本上说，取决于我们。人工智能正在通过自动化决策过程来改变这一状况，它有望带来更好的定性结果和更高的效率。人工智能游戏系统在击败国际象棋世界冠军卡斯帕罗夫（Gary Kasparov）和围棋世界冠军柯洁（Ke Jie）方面取得的成功，突显出人工智能在计算当前决策对潜在未来棋步的影响方面，在质量方面优于人类专家。
然而，在这个决策过程中，人工智能也带走了人类行为的透明性、可解释性、可预测性、可教性和可审核性，取而代之的是不透明性。这一举动的逻辑不仅不为参与者所知，也不为程序的创造者所知。随着人工智能为我们做出决策，决策的透明度和可预测性可能会成为过去。
想象一下这样的情景：你的孩子回家找你，要求你给她零花钱，让她和朋友一起去看电影。你允许了。一周后，你的另一个孩子带着同样的要求来找你，但这次，你拒绝了。这将立即引起不公平和偏袒的问题。为了避免受到偏袒的指责，你要向孩子解释，她必须完成家庭作业，才有资格获得零花钱。
没有任何解释，家里一定会有紧张的气氛。现在想象一下用一个人工智能系统取代你的角色，这个系统已经收集了成千上万个处于类似情况的家庭的数据。通过研究其他家庭的零花钱决定的后果，得出结论，一个兄弟姐妹应该得到零用钱，而另一个兄弟姐妹不应该。
但人工智能系统无法真正解释其中的原因，只能说它衡量了你孩子的头发颜色、身高、体重以及其他所有它能获得的属性，以便做出对其他家庭似乎最有效的决定。那又怎么会有效呢？
在法庭上，过去的判决约束法官遵循先例，即使情况不完全相同，但大致相似。一致性在司法、政府、关系和道德规范中都很重要。AI没有遵守先例的法律要求。人类往往只有有限的直接或间接经验，而机器可能可以访问大量数据。
人类无法在一个长期的时间尺度内筛选他们的经历，而机器可以很容易地做到这一点。人类会排除那些被认为对决策无关紧要的因素，而机器不会排除任何因素。这可能导致不尊重先例的决定，其规模之大是人类可以理解的。随着企业和社会迅速转向人工智能，人工智能实际上可能比人类在更长的时间范围内做出更好的决策，而人类在更短的时间范围内就会感到困惑和沮丧，并侵蚀一个正常运转的社会的唯一货币，信任。
要理解基于人工智能的决策可能有多人工，研究人类如何做出决策是很重要的。人类的决策可能由一组明确的规则，或者仅仅基于结果论的关联，或者由组合来指导。人类对于与决策相关的信息也是有选择性的。由于缺乏选择性，机器在做决定时可能会考虑人类认为不恰当的因素。
有无数这样的例子，从微软（Microsoft）在其聊天机器人Tay开始在Twitter上发表煽动性反犹太言论后关闭它，到波士顿大学（Boston University）的一项研究，该研究发现“老板”（boss）、“建筑师”（architect）和“金融家”（financier）等词与男性、“护士”（nurse）和“接待员”（接待员）等词与女性之间存在性别关联。这可能是数据造成的，但它与我们的显式值形成了对比。如果数据驱动的过程依赖于这些人工智能算法生成的输出，它们将产生有偏见的决策，往往违背我们的道德价值观。
ProPublica在2016年提供了明显的证据。美国法院使用的一种电脑程序错误地将两年之内没有再犯的黑人被告标记为“惯犯”，其再次犯案的可能性几乎是白人被告的两倍——前者为45%，后者为23%。如果一个人也这么做，就会被谴责为种族主义者。人工智能揭示了我们明确的价值观和集体经验之间的分裂。我们的集体经验不是一成不变的。它们是由重要的社会决定所决定的，而这些决定又由我们的道德价值观所指导。我们真的想把决策过程留给那些只从过去学习、因而受制于过去的机器，而不是塑造未来的机器吗?
鉴于人工智能在医疗诊断、金融服务和就业筛查等领域的应用规模之大，任何一个偶然事件的后果都是巨大的。随着算法越来越依赖于提高可预测性的特性，控制这类决策的逻辑变得越来越不可思议。因此，我们失去了决策的全局性，抛弃了所有的原则来支持过去的观察。在某些情况下，这可能是不道德的，在某些情况下是非法的，在某些情况下是短视的。“惯犯算法”公然藐视无罪推定、机会均等等原则。
一致性是道德和正直不可或缺的。我们的决定必须遵循一个高于统计准确性的标准；几个世纪以来，相互信任、减少危害、公平和平等的共同美德已被证明是任何推理系统生存的基本基石。没有内部逻辑的一致性，人工智能系统缺乏健壮性和可问责性——这是在社会中建立信任的两个关键措施。通过在道德情感和逻辑推理之间制造裂痕，数据驱动决策的不可知性阻碍了批判性地参与决策过程的能力。
这是我们生活的新世界，复杂的决定被削减成反射性的选择，并被观察到的结果所强化；把复杂的东西简化成简单的东西，把道德简化成实用的东西。今天，我们的道德感为我们的决策提供了一个框架。也许不久之后，我们的决定就会让人们对我们的道德产生怀疑。
本文素材来自互联网
