读书 | AI时代，人类真正的危险不是被机器，而是被自己的大脑奴役
《循环：AI如何影响人类，人类如何应对AI》
[美]雅各布·沃德 著
毛敏 译
中译出版社出版
什么是循环？本书提到三个循环：第一个循环也是最核心的循环，即世代沿袭的人类本能。人类天生具有偏见，而且更倾向于使用大脑的系统行事，在这个过程中，人类原有的偏见进一步被强化，形成第一个循环。第二个循环是来自现代的力量，如消费类技术、资本主义、营销和政治，它们对核心循环的人类行为进行采样，总结出模式，再将这些模式反作用于人类，最终引发了一系列问题。第三个循环，即本书书名所指的循环，是来自人工智能的影响。AI对人类偏见进行采样，总结出规律，最后把这些规律反作用于人类，形成第三个循环。
人工智能将改变我们所知的世界。但真正的危险不是某个机器人会奴役我们，而是我们自己的大脑。我们的大脑经常使用捷径、偏见和隐藏的过程来做决定——我们正在使用同样的方法来创造技术，为我们做出选择。作者雅各布·沃德认为，人工智能对人类最大的威胁不在于机器人的反扑，我们的大脑才是最需要堤防的因子。在决策时，大脑会受到偏见、情绪等因素影响。而当我们在选择要喂养哪些信息给智能产品时，往往也会把这些盲点和谬误一并复制进去。
人类的思维本来就有认知偏误，行为也受各种无形的外力牵引。而在当今模式识别科技与引导式决策的相互作用之下，智能产品帮我们写好了一切行为的剧本，人类选择因此受到限缩。沃德提醒，如此一来，不仅不公不义的现象更加严重，人类创新的本能和思考的能力亦将大幅退化——这才是我们在面对智慧科技时真正应该担心的事情。
>>内文选读
这个星球上，我们占据的空间已经远远超出了自然的范畴。而现在，我们为了效率和利润，在重新设定地球、人类的模式。我们放松了对甲板上的系统的控制，这将会从根本上改变船上每个人的行为，这些改变将会传给后代子孙，而他们甚至可能还没有意识到自己做了什么。这种模式将会自我重复，并且一代又一代在行为和技术循环中持续下去。这就是本书的主题。
我为本书起名《循环》，但实际上，我想要阐述的循环有三个。让我们想象一下，一个小循环嵌套在第二个循环中，第二个循环嵌套在第三个循环中。如果想要清楚地看到每个循环，还需要检视其他循环。我将从最小的循环开始，它是我们做的一切事情的核心，它已经旋转了数万年，甚至数百万年。
最核心的循环是我们所沿袭下来的人类的行为，是进化赋予我们的天生的好恶倾向和依靠惯性生活的能力。这个循环无所不含，包括我们的种族偏见、准确判断风险能力的缺失，等等。这是本书的第一部分，因为要理解其他循环，还需要懂得它们是如何依赖于这个循环的。
一旦我们理解了这一点，我们就可以看看第二个循环。第二个循环是来自现代的力量，如消费类技术、资本主义、营销和政治，它们对核心循环的人类行为进行采样，然后再将这些模式反过来用在我们身上，最终引发了一系列问题，如烟瘾、赌瘾，以及房地产和机器学习领域的系统性种族主义等。
最外层的循环就是本书书名所指的循环。计算机会对古今人类的好恶倾向进行研究、采样，并将其输入自动模式识别系统，然后据此以一种细水长流的形式，将内容推送给我们，让我们更习惯于不假思索地接受。我为即将到来的这一切感到忧心忡忡。这个循环扼杀了我们的音乐审美，取而代之的是Spotify根据我们上周的歌单给出的推荐。这个循环对我们的政治倾向、社交喜好进行采样，在Facebook上将我们与合拍的人放在一起，这样我们就会形成强大的群体身份认同，并全身心融入群体中，以至于对群体以外的人毫无兴趣。这个循环会筛选所有可用的求职者，标记出具备本领域佼佼者特征的人，那么你作为招聘人员，可能一两天就能完成招聘，无须耗费几周时间，甚至你可以足不出户。在这个循环中，人们拥有的选择急剧减少，资本主义对效率的追求又加剧了这一趋势，那些让我们无意识接受信息的系统设定令人无法抗拒，人类主观能动性因此备受威胁。
这其实已经发生了，但真正的威胁还要随着时间的推移而显现。而最大、最持久的影响至少需要一代人的时间才会显露。不如这样想：我们被无意识的倾向引导着，但几乎不会觉察到这种倾向遭到了分析和利用。而以此为基础的模式识别和决策指导技术则让我们措手不及。在当前的社会中，我们的政策和规划缺乏长期的敏锐度，无法识别和控制那些决定着人类未来的事情。这就是本书的主题。
图源：视觉中国
我希望在本书中阐明，我们所开发的那些会改变后代人类行为的技术，将给我们带来什么挑战。当今时代，依靠这些技术，我们的行为可能会变得更有效率、回报更高、更可控。我们可能会立即获得经济利益，或许在短时间内，我们可以免于做一些困难重重，或是令人生厌的工作。对于我在这里描述的每一个危险的例子，都有其复杂的益处。但是，我们能否用达尔文的眼光展望未来，看看是否存在这种可能：一代又一代人的选择越来越少，而且情况一路恶化？我们能否以某种方式预测它，并采取行动纠正它，即使这样做的回报要在我们自己，以及孩子们都已经离世之后才能显现出来？如果我们做不到这一点，我担心在一两代人的时间里，我们将演变成一个完全不同的物种，对于那些代替人类决策的技术，就算做出了错误选择，我们也无法凝神反抗，只能顺从无助地接受。
但我认为我们可以对抗这个循环。我们只需后退一步，勾勒出循环的轮廓，识别出存在于我们所有人身上的使循环成为可能的古老特性，再找到如今循环侵入我们生活的路径，然后消除它对我们未来的影响。
作者：
文：雅各布·沃德 编辑：金久超 责任编辑：朱自奋