我们现在试图科学地感知人类心智的功效目的是什么？它仍然植根于展望和控制的谱系吗？我们是不是把更多的自己塞进机械的嘴里，只是为了看看它能生产出什么？依据谁的权威，为了谁的利益，为了什么目的？

本文来自微信民众号：集智俱乐部（ID：swarma_org），作者：Joseph Fridman，翻译：郭瑞东，审校：Leo、胡一冰，编辑：邓一雪，头图：《赛博朋克2077》

1. 展望取代思索：重新审阅人的价值

早在2016年，Facebook 的工程师们就可以吹嘘他们的发现天天吞噬数以万亿计的数据点，每秒发生跨越600万个展望。毫无疑问，Facebook 的展望引擎现在加倍壮大，它会无情地推测你的品牌忠诚度、你的盼望和你的愿望。该公司的焦点产物是社会心理学家 Shoshana Zuboff 所说的“展望产物”：对未来的预测，通过对我们的生涯和头脑的不断深入探索搜集起来，然后卖给那些想要操作未来的人。

然而，Facebook 及其偕行并不是唯一投入大量资源来明白展望机制的实体。在展望控制这一头脑在企业领域占有主导职位的同时，它也在认知科学领域获得了众多追随者。凭据一个越来越有影响力的神经科学家学派，他们围绕“大脑的展望性编码”这一看法来定位自己，我们最主要的器官的基本流动是发生一连串的展望：关于我们将听到的噪音的展望，我们将感受到的感受，我们将感知到的物体，我们将接纳的行动，以及随之而来的效果。

总的来说，这些期望编织了我们现实的织锦——换句话说，我们对未来天下的预测酿成了我们所看到的天下。约莫400年前， 笛卡尔提出了“我思故我在”的格言，以为认知是人类生计状态的基础。而今天，这句话恐怕得改改了。正如认知科学家 Anil Seth 所说：“我能展望（我自己），以是我存在。”

安尼尔·赛思（Anil Seth），萨赛斯大学塞勒意识科学及心理中央认知和盘算机神经科学教授和中央首创人之一，其代表作有《神秘的大脑》。

但现在，人类自身内在的逻辑与外在的政治逻辑依然殊途同归。展望性编码——当今顶尖脑科学家用来明白人类最深层本质的工具——也正在被当今最壮大的企业和政府使用。这是怎么发生的，意味着什么？

2. 从齿轮到电子：人体的机械化类比

科学家和历史学家 Matthew Cobb 在《大脑的想法》（The Idea of The Brain，2020）一书中注释说，对于这种新鲜的融合，有一种注释来自于一种更普遍的历史趋势：人类通常以他们谁人时代蓬勃发展的手艺来明白神经系统。托马斯·霍布斯在他的著作《利维坦》（1651） 中把人类的身体比作“自动装置”，“它们像手表一样通过弹簧和轮子自动运动”。霍布斯问道，若是神经不是弹簧，而就是由许多弹簧组成的呢？同样地，笛卡尔形貌了动物神经流动时，指出神经流动遵照驱动液压机械同样的物理特征。

电子通讯系统的兴起加速了这一趋势。在19世纪中叶，外科医生和化学家 Alfred Smee 说，大脑是由电池和光伏电路组成的，这使得神经系统能够与身体举行“电报通讯”。在19、20世纪之交的时刻，神经系统科学家 Santiago Ramón y Cajal 将差别神经结构的位置形貌为有点像电线杆支持导线。在第一次天下大战时代，英国圣诞讲座协会约请领会剖学家和人类学家 Arthur Keith，他将大脑细胞的运作比做电报操作员。

3. 心理学：人类行为的展望与控制

今天主宰我们许多生涯的手艺主要不是液压手艺或光电手艺，甚至也不是电话或电报手艺。它们甚至不是任何简朴意义上的盘算。它们是展望性的，它们的基础设施组成和限制了生涯各个领域的行为。旧的基础设施仍然存在，输电线支配着家庭和事情场所，水通过隐藏的管道流入水槽和淋浴间。

然则这些基础设施现在是由展望手艺治理的，它们不仅指导质料的运输，而且还指导信息的传输。展望模子构建我们不断更新的信息流；它自动补全我们的文本和电子邮件，提醒我们定时上班，并挑选出我们在上下班路上听的播放列表。执法、军事和金融领域的响应决议越来越多地受到专有展望引擎吐出的自动评估的影响。

这些展望引擎已经指导我们接受展望性大脑的想法。心理学自确立以来就一直关注人类行为的展望和控制，它自己也是云云。心理学家William James在1892年出书的《为心理学辩护，称其为“自然科学”》（a Plea for Psychology as a“ Natural Science”）一书中写道：“所有自然科学的目的都是现实的展望和控制，其中没有哪一门科学的情形比今天的心理学更为云云。”

在詹姆斯看来，只要心理学家能够辅助社会治理其住民，他们就是社会的财富。詹姆斯说：“我们生涯在一群对控制精神状态最感兴趣的人的周围。”每一个教育家，每一个监狱看守人，每一个医生，每一个神职人员，每一个收容所治理人员，都要求心理学给出切实可行的规则。

Green Nudge（绿色推动法）是一种主要行使人类心理和行为制订环保政策的一种方式，其往往在激励人们举行环保行为的同时，也给予人们一定自由选择的权力。

4. 从敌军到消费者：我们能否展望一切

第二次天下大战的军事斗争牢固了这种以为人从根本上是可以量化和可展望的看法。长期以来，战时的敌人一直被形貌为只适合被猎杀的野兽或昆虫，或者是一个遥远的统计数据。然则现在有一些新的器械需要面临：战斗机飞行员、轰炸机、导弹发射器。1994年，历史学家Peter Galison写道：“他是我们的敌人，他醒目战略、战术和灵活计谋，而我们却完全无法进入，距离、速率和金属组成的鸿沟将他们离隔。”

在手艺设计、传感器和处置器的辅助下，攻击这个敌人是危险的。每一次你试图领会它，每一次你试图展望它的轨迹并杀死它，它就会领会你更多。Galison注释说，这个敌人并不是什么低于人类的野兽，而是“一个机械化的敌人，发生于麻省理工学院以及美国和英国众多大学的实验室为基础的科学战争”。它是一部分人类，一部分机械，也就是我们今天所说的半机械人。

同盟国发动一切科学气力匹敌这个敌人，包罗行为学和盘算机科学。谁人时代最有影响力的想法之一是一个被称为防空预告器的装置，它被设计用来模拟敌方飞行员，展望他的轨道和射击。这是麻省理工学院数学家和科学家 Norbert Wiener 的创意。Wiener 和他的同事 Julian Bigelow 一起开发了厥后被称为控制论的学说：一种通过因果反馈循环来明白天下的方式，在这种循环中，一个行为的效果作为进一步行动的输入，允许错误被自动纠正。正如 Galison 所写：

把敌人的飞行员与机械混为一谈，以至于人与非人的状态模糊不清。在与这个控制论敌人的战斗中，Wiener 和他的团队最先构想盟军的防空操作员与敌人相似，从盟军中人与非人之间界线的忽略到整体上人机界线的模糊，只有很短的一步。在20世纪40年代的控制论视野中，人体生理学的原型，以及所有人类个性的原型，都是伺候机械。

战争时代，越来越多的机械和武器包含了反馈系统； “许多新机械泛起了，它们具有亘古未有的自我调整和纠正能力。”精神病学家、控制论学家 Ross Ashby 在他的《为大脑设计》（Design for a Brain，1952）一书中说。这些是“高射炮、火箭和鱼雷”，它们给士兵和科学家留下的印象是，机械可以有意行动。试着把它们甩出航线，它们就会像飞机上的敌方飞行员一样纠正并朝你飞来。随着他们继续研究反馈历程，Wiener和他的同事们最先将自我调治机械和有意识的人类行为看作一体，甚至用控制论的术语来注释生物动力学（如体内平衡）和社会征象。这包罗大脑——Ashby 说，大脑的“整体功效”相当于“纠错”。

敌人是一种展望和控制的工具。消费者是另一个。John B. Watson，20世纪早期行为主义心理学的首创人之一，以为他的学科的理论目的是展望和控制行为——服务于教育者、医生、法学家和商人的需要。1920年，由于婚外情被要求从约翰·霍普金斯大学辞职后，Watson 成为了那些商人中的一员，加入了麦迪逊大道上的 Walter Thompson 广告公司。

在 Watson 到来之前，心理学和广告学有着天壤之别。然而，凭据 Watson 的传记作者 David Cohen 的说法，在 Watson 的公司仅仅事情了几年之后，他的公司总裁就在伦敦给政客和商人们上课，说“人类的团体行为和制造历程中使用的物质质料一样受执法的制约。”

早期的行为主义者以为，人类是输入输出机械，受到刺激反映定律的约束。不存在心智模子，只有可展望的输入和行为输出。Cohen 写道，潜在买家就像一台机械。提供准确的刺激，他会做出准确的反映，从自己的口袋里掏钱。广告公司将资助 Watson 等研究人员自己举行的实验，以磨练他们提出的关于消费者的纪律，为他们对习惯性产物使用、目的信息通报和品牌忠诚度等征象的明白找到合理依据。

约翰·华生（John Broadus Watson）是美国心理学家，行为主义心理学的首创人。主要研究领域包罗行为主义心理学理论和实践、情绪条件作用和动物心理学。

广告代理商不仅仅把这些原则应用到销售谷物和香烟上，而且还销售政治候选人。例如，广告业高管 Harry Treleaven 在美国待了近20年，直到1966年脱离美国，辅助乔治布什赢得首次竞选，进入众议院，之后又辅助尼克松在1968年赢得美国总统大选。该机构的许多高管都选择了同样的门路，《纽约时报》接着将其形貌为“尼克松政府最多产的人力资源供应商之一”。

5. 自动模拟：可编程、可展望、可控制

1960年，尼克松首次实验成为总统，标志着企业展望和控制事业的重大转折。历史学家 Jill Lepore 在她的著作《若是那么》（if then，2020）中形貌了 Simulmatics 公司的生与死，在某种程度上象征着这一轨迹。当他们在1959年2月开业时，和 J Walter Thompson广告公司相差无多，公司的首创人们正准备投入战争。政治是他们的战场，尼克松是他们的“凶猛对手”。

为了击败这样一个壮大的敌人，该公司总裁 Edward L. Greenfield 以为，民主党候选人约翰·肯尼迪需要一个秘密武器。Lepore 写道，现代美国政治就是从这个秘密武器最先的，展望模拟旨在影响从市场行为到投票的一切。

为了制造这种武器——“自动模拟”—— Simulmatics 公司聚集了来自麻省理工学院、约翰·霍普金斯大学和常春藤同盟的顶尖科学家。凭据 Lepore 的说法，许多学者“接受过心理战科学的训练”。其效果是缔造了一个“投票行为机械，1960年大选的一个盘算机模拟”，这是“有史以来最大的政治科学研究项目之一”。

这个模拟是为了提供关于人口中的一部分人会若何投票的展望，考虑到他们的靠山和政治竞选的情形。该公司声称对肯尼迪的胜利卖力，然则这位当选总统的代表否认与该公司有任何关系。

Simulmatics 接着展望了许多其他事情：它在1963年模拟了委内瑞拉的经济，目的是使共产主义革命失败，并介入了越南的心理学研究和展望种族骚乱的起劲。不久之后，该公司成为反战抗议的目的，并在十年终申请停业。

然而，仿真学对天下的看法依然存在。首创人信赖，通过盘算机科学，任何事情都是可能的，“一切，总有一天，都可能被展望——每小我私家的大脑都会被模拟，然后像导弹一样准确无误地被定向信息指导。”今天的全球化展望性公司已经将这一现实带入现实，大规模网络数据，并行使科学观点使其开发合理化。现在，用 Lepore 的话来说，激励着 Simulmatics 首创人的想法已经酿成了险些所有公司的使命——网络数据，编写代码 if-then-else，识别模式，展望行为，直接干预，激励消费，影响选举。

冷战时代确立的 Simulmatics 公司，挖掘数据、锁定选民、操作消费者、损坏政治稳定和杂乱知识，比Facebook、谷歌和剑桥剖析公司早了几十年。哈佛大学的美国历史学系教授吉尔·莱波尔（Jill Lepore）在麻省理工学院的档案中发现了该公司的文件，并重述这段被遗忘的历史，另有硅谷的狂妄及其手段背后失传已久的历史。

我们若何明白我们的生物学和我们若何组织社会之间的联系由来已久，而且这种联系是双向的。当人们作为一个团体走到一起时，他们的组织架构通常是通过可运用于小我私家的相似观点和纪律而被明白的；合并、公司、并入这些词分别由肉体、主体、身体的拉丁词根派生出来的。在《利维坦》中，霍布斯说：社会是一种身体，社会是一小我私家造的灵魂，赋予全身生命和运动；裁判官和其他司法和执行官员，是人造的；奖励和责罚（通过奖励和责罚固定在社会的职位，每小我私家和成员都被激励去推行他的职责）是社会的神经系统，在人体中也是这样。

相反地，我们经常把支配我们社会的逻辑强加于我们自己的身体上。在《缔造：一首哲学诗》（1712）中，内科医生和诗人 Richard Blackmore 以为内在的动物精神是人类行为和感受的缘故原由。在 Blackmore 的诗歌中，这样的精神是“心灵的守护者”，被下令去巡逻神经系统最远的区域，在每一个“感官通道”守卫着他们的岗位。Blackmore 的“小心哨兵”继续监视“疆域”，回到大脑，只是凭据他们的印象给出讲述并接受新的下令。正如学者 Jess Keiser 所说，Blackmore 的身体是由同样的公民和士兵缔造的，正如他所融入的政治天下一样。

今天，许多探索展望性大脑的神经科学家将现代经济学看成一种类似的注释性启发式学说。哲学家 Andy Clark 在一篇关于大脑展望性编码的著名谈论中指出，科学家们在明白“破费巨量新陈代谢的价值，来制作庞大的大脑是若何对寻找最优适应性这一目的有利的”这个问题已经取得了很大希望。展望性大脑的想法是有意义的，由于从新陈代谢的角度来看，它是有利可图的。

同样，心理学家 Lisa Feldman Barrett 将大脑展望的主要作用形貌为治理身体预算。她说，在这种看法中，你的大脑有点像公司的金融部门，能够展望资源配置、消耗能量、投契和追求投资回报。对 Barrett 和她的同事来说，压力就像是身体预算的“赤字”或“提款”，而抑郁症就是停业。在 Blackmore 的时代，大脑是由哨兵和士兵组成的，他们团体的郁闷酿成了他们所栖身的人类的悲痛。

今天，我们把大脑想象成由展望统计学家组成，而不是士兵，他们的错误酿成了我们的神经官能症。正如神经科学家 Karl Friston 所说：“若是大脑是一个推理机械，一个统计器官，那么当它失足的时刻，它会犯统计学家会犯的同样的错误。”

6. 人性回归：手艺碎片无法组成人类

展望经济学和脑科学之间的这种联系很主要，由于——若是我们不小心的话——它可能会激励我们把我们的人类同胞酿成机械的一部分。我们的大脑从来都不是盘算机处置器，只管时不时地以这种方式想象它们可能会很有用。它们现在也不是字面意义上的展望引擎，若是它真的实现了，它们也不会是量子盘算机。

我们的身体不是穿梭在服务员周围的买家，也不是那些需要好好投资的公司。我们从根本上来说不是被诱骗的消费者，不是被追踪的敌人，也不是被展望和控制的工具。无论竞技场是科学研究照样企业智慧，我们都很容易陷入匹敌性和克扣性的认知框架；正如 Galison 所写，“控制论与武器、对立战术和将人性看成黑匣子这些观点之间的联系不会容易消逝。”

我们若何看待自己很主要。正如女权主义学者 Donna Haraway 注释的那样，科学和手艺是人类与天下互动的功效。然则，凭据资本主义关系确立自然经济，并为了支配产物的目的而占有自然经济，这种做法的影响很深刻。人类不是手艺的碎片，不管它有多庞大。然则通过这样谈论我们自己，我们默许那些决议这样看待我们的公司和政府。

当展望处置的展望者将展望视为大脑的标志性成就时，他们冒着给自动化展望系统毫无凭据的可信度的风险——将智能的光泽分配给人工展望者，无论他们的展望何等粗拙、有害或者自我实现。它们黑暗威胁要使展望引擎塑造和操作人类主体的方式合法化，反过来，它们激励我们根据这种形象塑造自己。

科学家们可能以为，他们只是在构建考察和明白的观点和机械工具——神经科学时代的望远镜和显微镜。然则考察工具可以很容易地固定在武器的末尾，瞄准大量的人群。若是说展望系统最初是作为武器泛起的，目的是让人类在战场和市场上拥有控制权，那么这就给了我们分外的理由去质疑那些现在使用这种武器的人。科学家们应该异常仔细地思索他们的理论和注释的双重用途——尤其是当涉及到根据平台资本主义的门路重新设计科学时，正如科学历史学家和哲学家 Philip Mirowski 所主张的。

Seth 写道，“感知总是由功效性目的塑造的：感知天下（和自我）不是为了其自己，而是由于这样做是有用的。”只要这样继续下去，我们就必须问：我们现在试图科学地感知人类心智的功效目的是什么？它仍然植根于展望和控制的谱系吗？我们是不是把更多的自己塞进机械的嘴里，只是为了看看它能生产出什么？依据谁的权威，为了谁的利益，为了什么目的？

原文链接：

https://aeon.co/essays/on-the-dangers-of-seeing-human-minds-as-predictive-machines

本文来自微信民众号：集智俱乐部（ID：swarma_org），作者：Joseph Fridman，翻译：郭瑞东