Avron Barr

Avron Barr

Created
Feb 4, 2022 7:42 AM
Tags
Property

image

... 智能机器的发展是特别重要的,因为我们人类大脑不仅在存储和处理上受到限制,同时也存在缺陷。它很容易被误导、也固执、甚至对事实视而不见,尤其是当它处于极限状态时。—— Avron Barr

就像自然规律一样,一切的发展都会被推到极限,包括人类。我们必须找到一种更有效地组织我们自身的方式,把更大人群的能量汇集在一起,朝着一个共同的目标前进。由通信技术构建的智能系统,有朝一日将比任何人更了解涉及数百万人的复杂企业中正在发生的事情,比如一个跨国公司或一座城市。他们将能够解释每个人在任务中的角色。我们将用这种方式建造更多的工厂,也许有一天世界会更加和平。我们必须牢记,自然界中存在的智力能力不一定是它的自然界限。

未来的电脑会成为扩展我们思维能力的工具吗? 还是会进化成一种新的智能物种,其运作远远超出生物智能的范围? Avron Barr,本文开头引用的文字的作者,正在探索人类大脑进化中最具潜在爆炸性的领域之一即被称为「知识工程」的领域。

在我看来,Avron Barr 似乎与 Licklider 和 Bush 的观点一致,即人机共生是不可避免的。但是对于其他许多人来说,人工智能的概念似乎与增强智识有着根本的不同,因为人工智能派别似乎对取代人类智能更感兴趣,而不是扩展人类智能。

知识工程只是构成人工智能领域的不断扩大的硬件和软件研究领域的一部分。与其他人工智能研究人员不同,Avron Barr 并不关心能够引导光学传感器识别视觉模式的系统,或者能够帮助语音识别系统理解自然语言的系统,或者能够引导机器人爬楼梯的系统。他和他的同事们正在尝试建立一个系统,这个系统可以将专家的知识传授给新手,并且可以使用传授的知识来帮助人们对具体问题做出决定。

Avron Barr 的专长似乎弥合了那些从“思维工具”角度看待电脑未来的人和那些从“智能进化的下一步”角度看待电脑未来的人之间的鸿沟。和我遇到的其他参与构建未来软件工具的人一样,Avron Barr 坚信,当这些实验渗透到公众体验层面时,我们将面临划时代的变革。

例如,考虑以下场景:

一天深夜,西南部一个小镇上的一名医生被一个紧急求救叫醒 , 一名6岁的女孩被送进了当地医院。她处于昏迷状态,发着高烧。医生试过了所有的临床手段都不其效果。他们只是一个小城镇的医院,不得不打电话给知名经验丰富的病理学家咨询这些症状。从第一次测试的结果看,这不是普通医生或病理学家以前所见过的。药品是有的,药房设备齐全,但缺乏专门知识,到底该开哪种药呢?

对于这个小女孩来说,从数百种可能性中选择合适的抗生素是件生死攸关的事情,无论是医生还是病理学家都不愿意把这个年轻病人的生命押在猜测上。他们把实验结果带到了当地的大学,在那里,一个似乎总是在半夜出没的年轻的程序员,他用微型电脑和电话联系了 Palo Alto 的一位专家,这位专家知道如何就这样的案例提出需要解决的正确的问题。

问诊开始 病人最近是否有持续性头痛或其他神经系统异常症状(头晕、嗜睡等) ,专家问道。 “是的,”当地的主治医生回答。 病人最近是否有医生观察或医院记录的异常神经体征(颈项强直、昏迷、癫痫等)的证据。 “是的,”病理学家回答。 —— MYCIN

在专家电话提供的线索的帮助下,当地医生又进行了一次检测,将致病微生物的搜索范围缩小到专家提出的三种可能性之一,远程专家又帮助他们找到了这些治疗感染的药物。小女孩恢复了健康。医生、病理学家和孩子的家人都很感激。这位专家是一个名叫 MYCIN 的电脑程序,位于斯坦福医学中心的电脑内。

虽然这个特别的故事是虚构的,但对话却是一个真正的 MYCIN 咨询的摘录。这个程序确实存在,并且作为一个严格的实验性诊断助手被使用。这是一系列被称为专家系统的新型电脑程序的一个例子,这些程序现在被用作医学和地质学、数学和分子生物学、电脑设计和有机化学等领域的人类专家的智能助手。专家系统只是一系列新型软件探测器中的第一个,这些软件探测器可以让 Avron Barr 像航天员一样进入人机关系的未知领域。

这些系统既是研究工具,也是商业产品。

一个叫做 PROSPECTOR 的程序最近(1985)帮助查明了价值数千万美元的钼矿床的位置。

一个名为 DENDRAL 的程序,最初是一个人工智能实验,现在由一个化学公司联盟拥有,他们的化学家用它来设计和合成潜在有用的新化合物。

专家系统和其他类型的电脑程序的一个重要区别是,程序不是简单的提供问题的答案(就像计算器提供方程的解一样),他们会冒险回答,并附上对答案“信心”的数字声明,但他们做的远不止这些。专家系统最重要的部分是程序和使用它的人之间的交互。

面临特殊问题的人可以参考特殊程序,这个程序能够就问题的特殊情况向人提出自己的问题。该程序模拟人类专家的决策过程,并将该过程的结果反馈给咨询它的人,从而为使用它的人提供参考和指导。

现存的专家系统由三部分组成:

  • 一部分是针对具体任务的知识库,
  • 一部分是针对该知识做出决策的规则,
  • 另一部分是回答人们关于该项目推荐原因的问题的方法。

“专家”程序并不知道它存储在电脑内存中原始的信息到底是什么,它是凭借一个类似推理的过程,将规则系统应用到知识库中。它不是通过蛮力计算,而是使用人类专家使用的一些同样的经验法则,在备选方案中进行选择。

有关专家的建议被最终证明是正确的概率数据是评估专业知知识库好坏的最终标准。无论专家是一个已经研究多年的人,还是一个昨天才出生的电脑程序。Alan Turing 在 1950s 提出了进行这种评估的方法。

“图灵测试”绕过了有关人工智能的抽象论点,要求人们确定他们通过电传打字机与之交流的系统是一台机器还是一个人。如果大多数人不能从另一方回答问题的方式来区分一台电脑和另一个人,那么另一方就被认为是聪明的。采用了类似的策略来判断专家系统的功效。为什么不让一些人类专家来区分人类和机器的诊断呢?

斯坦福医学院进行的一项实验,十名患有不同类型传染性脑膜炎的患者提交了他们的检测病历给 MYCIN 。与此同时,8 名人类医生,包括传染病的 5 名专家, 1 名研究员和 1 名住院医生,得到了给 MYCIN 相同的信息。MYCIN 的建议,连同人类医生的建议(也都是未经确认的的治疗建议)发送到八个非斯坦福专家手中,结果是外部专家对 MYCIN 的评价最高。

在1980s,在某些高度专业化的领域,专家系统即使不优于人类的专业知识,也可以是高度有效。二十年前的1960s,即使在人工智能领域,很少有人相信这项工作能够完成。通常情况下,“纯粹”的理论人工智能研究领域偏离了这个潜在的有争议的应用人工智能领域,这是必然的,因为围绕专业知识的问题是模拟人类智能努力的核心。

image

Edward a. Feigenbaum 是从事人工智能研究的人之一,他在1960s 中期决定,了解一个电脑程序能知道多少是件很重要的事情,了解这个问题的最佳方式是尝试构建一个人工专家。

image

诺贝尔奖获得者遗传学家 Joshua Lederberg 认为,基于质谱法的数据并遵循已知的分子键规则来确定化合物的分子结构,对于人工智能技术来说,这是一个相当困难但潜在有用的问题。

1965年,Lederberg 和 Feigenbaum 与软件专家 Bruce Buchanan 和诺贝尔奖获得者生物化学家 Carl Djerassi 一起,在斯坦福大学开始设计 DENDRAL(第一个专家系统)。

人类化学家知道,组成任何化合物的分子可能的空间排列取决于不同原子如何相互结合的一些基本规则。他们还知道许多已知化合物中不同原子的事实。当他们制造或发现一种以前未知的化合物时,他们可以通过质谱仪分析这种物质来收集有关这种化合物的证据。质谱仪提供了大量的数据,但没有线索表明这一切意味着什么。

传统的以电脑为基础的系统无法提供一种根据光谱数据发现分子结构的工具。问题在于,这些规则允许存在大量“近乎失败”的结构,这些结构几乎(但并非完全)适用于所有数据。当涉及到筛选所有差一点的任务时,似乎存在一个“复杂性差距”。用于发现简单结构的简单得多的计算过程对于更复杂的结构来说是不够的。DENDRAL 的目的是找到一个“干草堆中的结构”,完全符合光谱数据和化学键的规则。

事实证明,你不能仅仅把所有已知的事实输入到电脑中,然后期望得到一个连贯的答案。这不是人类专家做决定的方式,显然这也不是你哄骗电脑做决定的方式。你需要的是一个“推理机”,把游戏规则、已知事实的主体、大量的新数据结合起来,然后大胆猜测这一切意味着什么。

构建正确的“if-then”程序,一个有足够的灵活性来使用人类专家使用的那种经验法则的程序,只是需要解决的第一个主要问题。一旦您创建了能够操作专家知识的程序结构,您仍然需要向系统中获取一些知识。在给计算机程序输入大量关于分子的数据,以及关于它们如何组合成分子结构的规则之后,DENDRAL 的创造者采访了专家化学家,试图详细说明专家们如何决定哪些组合和结构可能有用。由此产生的程序成为软件进化史上的一个里程碑,也是化学家、生物学家和其他研究人员使用的一系列软件工具中的第一个。

构建 DENDRAL 的过程还有另一个有用的、意想不到的副作用,从人类专家中提取判断相关知识的任务导致了一个新的子领域,称为“知识工程”。“知识工程”是观察人类专家的艺术、工艺和科学,建立他们专业知识的模型,并改进模型,直到人类专家同意它的工作。

MYCIN 最早的副产品之一是 emicin 专家系统,专门为那些在构建专家系统方面具有专长的人而设计。通过将推理机与实际知识分离开来,为专家系统构建人员生产专家工具成为可能,从而引导出最先进的技术。

虽然这些奇特的程序看起来与交互式电脑系统的主流研究相距甚远,但专家系统研究却在创造分时、下棋程序、太空大战和黑客伦理的同一个实验室里兴起。DENDRAL 是麻省理工学院(实际上是 MAC)早期在执行高级数学功能的程序方面的工作成果。很明显,随着 DENDRAL 和 MYCIN 的成功,这些程序可能对电脑科学领域之外的人有用。当这个新的分支领域变得更加广为人知的时候,很明显,Weizenbaum 和其他人提出的关于人工智能的非技术性问题将会被提出。正如第一次可怕的实际应用到医学领域时所证明的那样,人工技术领域涉及到重要的伦理以及哲学、心理学和工程学方面的考虑。

将知识工程应用于人类医学最明显的潜在危险是误解导致误用的可能性。虽然建立这个系统的人认为它是一个了不起的但是完全容易出错的工具,但是许多人仅仅因为它来自一台电脑就倾向于过于重视它的推荐。由于医学建议往往涉及生死问题,因此,当你试图建立一些东西,为专家提供医学建议时,必须考虑到这种 automatic doctor 可能带来的心理影响。

像所有复杂的问题一样,医学知识工程的伦理学也有另一面。来自非西方、非工业或非城市文化的人可能会注意到,专业知识,尤其是医学专业知识,是极其稀缺的资源。为数不多的医疗、卫生和农业专家正在与世界上最大的人道主义问题——流行病和饥荒——作斗争,他们的工作范围太小,工作太辛苦,无法跟上他们领域的科学进步。即使在主要的医疗中心,在某些重要的专业领域的专业知识也是稀缺的。

尽管许多“现代医学”的标志(如 CAT 扫描仪和其他医学成像技术)如此昂贵,以至于仅限于少数富裕或购买了完善保险的病人,但基于软件的系统的诊疗在每个病人的潜在成本上却低得离谱,几乎低得足以在不久的将来为地球上数亿危重病人做一些好事。

医学似乎是商业知识工程最有前途的应用领域之一。20世纪70年代中期,斯坦福医学院的医生和电脑科学家 Dr. Edward H. Shortliffe 开发了 MYCIN,这个诊断系统在早期的诊断中被引用。

诊断某类脑部感染问题是专家系统研究的一个技术上适合的领域,也是人类特别迫切需要的一个领域,因为确定感染剂的速度是成功治疗的关键。斯坦福和太平洋医学中心的研究人员使用 E-MYCIN (MYCIN 的推理引擎)来生产 PUFF,PUFF 是一个可以帮助诊断某些肺部疾病专家系统。同时一个更新的系统,被称为 CADUCEUS (以前称为 INTERNIST) ,使用人工智能技术来模拟特定人类医生(匹兹堡大学医学院的 Jack Meyers 博士)的诊断技能。

Meyers 找到一位受过 Carnagie-Mellon 训练的人工智能专家作为搭档,搭档名叫 Harry Pople Jr,他们一直在存储 Meyers 的部分解决问题的风格和他对整个医学领域的知识,以及从医学文献中找到令人印象深刻的大量信息。虽然 CADUCEUS 尚未完工,但当它对医学杂志上提交的棘手的病例诊断时,已经可以表现良好了。

人们告诉 The Computer Establishment 的作者 Katherine Fishman,他们的目标是提供给医生将使用的东西,这样医生不用去图书馆或咨询专家。因为即使在主要的医疗中心也没有那么多的专家。对 CADUCEUS 感兴趣的赞助机构包括 NASA,它在载人航天任务中显然需要非常相似的一个医疗助手,还有美国海军,它可以在核潜艇上使用类似的东西。为宇航员和核潜艇员准备的特殊装备听起来与大多数人的日常生活相距甚远,但是晶体管收音机、袖珍计算器和许多其他新技术的例子在不到十年的时间里从 NASA 泛化到世界各地青少年的口袋中。

就像先前技术进步的创造者一样,知识工程师首先必须证明专家系统是可以建造的,而且它们是有用的。这花了大约十年的时间。接下来,他们必须找到潜在的应用领域,这项任务似乎不需要花费同样长的时间。

1985年大约有二十多家公司正在开发和销售专家系统和服务。由 Feigenbaum 和他的同事于1981年创立的 TeKnowledge 是第一家。IntelliGenetics 可能是最奇特的,专门研究基因工程行业的专家系统。这一领域的创业公司往往有着科幻化的名字,Machine Intelligence Corporation,Computer Thought Corporation ,Symbolics 等。其他已经在非人工智能领域成立的公司也在进入了这一领域,其中包括 Xerox, DEC,IBM,Texas Instruments 和 Schlumberger。

专家系统目前在许多领域中用于商业和研究。

  • KAS(Knowledge Acquisition System)和 TEIRESIAS 帮助知识工程师建立专家系统
  • ONCOCIN:协助医生管理治疗癌症患者的复杂药物方案
  • MOLGEN:帮助分子生物学家规划 DNA 实验
  • GUIDON :一个教育专家系统,通过纠正技术问题的答案向学生传授知识
  • GENESIS 协助科学家规划克隆实验
  • TATR 帮助空军规划攻击敌人的空军基地

很难对钼矿床或成功诊断的显著比率提出什么异议。

随着关于软件是否能够智能的辩论逐渐平息(数学家们叫他存在性证明),电脑技术是否应该应用于医学、空中交通管制、核电站操作或核武器运载系统等领域的问题才刚刚开始。

Joseph Weizenbaum
Joseph Weizenbaum

Joseph Weizenbaum
Joseph Weizenbaum
image
image

一些批评者,其中包括人工智能领域的杰出人员,一直在敲响警钟,警告过度依赖电子产品(如专家系统)来做决策的潜在伦理危险。Joseph Weizenbaum 担心过度依赖于一种非常擅长模仿人类更深层次思维过程的技术是非常危险的。专家系统就是 Weizenbaum 所反对的那种“工具推理扩张主义”的典型代表,这种思维认为所有问题都可以通过电脑使用的那种分析、机械过程来解决。在1983年的一次采访中,Weizenbaum 说: “举例来说,认为可以取代一个非常明智的老师,认为通过观察和捕捉人的本质到任何重要的程度,这简直是荒谬的想法。那些有雄心壮志的人,那些认为这一切会很容易或者完全可能实现的人,只是被蒙蔽了双眼。”

Avron Barr 是一位知识工程师,他并不觉得自己被蒙蔽了,而基于知识的教育体系恰好是他的专长领域之一。令人惊讶的是,Barr 同意 Weizenbaum 关于将人类生活和人工智能研究混合在一起的潜在伦理危险的观点。

“人工智能还不存在,” Barr 强调,“但我相信,我们已经开始用基于知识的专家系统进行探索的研究,最终可以创造出一种真正理解人类的探索工具。我不确定人们是否已经准备好接受伴随这种权力而来的道德决策。”

从我们的谈话以及我对他的作品的细读中,我清楚地看到,Barr 也认为,尽管存在滥用的危险,但利用这种技术来帮助激发人类的潜力是非常值得的。

除了作为一种在复杂世界里的信息抗毒素,被开发和分发成自动化的专业技术给专家和普通市民,Barr 想知道这些软件条目还可能被用于进一步的积极目的。

他的个人梦想是最终建立一个专家系统来帮助人类达成共识。

如果化学家和医生可以使用智能助手,为什么外交官和军备控制谈判人员不能利用同样的帮助?

Avron Barr 在哲学、心理学和电脑编程领域的奥德赛 odyssey 之旅让他开始怀疑,我们个体的知识的和我们如何达成共识之间存在着深刻的联系。

我是在人工智能国家中心的一家快餐店,一家名为“火车晚点”(late for the Train)的餐馆里遇到 Avron Barr 的,这家餐馆位于 Menlo Park 火车站旁边。如果有一个窃听技术间谍的地点名单,这个 seismographic hotcake-and-sprouts 必须在前五名。

在几个街区之外,树木成荫,富裕的地方是 SRI International ,它是最古老的机器人研究中心之一,也是嗅测到钼矿的软件 PROSPECTOR 的诞生地。隔壁桌上那个穿着粗花呢衣服、正在给烤饼涂黄油的老家伙,看上去就像是一个典型的诺贝尔奖获得者。

我们见面时,Barr 穿着一件白衬衫,打着领带。他看上去三十五六岁。他的头发是棕色的,梳得整整齐齐,他的小胡子修剪得整整齐齐,他是婴儿潮时期出生的人中的一员,在六十年代可能是嬉皮士,但是现在他每个月都要去两次发型师那里。

Barr 进入编程领域的第一个原因是他需要一份工作,他之所以投身于人工智能领域,是因为人工智能程序员似乎是他能找到的唯一能够帮助他为研究团队创建所需程序的工具。他从研究生院退学后,就需要一份工作。

1971年,他在康奈尔大学物理和数学专业毕业,之后来到了伯克利大学,在那里,作为一名物理学研究生上了几个月的课,这段时间让他明白,他其实并不想成为一名物理学家。

BASIC 语言解释器

当他加入斯坦福大学数学与社会科学研究所的一个小型研究小组时,他已经成为研究团队的一个重要贡献者,同时也是一名受雇的电脑操作员。在接下来的几年里,他帮助设计了一个程序,教初学者如何用 BASIC 语言编程。Barr 回忆道: “这意味着我不得不重新思考,什么样的人将来会与电脑打交道,并找出这些人在学习第一门电脑语言的过程中可能会遇到什么样的问题。”

“首先很明显的一点是,电脑程序与我们在学校学到的大多数东西非常不同,因为程序员很少能在第一次出错时就找到正确的答案。编程就是调试。因此,犯错并不是不惜一切代价要避免的事情,而是应该被视为正确做法的一个线索。这就是为什么它实际上是一个环境,而不仅仅是一个教学项目。我们试图建立一个教授 BASIC 的课程,同时提供人们在学习软件中似乎需要的手把手的帮助,直接进入 BASIC 语言解释器。”

必须记住,解释器不是一个专门解释电脑术语的人,而是一种电脑程序,它可以将用高级语言编写的程序命令转换成电脑可以读取的机器语言形式。

程序员和解释器之间非常原始的交流创造了许多初学者在学习旧式编程时总是感到沮丧的东西。除非程序编写得非常完美,没有一个小错误,否则解释器无法创建能够在电脑上成功运行的程序。如果一个括号不合适,解释器就会停止操作,将一些令人毛骨悚然的信息显示在屏幕上——臭名昭著的“致命错误”或神秘的“语法错误”。

Fatal Error Syntax Error

第一次使用 BASIC 程序的程序员和运行程序所必需的 BASIC 解释器之间的沟通,是 Avron Barr 和他的同事们努力让人类用户感到更容易、更不沮丧的系统的一部分。Barr 解释说: “通常,解释器在给程序加入 bug 时,会返回含义模糊的错误信息”。“我们正在构建的程序旨在利用错误消息和调试来学习如何编程。”

为了建立一个不仅能够识别错误,而且能够给初学者提示如何解决问题的解释器,Avron 不得不超越编程行业的常规技巧,学习从人工智能研究中开始出现的一些新奇的概念。这并不是绝大多数程序员的标准操作程序: 对于大多数电脑程序员,甚至是科学程序员来说,人工智能都是一种神秘的骗术,就像一群痴迷于电脑的学者用国防部的大量资金所做的那样。

当智能解释器项目完成后,Barr 进入了斯坦福大学计算机科学系,在那里他遇到了 Ed Fiegenbaum 。尽管 Barr 曾经是一名职业程序员,周围都是人工智能类型的人,甚至还从人工智能黑客那里学到了一些技巧,但这是 Barr 第一次正式接触这个领域。Fiegenbaum 有一个写作和编辑一本书的想法。Barr 接受了这项任务。他们认为他们可以在今年夏末出版一本人工智能通用手册。但实际上花了五年半的时间。

除了研究生课程的要求,Barr 的工作还要求他从数百名人工智能研究人员的贡献中创作出一本概括性的文本,这本书可以让非电脑相关领域的人用来概述人工智能领域最重要的工作。这份工作持续的时间越来越长,在完成编辑工作的这段时间里,他从硕士学位发展到认知科学博士学位。

到20世纪70年代末,Barr 并不是唯一一个认为知识的探索和工程是哲学、心理学和人工智能领域的核心问题,这个问题很可能由专家系统构建者创立的新学科以令人惊讶的方式给出答案。

电脑可以跟踪大量的信息,而且可以非常快速地处理这些信息。但当涉及到解决复杂问题时,电脑会遭遇挑战。在内存消耗方面,大容量永远不够大,就处理速度而言,快速永远不够快。世界上有太多的信息,无法通过检查每一个可能的解决方案来解决问题。蛮力计算和人类知识之间的区别是缺少对核心人工智能研究。

个人知识是一件很难描述的事情,因此对于电脑来说很难去模仿。知识不仅仅是事实的集合,也不是某种合理的编码顺序。

当我们思考的时候,我们的意识做他们能做的的,而不是下意识地思考如何去做?

你怎么知道在信息的海洋中哪些细节值得你关注?

例如,新手和专家之间的区别不仅仅是一个关于专业领域更多储存的事实的定量问题,而是取决于对该领域的新问题做出判断的能力。

国际象棋

下国际象棋一直是难以用电脑程序模拟的典型例子。

这是一个有限的博弈,可被明确允许的行为数量是有限的,每一步都有完美的指定结果。

在图灵机的意义上,国际象棋是一种形式系统,因此可以被电脑模仿。

给电脑规则,起始位置,和对手的第一步,电脑原则上能够计算出所有可能的反应,并根据计算结果制定出一个反应。

然而,经过25年的努力,还是没有人想出一个战无不胜的下棋程序。

暴力计算之所以没有击败人类大师,与其说是基于技术,不如说是基于数学:

组合爆炸 combinational explosion 是1950年香农提到的暴力计算时的术语。

即使只有64个方格和有限的步数,国际象棋中可能的步数增加得如此之快,以至于需要数不清的年份来评估所有的合法可能性。

在国际象棋和许多其他形式系统中,正确答案是大量可能选项中的一个。

对手移动所造成的问题最好通过一个移动来解决,这将导致捕获对手的国王。

对于对手的每一步动作,在大量可能的对抗步骤中,隐藏着一个或一小组最有可能实现最终目标或某个中间目标的答案。解决方案隐藏在其中的抽象域称为“问题空间”

通过生成和检查根据规则可能存在的每一种可能性来找到正确的棋步的蛮力方法被称为“问题空间的穷举搜索”

问题空间是潜伏着组合爆炸的地方,等待着任何超过几个层次深度的分支触发。

组合爆炸问题可以很容易地表示为一个树结构。

如果需要在不同选项之间进行选择的决策被视为一棵树的分支,

那么一个简单的两个决策的例子将在第一次移动时产生两个分支,在下一次移动时产生四个,在下一次移动时产生八个。

当你走到64步的时候,每一步的树枝数量都是上一步的两倍,你就看不到森林里的树枝了。

如果你把需要决定的案例数量从两个增加到三个,那么它会变得更加混乱:。

在三分枝树上移动两次之后,有九个分支(而不是四个) ; 移动三次之后有二十七个分支(而不是八个) ,等等,无穷无尽。

因此,你必须建立一个系统,剔除合法但荒谬的行动,以及一个战略,以评估两个或三个行动提前。

机器在开始运转之前需要知道的是,人类棋手所知道的神秘事物使他们能够在看棋盘时排除所有可能性(或听到口头描述的国际象棋情况)。

当一个人凝视一个象棋位置时,他的大脑完成了一个宇宙复杂性的信息处理任务。

人类的大脑显然已经找到了一种绕过穷举搜索规则的方法,一种击败搜索问题空间所涉及的数字的方法。

这是一个至关重要的技巧,似乎从一开始就避开了人工智能程序设计者。

人类棋子大师如何修剪由蛮力程序创建的树,以及计算机如何帮助其他人执行类似的任务?

专家系统构建的目的不是超越大脑,而是通过在大脑处理过程和世界复杂性(尤其是与信息相关的复杂性)之间创建一个智能缓冲区,从而帮助人类推理。

解决问题的工具可能是这种信息中介的重要组成部分。

人类的大脑完成任务的方式似乎需要大量的计算机能力,如果它们被机器复制的话。

最初的专家系统实验并不完全侧重于机器能力或人的能力,而是在两种类型的符号处理器之间的边界。

一台机器怎么可能被用来把专业知识从一个人传递给另一个人?

机器能力和人类认知能力之间正在出现的差异在 MYCIN 等系统证明这类软件能够显著增强人类判断能力时,变得更加突出。使用“霉素”辅助诊断决策的医生最终比使用“霉素”辅助诊断前做出更准确的诊断。第一个专家系统的”推理”能力实际上相当原始,但是这些系统作为”咨询工具”的工作方式清楚地表明,在设计软件系统方面有巨大的潜在力量,这些软件系统能够以模拟和增强人类知识的方式与人交互。

Avron Barr 和他的同事认为,目前人类智识增强技术、建立专家系统的工作及人工智能学科之间的联系是,专业知识作为一个角色,其在实用的有价值的工具和理解理解的本质的探索之间流转发挥作用。

在我们目前构建专家系统中一个特别的地方是,这些关键程序不仅应该能够将专家知识应用于具体问题,而且还应该能够像人类一样,在学习、解释和传授知识时与用户进行互动...

这些专业知识扩散 ( TOE :transfer of expertise ) 能力最初是出于“人机工程学”的考虑,建造和使用我们系统的人需要各种各样的“协助”和“解释”设施。然而 TOE 的理念不仅仅是实现所需的用户特性, 这些社交互动(向专家学习,解释自己的推理,传授自己知道的东西)是人类知识的基本维度。这些是以专家水平探寻智力的本质的基础,它们改变了我们对于表征和知识的观念。

为了在专家系统的帮助下做出决策,人类必须知道的更多,而不仅仅是系统推荐的信息。首先,人类必须学会如何与电脑交流。然后他或她需要用能易懂的术语去理解系统是如何得出结论的。为了告诉人们推理过程的步骤,这样的系统必须有一种知道他们所知道的东西的方法。到目前为止,这个练习已经不仅仅是一个机械地搜索长长的可能性列表。解决问题只是系统功能的一部分,这个系统必须使人相信它找到的解决方案确实是正确的。Barr 怀疑,这种转移过程的内外部交流方面,为人工智能和智识增强研究中一些最重要的问题提供了线索。

我们正在建设系统参与在不同领域的专家,实践者和学生之间专业知识的扩散活动。我们的问题依然和以前一样,我们必须找到表现知识和元知识的好方法,进行对话,解决领域中的问题。但是我们方法的指导原则和我们解决方案的基本约束已经被微妙地改变了。我们的系统不再被设计成仅仅是使用大量的编码知识来解决专业的问题。这些是“知道”的方面,到目前为止还没有在人工智能研究中探索: 通过参与人类专业知识扩散的过程, 这些系统将涉及更多的行为结构,这也是我们把知识和智慧归因于人类。

与 Doug Engelbart 和 Alan Kay 一样,Barr 认为,在延伸我们对机器和人类能做什么的认识方面,未来的几代人将不会像今天的电脑制造者和用户那样感到拘束。这种人类态度和电脑能力的调整是当今知识工程师要关切的实用主义,也是 Licklider 所预言的那种人机共生的长期前提。

飞行隐喻 the flight metaphor

在 Barr 的谈话、演讲和写作中经常提到他和其他认知导向的电脑科学家提到的所谓的「飞行隐喻」 。早期的人工智能研究人员一直在寻找务实的方法来解答机器是否能够思考的问题,他们把自己与那些不久前还相信自己会制造出飞行器的发明家相提并论。Feigenbaum 和 Feldman 在 1963 年写道:

「尽管我们还很无知,但我们可以接近生物学里那个里程碑的,即一个正在思考的大脑,数百年前科学家们本着同样的精神指出鸟类就是是自然界中的一种证明,证明比空气重的东西也是能够飞行的。」

Barr 在 1983 年写道:

「进一步探讨这个类比是有益的。飞行是一种处理周围环境的方式,有很多种形式,从翱翔的鹰到盘旋的蜂鸟。如果我们通过研究自然界中的飞行形式来开始研究飞行,那么我们对我们所研究的东西的最初理解可能包括羽毛、翅膀、重量与翅膀大小的比例,还可能包括翅膀的拍动。这是我们一开始发展的语言 ー 识别规律并区分各种现象。但是当我们开始建造飞行器的时候,我们的理解立刻改变了。」

然后 Barr 引用了另一位欣赏飞行隐喻的人,麻省理工学院的 Seymour Papert ,他指出,对空气动力学最重要的见解发生在发明家不再那么广泛地思考鸟类是如何飞行的时候。Papert 在1972年 Barr 参加的一次欧洲研讨会上说:

「想想人们是如何开始了解鸟类如何飞翔的。当然,我们观察到了鸟类,但主要是对某些现象的认识。对鸟类飞行的真正理解来自于对飞行的理解,而不是鸟类。」

第一批人造航天器的设计者所面临的最困难的障碍不在于他们的发明所面临的环境障碍,也不在于他们所拥有的材料和技术的性质,而在于他们对飞行可以和不可以是什么的想法。莱特兄弟最重要的成就就是证明了飞行不需要拍动翅膀这一简单而不可思议的想法。

在世纪之交,航空设计师面临的一个基本问题就是抛弃对事物实际存在方式的偏见,以便分辨出可能性。那些想要制造飞行器的人不得不放弃他们对大自然解决飞行生物进化问题的方式的执着,这样他们就可以看到鸟类以外的东西来理解飞行的本质。在同样的意义上,人工智能设计问题的一个基本部分在于超越大脑或计算机理解智能本质的能力。

认知科学家知道,这些知识可以阐明人类大脑的工作方式。Barr 指出,这类知识可能会扩展到智力的多种形式,就像喷气式飞机不同于老鹰一样,不同于人类的智力。

Barr 声称,如果飞行这个比喻可以忠实地推断给思考机器的技师和程序工程师,他们可以理解,那么具有难以想象的信息处理机制的新世界将成为可能ーー这些机制将是兼容的,但与人类大脑做事的方式截然不同:

. . . Every new design brings new data about what works and what does not, and clues as to why. Every new contraption tries some different design alternative in the space defined by our theory language. And every attempt clarifies our understanding of what it means to fly.

But there is more to the sciences of the artificial than defining the "true nature" of natural phenomena. The exploration of the artifacts themselves, the stiff-winged flying machines, because they are useful to society, will naturally extend the exploration of the various points of interface between the technology and society. While nature's explorations of the possibilities is limited by its mutation mechanism, human inventors will vary every parameter they can think of to produce effects that might be useful — exploring the constraints on the design of their machines from every angle. The space of "flight" phenomena will be populated by examples that nature has not had a chance to try.

每一个新的设计都会带来新的数据,关于什么有用,什么没用,以及为什么有用的线索。每一个新的装置都会尝试一些不同的东西设计方案  在我们的理论语言定义的空间里。每一次尝试都澄清了我们对飞行的理解

但是,人工科学不仅仅是定义自然现象的“真实本质”。对人工制品本身的探索,也就是对社会有用的硬翼飞行器,自然会扩大对技术和社会之间各种接口点的探索。虽然大自然对可能性的探索受到其变异机制的限制,但人类发明家会改变他们能想到的每一个参数,以产生可能有用的效果ーー从各个角度探索他们机器设计的限制。“飞行”现象的空间将充满大自然没有机会尝试的例子。

智力就像飞行一样,是处理环境问题的一种方式。与飞行一样,智力也向拥有智力的有机体或物种传递了一种生存优势。能够从一个地方飞到另一个地方的绝对实用性和对社会的实用价值,确保了更好的人工飞行方式。Barr 认为,专家系统和其他基于知识的技术是那种具有同样高实用价值的”思维飞行器”,因此,市场经济将推动未来对其能力的探索

巴尔认为,”应用人工智能”的”应用”部分是专家系统最重要的方面之一,因为智能系统与有价值的社会目标之间的联系保证了年轻科学的进一步发展。因为在这个特殊的市场上开发更好的产品也意味着开发更好的增强人类智能的手段,这种机器的进化将与人类思想的未来进化密切相关:

It is the goal of those who are involved in the commercial development of expert-systems technology to incorporate that technology into some device that can be sold. But the environment  in which expert systems operate is our own cognitive environment; it is within this sphere of activity — people solving their problems — that the eventual expert-system products must be found useful. 

那些参与专家系统技术商业开发的人的目标是将这种技术融入一些可以出售的设备中。但是环境专家系统运作的环境是我们自己的认知环境; 最终的专家系统产品必须被发现是有用的,就是在这个活动范围内ーー人们解决他们的问题

They will be engineered to our minds It is a long way from the expert systems developed in the research laboratories to any products that fit into people's lives; in fact it is difficult even to envision what such products will be. Egon Loebner of Hewlett-Packard Laboratories tells of a conversation he had many years ago with Vladimir Zworykin, the inventor of television technology. Loebner asked Zworykin what he had in mind for his invention when he was developing the technology in the 1920s — what kind of product he thought his efforts would produce. The inventor said that he had a very clear idea of the eventual use of TV: He envisioned medical students in the gallery of an operating room getting a clear picture on their TV screens of the operation being conducted below them.

它们将被设计到我们的头脑中.. . .

从研究实验室开发的专家系统到适合人们生活的任何产品,还有很长的路要走; 事实上,甚至很难想象这些产品会是什么样子。惠普实验室(Hewlett-Packard Laboratories)的埃贡•罗布纳(Egon Loebner)讲述了他多年前与电视技术发明者弗拉基米尔•佐里金(Vladimir Zworykin)的一次对话。洛布纳问 Zworykin,当他在20世纪20年代开发这项技术时,他对自己的发明有什么想法ーー他认为他的努力会生产出什么样的产品。这位发明者说,他对电视的最终用途有一个非常清晰的想法: 他想象着医学院学生在手术室的走廊里,在他们的电视屏幕上清晰地看到他们下面正在进行的手术。

One cannot, at the outset, understand the application of a new technology, because it will find its way into realms of application that do not exist. Loebner has described this process in terms of the technological niche, paralleling evolution theory. Like the species and their environment, inventions and their applications are co-defined — they constantly evolve together, with niches representing periods of relative stability, into a new reality. . . . Thus, technological inventions change as they are applied to people's needs, and the activities that people undertake change with the availability of new technologies. And as people in industry try to push the new technology toward some profitable niche, they will also explore the nature of the underlying phenomena. Of course, it is not just the scientists and engineers who developed the new technology who are involved in this exploration: Half the job involves finding out what the new capabilities can do for people.

从一开始,人们就无法理解一项新技术的应用,因为它会进入根本不存在的应用领域。罗布纳用技术生态位并行进化理论描述了这一过程。与物种及其环境一样,发明及其应用也是共同定义的——它们不断共同进化,利基代表着相对稳定的时期,进入一个新的现实... ..。因此,技术发明随着应用于人们的需要而发生变化,人们从事的活动随着新技术的出现而发生变化。当业内人士试图将新技术推向一些有利可图的利基市场时,他们也将探索潜在现象的本质。当然,不仅仅是科学家和工程师们开发了这项新技术,他们也参与了这项探索: 一半的工作都是为了找出这项新技术能为人们做些什么。

为了构建一个专家系统,知识工程师需要对人类专家用来在特定领域做出问题决策的规则进行编码,然后将这些决策规则与该领域的大量事实联系起来。人类专家被要求测试软件模型。如果人类专家不同意系统提出的问题解决方案,那么人类就要求系统重建导致其决策的规则和事实链。

通过精确定位程序出错的地方,人类专家和知识工程师通过渐进式调试将粗糙的模型转化为可用的专家系统。最终,他们会得到一个在很大程度上与人类专家保持一致的程序。当你要求第二个专家来评估这个系统的时候,意见就达成了一致。在现实生活中,人类专家彼此意见不一,即使是在最高水平的专业知识。这意味着无论一个专家系统与一个特定的人类专家的意见如何一致,这并不能保证另一个专家不会发现软件做出了错误的决定。

巴尔意识到,利用专家之间的这些自然分歧的关键在于,建立一种“记忆经验”的机制,即使旧的决定是错误的,也要坚持下去,并从分歧的结果中创造新的规则。这个系统的这一方面直接导致了人工智能研究中最热门的问题之一——程序能否从经验中学习。巴尔只对这个问题的一个具体方面感兴趣,那就是是否有可能建立一种追踪决策和跟踪人类专家意见不一致的情况的手段。

“当两位专家意见不一致时,”巴尔解释说,“他们试图找到方法,向对方展示对方的知识不足以产生双方都认为正确的结果的情况。那么,建立共识的第一步,就是弄清楚你在哪些地方确实达成了共识。然后你就可以进入第二步ーー试着找出你的个人知识体系中分歧的确切位置。

“找到分歧点通常是整个过程的一个重要部分,因为在有意识地寻找分歧的过程中,专家们意识到,他们使用的术语的含义不同,或者他们对目标的描述不一致。

“这种调试并不令人兴奋,但它为达成共识的第三步奠定了基础,在第三步中,专家们必须决定如何处理彼此。他们可以同意其中一方是错的,他们都可以坚信自己是对的,他们可以决定自己都是错的,或者两者都是对的。他们可以寻找一个调查或者实验来解决这个问题。或者,他们可以决定,双方都必须等待新的知识。”

巴尔认为,协商一致的帮助只是一个开始,“这是我们可以通过智能助理做到的最终事情。最初是用来描述你如何与这些系统中的一个进行交流,特别是你如何推动专家系统去处理两个不同的人类专家,并结合这两个专家可能有的差异的价值。

“我的梦想与这样一个想法有关,那就是我们在这里都是有目的的,我们都是发现这个目的所必需的。我们每个人都有自己的小窥视孔,可以看到正在建造的建筑物。我们都不知道它是什么,但是我们每个人都有一个略微不同的观点。所有这些观点对于弄清楚正在建造的是什么是必要的。奇怪的是,我们可以在如此短的时间内获得如此多的文化成就,我们可以得到所有这些伟大的想法,关于我们如何来到这里,宇宙如何运作,但却对它的意义所知甚少。我认为这是一个线索,计算可以扮演一个角色。

“我认为计算是一个抽象的概念,关于什么是共享对环境的解释。计算涉及对符号的系统操作,符号与世界有着认知的关系。我们需要在我们的内部表述之间传递这些中间信息,以便分享对世界的看法。

“我认为,有朝一日,这些系统确实有可能被用来解决人与人之间的差异。我们必须承认我们不知道我们的目的是什么,然后找出我们不知道的原因,然后一起弄清楚我们如何能够理解。也许计算机可以在理解这一目的方面发挥作用。

“这听起来可能非常哲学,但是理解的本质是人工智能程序目前面临的核心问题。人工视觉或听觉中的模式识别、理解自然语言的能力、解决问题的模拟、智能计算机接口的设计——所有这些研究问题都涉及到理解的本质。我们不知道理解的目的是什么,也不知道为什么你必须对这个世界了如指掌才能认出一张脸或理解一句话。

“我认为我们大多数人都相信理解比不理解要好,我们理解得越多,我们就会过得越好。我认为,今天以知识为基础的专家系统的后代将帮助我们所有人更好地理解。我们每个人都将能够更好地理解,因为我们将通过专家工具的帮助与人和信息进行互动。它们甚至可能帮助我们理解无人理解的东西。”

很少有人反对理解无人理解的事物的概念ーー直到有人提出,实现这种理解的动因可能是一种由硅而不是原生质构成的智能。人工智能航天员可能最终会绕过那些增强但不会超越人类智能的近未来技术。如果巴尔和他的同事们是正确的,那么他们的想法就为利克利德1960年提出的推测提供了强有力的支持,当时他提出了一个即将到来的人机共生的想法。Licklider 认为,这种共生关系只是过渡时期的几十年或几个世纪的中间步骤,之后机器才会超越我们跟上它们的能力。

即使人机合作关系是一种中间关系,仅仅持续几代人的时间,下几代人的确会令人兴奋。当我们回顾计算的历史时,很明显,专家们总是低估了这项技术的变化速度。即使是最大胆的人工智能专家也可能严重低估了未来五十到一百年将发生的技术变化。

通往增强意识技术未来的道路似乎呈扇形展开,替代品的范围变得越来越广,越来越难以预测。鉴于过去的发展,所有这些途径都有可能导致独特的新技术,并将促成人类文化的重大变革。一个方向似乎涉及到那种互动的第一人称幻想放大器,例如艾伦 · 凯和布伦达 · 劳雷尔的作品。恩格尔巴特的智力增强梦想提供了一个通用工具可能发展的不同模型。在下一章中,我们将探讨另一条道路ーー一条与文学史而非机器史更为相关的道路。

泰德 · 纳尔逊,我们的最后一位宇航员,设想了一个未来,在这个未来,全体人民都将加入到人类文化的宏大对话中,而这个对话迄今为止一直局限于那些少数创作者,他们的作品已经进入了图书馆的书架。尽管他的预测可能有些疯狂,但鉴于他在个人电脑历史的“旧时代”——20世纪60年代和70年代——做出的惊人准确的预测,我们必须认真考虑这些预测。