龙塞尔瓦(参见第20章)为法国与西班牙间的要隘,其南端是西班牙的派.2
and
Simon
1988)。在其预期的结果没有出现时,这个程序经历了意外,并且通过为那些令人感到意外的现象寻求解释而对其“意外”作出反应。我们还没有扩展KEKADA去模拟有限理性的发现。但是,如果我在1935年有KEKADA帮助的话我就能省很多事。来自数据的规律
在《科学发现》(Langley
et
al.
1987)中,我和我的同事们注重于从数据导出定量和定性规律。我们采用了我们称之为BA-CON和“道尔顿”的程序来模拟这个过程。
数据不是唯一可能导出新规律的出发点;理论也可以单独地使用,或与数据一起使用。至少,可能由一个比较基本的解释性的规律能直接发现一个描述性的规律。例如,牛顿说明了开普勒的行星运动第三定律可以用数学方法从万有引力定律推导出来(但请注意,牛顿是从开普勒用数据驱动的探索方法已经发现的那个规律作反向研究的)。
在发现符合经验数据的规律之前,必须拥有适当的数据,这些数据看起来好像是由一个平滑的数学函数所生成的。这里又重复一遍做炖兔肉的菜谱:首先得逮住兔子。
在我的一生中,我只偶然碰见过一次这样的数据。我不能准确地回想起到底是在什么时候第一次遇到这种数据的,很可能早在1936年我读洛特卡的《物理生物学原理》(Lotka
1924)
470时。洛特卡的数据说明,如果以某种顺序统计植物或动物的每一个属里的物种数目,然后,将这些属以其所含物种的数目按从大到小的顺序排列起来,那么,第n名的属所含的物种的数目是第1名的属(即含物种的数目最多的属)所含物种的数目的1/几。
同样,在计算一本书中不同的词出现的频率时,而且根据其频率由大到小排列词的情况下,第凡个大的频率的词的出现频率相当于最大频率词出现频率的1/n倍。而且,一本书中出现的词大约一半会出现一次,大约六分之一的词会出现两次,十二分之一的词出现三次,如此类推。这种关系对用任何字母表示的语言写的书都适用,违反规律的情况很少①。在美国城市人口统计中也可看到同样的规律:人口数量第n大的城市的人口大约相当于纽约人口的1/n倍。如果用其对数来替代这些数据的话,则这些数据点将落在斜率为-1的直线上。
乍看时,这种规律性只能说是令人吃惊,这种规律性有什么用呢?弗兰西斯,培根爵土建议我们从这些规律性归纳出一般的规律,找出满足这些数据的公式。我们的计算机程序BACON(Langley
et
al.
1987)向我们演示了如何实现之。然后,像伟大的化学家约翰?道尔顿一样,我们应当看看我们能否提出一个①
达里说的第J1个大的频数的词,即所谓秩为r真的词。译者询问过西蒙在-
篇文章中确定各词所对应的秩的方法。下面举例说明。
“文章”例:我说:“我昨天吃饭。我今天也吃饭。”他说:“我也一样吃饭。”
将其中的词按出现频数从大到小排列,我们有:
词:
我
吃
饭
说
也
昨天
今天
他
…样
频数:
4
3
3
2
2
1
1
1
L
秩:
1
2
2
4
4
6
6
6
6
或者,取平均值:
秩:
l2.5
2.5
4.5
4.5
7.5
7.5
7.5
7.5
如果统计-、篇大约有一千个词的文章,并按上述方法确定各个词的秩的
话,可以看到,词频的分布遵从西蒙所说的规律。471
机制,这个机制的运作能产生那个公式所描述的规律性。我们的“道尔顿”程序(Langley
etal,
1987)也模拟了这个过程。借助BACON和DALTON我们可以弄清楚要做的是什么。
我希望我能说这就是我对洛特卡数据的即时反应。但想不起来了。我记得自己对它们的痴迷,但我不记得自己是否深入地思考过它们,或者如果思考过,思考了多久。我记得1942年后我回到芝加哥时还思考过它们。我清楚地记得我坐在芝加哥大学生物学图书馆里阅读洛特卡书中所引用的一篇论文的情景。我还想起在1952年到1954年间在圣莫尼卡公寓拜访阿伦,纽厄尔及夫人诺埃尔时跟他谈论这个问题的情景。但在那些年里我正在做许多别的事情,关于词频率和城市规模的令人惊讶的数据并不是持续占据我研究活动第一位的事,而更像一个偶尔需要搔一搔的痒处。
1954年的某个时候我找到了答案。现在从我的记忆中只能找到这个发现的一鳞半爪了。首先,我寻找一个适合该数据的函数。频率范围低端的词频率规律性给我留下特别深刻印象。那些简单的分数好像指着一个涉及整数比率的公式。事实上,简单的公式f(;)=1/[i(i+1)]给出了所需的数字1/2,1/6,1/12等等。由于i大,我们大致可有:f(i)=1/j2。于是,对这个频率进行积分,就给出了秩(排列顺序)F(i)=1/;,因此,按对数尺度,秩和频率之间的关系就是斜率为-1的线性关系(J
找到了一个适合这些神奇数字的方程又提出了一个新问题:找出这个方程式的解释,即…种对这个现象似乎合理的解释。我对当时自己是如何解决这个问题的记忆甚至比我对前阶段的记忆还要淡,整数的比率又是关键。你从哪里能得到整数的比率呢?阶乘的比率是一个可能的来源:1/6可以写作1/2与1/3的乘积;1/12是1/2,1/3和2/4的乘积。总之,公式(i-
4722)!/i!产生这些必要的数。
下一步很可能只会被具有一点数学知识的人所想到。他们能在这些阶乘的比率中看到一些像Beta函数的东西,或者至少在关于组合和概率的问题中见到的那类表达式(事实上,我发现Beta函数是由于我想要找东西去查阅皮尔斯(Peirce)的《简明积分表》一书,因为我隐约记得以前在那本书里看到过一些阶乘比率)。
是否还有其他原因使我考虑概率模型呢?当然有。词频率分布与城市规模分布(以及其他适用这一规律的完全不同的现象)有什么共同之处吗?除了将它们都看成是与在瓮中摸不同色彩的球一样的随机过程的例示外,没有什么明显的东西。因此,让我们看看我们能否将这个公式解释为它代表了一些取样过程的稳定状态。
在这里我想起得到过一个隐喻的帮助。我们设想一本书是逐词写成的。如果加上一个已出现过K次的词,那么出现过K+1次的词的数量就会增加],出现过K次的词的数量就要减l。为了平衡,以前已出现过X,次的词必须出现得与过去出现过(K-1)次的词一样快。这样,K库的补充就和消耗一样快。
有时我开始设想小瀑布,它有连续的水池,每个水池都因由上一级水池流入的水和向下一级水池流出的水而保持恒定的水平。由我们的答案——我们已知的描述这样一种现象的分布——往回追溯,不难证明,平衡条件要求一个已出现X次的词再出现的概率一定要与X成比例。
,我们已经到了最后一步:解释这个概率假设。对词分布来说,它可能意味着,由于联想,一个词被选作文章中的下一个词的机会是与它已经被使用的次数成比例的;同时,由于存储在记忆中的长期关联,这个机会也与该词在语言中使用的次数成比
473例。就城市规模而言,它可能意味着,城市对移居者的显著性和吸引力与其当前规模成比例,而人口出生率和死亡率大体上与城市规模无关。(
Simon
1956b)
在此我不想为这些解释做辩护。我的目的是要了解得出这些解释的过程。经过30到50年忘却的过滤,如果我的报告与现实还有什么关系的话,那么我们就能看到一个导出原始公式的过程,它看上去很像BACON。接着是通过调用预先储存好的数学及现实世界的知识而导致的反向搜索过程——这里BA-CON成了一个专家系统的“前端”。
我的手又在激烈地挥动。你们不会不注意到我完全没有解释那个小瀑布隐喻,有时还想起它,由它帮助我说明稳定状态关系。因此,关于(科学)发现的理论还有工作要做,还有些论文要写,还有些文章要发表。但在这段小历史,或曰想象的历史中,我没看到什么魔术,没看到什么神秘。每一步看来都是由前一步所决定要进行的步骤,如果不是不能改变的步骤的话,至少也是似乎必需的步骤。
如果这些数据如此大声地呼唤着解释,如果(科学)发现过程进行得这样似乎合理,那么,为什么别人没有发现这个规律并解释它呢?确实已经有人做过。第一个人是英国统计学家G.乌尼,尤尔,他在1924年建立了一个与我刚才的阐述非常相近的模型,用以解释关于物种在属中分布的数据(我可以由洛特卡书中的脚注找这篇论文,但我没找)。第二位是英国经济学家D.G.钱珀努恩,他在1953年发表了《收入分配的模式》,阐述了一个十分相近的过程。第三位是B.曼德尔布洛特,他于1953年出版了《语言统计结构的信息理论》。1955年我那关于这个主题的论文发表之前,在查找文献和征求朋友们的意见时我学习了所有这些在我之前发表的局部成果。
474
这还不是这个故事的结尾,因为一个科学问题的解答又引出一系列新问题。在我与井尻雄二合著的《不对称分布与工商企业的规模》(ljiri
and
Simon
1977)
-书中,你们可以找到一系列应用这样机制的广义版本,去理解工商企业规模分布以及这些分布的经济学含义的文章。表
征
我在发现不对称分布背后的规律时所采用的小瀑布隐喻引起了这个表征的问题。科学家运用什么样的表征来思考他们的研究课题?这些表征来自何处?这个问题的一个常见的形式是:科学家(和其他人)是用言辞思考,还是采取一些很不相同的形式思考——比方说,他们是否用“思维形象”。
法国数学家雅克?哈达马特在他那本令人愉快的书《数学领域中的发明心理学》(Hadamard
1954)中强烈地赞同形象思考,反对文字思考。许多著名数学家和科学家为他作证,包括阿耳伯特,爱因斯坦。爱因斯坦在给哈达马特的一封信(Hadamard1945,pp.142
-
143)中写道,“文字或语言(无论是书面的还是口头的)对我的思考机制似乎没有任何作用。那些似乎充当思维要素的心理实体是某种记号和或多或少清晰的形象。这种形象可以‘自动地’再生和组合。”
对哈达马特和爱因斯坦足够好的东西对我来说也是足够好的。我在思考难题,尤其是数学难题时,也很难找到什么文字表现。甚至当我坐在键盘前写这一章的时候,我也无法在我的头脑中真正发现言辞(或关于那个问题的许多别的东西),直到它们从我的指端写出来。但也许我没有思考,而只是记录以前构成的、存在于我潜意识什么地方的观念罢了。
475
即使我们真的用形象思考,无论哈达马特还是爱因斯坦都没有清楚地阐明这些形象是什么,或这些形象在像头脑这样的生物结构中是如何表现的。我也没有。但是,我相信,最近我与吉尔,拉金在说明这些问题方面取得了很大进展(见《为什么…张图解(有时)抵一万个词》,Larkin
and
Simon
1987)。在此我不详尽介绍这个成果。其基本概念是:(1)在将语言命题转变为形象的过程中,显化了许多在语言中隐含和隐藏的东西;(2)(习得的)推理算子能帮助用有效的计算方式由形象作出附加推理。
作为我们分析研究的副产品,我们还说明了图解可以表现为表结构,因此可以用标准的表处理语言来编制程序,因此也是随时可在类似神经原结构的系统中表现出来的。由于自然语言的表层结构和语义符号学也可以被表现为表结构,所以命题和图像(或至少是图解)可以运用共同的表征机制。
现在,正如我们的头脑中究竟是用文字还是用形象思维这个长期存在的争论…样,关于问题的内在表征究竟是像命题的集合还是像问题状况的模式,也存在着争论(也许两者是同一个的争论)。这两种观点为认知科学界中不同的主要流派所持有,这两部分人除有时争吵外,不常交往。
在“让语言引路”的旗帜下,一部分人将言辞推理作为解题过程的隐喻,并且认为推理是某种定理证明结构。认知科学界的第二部分人将启发式搜索问题空间(任务域的一种心理模式)作为解题的隐喻。《人类问题解决》(
Newell
and
Simon
1972)坚决地主张这个观点。
让我回到我的主要话题,即用事例提供有关在科学发现中所采用的解题过程的证据。我想简略地讲讲这些事例以避免谈技术细节。经济学家常用所谓“局部均衡分析”的方法,借用若
476干个“其他条件都不变”的假设来避免同时谈论每件事。他们在假设对其他经济部门没有相互作用的前提下,考察一次失调对一个小的经济部门的影响。
在这个程序的合法性受到质疑的情况下,经济学家们当然要自我保护。他们可能要说,相互作用并不是完全没有,但是很小,因此也是不重要的。不仅在经济学领域,而且在所有的科学领域我们都能听到这样的论点。但是,这是个令人满意的论点吗?小的影响,如果持续一段时间,可能聚积成大的影响。
50年代早期,当我读理查德‘古德温发表在1947年的《计量经济学》上的论文《产品滞后市场与特殊参照系的动态结合》时,我心中就有这样的想法——是用文字还是用形象表征的?虽然现在我记不得当时我用以列出和解决他论文中所提出的问题的准确步骤,但我还记得我设计了一个划分为若干部门的大的动态系统,每个部门的各组成部分之间有很强的相互作用,部门之间的相互作用则不强。我还记得我非常辛勤地工作了几个月,想看到这样一个系统是如何运转的。那时我常常在长距离的散步中工作而不用纸和笔。
我心中对这个动态系统的系数矩阵有…个模糊的形象,这并不令人惊奇,因为这正是许多数学书中通常描述的动态系统方式。到了某个时候,我看到这个矩阵的行和列可以用许多对角块来进行排列,大系数都在这些对角块中,只有小系数在对角块之外。这个矩阵几乎成了“方块对角线”。看不到具体的方块的数量及其大小。如果一定要给出数量的话,我会说,可能有三块,每块大小是3行x3列。但这种假设的回忆纯属杜撰。
后来,我得到了一个隐喻。我想象有一幢大楼,里面有若干个房间,每个房间进而又划分成若干小单间,你可以在《人工科学》1981年第二版第212页上找到我的这个隐喻的插图。我们
477从温度的极端不均衡开始。每个小单间中的每一个立方英尺都与它相邻的空间的温度不同。
现在,有几件事看来是清楚的。在每个小单间内,通过相邻空间的热交换很快会建立恒温。后来,通过小单间的热扩散,每个房间会达到恒温。再往后,通过房间厚墙间的热交换,整个大楼会达到恒温。
而且,由于持续时间不同,每个均衡过程都可独立于其他过程而加以研究。在研究每个小单问的均衡过程时,我们可以不管其他小单间。在研究房间的温度均衡过程时,我们可以用小单间平均温度来表示每个小单间,不管其他房间的情况。在研究这幢楼的温度均衡过程时,我们可以用房间的平均温度来表示每个房间。结果,这个问题的数学计算就可以被大大简化。
从这幅图到严格证实这种简化的(近似)有效性,还有些很难的数学步骤,但要得到的结果是清楚的。我所阐述的推理过程主要是在1956年夏天进行的,并且与数学部分一起载人那年晚些时候我与安藤阿尔伯特合著的一篇论文中,但这篇论文到1961年才发表(
Simon
and
And0
1961)。
我可以不去进一步弄明白这个热交换隐喻的来源,或者怎样——在任何情况下——由一个近似方块对角矩阵的形象来推理的。我对方块对角矩阵很熟悉,因为在1952年和1953年,它们在我那关于因果次序的研究工作中起了重要作用(
Simon1952,1953)。我认为,只要是用与我们同样的方式去提出这个问题的数学家,都会在脑子里想到这个数学方法,它是相当标准的。
我们的定理和方法(它们可被用于近似方块对角矩阵求逆)已经引起数值分析人员和那些关心分层组织系统的自然科学家的注意。我们介绍的归并集合法现在也被认为是与那种在物理
478学的几个部分中起重要作用的重整过程密切相关,而重整过程是在与我们的研究完全无关的情况下创造出来的。
尽管只是个概略的说明,发现过程也显得十分平常。这个问题是在文献(古得温的论文)中发现的,并采用具有某种特殊结构的矩阵,以一种标准的方式来表征。通过说明这种系统会如何运转,隐喻使要证明的定理的性质清晰。虽然并没有揭示这个隐喻的来源,但它根本没什么奥秘。虽然错综复杂,但那些证明对专业数学家不会有多大的困难。结论是,这是一个普通的问题解决事例。发现解释性模型
以上两节介绍了寻找解释性模型的过程中的两个实例:一个是秩—频(率)关系的模型,另一个是几乎可分解的动态系统模型。怎样能发现人类问题解决的解释性模型呢?一种方法是通过密切观察解题的行为,并直接从这些观察结果中推导出模型。
这种答案有许多长处,在发明通用问题解决者程序时出现过类似情况。但即使是在该种场合,经验观察结果也不是导致发现的唯一信息来源。当时发明者们对他们所寻找的是什么样的东西也已经有了一些概念。
解释性理论有多种形式。例如,通常用气体是由一团遵循力学规律相互作用的能量分子所组成的假设来解释气体的行为。用两个磁体之间的空间中的磁力场来解释它们间的磁吸引。
在自然科学和社会科学中一个常用的解释方式是:运用微分方程组或差分方程组。在任何给定时间,假设系统处在某一特定的“状态”,于是这些微分方程决定了下一个“时刻”系统将
479运动到什么状态。因此,在力学中,这个状态是用位置和速度来阐明的,而微分方程则说明力是怎样产生加速度进而导致状态的持续变化的。
要建立一个解释模型就涉及到在现象的这些或那些表征之间进行选择。它是质点模型还是连续统模型呢?它表示静态平衡——一种稳定状态——还是动态变化呢?在由数据导出模型之前或与此同时,就必须选择表征。
大约在1955年,当我与阿伦,纽厄尔,克利夫?肖开始创立解题理论时,我们就已经致力于“表征”。事实上,正是由于认识到借助数字计算机的发明可以得到这样一种表征,才促使我们去进行人类思维的研究。我们观察到一个计算机程序在形式上相当于一组差分方程。在每一个操作周期,计算机程序就将机器的新状态限定为机器当前的状态(它存储的所有内容)连同它所接收的任何新输入(信号)的函数①。而且,这些差分方程不只是能够操作数字,还能处理各种符号。
因而,解释的任务就是要用计算机程序的形式来描述解题过程。必须检查我们所能收集到的有关人的解题行为的数据,以找到关于这个程序性质的线索。这个要求对有价值的数据类型和考查数据的最佳方式规定了严格的准则:数据类型是越紧密、越细致地跟随解题过程越好。考查数据的最佳方式是找出问题解决者的“动作”顺序以及激发每个动作的指令。
当然,表征决不仅仅是一个计算机程序。它必须包含能表征人类记忆结构的符号结构。据目前所知,人类记忆结构在某种意义上是联想的结构。在逐步地构造表征和构造应用这些表①
此处的“函数”指,机器的新状态是随其先前状态(它存储的所有内容)连同
它所接收的任何新输入(信号)的变化而变的应变量。——编注480征的理论之间,存在一种持续的双向交互作用。
有时,编制程序的便利(或需要)支配选择,有时是心理学的需求支配选择。有些原来主要是为了满足编程序的要求而对表征的考虑(例如,表处理语言,表及描述表形式的数据结构)后来被认为具有像联想网络那样的心理学意义()
一旦用计算机程序形式的信息处理模型取得了一些经验,这些模型就成了确立人类思维其他方面理论的现成的工具,正如本书前几部分所详述的那样。甚至都不去考虑别的可能的表征方式。
在过去的几年中,由于有了全新的选择单——产生式系统,激活扩展记忆模型,联结主义模型,SOAR,PROLOG语言——表征的选择又成为建立模型过程的一个重要而困难的部分。设计好的实验
实验被认为是用来检验假说的,或者,更好一点的说法,是用来在竞争的假设之间进行选择的(“判决性”实验)。然而,满足其中之一,或同时满足这两点,既不是一个实验成为好实验的充分条件,也不是必要条件。这是不够的,因为检验“变量X影响变量y”这种形式的无味的假说,其真假与否通常不是很有趣的,而且往往也不会对我们理解这个世界有很大帮助。而检验更有说服力的定量假设(例如,行星周期为其离太阳距离的二分之三次幂)就有趣得多;如果待检假设与基本的解释性理论(例如,与万有引力的平方反比律)紧密相连的话,那就非常有趣了。
但是,当我们测试这些更有说服力的定量模型时,我们必须记住,扔掉所有的统计显著性检验的标准方法,该方法已不再适
481用①。我们还必须记住,模型是由多种组成部分构成的。当我们的数据不适合于某个模型时,我们就面临着确定改变什么,或者是否要抛弃整个模型的极其艰难的判断任务。
关于充分性我已讲了这么多了,现在我来讲讲必要性。模型检验是进行实验的唯一原因吗?当然不是。之所以要做实验,或者说你之所以要花时间去仔细观察现象,一个能成立的理由是,你有可能得到意外的发现。实验产生的最好结果是出乎我们意料的东西,尤其是那些我们事先从来没想到可能发生的事情。许多诺贝尔奖就是用这样的东西做的。
为了不被指责为靠掷骰子来设计实验,我想指出,启发式可用以设计这两种实验,即检验模型的实验和产生意外结果的实验(当然,一个为检验某模型而设计的实验也可能产生意外的结果)。下面我从检验模型的实验开始提供一些事例。
几年前,我开始研究汉语。我做这个研究只是为了好玩。但是,因为我打算访问中国,所以给这个研究蒙上了一层比较严肃的面具,我称之为“让自己面对新现象”,这使我能心安理得地去做这个研究。到中国以后,我与一起工作的中国心理学家决定用汉语材料重复某些标准的短期记忆实验,我们的动机是检测一个模型。中文中是否有一个神秘的数字②(MⅢer
1956)?这个数字是不是七?对这两个问题的回答都是“是”。这没有什么意外。
与此同时,我了解了有关汉语的一个惊人的事实(这对我的中国同事来说并不感到惊奇,但对我来说的确是个惊人的事①
在这里我不能停下来去为这个说法辩护。这对心理学家来说像是异端邪
说;但数理统计学家却几乎一致认可。在(Gregg
and
Simon
1967)中可以找
到我的理由和有关参考文献。②