第160节 (第4/5页)


    严可守没有回答，只是信手将硬盘往插口处塞了进去，随着他的这个动作，插口一旁的红灯也迅速跳转成绿色，严可守走回了自己的电脑前，打开程序，很快找到了kl0564，打开测试界面。

    严可守：“你好。”

    ……

    “其他项目人员那里呢？有什么进展没有？”

    “即使是最小的ai程序，体积也超过了200个g，要真的靠人力阅读代码，出头绪，发现错误……”严可守说着说着，自己都开始摇头否定自己，“ai的程序都是自我编译和扩充的，完全不遵守默认的编程规律，整个代码就是一团乱麻，我们这种做法，就好像一个医生要在病人脑子里找是哪些细胞出现了异常，这个工作量……天知道要花多久。”

    “生物从古到今，经历了那么多次自然选择，才有了今天这样的稳健性，但我们还是觉得生物非常脆弱，现在这批ai，可能不过是个开头而已。”严可守说着，苦笑了一下，迅速将桌面上自己的那台笔记本屏幕合上，“算了，我也不在这干耗着了，出去透透气，都快憋死了。”

    当前的科学认知认为，最初的意义上的生命，出现在距今40亿年前的地球，在那个时候，生命只不过是一锅温暖的热汤中，偶然形成的一些能够自我复制的有机物，复制，也可以看成是信息的自我保存，应该是生命最重要的特征之一。

    在这之前，人们说到人工智能，通常能想到的场景就是，能够和人一样说话，和人一样思考，解决问题，事实上，在严可守之前，整个日本关于机器人智能化的研究，也大多停留在这个层面，依靠尽可能复杂的算法，让计算机表现的更接近一个人类，在严可守看来，这种方法根本不可能造出真正的ai，因为这根本就等于是人本身在思考，只不过这种思考通过代码，间接表现出来而已，所以，不管计算机模拟的有多像，程序也不过是牵线木偶。

    在严可守之前，还没有任何一个程序可以做到，像kl系列做的这么出色，可以在和陌生测试对象的谈话中，维持半个小时左右不被识破，许多刚刚接触这个程序的人事后都不敢相信，与自己对话的仅仅是一个程序。

    筑波大学的一些学生甚至把整个测试当做一种有趣的游戏来进行，严可守记得测试刚开始的那个阶段，都要三浦主动去拉他班上的学生，而到了现在，学生们甚至主动来打听什么时候恢复测试。

    kl系列原始的“胚胎程序”只不过两百kb左右，在这简单的两百多k核心程序当中，严可守赋予了程序基本的学习功能，在程序最早的“发育”阶段，通过巨型计算机模拟外界刺激，让程序实现基本的自我成长，当它们长到大约10个g大小的时候，被认为具备了基本的交流能力，能说一些简单的句子，在这之后，则对这些程序进行图灵训练……

    在这之前，ai的表现一向都比较正常，直到两天前，所有程序陆续开始爆发bug，进入了“无响应”阶段，无论人和它说什么话，都不予回应。

    从原理设计的角度来说，程序之所以会出现这样的原因，最大的可能性就是，在程序看来，不响应是一个较优解，之前严可守调查了许多ai出bug之前的测试数据，发现这些程序无一例外，都是因为测试连续遇到了几十次，乃至上百次的失败，ai虽然不可能懂得什么叫做绝望，因为他们没有感受器官，但并不妨碍他们的程序能表现出一种，类似人类绝望时表现的行为。

    起码，他们的这种行为，在多愁善感的人看来，就是绝望。

    比如重复完全毫无意义的自我修改，比如提出各种不合常理，甚至愚蠢之极的建议，有些ai甚至通过网络，找来一些色情小说片段，企图“贿赂”测试者，总之，为了达到“通过测试”的目标，ai将能够尝试的可能，统统试过了一遍。

    对于ai来说，通过测试就是它的本能，因为在它的程序成长过程中，通过测试就意味着确认了自己所作的修改起到了作用，形象的比喻就是，通过测试对电脑意味着一种激励，就好像人类能通过进食，交配，甚至排泄这种正常的生命活动，获得快感，生命通过快感给予这些合理的行为激励一样，而反之，没有通过测试则意味着程序本身受到了否定，意味着痛苦，当一个生命长期处于这种痛苦之中，痛苦可能会扼杀它所有的改进可能。

    在所有的生命过程中，正向的激励是必不可少的，就像每个人都有求生的本能一样，但进化的道路是多种多样的，有些看起来很不错的功能其实是双刃剑，比如