最近，人工智能阿尔法围棋（AlphaGo）的故事，正在促使人们对人类自身命运的思考。第一代阿尔法围棋仅仅依靠记忆，完全是人工的产物，而第二代阿尔法围棋已经具有“自己”的分析能力，通过“自我学习”，超出人的控制。那第三代、第四代和第X代呢？
如果人工智能演变成“细菌”，那人类就会有大麻烦。细菌具有自我复制、更新、变种的能力，永远在超越人类社会，走在人类之前，而人类社会一直在忙于应付新的变种。
不过，所谓的人工智能就是由人类所创造的智能，接受了人类本身所输入的信息。如果人类所创造的技术具备了自我学习的能力，能够产生新的信息，超越人类的控制，那就很难叫人工智能了。当然，人们也可以相信，随着人工智能技术的进步，人类控制技术的智慧也会随之进步。
实际上，人们真正应当忧虑的是人工智能所能给经济、社会、政治、文化等方面带来的多重巨大变化。这些变化已经在发生，只是人们没有认识到，更不用说如何应对的知识准备。
迄今为止，人们关切最多的莫过于技术对就业的影响。人工智能正在大规模地替代人工。传统上，技术产生产业和就业。然而，今天的技术所能产生的就业越来越少。在各产业当中，首当其冲的应当是制造业和服务业，大量的工作被机器人所取代。
这种情况已经产生两个极其负面的结果。其一是收入的不平等，机器人的拥有者（或者资本）获取了高额的利润，而那些被机器人所淘汰的则沦落为穷人。发明机器人本来是为了减轻人类的工作负担，但现在演变成和人类抢饭碗，由这种技术进步所导致的社会（收入）不平等正在加速发展。
其次，技术使得政府失去大量的税收。这点和前一点相关。从前政府对人（劳动者）收税，但随着劳动者的减少，政府的税收自然减少。在全球化时代，因为资本是流动的，可以去任何一个其要想去的地方；如果一地的税收过高，资本可以选择离开到别处去。这更加重了政府税收的流失。因此，最近经济学界开始出现对机器人纳税的观点和主张；不过，如何成为现实仍然是一个大问号。
技术的进步不仅仅影响就业和税收，也影响人本身。如果社会的大多数人失去了工作，或者不用去工作（如通过对机器人征税来养活人类），那他们会干什么去呢？包括马克思在内的很多经济学家认为技术是对人的解放，人类从劳作解放出来之后，可以从事人们真正想做的事情，例如可以做义工服务、进行艺术创作等。不过，马克思等人看到的只是人类光辉的一面，忽视人类时刻堕落的本质。这一点至少可以从欧洲一些高福利国家的发展看出来，毒品、性、社会破坏等也经常成为人们生活方式的选择。
人工智能或催生“无政府”
在政治上，人工智能的出现开辟了两种政治可能性，即专制和专制之下的无政府。其一，人工智能有助于政治的高度专制和集权。互联网产生之初，西方社会一片叫好声，认为互联网有助于政治民主化、公民社会的成长等，有人甚至称互联网本身是“民主化使者”。不过，至少到现在为止，互联网并不符合人们的期待。尽管互联网也赋权社会，但更赋权权力者。
互联网出现后，一些国家可以说是越来越专制，当然这种专制并不是传统的专制，而是当代专制，即有效的管治。管治依赖有效的信息收集，而信息技术赋予统治者收集信息的能力是前所未有的。再者，信息技术更有可能导致大众民主的消失和死亡。科学技术是胜于一切的集权因素，这一点在美国社会反而比中国社会表现得更为突出。
精英集团（无论是资本、政治精英或知识精英）可以通过垄断技术，特别是医疗、信息、金融、法律和影视等技术，利用新开拓的市场和政治领域，绕开传统意义上的市场和政府，而实现直接统治。社会的多数在信息时代则变得更加愚昧无知（下面会论述），任凭精英意识操纵，没有多少进步的空间和时间。在民智低迷的时代，传统民主政治变得毫无意义。
专制之下的无政府似乎有些矛盾，但在信息技术时代，专制和“无政府”两者变得并不矛盾。专制就是上面所说的有效集权和管制的情况，而“无政府”指以下两方面：其一，统治者的“直接统治”，即绕过传统政府机构对人民进行直接统治。今天的美国就类似这种情形。总统特朗普上台以来，并没有在多大程度上依靠传统政府结构进行统治，实际上特朗普对建制始终抱有“敌视”态度，数百个政府职位到今天仍然空着。推特是特朗普治理的有效工具。政治领域的情况实际上和经济领域差不多。
在经济领域，技术使得很多人失业；同样，在政治领域，从长远看也会使得很多政治人物失业，只不过今天这些政治人物（作为既得利益）还在拼命抵抗，反应不是很明显罢了。当然，左派人士会说，技术为直接民主提供了有效条件。不过，如果这样，这种直接民主必然表现为高度的专制，因为在领袖直接面对大众的情况下，权力就失去了有效的制衡。
其二，信息技术甚至会使得政府变得毫不相关，从而导致“无政府”状态。社会之所以需要政府，是因为社会的存在需要诸多公共品，包括法律、秩序、公共服务等，这些公共品并非大众本身所能提供，而需要政府来提供。人类社会也是组织的社会，所以通过组织（包括政府）来得到公共品。不过，信息技术已经开始改变这种情况。在一定程度上说，信息社会也可以被视为“后组织社会”。信息随手可得，社会变得越来越小，而非越来越大。
人们只选择和自己相关的社会因素，而把不相关的因素排挤在外；今天互联网上的各个“群”，就类似这种情况。各个“群”之间的交换也无需通过传统的市场或组织，而是通过互联网本身。也就是说，信息技术使得社会具有了前所未有的“自组”能力。信息已经大大消减了政府传统的功能，从“大政府”到“小政府”再到“无政府”必然成为一个趋势。除非政府转变功能，否则会变得毫不相关。
信息技术对人类影响巨大
不过，信息技术对人类的影响远远不止于经济、政治组织等方面，而已经影响到人本身。尽管“数字分化”（digital divide）早已被人们所关注，但人们关切的是社会经济方面的，而智力上的“数字分化”一直被忽视。智力方面的“数字分化”更能影响人类社会的未来。简单地说，随着人工智能的兴起和长足进步，我们无可奈何地要面对一个“活尸人”社会。信息技术已经促成了新社会形态的出现。
技术的本来意义是要解放人，但最终便使得人类成为自己所创造事物的奴隶。前面所讨论的失去工作对人类是小事，而人类最终因为不用思考而变得不会思考才是大事。自互联网产生以来，一个总体发展趋势是绝少数人（例如人工智能的创造者）变得越来越聪明，大多数变得越来越愚蠢了。人们可以从如下几个方面来看：
第一，人工智能促成人类的“非人化”。正如马克思所言，劳动创造人，人与动物的区别在于人会劳作，会思考。不过，在人工智能世界里，人类无须劳作和思考，这就剥夺了人之所以为人的条件。今天，大凡所有通过实验室工作、逻辑推演、模型推演等而来的所谓的“科学知识”，都在逐渐被人工智能所替代。
第二，互联网发展成为互不联网。这里又有几个主要因素。首先是政府的控制，即政府决定我们可以接触哪类信息，不可以接触哪类信息；其次是资本的供给，资本告诉我们选择什么，不选择什么；再次，这更关乎于我们自己的选择，是我们自己选择了互不联网，即我们只选择我们自己感兴趣的信息，而排斥我们不感兴趣的信息。这不仅使得人们的世界观越来越小，也因为格局越来越小而变得越来越非理性，例如自我激进化。其四是技术本身的要求，因为人类有限的记忆力和时间，不得不进行高度的专业化，“只见树木、不见森林”是一个大趋势。
第三，人工智能社会不再是原来意义上的“社会”，这里出现了两种等级秩序。其一，人类社会和人工智能，即人与机器人。其二，在人类社会内部中，除了极少数能够设计、操作并且还能够和人工智能者与时俱进者外，其余的大多数人的思维和智力必将退化，成为弱智。人类到今天为止的智力水平，是数千年甚至更长时间劳动实践的结果。就人类生存来说，知识不再短缺，而是过度。
人类智力退化成“活尸人”
在互联网时代，人们不用像从前那样使用大脑追求满意的生活了，信息到处都是，随时抓取就可以达到自己的目的。如果不用太多的思考，甚至不用思考，长久下去，大多数人的思维能力必然衰退和弱化，从而演变成高度依赖外界提供信息而生活的“活尸人”。
到现在为止，人类仍然是决策者，人类仍然可以决定使用还是不使用人工智能。也就是说，现在的智能仍然由人工产生，人仍然是主人。按现在的趋势发展下去，情况很快就会改变，即由人工产生的智能将控制人本身。就技术发展历史来看，这个趋势不可避免。像谷歌这样的技术公司不可避免会成为欧洲文明的终结者。欧洲文明把人推高到至高无上的地步，现在则把人变成了技术的奴隶。
或许人们会说，正如今天的反全球化运动一样，总有一天，人类也会起来反技术进步。不过，人类的反抗会是无效的，反技术就会像今天反全球化那样毫无作用。人类历史上也出现过反技术运动，但并没有阻碍技术的进步。实际上，人类越反抗，技术进步越快，少数人（技术创造者）总是比多数人聪明。
资本的力量实在太强大了，加上政治力量的辅助，没有任何力量可以阻挡技术的进步。对人类来说，未来是不确定的，但没有退路，只能适应，没有选择。
作者是新加坡国立大学东亚研究所所长
文章仅代表个人观点
