ChatGPT会开启人工智能统治时代吗

（原标题：ChatGPT会开启人工智能统治时代吗）

由OpenAI公司开发的人工智能产品ChatGPT最近爆火，给雷慢这类文字工作者带来极大的危机。

ChatGPT说白话点，是一个能系统地回答你所提出问题的AI虚拟聊天软件，它不同于Google、百度这类将一堆搜索结果呈现给你的产品，它能系统地处理所搜索到的结果，然后富有逻辑地搜集资料、整合知识，再将自我组织语言将答案以对话的方式告诉你。

简单来说，它和搜索引擎最大的区别在于“总结”，这也是人工智能的体现。

许多人第一时间想到的是，它将干死搜索引擎。虽然OpenAI的CEO sam Aitman表示它不会取代搜索引擎，但认为将来人工智能系统能做到。而人们更关注它背后的语言处理模型，是它取代搜索引擎的关键。因为它的答案由它自己组织语言总结出来的。已经有大量的学生用它写论文，只要向它提问，然后将回答的答案复制进论文就可以了。

还有广告公司用ChatGPT给出的销售文案交给合作的公司，轻松搞定甲方。有的文字岗的员工，已经开始用它写文章。

ChatGPT总结能力背后是它高度人工智能的一种体现。

有人已经惊呼它标志着真正人工智能时代的到来，并担忧由此一发不可收拾。

埃隆·马斯克近日也表示，ChatGPT好得吓人，我们离强大到危险的人工智能不远了。

而他正是开发了ChatGPT产品的OpenAI公司创始人之一。

他在最近的一次采访中称，人工智能是我们最值得担忧的，他做了一个非常形象的比喻，

“如果一个蚁穴刚好在人类要修的公路上，人类会怎么做？这正像人工智能机器人在面对人类时可能做的。”

那么人工智能能统治人类吗？讨论这个问题，要慢慢说来。

去年11月，欧盟的《人工智能法案 (AIA)》正在讨论限制通用开源 AI (GPAI) 的使用、共享和分发。说白了，就是不让AI技术开源，其他企业不能随意使用已有的AI技术。它将大大降低AI技术的迭代速度和传播广度。这一拟出台的法案条文引起了正反两派极大的争论。

欧洲的社会科学界一直是对现代文明反省最猛的，那种批评之猛烈就像英剧《黑镜》中的首相X猪。

2018年，欧盟最最早在数据法规中开始防止现代技术的过度侵犯人权。这一年，欧盟颁布了一道了不起的法规——《一般数据保护条例》（GDPR）》。这则法令最重要的原则在于：最大限度地保护个人隐私，严格限定企业、政府对个人信息数据的使用条件，影响涉及27个欧盟国家。

雷慢当时称这个数据法的原则为：牺牲技术创新的速度与效率，以保护个人权利。

前年开始，欧盟又开始限制人工智能发展。

2021年，欧盟发布《关于“欧洲议会和理事会条例：制定人工智能的统一规则（人工智能法案）并修订某些联盟立法”的提案》。提案拟对人工智能的使用进行限制，如限制警方在公共场合使用人脸识别软件、禁止诸如自动驾驶汽车、招聘决策、银行贷款、大学生招生决策和考试评分等类别的人工智能系统。

一年后的2022年10月底，欧盟人工智能法案 (AIA) 拟限制通用开源 AI (GPAI) 的使用、共享和分发。

根据欧盟的“人工智能法案”草案，新规将给通用人工智能系统研发制定了法律责任。即便是开源开发者也必须遵守风险管理、数据治理、技术文档和透明度、以及准确性和网络安全标准等方面的指导方针。

这些拟立法的规定并不是纯粹的反对人工智能的一切，而是在某些方面的应用，比如人脸识别在强化统治驯化人民上的应用，在隐私窃取方面的强化。

这些都涉及了一个问题，技术对既有社会规范和道德伦理的侵犯。

广告业和信息业是技术奴役人的两个典型行业。

我们称互联网时代为喂养时代，这是由于人们信息获取的方式变了。500多年前机器印刷发明后引发的书本读物兴起，改变了课堂上口语交流的形式，书写、文字表达逐渐成为主流，今天，用电脑书写、表达、思考首先在职场人群和大学生群体中代替了书写，中国只有中小学生还保留了传统书写的方式。

可是，电脑学习的方式比书写、口语交流更注重个人学习、独立解决问题，它改变了众人思想碰撞、思辨的沟通方式。所以，技术创新的提供者，如今用算法逻辑，给每个人推荐自己爱看的，无论谣言、暴力、煽动言论。它带来的一种负面影响是，容易让每个人更狭隘、自负、排他。从口耳相传言传身教到书写学习再到互联网的信息泛滥，信息获取从主动学习变成了被动喂养。

美国学者尼克·波斯曼《技术垄断：文化向技术投降》里说，比如互联网时代，个人信息更容易被盗取，个人踪迹被搜寻，个体更容易被控制，这是我们在从互联网上获取便利而付出的代价。他说，技术垄断只追求效率、利益和经济进步，它没有道德感，却追求无极限的增长，无责任的权力和无代价的技术。

另一个典型的例子，是我们称广告刺激的消费欲望为物欲时代。

广告、信息和机器驱使，这些可以用康德哲学的一个词来概括：他律。

在康德哲学中，道德是非常复杂的，包含自律行为、他律行为，和意图、义务等等因子构成的辩证关系。

康德认为，假如一个人是经验性存在，那么他是不自由的，即他的每个行为都由“他律”驱动，每一次意志的运用，都受到某些目的或利益的制约。现代人的经验性行为，每次都受指令或算法程序的制约，欲望的刺激或机器的驱使。

广告驱使人消费，首先建立在工作伦理上，工业革命后，资本主义建立了一套工作伦理，即人要工作，不工作会被周遭人排斥、摒弃，然后是消费美学的驯化，人要消费，不消费或没有消费能力的人也会被排斥与嫌弃，这是工作与消费的“闭环”驯化，是资本主义秩序之一。这中间起巨大作用的就是“技术”。

我们习以为常的技术形态如互联网、电信、手机和电脑等，都是技术嵌套的工具，它们是维持当代社会驯化的工具。

海德格尔曾说过，不是我们在支配技术，而是技术在支配我们。到今天我们如果还认为技术是中性的，就有些执迷不悟了。

技术支配人的最鲜明的例子是，越到当代，“自然”越是不再是为人所用的资源，而是人成为了被技术榨取的资源，一系列社会规则下建立的运行体系，所诞生的资本制度，将人称为“人力资源”，人本身成为技术进步所需要榨取的资源。

还有一个重要的例子是，按马克思的理论，劳动是人的本质。实际上，是劳动的过程，诞生了人，区别了人和其他动物。但今天技术突飞猛进，人往往只得到结果，而没有参与劳动过程。今天许多孩子已经不再知道生产的过程。这一变化的结果，造成了“感知的贫瘠”。一旦这种贫瘠加重，人就会越来越像今天所说的“元宇宙”中的角色——只知其然，不知其所以然。

这一观点和歌德的“他律”相似。即认为人的所做的决定是欲望、规则和社会风俗等因素的产物，与之对应的就是“自律”，从自我义务、道德的角度出发的行为。

生产参与的丧失，享受结果的强化，也就是康德哲学中“自律”的退化，和“他律”的强化。

物质社会越是发达，这种“他律”越是强烈，基于技术铺天盖地的“暗示”构成了庞大的欲望链和枷锁链，这些都可以视为哲学家居伊·德波的“景观社会”的景观（符号）之种种。

最后问题是，机器会不会通过技术而支配人？机器执行命令，成为生产的参与者，而人只是结果的享受者，逐渐退化成“猪”一样的角色？

还记得动画片《机器人总动员》里的人类吗，它们整天躺在躺椅上，吃、喝享受，打游戏，肥胖而迟钝，生活在元宇宙里。而机器成为了一切生产、劳动行为的主角，尽管人还是机器的”主宰“，但这样的主宰还算是主角吗？

写完上面的文字后，我去问了一款基于ChatGPT技术开发聊天软件一个问题：人工智能会统治人类吗。它告诉我说，

“根据我们对人工智能的了解，它最终不会统治人类，人工智能不是一个“生命体”，它不具备类似人类的意识、思考和情感等能力，然而，如果技术的发展超过人类预期，很可能带来新的技术风险。”

和我的思路基本一样。

本文系未央网专栏作者:新金融洛书 发表，内容属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！