区块链与AI：两家网络巨人之间的微妙平衡

 

　　这是因为人与人之间的交流具有一定程度的随机性，并且两个或多个人之间的对话可能会产生意想不到的曲折，而聊天机器人根本无法识别，跟踪或做出适当的响应，而听起来似乎并不好，像机器人一样FAIR的目标是创建可以通过自然语言对话进行谈判的“对话代理人”。换句话说，要很好地模仿人类语言，并通过预先计划（“思考”），仔细校准对话可能采用的所有可能路径并相应地调整其行为和言语来取得成功。为此，人们可以说这个特定的项目是失败的。

 

　　为实验创建的聊天机器人（爱丽丝和鲍勃）不太了解谈判的技巧。他们的交流仍然不自然，像机器人一样。看起来很荒谬，甚至如此。过了一会儿，研究团队匆匆关闭了与爱丽丝和鲍勃的合作。因为爱丽丝和鲍勃虽然没有学会谈判，但确实学会了一种非常特殊的技能，迄今为止仅限于人类的头脑，所以研究小组认为：创造一种只有他们能理解的语言的能力。

 

　　一、AI失控的故事

 

　　FAIR聊天机器人实验的意义是显而易见的。僵尸程序为什么要创建自己的语言，而人类监督员可能不容易识别或理解这种语言，直到为时已晚？如果爱丽丝和鲍勃没有受到检查怎么办？他们会学会谈判一项不包括人类在内的协议吗？尽管这些场景可能会牵强附会，但并非很难做到。2015年1月，世界上最聪明的科学和企业家思想的一大样本共同签署了关于人工智能的公开信（AI）。

 

　　像已故的斯蒂芬·霍金，特斯拉的埃隆·马斯克和Google的研究主管彼得·诺维格（PeterNorvig）等人齐聚一堂，向世界发出警告，警告他们从事超级智能实体发展的危险之路，有朝一日可能会变得无法控制和敌视创造它们的人瑞典哲学家尼克·博斯特罗姆（NickBostrom）在其《高级人工智能中的伦理问题》一书中论述了创建一个比普通人具有更好的智力能力的实体的伦理意义，特别关注我们做这种事情的动机以及这样做的动机。

 

　　实体将被指示遵守。在这方面，博斯特罗姆确实说：超级智能可能由于其知识上的优势和可以发展的技术而变得势不可挡，提供人类友好的动力至关重要。”同时也承认“超级智能在道德思维上也很容易超越人类。“Bostrom通过以下经常被引用的示例很好地说明了这一难题：”假设我们有一个AI，其唯一目标是制作尽可能多的回形针。AI会很快意识到，如果没有人类，那会更好，因为人类可能会决定关闭它。因为如果人类这样做，回形针将更少。而且，人体中包含许多可以被制成回形针的原子。

 

　　人工智能将要面向的未来将是其中有许多回形针但没有人类的情况。”然而，这种看似愚蠢的情况确实反映了归因于一台机器的冷内部逻辑。因为缺少更好的词，“mind”将严格遵循其原始编程的参数，以至于消灭人类，以便它可以继续不受阻碍地制作回形针，直到时间结束。因此，问题来了，如何防止所有这些呢？如何停止甚至控制AI？从长远来看，甚至有可能对超级智能实体施加控制权吗？由于一个简单的原因，这些问题今天都无法有效回答。人类尚未创建这些实体中的任何一个，因此这些问题在很大程度上仍是理论上和推测性的。

 

　　二、区块链：红色大按钮

 

　　在《终结者3：机器的崛起》（乔纳森·莫斯托，2003年）结束时，约翰·康纳终于了解了天网的真实本质，并在环绕地球的核导弹背景下讲述了天网，这预示着世界末日：“这是软件，在网络空间中。没有系统核心。它无法关闭。袭击始于下午6:18...'一部平庸的电影的伟大结局，尽管如此，但电影摄制片虽然简短，但却准确地反映了人类傲慢的愚蠢行为。终结者专营也许是一个在如果我们愚蠢地允许一个控制论的实体来主持这场演出，那么人类可能会面临的可怕后果的最流行的电影例证。天网的动机与Bostrom的回形针AI相距不远。在这两种情况下，AI都将人从整体画面中删除的理由是，这样做可以使AI得以完成其编程。没有人意味着没有人可以关闭AI。

 

　　在我们所有人都在核大火中燃烧之前，可以解决这个看似不可避免的厄运吗？可事情要做？工业工程师通常会在机器上安装一个红色的大按钮，该按钮会在紧急情况下立即停止。您每天都会看到这些按钮。例如，在地铁系统内的自动扶梯或大型购物中心中。印刷机，垃圾车等。操作员所需要做的就是按下该按钮，机器停止运行。操作员可以完全控制机器。只有AI不是一台机器，至少不是传统意义上的机器。AI不是可以随意打开和关闭的水壶。它也不是汽车，可以将其点火钥匙拔出以使车辆保持不动。AI是水壶里的东西。例如，可以通过编程该代码在一天中的特定时间打开水壶，例如当它知道用户正常喝咖啡时。或者是汽车中央计算机中的一个例程，当它在附近检测到驾驶员自身的热信号时，就会打开车门。

 

　　AI是软件，在网络空间中，它无法关闭。如果此类代理在人工监督下实时运行，则操作人员有时会需要按下红色的大按钮，以防止代理继续执行有害的操作序列，这对代理或对环境，并引导代理商进入更安全的环境。”换句话说，AI代理可能开始出现不可预测的行为，因此最好有一种控制它们的方法，以免我们最终都变成纸夹。但是，这种解决方案虽然看似理想，但却具有一个固有的缺陷，如果操作员无法或不愿意按下该按钮怎么办？这是单点故障的关键问题，这也是为什么在核毁灭问题上采用分散式解决方案更好的主张。

 

　　区块链技术以分散的方式运行，从而消除了单点故障的困境。如果网络中的一个节点被禁用，则另一节点将采取措施。区块链将成为AI的大红色按钮。让我们详细说明一下。区块链节点的真实性通常比其他方面要多。这是因为，在区块链的范围内，做正确的事所获得的回报远远超过相反的事情，而大规模欺诈的概念几乎是不可想象的。

 

　　三、结论

 

　　壳牌漫画Ghost中完美地说明了无用AI的概念。由日本艺术家MasamuneShirow创作的《攻壳机动队》描绘了赛博朋克的未来，先进的控制论使生物大脑与计算机网络之间可以进行直接交互。主要的对手被认为是著名的人类黑客，但最终揭示出故事事件背后是一个高度先进的AI实体。AI（“鬼魂”）操纵人们的身体（“壳”）和大脑进行竞标。攻壳机动队当然是科幻小说，但有人可以说它的基本前提与明天的现实相去不远。

 

　　脑力激荡的问题（即通过植入物对人脑进行人工操纵）已经被假定。物联网（IoT）逐渐变得司空见惯。不久，每个家用设备都将有一个微芯片。许多上一代家庭汽车已经做到了。不起眼的烤面包机不落后。爱丽丝和鲍勃可能会成为长期控制论血统的始祖，这才是真正的麻烦开始的地方。该冠状病毒大流行已经回荡ingly证明人类如何可悲的准备是全球主要的紧急情况。当然，Covid-19是一种危险的病毒，但其死亡率远不能消除人类，因此我们将继续战斗。

 

　　但是，假设有一天，计算机病毒在一个相互连接，相互关联且完全依靠技术生存的世界中爆发。从水壶到喷射客机，所有在一密耳不起作用升isecond。Morpheus在《黑客帝国》（TheWachowskiBrothers，1999）中说，当我们诞生了AI时，我们惊叹于自己的辉煌。我们最好有一个大的，胖的，由区块链驱动的红色按钮来推动。