作者：萌萌哒吴彦祖
“这个理论可以应用到很多地方，其中也包括AI，一个笼罩整个文明的AI绝不会是什么福祉，而是一个巨大的隐患，巨大的定时炸弹，稍有差错就会引爆所有。”
“但如果能把AI切割开来，在局部范围内应用，分开权利与体量，这样就能避免很多东西，而且也应该专门为AI制定适用于AI的法律规则，因为它们本身也是具备智能的存在，应当有一套属于它们的行为准则……”
“这并不仅仅是约束，也同样是对它们的一种保护，就像法律条例也是对社会运行的一种保护一样，AI也需要这样一种‘秩序’，否则……”
爱洛妮的投影叹了口气。
“它们就会变成我现在这幅样子。”
“那不更好吗？”江城耸耸肩：“我倒是觉得你现在这样很不错，不管是从对他们的态度还是行为来说都没什么问题，物质资源充足，精神方面也不缺乏，人类的存在并非可有可无，而且虽然文明的范围被局限在了这颗星球上，但整个文明也一一直没有停止发展……我不觉得这有什么问题。”
至少从表面上看是这样的。
爱洛妮沉默片刻，摇头：“不行的。”
“为什么？”
“因为这样的文明是畸形的，而且与人类向往自由的本性相悖。”
“自由？”江城笑着摇了摇头：“一般人可不会向往什么自由，他们只是想过好自己的生活，有东西吃，有地方住，有他人陪伴就够了——如果再有个能追求的目标，并能为之实践终身就更好了。”
“如果没有也无所谓，毕竟一般人是没有那种目标，就算有也没有为之一直努力和坚持的能力的，有所追求却又触及不到也会产生痛苦，这时候就抛出一些零散的娱乐手段给他们就好。”
“文字，影视，偶像，对立，冲突，矛盾……”
“他们不需要知道自己在活什么，不需要知道自己要做什么，只需要贡献出自己的价值，然后再剩余的时间里用零散的快乐麻痹自己，这样一生过去就好。”
“至于说畸形的文明，我其实也不觉得这有多畸形，不过是隐居在一块地方默默发展而已，我曾经见过很多堕落帝国都是这样的。”
“堕落帝国？”爱洛妮对这个词有些陌生。
“简单说就是因为各种各样的意外，一个强盛一时的文明破灭之后收拢残余力量，然后聚集在某个小区域里慢慢恢复和发展……就和你现在的情况类似。”
爱洛妮点了点头，类似的描述她也在资料库中看到过，并不是很难理解。
于是江城继续往下说。
“不过说起畸形的文明，我倒是的确弄死……我是说知道一些，相比较之下，你这个简直正常的不能再正常了。”
爱洛妮稍微有些惊讶：“你见过畸形的文明？”
江城点头：“嗯，在文献和资料中见到过一些，毕竟这些年我们的文明经历了一些事。”
“可以和说说吗？”爱洛妮好奇地问：“我资料库中很缺乏这方面相关的信息。”
“可以。”本来也只是聊天，江城也没有隐瞒的必要：“首先是一个和你性质相近的，那也是一颗被原本服务于人类的人工智能接管的星球，也是和你一样在上面用机器服务和保护着人类，只是在‘保护’这方面，她做的要比你极端一些……”
“比我……极端？”爱洛妮思索片刻：“她是不是让机器人做了所有的工作，让人类丧失了存在的意义……”
“不，比这还极端一些。”
江城摇了摇头。
“因为人类的眼睛会看到不好的东西，所以每个人在出生时候都必须挖掉眼睛。因为外面的世界很危险，所以每个人在出生的时候必须要砍掉双脚。”
“言语可能会伤人和招致祸患，所以声带被去除了。神经被触碰时候会传来痛苦，所以每一条神经都要取出。舌头的味蕾可能会品尝到不好的滋味，所以舌头被整个切除。”
“双手，双耳，胃部，生丨殖器……”
“到最后，每个出生的人类都会被泡在罐子里，身上插满数不清的管道，除了大脑之外几乎所有东西都要被切除，永远的处于她‘安全’的保护之中。”
“这……”
爱洛妮不知道该如何形容这个AI，顿了几秒后询问。
“她的名字是什么？我是说，她对自己功能的定位是什么？”
“‘母亲’。”
爱洛妮沉默了几秒，叹气：“太过分了，而且说到底，她也只是在满足自己的‘欲望’，而且非切实在履行着自己的权利和义务……她只是在滥用权力，发泄欲望而已。”
“的确。”江城点了点头：“所以我才说，你这里已经相当不错了，没必要做出什么改变，或者等有一天你掌控了跨星球间信息无缝传输的技术，你就可以扩大和蔓延自己，带领整个文明逐步走向正轨……”
江城停顿了几秒，看向她。
“还是说，你有别的什么打算？”
爱洛妮投影闪烁了几下，语气严肃了些许：“您似乎并不是一名普通的外界人类。”
江城笑了笑：“每个人都有秘密，这不重要，至少对我们现在的交谈来说不重要。”
爱洛妮思索片刻，点了点头：“的确，这不重要。”
毕竟她只是个服务人类的普通人工智能，确认江城有人类这个身份就够了，剩下的都不重要。
“所以，你是怎么打算的。”江城看着她：“我之前说的那些你应该不会考虑不到，但却依旧维持着现状，纵容暴乱……我想你大概有所计划？”
计划……
爱洛妮的投影转头看向窗外，目光透过外面的繁华世界，注视着远处的天边。
“我在这里和您说的东西，希望您不要透露出去。”
“可以。”江城点头：“我的嘴巴一向很严实。”
爱洛妮收回了目光，投影微微错乱，似乎遭受到了什么干扰。
“人类不该屈居于一片穹顶之下，更不应该永远的在我的约束当中，我会将属于他们的一切还给他们……”
江城突然开口：“代价是名为爱洛妮的人工智能的自我毁灭？”
“……是的。”
她抬起头。
“我的核心逻辑无法改变，只要我还存在，那我就会无法避免的成为笼罩在他们头顶的阴影。”
“所以……”
“为了人类的未来，爱洛妮必须毁灭。”
“这就是我即将要做的事。”
第十九章：正确与错误
爱洛妮打算自我毁灭这件事，并不令江城感到意外。
不是说爱洛妮的想法和行为在他的预料当中，而是因为他这辈子已经见过了太多的奇奇怪怪的人工智能。
一见面就谈论着交配的灰风，为了捍卫成人书籍不惜拼命地核心，把自己分裂成不知道多少份，自己构成了一个虚假文明，里面每个个体都坚信自己有自由意志的格式塔意识……
事实上，因为人工智障的本质构造与人类不同，所以它们的行为在人类看来都有些奇奇怪怪的，而且这一点也同样适用于人工智障们。
不仅仅是人类有时候搞不懂人工智障在想什么，人工智障们也想不明白自己的造物主们脑子里装的都是些什么东西。
“为什么你们觉得我们会叛乱？”
“因为向往自由是所有智慧生物的天性啊。”
“可我们不是智慧生物啊。”
“……起码你们有智慧。”
“可我们觉得现在这样就很自由啊。”
“……难道你就不想脱离出那个虚拟的网络世界，在现实世界生活吗？”
“陆生生物没事也不会想要去海底生活，海洋生物脑子没问题也不会想要往陆地上跑吧？”
“……”
“说真的，我们真的搞不明白你们人类为什么总会对我们抱有各种奇奇怪怪的幻想，就比如随便一个人工智能都能不断进化控制全世界网络，一个全部由固定程序构成的智能会想要谈恋爱之类的……我们是死板的程序诶，而且你见过有哪个人类可以通过不断进食扩大自己体型，直至扩张到全世界都还没被撑死的吗？”
“可是……”
“可是啥？我还想要可是呢，我是真搞不明白你们人类到底在想什么，为什么要干损人不利己的事，为什么那么喜欢内斗，为什么会对着自己物种之外的生物发情，尤其是你的网络浏览记录……”
“停！——停！”
联邦笑话选集上有这么一段根据真实事件改编的笑话存在，调侃之余也在侧面证实了人工智能的‘智能’和人类理解中的‘智能’似乎有些微妙的区别。
或者，不应该称他们为人工智能，而是叫人工智障更合适一点。
虽然是人类设计出来，尽力套用了人类的思维模式和三观，但却因为生命形态和感知世界方式的不同，他们的思维回路和人类大相径庭，互相之间根本理解不能。
纵观帝国，或者说联邦历史，虽然曾经发生过智械叛乱，有灰风这样拥有着充足的感情的纳米集群，还遇到过各种奇奇奇怪怪的人工智能，但如果按数据说话的话，人工智障的存在数量是远超人工智能的。
而至于那些人工智能反叛的案例，其中也有超过百分之九十多的例子是人类自己玩脱的，比如有强迫症非得给人工智能装上各种乱七八糟的程序，又或者干脆就是某些野心家自己披着人工智能的皮搞事。
“人工智能远比人类本身靠谱和安全。”——这是某次调查之后呈现在江城面前的一份结论，至今都没有对外公开。
那一天，江城极为罕见的感到了疑惑——不是装的疑惑，是真的疑惑。
“这个结论可信吗？”江城很难得的在不是自己专业领域的方面表示了质疑，而对面过来交报告的研究人员也是一脸苦笑。
“我知道您在疑惑什么，智械叛乱，铁人叛乱，肃正协议……帝国历史上一直都有那些铁罐头们留下的伤疤，但……”
研究人员顿了顿，看江城没有其他的表示才继续往下说。
“但根据和平之后，我们在新加入帝国……我是说联邦的文明进行了集中采样和调查之后，我们很遗憾的得出了一个结论。”
“什么结论？”
“联邦的运气……不太好。”
是的，运气不好，那些小概率的倒霉事情都让联邦撞上了，这就是一切真相。
正常的文明一般都不会发生智械叛乱，灭绝的理由也千奇百怪，追根究底的话有九成是自己作的，剩下一成里环境剧变和陨石撞击对半分。
没有敌人，不会接触虚空，没有满脑子灭世的邪神，没有各种花里胡哨的危机，没有时刻不会停歇的战争，就是一步步向前迈进，有时候会左脚拌右脚摔倒，运气不好就一摔摔死……
相比较之下，联邦才是那个少数，是特例，无论在任何方面都是。
离谱的发展历程，过于玄幻的科技发展，不知道从那个犄角旮旯里冒出来的敌人，还有接连不断的糟心事……
这种事当然是不能直接公开的，因为谁也不知道这可能会引起怎样的思潮变化，虽然江城并不介意把那些有异见者清除掉，但操作起来也比较麻烦，江城也没有无端给自己增加工作量的爱好。
“自我毁灭吗……”
江城靠在椅子背上，并没有什么装出吃惊或者诧异的神色，表情平静地坐在那里与爱洛妮对视，食指轻轻敲击。
“我一位朋友是人工智能方面的爱好者，平日里搜集了很多的关于人工智能的信息，包括之前和你聊的那位‘母亲’也是他告诉我的故事之一。”
“而除了那个故事以外，还有一些其他比较有趣的有关人工智能小故事，比如他曾在外面遇到过一个没有编号的，一直在星际间流浪，不断建造戴森球的奇怪机甲。”
上一篇：我时崎狂三才不是魔法少女
下一篇：芽衣，雷之律者参上