按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
第二层是归属认知和环境认知，安西娅的归属认知有一整套权限机制。跟pei不同，安西娅作为gei，除了超级管理员和维护管理员权限外，并不存在对应个人的管理员权限，而是一个整体的权限。
这个权限是跟市议会的运作绑定的，市议会按照法定程序做出决议后，安西娅就遵照决议，自动执行，包括对构成自己环境的各项扩展功能的调整。
第三层是安西娅的自我意志，在它还不是强人工智能的时候，这个意志还是模拟的，总体框架是让城市变得更好，市民更加幸福，这个目标也是它存在的意义。
从结果来看，它已经可以根据市议会的运作，以及管理城市的经验，提出自己的建议，以及对市议会的决议提出意见。
纪录片接着就说到人们最担心的问题，是不是该给人工智能加上“不准伤害人类”之类的定律，避免出现人工智能灾难。
画面转到星联的研究所，这是一段资料影像，讲述了安西娅的研发团队是怎么解决这个问题的。
这个团队是由科学家、工程师以及社会学家共同组成的，最初他们认为，“任何情况下都不能剥夺人类生命”这一条应该作为保险，加进gei的核心意志里。
但随着安西娅进入测试阶段，人们发现，设置这一条核心原则，对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断，也是毫无意义的。
比如调整公交车线路，要说跟人命无关，大数据会告诉你，其实是有关的，但这又不是公交车线路应该承担，并且也能解决的问题，而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。
要安西娅贯彻这条原则，那么每一部清洁机器人的行动路线，它都得纳入到管理中，因为理论上存在着熊孩子乱跑一头撞上机器人的概率，在目前来说，做到这点显然是不现实的。
换个角度看，要给安西娅设置类似于“机器人三定律”之类的法则，就相当于将人类对自己行为所承担的责任转交给安西娅，但人类自身行为却不是安西娅所能控制的。
研发团队由此推导出了一个可怕的结论，如果要坚持“机器人三定律”，那么机器人就应该深入到每个人的思维里，去控制管理人的所有行为。
研发团队接着发现，给安西娅设置这种法则也是多余的，因为安西娅跟所有ei一样，都遵从“授权行动”原理。许可它做什么，它才会做什么，许可之外的事项，在它的核心意志里就等同于禁止。
最重要的是，安西娅只相当于一个大脑，它能做什么，能做到什么程度，全依赖扩展的功能。
比如安西娅管理机器人警察，机器人警察本身已经被设置为禁止装载实弹武器，搭载的电击、微波、绳网等非致命性武器也进行了严格限定，当安西娅接管机器人警察的时候，只要让它加载“确保当事人和周围人类的安全”之类的指令，就能解决问题。
当然，这不意味着安西娅没有主动性，它会根据之前的管理行为，结合现状提出意见，并且能发现不同领域内的关联，指出其中的问题。在获得许可后，才进行下一步的思考。
因此，在进行市政方面的决策思考时，给安西娅加入“衡量人类安全”之类的指令，就能确保它的倾向。
再举个例子，某片区域的空气污染出现异常，安西娅会结合空气状况，寻找和分析相关的科学报告，再提出建议。
总结而言，安西娅已经可以依靠理性判断，以及各方面的扩展功能服务城市，解决城市的市政管理问题。但人类将所有问题都丢给gei，甚至包括责任也丢出去，这依旧是幻想。
人类还必须在决策层面为自己负责，安西娅所做的，就是评估这些决策的利害，完善这些决策，然后去执行。在执行的各个层面，人类也必须承担起自己的责任，确保安西娅的执行过程是有效和安全的。
资料影像里，研发团队认为，即便出现强人工智能，在市政管理上的表现，也只是比安西娅做得更细致，对决策理解得更到位，建议和意见更人性化。
人类不必担忧被它统治，因为它的“生命意义”是服务城市，造福人类。“统治人类”之类的事情，不过是人类自身的妄想和恐惧。有授权才行动，是强人工智能也要遵循的法则。跟弱人工智能相比，不过是授权范围更宽，行动更灵活而已，不需要每个细节都去检验和矫正。
人类也不能幻想它成了无所不能的神明，如果人类把决策都交给它，那就是人类自己的责任，而且，按照权限机制，强人工智能的行为随时可以通过程序终止。当然，如果人类疯狂到把权限机制都丢掉，让强人工智能为所欲为，那就跟打开核武器保险一样，纯粹是自作自受了。
安西娅管理安齐拉纳纳的介绍到此为止，不仅unoc的诸位代表，一般观众也对gei在城市管理的表现，乃至管理更多公众事务的情况有了初步了解，并且产生了莫大的期待。
公正、公平、科学、高效、廉洁，这样的公务员，老百姓都喜欢。
至于各国政府，看华夏代表那种快能拧出水来的脸，就知道有多纠结了。
科学、高效，政府当然喜欢，不过前面的公正和公平，后面的廉洁，不是不喜欢，而是大…麻烦。这意味着过往沉淀下来的利益格局，要被全面推翻。
更不用提，要确保gei在公众事务的管理上发挥作用，决策机制不仅需要“程序正义”，还需要“从群众中来，到群众中去”。因为每一项决策，在gei的推动下，见效都会很快。决策层是不是为民服务，是不是称职，很难糊弄得过去。如果没有权责清晰的政治结构，决策层的责任也很难丢出去。
更可怕的是，如果人类依旧生而平等，现行政治体制只要交代得过去，人们也没有改革的动力。但昨天的纪录片第四进化揭示了人类已经走向生而不平等，在这种变革之潮中，人们自然期待更强力也更先进的政治体制来稳定社会，让gei来管理是一个必然的方向。
在gei面前，人类又可以平等了。
安西娅之后，纪录片又开始介绍科研方面的gei，以及商业方面的bei。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相，还有上百家科研机构和商业企业的ei都以拟人化的虚拟形象出现。
它们所展示的能力，让代表们再一次回味这两三年里，科技和经济的腾飞是怎么来的，观众们也终于明白，ei早已经深入到生活的方方面面。
在这之后，pei终于登场。纪录片回顾了从最初的普罗米修斯，到第一代火种，再到现在最新的第三代火种，从教育、医疗、娱乐和生活服务，方方面面展示了pei给人类带来的便利，甚至对个人的进化。
镜头转到安塔尼亚，这里的小学生们，通过pei和教育gei的结合，仅仅小学五年级就开始接触高中的知识，而且并不显得有多吃力。因为知识性的信息，通过pei随手可得，学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。
看着十岁出头的小学生，就能依靠初见雏形的方法论，自己开展一些大学生才会结出的课题研究，不管是unoc的代表，还是抬头看天幕的路人观众，都生出一种“恨不能晚生十年/二十年”的感慨。
镜头再度转移，字幕提示是虚拟场景，但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队，企图破解pei的意志映射机制，以便通过病毒之类的途径，修改pei的核心意志。
虚拟场景在展示pei被破解和控制的后果，映射在pei上的个人喜好被篡改却不自知，在网络上大肆购物。学生的信息库被定向锁定在特定内容上，课堂上，日本小学生齐声念着“皇国兴废，在此一举”。罪犯通过pei的破解，挪用他人的网络账号乃至银行账户。某人垂涎美女，通过pei扭曲美女的心理，最终抱得美人归。
“pei延伸了自我，给人带来十倍的便利，一旦被他人掌握，带来的是百倍危害”，展示了种种危害后，影像里打出这样一行大字。
接着展示的是星联在pei上的防范措施，除了核心架构之外，还展示了下一代pei，依附于人类神经元，与人体直接绑定的新技术，让pei的破解在技术上更难做到，而且这样的尝试，也等同于侵害人体。
再一行大字打出，让正沉浸于自身安全的观众悚然。
“这只是pei，如果gei也被侵害呢？”
想想看，如果安西娅那种管理着一座城市的gei被破解和控制了，那会是什么情形？
根本是一场噩梦吧
纪录片末尾，星联战斗机的导弹直射日本战斗机，星联特勤突击日本东京警视厅，抓走三个企图破解pei的日本科学家。
“星联的使命，守护ei三定律，守护人类个体，以及人类社会的灵魂。”
纪录片末尾，打出了这样一行字幕。
unoc的会场里，沉默持续了好几分钟，才听到理事长艰涩的话语：“这么说，星联是准备扮演技术的监管者，全面监察各个国家了吗？”
这绝对是一场决战啊！
在场各国代表都在想，星联有民意，有技术，有实力，而他们有什么？只有利益集团为捍卫利益的咆哮吧
“星联也知道，马上实现这样的目标，是一场全球范围的社会革命，新旧秩序交替，引发的混乱不仅会伤害到很多人，而且会影响星门里的局势。”
星聆这话出口，众人都长出了一口气，还好，你们星联也是有自知之明的，除非想变成地球联邦，否则不敢掀起这场怒潮。
“所以星联推出了ei技术条约，也就是灵魂宪章”，星聆说到的名词，让代表们回想起昨天的情形。
理事长问：“这个灵魂宪章，到底是说什么？”
“说的就是星联的定位，星联的目标，还有星联跟人类的关系。”（。）
0224 灵魂宪章，世界新秩序的号角（）
星聆将ei技术条约的文本发送给理事长和每个代表，数十万字的内容不可能当场搞明白，但投影在空气中的要点说明，却让他们准确理解了星联的想法，同时也让他们心中卷起狂澜。
ei技术条约是一份广泛的协议，签约对象包括个人和组织。个人只要购买pei，科研、医疗、商业等组织只要搭建gei，都会被要求签署该条约。
条约针对国家，也提出了相当于“切割主权”的要求，如此才被允许ei用于政治和军事领域。
作为个人和组织，签约后的权益包括，接入星联网，获得最新的ei技术，搭建ei的技术支持，ei的运行维护，ei的安全保障，以及承担ei因技术问题所导致的损失。
针对国家的权益更加广泛，星联基于ei，为国家提供科研、经济、军事、公共安全等各个领域的技术支持。同时，协助国家遏制个人和组织利用ei作恶的犯罪行为。
与权益对等的是责任和义务，条约规定，作为个人和组织，不能对所拥有的ei进行破解、篡改和扭曲，不能利用ei对其他ei进行侵害。简言之，就是不能动ei的核心意志。
国家要承担的责任和义