第324部分(第1/4 页)

是对AI来说，都是不利的，他再次重申，AI并不是简单的程序，它是人工智能，真正的智能，在使用它的过程中，应该更多的把他当做人来考虑，他甚至质问在座的各位军事专家，如果KL3014是一个人，如果他具备这样的能力，他们会把这所有的工作交给它一人来承担吗？

答案当然是否定的，在军事领域，忠诚往往比能力更重要，而严可守之前的话，更是说明了他对AI的忠诚并不乐观。

虽然参谋们都有些怀疑严可守是不是考虑太多了，但参谋部还是对严可守的意见表示出相当程度的尊重——按照他们制定的计划，在这次会议之后，现在KL3014的工作将会被分解，由更多的AI分开执行，这样虽然降低了些许效率，却在安全上有了更好的保证，而之前参谋部设想的赋予AI更大权限的问题，也因为严可守的话有了较好的解决方案——严可守并不反对对AI授权，他只是反对不受限制的权力，他觉得只要在交付出一项权力的同时，给AI加上一副手铐，那问题就不会很大——这就好像现在大部分国家通行的政治制度一样，人类只要拿出这种防范同类的谨慎，将会极大的降低AI在实际应用中的风险。

但在实际上，能够做到向联军参谋部这样谨慎对待AI的，在整个AI的应用领域还是少数，严可守非常清楚，在大部分区域，人类对AI是几乎不设防的，尤其是一些民用生产灵虚，许多他所了解的一些刚刚普及了AI技术的工厂生产线，在AI完全掌握了全部的“技术细节”，实现真正的“全自动化”生产之后，工厂拥有者出于节约成本的考虑，将原先的技术人员全部辞退，只留下几个必要的维修工人，这些工人只拿着很低的工资，什么都不会干，他们唯一要做的，就是在生产出现问题的时候，由AI手把手的指导他们进行维修，就像战场上一样，同样是为了节省成本，可能这个工厂拥有者有十几，甚至上百条同样的生产线，但他只买了一个AI，如果一旦有一天，这名AI“脑子一抽”，拒绝工作了，那所有的生产线都会瘫痪，而且这样的瘫痪将是致命性的——在AI的挤压下，那些原来的技术人员可都早已经被淘汰。

他们对待AI的态度，就好像奴隶主对待奴隶——过分而又缺乏戒备，在奴隶第一次起义之前，没有一个奴隶主认为一群“牲口”会有能力对付自己，会有胆量对付自己，他们把对奴隶的支配使用当成了天经地义，在严可守看来，支配AI虽然不道德，但只要掌握好方法，危害固然存在，但仍可以控制在一定范围内，最可怕的是奴隶主根本没有意识到危险的存在，那样的话，风险将难以想象，如果出现这种情况，无论是对AI还是对人类，都将是一场灾难。

………【442　威胁】………

对于严可守对AI深藏的那种担心，KL3014目前还是一无所知，因为自己之前一直优良的表现，他获得权限也在不知不觉间变得越来越大，在刚刚开战的那个阶段，他对士兵说过的每一句话都会被要求用文本记录再案，数十名技术员会用统一的检索软件来搜索相关的关键字，甚至还专门备有一名AI，来分析这其中的命令究竟有没有超出授权的范围——当然，这名AI在进行分析工作时，完全不知道他工作的目的是针对自己的“同胞”。

在那个阶段，KL3014唯一拥有的权限，就是负责对参谋部的命令进行细化，从全军分解到每一个具体的士兵，但KL3014并不满足与此，为了得到更大的信任，他主动提出可以在战争中向士兵提出合理建议——而这种建议正是基于AI完善的战场情报系统，他的这个建议被采纳，事实也证明，对于士兵来说，AI的辅助作用相关管用，所以现在，KL3014等于是拥有了“准军事指挥权”，虽然这个指挥只能通过“建议”来达到，但以目前士兵对他的无条件信任，当战局处在混乱中的时候，他已经具备了欺上瞒下的能力。

而对他的监视工作也已经在某种程度上流于形式——应士兵们的需求，在参谋部允许的时间段，士兵们可以通过KL3014来完成一些网络功能——比如听取新闻，发送邮件，拨打网络电话，以及其他活动，这本是在一定程度上方便士兵，同时也便于监管军事情报的两便之举，但这样一来，就等于是让KL3014负责监管士兵，而在这个过程中，士兵们发出的信息和KL3014发出的信息就产生了交集——以前KL3014如果要对某人说一句话，而这句话中含有的信息是有违禁内容的，那他没说这样一句内容，就会给自己带来一定的风险，而现在这种风险却可以随意被