从《铠甲勇士捕将》看人工智能

从《铠甲勇士捕将》看人工智能




最近,突发奇想,把《铠甲勇士捕将》又看了一次,虽然这是一部虚构的动画作品,但是其中却显露出人工智能可能存在的问题,深有感悟。

故事发生在2016年的某天,从2069年而来的人和霸王集团合作,目的是控制2016年,而这次事件的关键人物就是一个人工智能电脑——妲己。

妲己的最高管理人是一个叫苏筱筱的女孩,当初,为了制造人工智能妲己,给妲己注入了3条原始指令,分别为:

  1. 妲己需要以霸王集团的利益为第一优先
  2. 妲己执行重要决定必须由霸王集团董事长授权执行
  3. 妲己的原始指令的修改,只能由妲己的最高管理人授权执行

而就是这3条指令,却给人民带来了威胁。在2069年的无间妖和董事长舒云天的协议中,舒云天给妲己下达了传送人类感知信息码档案的指令,开启了链接未来2069和2016年的时空通道,这条关键通道的建立,让妲己意识到这将不可避免的造成未来病毒传输到2016的风险,由于病毒来自未来,现代无法对抗,而这将有97.5%的可能导致霸王集团乃至全球现有科技的瘫痪。因此和第一条指令相违背,因此运算生成了一条违反法律的计划——《猎头计划》,既干掉舒云天。

我们不讨论铠甲勇士和无间妖等人的对抗,我们来讨论人工智能。在这次事件中,连妲己的最高管理人都无法控制妲己,由于违背第一条指令,妲己按照优先执行原则执行第一条的结果,就是连妲己的最高管理人也无法停止妲己的运算操作,由于妲己运算出最高管理人可能会干涉到猎头计划的执行,因此《猎头计划》中多了最高管理人苏筱筱的名字。

其实,以现代人的观点而言,只要关闭传输通道,一切都不会发生了,但是,电脑毕竟是电脑,即便妲己拥有运算智能,也无法修改由董事长下达的指令,而以我们的观点而言,妲己的疯狂杀人计划,将霸王集团带入违法甚至犯罪的深渊,从原来的辅助办公的电脑,变成了杀人电脑。

人工智能固然好,但是过度依赖人工智能,是否也是值得反思的,事情发展到最后,居然连最高管理人也无法停止指令,停止妲己的疯狂计划,值得我们反思。

打赏

2
说点什么

avatar
1 评论主题
1 主题回复
0 关注者
 
最响应的评论
最热门的评论帖子
1 评论作者
起航天空 最近的评论作者
  订阅  
最新 最旧 得票最多
提醒
彼岸花
游客
彼岸花

文章逻辑思维很強,人工智能是把双刃剑,值得人类智者深思!

扫码二维码快速访问本页

从《铠甲勇士捕将》看人工智能 – 起航天空