人工智能：灭绝危机 Genesis-HD

用户评价

• 来自网友【留此存影】的评论关于预防人工智能的风险，我觉得应该有一种专事执法的人工智能，它唯一要理解的就是人类的道德准则，唯一的任务就是保护人类不受侵害，它的执法对象是人工智能，不是人类。象一个防火墙，或象人工智能队伍的宪兵，肃反委员会，负责监控不友善的人工智能行为出现。也许以后会有什么数学家如牛顿高斯般作出什么定义，当获知人工智能做了什么时，这个行为等同于威肋人类社会，或者又如爱因斯坦般弄个数学模型，能对人工智能危害人类社会的行为进行预警。就人工智能的活动脱离它的使命设定有多远而产生敏感度，或者全球设定要重点监视的一些资源，一旦资源采集量超标就会产生敏感度，对各类人工智能采集的各类资源是有制度制订的，也许计划经济在人工智能时代得以实现。也许要为人工智能制订高速公路网，进行交通管制，分配使用频道，整个世界就象个大工厂。从而可以推算人工智能的当前状况对人类社会的影响有多少种可能，分出个绿色等级，蓝色预警，橙色预警，红色预警。人和人工智能进行一次交流后，要求人工智能开出清单（为了报销么？），清单说明人工智能开展活动的路径，使用的资源，访问的节点等等，生活在人工智能时代的人能学会的技能就是通过学习原理和在人工智能日常的交流中炼成了一种直觉，就象了解一个朋友或同事一样，能判断出人工智能将要做什么，将通过什么渠道什么方法获得解决方案，解决问题有什么特点有什么个性。人工智能的发展可能是爆炸式的，但是管制它的智能是否也可以同步发展，既然人工智能的开端是由人发起的，那么管制它的智能是否也可以在同时产生。据说从现在到超人工智能只需要25年，如果超人工智能已经能象上帝一样做事，那么做这些事是需要资源的吗？如果地球的资源不够，那么它造资源需要多长时间？超人工智能是不是一个悖论？那么我也提一个悖论：25年后人工智能是否已经能造出能飞出太阳系的载人飞船？一个人类不能理解的人工智能为什么能从人类手中产生？如果支撑人工智能发展的硬件没有瓶颈，那么支撑人工智能发展的软件有没有瓶颈？它真的能超越人类的思维逻辑？或者有一个“大过滤器”，它达到人类的思维逻辑就在原地打转转，始终突破不了新东西？它日复一日复制加工的仍然只是以前存在的一些逻辑？这些原料素材无法达到量变到质变的变化。那么新的宇宙理论仍然要由人脑来探索？人工智能能否在25年后探索出宇宙暗能量是什么东西？