很多科幻小说中描写了那样一个场景，当人类制作的机械人产生了自我意识，并最先取人类为敌，终极具有人工智能的机械人险些摧毁了人类文明。虽然这只是片子或小说中的情节，然则计算机科学家和企业家史蒂芬·奥莫亨德罗以为将来人类也许制作出具有反社会性质的人工智能机械。近来，奥莫亨德罗还宣布了一篇文章，提到了关于人工智能的一些理论和实验，勾画出将来机械人天下的基本情况。

　　事实上，我们所以为的人工智能其实是无限靠近人类，具有极强的决议本领，可对四周的态势做出判定而且阐发下一步的趋向，这就像无人机的编程那样，经过机载传感器得到四周的环境情形，然后经过庞大的算法掌握无人机正在空中的举措，自立决议是不是空中悬停照样对目的采用行为。如正在经济学家看来，这就相当于本钱取效益之间的题目，可以用效用函数来得到后果，可是人取机械显然是不一样的，由于我们能思索许多器械，而且挑选最低风险和本钱的门路来实行。

　　大多情况下，我们还想要将来机器人能够经过那样的方法来做出决意，但问题是我们必须将这一些算法和逻辑进程表现到计算机法式上，但那样会招致一个很严重的结果，那是人工智能机器人会严厉依照法式所给予的算法来实现最优的决议，若是这是一台能下国际象棋的机器人，那末它就会想尽办法来博得竞赛，假设这是一台具有兵器的杀手机器人，那末它就会不择生冷来到达本人的目标。

　　那些人工智能机器人会无情地寻求本身的方针，由人类的角度看可称之为失控，关于智能机器人来讲，它只不过将算法所给予的本领发扬到极点，而那些失去“理性”的智能机器人很有大概酿成人类的杀手，取我们战役到死。