业内专家发出警告，随着人工智能的发展，未来自动驾驶汽车等技术很有可能遭黑客入侵，从服务人类的工具变为杀人机器，威胁人类社会安全。各领域的知名人士均提议禁止致命自主武器的研发。

网络安全初创公司Deep Instinct首席执行官盖伊 卡斯皮(Guy Caspi)在接受美国一家电视台节目采访时表示，未来通过人工智能技术入侵自动驾驶汽车使其变为杀人武器的可能性非常大，并且如今所需的大部分技术已经可以操作实施，如谷歌的无人驾驶车已经开始使用深度学习技术，使其可以对现实世界中存在的障碍物进行撞击。

本周三(6月25日)，行业专家在于斯德哥尔摩举行的2018年国际人工智能联合会议上指出，公民、政策制定者和领导人急需清楚区分人工智能的可接受用途和不可接受的用途。来自90个不同国家的2400多人与160多家公司(如特斯拉、美国太空探索技术公司首席执行官埃隆马斯、XPrize基金会的创始人、谷歌 DeepMind等)签署了由未来生命研究所拟定的承诺。该承诺呼吁世界各国政府加紧努力，防止在全球军备竞赛中出现致命的自主武器或“杀人机器”，并对致命的自主武器进行了谴责，承诺各公司及个人均既不参与也不支持这类武器的研发，决不把人的生死交由机器决定。

而且，专家还警告说人工智能很有可能失去控制，破坏国家的稳定，威胁个人的安全。在过去几年里，随着世界各地的军队越来越重视人工智能，致命的自主武器系统是否会出现也受到了越来越多的关注。虽然今天的无人机是由人类自己控制，并且是用来防御其他武器的，但人们担心这类机器很快可能就会被用来识别和击杀我们人类自己。

联合国早在2016年12月就开始讨论致命自主武器的问题，此后26个国家表示支持禁止这项技术。下个月，联合国将再次举办关于杀人机器的会议，业内许多人士都希望能有更多的国家加入禁止这类武器的行列。