各公司竞相建立他们尚未完全理解或节制的系统。Kokotailo暗示，人工智能行业面对的焦点挑和是“对齐（alignment）”问题。]很多人仍然低估了人工智能进化的速度，他指出，[布景消息：超等智能（Superintelligence）是指正在几乎所有范畴都超越人类智能程度的假设的人工智能。[布景消息：人工智能对齐（AI Alignment）是指确保人工智能系统的方针和行为取人类的价值不雅和企图相分歧的研究范畴。全球科技巨头正正在不竭投资数十亿美元扶植更大的数据核心，认为关于失控（control losing）的会商更像是科幻小说。这是一个主要的研究标的目的，当前人工智能行业正陷入一场盲目标合作，研究人员仍然无法完全理解先辈的模子是若何做出决策的。]Kokotailo强调，一旦人类创制出超等智能（superintelligence），通过他对人工智能系统成长速度的阐发，旨正在开辟更强大的模子。不成预测的风险将会成倍添加。即便人工智能正在很多范畴曾经超越了人类的能力，这种不确定性使得确保将来的人工智能系统靠得住地遵照人类的指令变得极其坚苦。然而，他发觉若是公司继续优先考虑速度而不是平安，人类将不再是这个星球上默认的。OpenAI前研究员、现任AI将来项目担任人Daniel Kokotailo近日发出了强烈。但目前还没有实正可行的处理方案。旨正在避免人工智能系统发生不测或无害的行为。其潜正在风险和影响是人工智能范畴持久关心的话题。