没有工具，也没有明确的方法可以阻止AI出现问题.doc

《没有工具，也没有明确的方法可以阻止AI出现问题.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、没有工具，也没有明确的方法可以阻止AI出现问题　　到目前为止，没有工具，也没有明确的方法可以阻止AI出现问题；想比较而言，了解AI到底出了什么问题更为现实。　　AI的目的是开发智能系统，能够自动驾驶汽车，诊断、治疗复杂的医疗状况，甚至还能训练其他机器。　　问题在于，没有人确定该如何诊断这些系统中潜在的缺陷，也许我们只能阻止问题的发生。虽然机器可以很好地完成某些工作，但人类仍然需要设计系统来训练和观察它们，并且这个系统还远远不够完善。　　“调试是一个开放的研究领域，”IBMresearchAlmaden副总裁兼实验室主任Jeff没有工

2、具，也没有明确的方法可以阻止AI出现问题　　到目前为止，没有工具，也没有明确的方法可以阻止AI出现问题；想比较而言，了解AI到底出了什么问题更为现实。　　AI的目的是开发智能系统，能够自动驾驶汽车，诊断、治疗复杂的医疗状况，甚至还能训练其他机器。　　问题在于，没有人确定该如何诊断这些系统中潜在的缺陷，也许我们只能阻止问题的发生。虽然机器可以很好地完成某些工作，但人类仍然需要设计系统来训练和观察它们，并且这个系统还远远不够完善。　　“调试是一个开放的研究领域，”IBMresearchAlmaden副总裁兼实验室主任Jeff没有工具，也

3、没有明确的方法可以阻止AI出现问题　　到目前为止，没有工具，也没有明确的方法可以阻止AI出现问题；想比较而言，了解AI到底出了什么问题更为现实。　　AI的目的是开发智能系统，能够自动驾驶汽车，诊断、治疗复杂的医疗状况，甚至还能训练其他机器。　　问题在于，没有人确定该如何诊断这些系统中潜在的缺陷，也许我们只能阻止问题的发生。虽然机器可以很好地完成某些工作，但人类仍然需要设计系统来训练和观察它们，并且这个系统还远远不够完善。　　“调试是一个开放的研究领域，”IBMresearchAlmaden副总裁兼实验室主任Jeff没有工具，也没有明

4、确的方法可以阻止AI出现问题　　到目前为止，没有工具，也没有明确的方法可以阻止AI出现问题；想比较而言，了解AI到底出了什么问题更为现实。　　AI的目的是开发智能系统，能够自动驾驶汽车，诊断、治疗复杂的医疗状况，甚至还能训练其他机器。　　问题在于，没有人确定该如何诊断这些系统中潜在的缺陷，也许我们只能阻止问题的发生。虽然机器可以很好地完成某些工作，但人类仍然需要设计系统来训练和观察它们，并且这个系统还远远不够完善。　　“调试是一个开放的研究领域，”IBMresearchAlmaden副总裁兼实验室主任JeffWelser说。“但是我

5、们至今还有一个好的答案。”　　在这个问题上他不是一个人。尽管人工智能、深度学习和机器学习正在被应用于包括半导体设计和制造业在内的多个行业，但重点在于如何使用这些技术，而不是在出了差错时发生了什么。　　“调试是一个开放的研究领域，但这个问题没有解决。”ANSYS首席技术专家这样表示。　　至少部分问题是，没人能完全确定一旦设备被训练后会发生什么，特别是在深度学习、人工智能以及各种神经网络方面。　　企业解决方案技术副总裁、杰出的发明家StevenWoo表示，调试是建立在理解的基础上的，关于大脑是如何运作的，还有很多需要学习。所以从传统意义

6、上来说，调试仍然是一个挑战，因为需要了解何时发生了错误并进行错误分类。我们需要进一步研究“我不知道”类型的分类。　　这与科幻小说中描述的一些场景相去甚远，在科幻小说中，机器可以控制整个世界。错误的算法可能导致在某处发生意外，如果它涉及到功能安全系统，可能会造成不可预估的危害。　　但是人工智能(AI)、深度学习(DL)和机器学习(ML)的不同之处在于，仅仅通过一个软件补丁修复这些bug是不可行的。更何况，这些bug可能在数月或数年内都不会出现，或者直到与其他设备进行交互才出现。　　Synopsys嵌入式视觉处理器产品营销经理则这样认为

7、，如果我们正在训练一个网络，那么它的吸引力就在于我们可以让它更快、更准确。一旦我们训练的网络出了问题，只能追踪到代码。现在，调试成了一个棘手的问题，而且它并不是一个能提前避免的事情。　　　　什么足够好?　　“什么足够好?”是半导体行业一个潜在主题，答案因市场、应用的不同而有很大差异。就算在在同一设备中，不同功能之间甚至都可能有所不同。例如，在玩手机游戏的时候，出现bug会很烦人，可能需要重新启动才能解决，但如果打不了电话，那我们可能会直接选择换掉手机。对于工业设备，这项技术可能直接与收入挂钩，因此它可能是计划维修更换的一部分，而不是

8、等待失败。　　当AI出现问题时，我们竟无能无力？　　对于人工智能，深度学习和机器学习，则不存在上面的标准。推断结果是数学分布，而不是固定的数字或行为。　　eSilicon市场副总裁在某次采访中表示：它们最大的问题是，是否正确，以及如何