在当前的大流行中，数以百万计的美国人开始在家中工作。betway娱乐官网零售商在供应方面一直在挣扎，而紧张的消费者正在ho积从厕纸到手工肥皂。

在全球范围内，中国电子商务巨头JD开始测试武汉4级自动交付机器人，并每天24小时运行其自动仓库，以应付需求激增。

突然，自主机器不仅要成为概念证明，因此需要更好。他们不再依靠现场工程支持边缘案例。它们必须足够强大才能在各种现实生活中独立工作。

在某些方面，流行病加速了已经快速发展的自动未来。它揭示了在AI风险现场长期存在的问题：流行语和炒作云人员的判断，使得很难看到真正的进步。

该行业需要在以下三个领域进行急需的改革，以实现现实世界的自治系统：

1.重新考虑指标

随着更自主的AI机器被部署在现实世界中，诸如速度，周期或成功率之类的传统指标不再代表完整的图片。我们需要用稳健性指标（例如人类干预措施的平均数量）来衡量系统在不确定性下的可靠性。

我们需要更多的工具和行业标准来评估各种场景的整体系统性能，因为与受控环境不同，现实生活是无法预测的。

如果交付机器人可以达到4英里 /小时的最大速度，但没有人类支持就无法完成一次交付，则机器人不会为其用户创造太多价值。

DevOps几年前出现以缩短开发周期并不断提供高质量的软件。与软件工程相比，AI或ML的成熟程度要少得多。87％ML项目永远不会进行生产。但是，最近我们开始看到MLOPS或AIOPS越来越出现。

这标志着从AI/ML研究到每天使用和测试的实际产品的关键过渡。它需要重大的思维方式改变，以专注于质量保证而不是最先进的ML模型。我并不是说我们不能同时拥有两者，但是到目前为止，我们已经看到了后者的重点。

2.重新设计错误处理和通信

最近STARSKY ROBOTICS关闭提醒我们，我们距离完全自主的解决方案还有多年。这并不意味着AI机器人不能为人类带来直接的价值。如一个上一篇文章我写道，即使人类需要在15％的时间内处理边缘案件，但这仍然意味着公司可以降低巨大的劳动力和整合成本。

但是，目前，人工智能公司倾向于在构建自主系统上花费更多的资源，并且更少的时间思考了机器和人之间的错误处理和无缝交接。

我们需要一种更好的处理和交流错误的方法，尤其是对于ML产品，因为ML更概率和透明度较低。因此，显示模型预测的置信度或将您的预测作为建议而不是决策是获得用户信任的方法。

我们需要将错误分为不同级别，相应地设计不同的协议，并确定最大程度地减少阻止系统并需要人为干预的致命错误。如果发生致命错误并且系统不再起作用，我们可以迅速响应远程解决吗？

最困难的部分是识别未知未知数，系统无法检测到的错误。因此，进行双向交流并允许用户标记错误或选择激活先前商定的后备计划也至关重要。

3.重新定义人机互动

冠状病毒迫使公司更快地采用自动化并转移到云端。由于更少的人控制了更多的机器人，我们是否拥有正确的工具和技术来迅速将所有相关信息传递给该决策者？每个机器人上是否有足够的传感器来提供全图？

今天，我们依靠触觉输入（例如计算机或平板电脑）来控制机器人。随着信息的飙升和响应时间仍然很短，这些界面仍然是最佳界面吗？我们是否应该重新考虑超越触觉的人机接口，例如语音，VR/AR或脑机界面？

我们还需要决定谁应该控制。随着机器变得更聪明，我们应该始终打出最后的电话吗？

例如，谁应该控制一个自主机器人？汽车本身？人体安全司机？有人远程监视机器人的人？乘客？在什么情况下？还是应该是人类和机器的加权判断的共同决定？道德含义是什么？接口可以支持多步共策划吗？

最终，我们如何设计以人为本的AI来确保自动机器使我们的生活变得更好，而不是更糟？我们如何使正确的用例自动化以增加人类？我们如何建立一个混合团队，可提供更好的结果并允许人类和机器互相学习？

我们仍然需要回答很多问题。目前的大流行正在促使我们更快地回答他们，以便将成为自治系统可以兑现他们的诺言。如果这些系统的制造商可以专注于我上面概述的三个领域，那么它们将更加迅速得出关键结论。这将确保我们朝着正确的方向前进。

让我们连接！如果您喜欢阅读这篇文章，请在这里订阅我的个人博客！

巴斯蒂安·黄（Bastiane Huang）是Osaro的产品经理，Osaro是一家位于旧金山的启动AI定义机器人技术的产品经理。她曾在Alexa集团和哈佛商业评论以及大学的未来工作计划中为亚马逊工作。她写了有关ML，机器人技术和产品管理的文章。在这里跟着她。

该帖子已发表在www.productschool.com社区。