当谈到人工智能时，为什么 “快速失败” 是一场灾难

“Fail fast” 在创业场景中是一个众所周知的短语。快速失败的精神是以最低限度的可行产品进入市场，然后迅速走向成功。fast fast承认，企业家在对真实客户和实际后果进行测试之前，不太可能设计成功的最终解决方案。这就是 “准备、开火、瞄准” 的方法。或者，如果反冲足够大，那就是 “准备，开火，枢转” 的方法。

请考虑LinkedIn首席执行官里德·霍夫曼 (Reid Hoffman) 的这句话: “如果你对产品的第一个版本不感到尴尬，那你推出的太晚了。”

与fail fast相反的是软件开发的 “瀑布” 方法，在软件与真正的客户进行测试之前，预先投入了大量的时间 -- 需求分析、设计和方案规划。

当谈到人工智能的新兴潜力时，我相信快速失败是灾难的根源。

人工智能将继续存在。

许多不同类型的人工智能软件围绕着我们。如今，大多数人工智能的权限都很小。例如，亚马逊的软件会推荐您可能想购买的东西，但实际上并没有代表您购买这些东西。Spotify的软件决定为你创建一个播放列表，但是如果一首歌不适合你的口味，后果是良性的。Google的软件决定哪些网站与您的搜索词最相关，但不决定您将访问哪个网站。在所有这些情况下，快速失败是可以的。使用导致更多的数据，从而导致算法的改进。

但是智能软件开始做出独立的决策，这些决策代表着更高的风险。失败的风险太大，不能掉以轻心，因为后果可能是不可逆转的或无处不在的。

我们不希望NASA迅速失败。一次航天飞机的发射费用为4.5亿美元，将人类的生命置于危险之中。

人工智能的风险正在增加。

想象一下: 如果我们让10000万人接触到智能软件来决定他们阅读哪些新闻，我们后来发现这些新闻可能是误导性的，甚至是假的，并导致影响美利坚合众国总统的选举，该怎么办？谁将承担责任？

这听起来有些牵强，但媒体报道表明，俄罗斯的影响力仅通过Facebook就达到了1.26亿人。赌注越来越高，我们不知道该追究谁的责任。我担心带头推动人工智能进步的公司没有意识到责任。快速失败不应该是意外结果的可接受借口。

如果你不相信，把这些场景想象成快速失败心态的副产品:

在某些情况下，后果无法撤消。

负责任的人工智能方法。

相反的论点是人类已经造成了这些悲剧。人类散布假新闻。人类在股票市场上赔钱。人类用汽车互相残杀。人类会感到沮丧。

不同的是，人类是独立的。人工智能取代或与人类智能竞争的风险在于，它可以同时大规模应用。人工智能的范围和覆盖范围既是大规模的，也是瞬时的。这从根本上带来了更高的风险。虽然一个犯了错误的司机确实是不幸的，但一个对数百万人犯了同样错误的司机应该是不可接受的。

需要一种更负责任的人工智能方法。我们的心态应该转向风险防范、安全规划和模拟测试。虽然这违背了科技行业的现代精神，但我们有责任在大多数不太可能和不想要的结果发生之前防止它们发生。好消息是，只要有正确的心态，我们就可以防止上述情况成真。