对冲基金使用AI系统可能产生的法律风险

律师事务所Cooke，Young和Keidan的高级合伙人Mike Cumming Bruce和高级合伙人Andrew Flynn –想象您是一家对冲基金的老板，该公司将其所有核心分析功能外包给了高度复杂的AI驱动系统，并因此产生了多年来击败市场的回报。

现在，考虑到全球市场持续低迷（目前可能不需要想象力的重大飞跃），并且您的一位投资者决定起诉您，原因是以前令人赞叹的生成alpha的AI系统是原因通过对异常交易条件做出不适当的反应来预防可预防的交易损失。这仅仅是单调乏味但完全传统的经商成本吗？还是用计算机系统代替了人类的事实会造成新型的法律风险？

尽管对这些问题的法律答案不可避免地取决于他们自己的事实，但有合理的理由认为在某些情况下答案可能是“是”。通过说明，请在以上段落中的示例的上下文中考虑以下问题：

1为什么发生交易亏损？这显然是诉讼中的关键问题。这可能也是一个很难回答的问题。鉴于技术的本质，对复杂的神经网络的输出进行反向工程并以解释特定交易方式的术语来描述它们可能是不可能的。当交易策略完全是“机器设计的”时，这可能会引起特殊的问题，例如，不能参考经济理论来证明其合理性。尽管合同可能为资产管理人提供某种保护，但是当您在被怀疑之前要求为他们辩护时，您不需要高超的法律头脑就可以意识到“我们并不真正知道为什么进行这些交易”并不是立即吸引人的起点。人类的判断。

2确定为什么发生交易亏损的风险是什么？考虑确定为什么在索赔人承担责任时发生交易损失的问题可能很诱人。但是，在英国法院，确定事实事项的正常程序是公开程序，这可能会使索赔人的律师要求提供尽可能多的与诉讼中的问题相关的敏感文件。如果诉讼中的关键问题是系统的运行，并且系统的运行方式是高度敏感的专有信息，那么这有可能引起严重的头痛（更多的愤世嫉俗的索赔人可能会依赖这些压力来解决和解问题） ）。

3法院将如何评估赔偿责任？大赦国际目前尚没有一个既定的制度，法院可以用它来评估其他复杂和技术领域（例如药品）从中受益的方式（尽管FCA和英格兰银行已经建立了一个公私论坛来审查在金融服务中使用AI的详细信息）。在没有这种既定制度的情况下，您是否通过将系统的性能与假设的合理人力资源经理（即首先由AI系统代替的个人）的性能进行比较来评估责任？还是您将其性能与市场上其他同类系统的性能进行比较？如果是这样，鉴于明显的参考点是竞争对手的业务，而这些业务可能是高度定制的，专有的和机密的，那么您如何比较？

4在这种情况下，法院将如何评估涉嫌违反客户职责的责任？例如，资产经理是否可以依靠统计数据来证明特定系统在特定时间内超过特定基准的能力？还是有必要证明一些更复杂的评估过程，以显示对该系统的深刻理解，并就该特定系统为何符合基金客户的利益做出特定的理性解释？在更实际的水平上，您现有的保险单能为您提供什么样的保护，使其免受此类潜在责任所带来的风险以及更广泛的AI系统的运行？

5谁应对所谓的交易损失负责？如果系统是从头开始构建并在内部运行的，那么简单（如果不舒服）的答案可能是您不愿承担任何责任。但是，如果它们是全部或部分从外部采购的，则可能会涉及到更复杂的问题，尤其是在系统输出是代码和数据都派生（更具体地是两者的交互）并且软件的创建和数据的选择产生了多个潜在的被告。在这种情况下，每个人都有可能互相指责，这又可能造成上述与披露相关的实际问题。

这些当然不是穷举，可能涉及对冲基金背景下使用AI的责任问题的诉讼，也不是引起恐慌的原因（视情况而定，例如可能会引起争论）。可以在对冲基金针对上述问题的辩护中提出）。然而，这些问题可能反映出这样一个事实，即法律在经过刻意的考量后往往会为社会和经济发展制定规则，但尚未为许多可以预见的潜在问题提供答案。在这种情况下出现。

从长远来看，这可能是可以纠正的，但是在此期间，它可能会留下许多法律上尚未解决（甚至可能无法解决）的问题，因此，谨慎考虑与法律顾问一起考虑的潜在风险，以便进行明智的风险管理。

Young＆Keidan库克高级研究员Mike Cumming Bruce

Cooke Young＆Keidan合伙人Andrew Flynn