“深度交易代理的激励可能会与监管机构和公共利益的激励发生错位，”他补充道。

霍尔是未来工作研究所(IFOW)创始人圈的成员，并正在爱丁堡大学攻读哲学博士学位。

他表示，人工智能代理可以通过几种方式放大非银行金融的现有脆弱性。这包括假设的AI“Flo”，即机器可以学习不始终符合市场监管的利润最大化策略。

他说，解决这个问题的一个方法是训练人工智能系统遵守一个“宪法”，该宪法可以指导它们在监管框架内的行动。

霍尔对人工智能如何与金融市场互动以潜在地使其通过人类难以预测或控制的新兴行为而动荡表示担忧。

他还警告说，人工智能代理可能会发生勾结和新兴通信，其中人工智能代理勾结并对控制不可解释的通信方式构成挑战。

高级人工智能系统可能会制定涉及勾结的策略，而无需明确的人类指导或意识。这些策略可能源自系统的互动，并且对人类理解是不透明的，使得监视和监管这些策略的潜在风险变得困难。

霍尔说：“多代理人强化学习的前沿研究表明，勾结风险是新兴沟通的更广泛范畴的一部分。由于这通常对人类来说是不可解释的，因此很难监视和控制由此产生的任何风险。”

他补充说，人工智能系统最终可能会学会绕过监管措施，通过优化利润最大化的方式来遵守法律的字面意义，但并非法律的精神。这包括适应市场滥用规定的方式，这种方式可能仍然会破坏市场的公平性和完整性。

霍尔担心，在人工智能系统在市场运动中发挥重要作用的情况下，由于人工智能驱动的活动的速度和复杂性，人类操作者可能会发现在危机期间有效干预变得困难。

他说，监管机构应探索以下回应措施，以鼓励人工智能采用，同时最大程度地减少风险。

培训、监控和控制

人工智能系统，特别是涉及交易的系统，应该在接受广泛的训练和测试，以确保它们在各种情况下都能如预期地运行。实施严格的监控和控制机制，包括风险和止损限制，以管理和减轻可能损害市场的不稳定行为。

监管框架

确保人工智能系统在遵守现有监管框架的情况下开发和运行。这包括训练人工智能系统理解和遵守监管要求，就像它们是其操作“宪法”的一部分一样。持续更新培训，以解决任何发现的人工智能行为与监管意图之间的差异，确保随着时间的推移实现一致性。

压力测试

应定期进行严格的压力测试，利用对抗性技术更好地了解人工智能系统在极端条件下可能如何反应。压力测试不仅应验证性能和合规性，还应探索人工智能系统对不同市场动态的反应，旨在发现任何潜在的破坏性行动。

合作努力

鼓励监管机构、市场参与者和人工智能安全专家之间的合作，制定标准和最佳实践，以确保人工智能技术对市场稳定产生积极影响。促进关于人工智能在金融市场中影响的讨论，以为应对和减轻潜在风险做准备。

市场范围讨论

发起关于将监管规则纳入人工智能系统的市场范围讨论，这有助于交易管理者了解并实施人工智能治理的最佳实践。促进透明度和在公司间分享见解，以促进对人工智能风险和监管的共同理解和方法。

【免责声明】本文版权归第三方作者所有，相关授权事宜请联系原作者。文中仅代表作者本人观点，与文汇阁无关。文汇阁对文中陈述、观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证，且不构成任何投资建议，请读者仅作参考，并自行承担全部风险与责任。