同济大学法学院助理教授、经济法治研究中心研究员
要目
一、问题的提出
二、金融科技平台的算法本质与“黑箱”嬗变
三、金融科技平台算法黑箱的主要问题与规制必要性
四、金融科技平台算法黑箱规制的法律规制路径
结论
近年来，在以人工智能为代表的信息技术驱动下，算法技术获得快速突破并深度介入金融服务行业，大幅度促进了金融服务行业的新模式发展、新技术应用以及新产品研发，从而推动了各类金融科技平台的崛起。然而，人工智能算法具有内在的技术缺陷，这导致金融科技平台从算法向“黑箱”嬗变，即金融科技平台利用算法黑箱逃避现有金融监管，将海量金融数据交换于金融机构之间或金融集团内部，以达到超监管范围的不正当数据输送并套取非法利益；此外，金融算法还具有异于传统金融交易的自动化决策系统，在加深金融消费者算法依赖的同时，也导致被“黑箱”所掩盖的个别风险通过聚合效应累积为系统风险的概率增加。在对算法黑箱进行法律规制日益重要的发展趋势下，基于人工智能算法技术在金融科技平台的应用现状，为化解其算法黑箱带来的问题挑战，亟需从社会利益论与金融风险论视角解构算法黑箱规制的必要性，结合域外算法规制的成熟经验，从算法透明、算法问责、算法伦理层面完善金融科技平台算法黑箱的法律规制路径：健全算法透明体系，打开金融科技平台的算法黑箱；完善算法问责机制，保障金融消费者权益；加强算法伦理建设，防范算法黑箱风险与伦理失范。
一、问题的提出
大数据与人工智能等信息技术的深度发展，深度介入到社会经济中的各行各业，促使金融服务行业从传统金融阶段向金融科技阶段迈进。其中，人工智能算法技术被各类金融科技平台广泛应用于金融产品与服务中，最大限度地提升了金融科技服务的效率与水平。然而，人工智能算法作为创新型信息技术，具有双面性的作用：一方面，算法具有促进金融科技创新发展的“建设性”作用。作为全面迭代发展的算法技术，它可以显著地提升金融服务的综合效率，促进金融科技平台向算法技术实现数字化与智能化转型，并驱动金融科技平台从“技术赋能”金融逐渐向“算法主导”金融活动趋势转变；另一方面，算法也有阻碍金融科技稳定发展的“破坏性”作用，可能衍生相关的算法黑箱风险以及其他风险问题。金融科技在发展中并非直线式上升，而是呈现出一种波浪式前进的状态，所以当人工智能算法深度介入金融科技行业之后，其固有的算法技术内在缺陷，如算法黑箱（Algorithm Black Box），便容易传导至全产业链的金融活动。而且，法律规制本身具有时间上的滞后性与创新上的保守性等特征，所以这便加剧了金融科技平台滥用算法技术实施金融监管套利，并触发潜在的金融科技市场风险，威胁金融市场安全以及金融系统稳定。
金融科技平台算法黑箱的法律规制研究非常重要，因为这既是保障金融科技平台技术向善的发展指南，也是防范算法黑箱风险扩大化的规制工具。然而，如何对金融科技平台利用人工智能算法带来的建设性作用与破坏性作用实现平衡取舍，对金融科技平台算法黑箱采取行之有效的法律规制？尽管学术界与实务界对其开展了相关工作，但是目前依然有所不足。一方面，在学术研究层面，我国关于金融科技平台算法黑箱的法律规制研究有待提高：一是没有把金融科技市场的特殊性纳入算法黑箱的法律规制考虑因素中，单方面关注对科技本身进行规制，忽视了金融科技平台算法规制的特殊性及其要求；二是忽视了对算法提供者（金融科技平台）的监管规制，对金融科技平台算法黑箱的责任划分、承担有待完善；三是国内对算法黑箱问题的研究视角大都锁定在客户端（金融消费者和证券投资者）层面，而忽略了机构端（金融科技平台）滥用人工智能算法技术的本质原因。另一方面，在立法实践层面，各种算法规制与法益保护的法律规范在2021年之后相继出台，这一年也被称为我国“算法规制元年”。其中，民法典在第4编（人格权）中专门设置了第6章（隐私权与个人信息保护），通过专章的形式完善个人信息保护；个人信息保护法第24条，对于自动化决策系统关于个人信息保护问题作出明确规定；网络安全法、数据安全法的相继实施为金融科技领域算法应用所带来的金融数据安全等问题构建法律规制框架；另外，《互联网信息服务算法推荐管理规定》（以下简称《算法管理规定》）从多个维度，包括算法提供者合规、用户权益保护、有关部门监管、法律责任承担等，首次较为系统地针对算法问题作出相应的法律规制。
基于此，本文从数字金融时代下金融科技平台的算法本质与数据特征出发，分析金融科技平台如何通过人工智能算法技术结合海量的金融数据打造数据驱动型算法黑箱，并打破现有法律规制及其监管桎梏，掩盖金融交易过程中形成的算法黑箱主要问题，逃避金融监管以及法律责任追究。然后，本文回归金融科技市场规制框架下的社会利益论与金融风险论，对金融科技平台算法黑箱的法律规制展开理论依据层面的分析，有选择地借鉴域外（欧盟、英国、美国、新加坡等）算法黑箱的法律规制经验，从三个算法维度（算法透明、算法问责、算法伦理）提出构建适应我国金融科技平台算法黑箱的法律规制路径。
二、金融科技平台的算法本质与“黑箱”嬗变
在金融市场竞争日益激烈的环境下，各类金融市场主体为保持其业务规模与市场竞争力，纷纷采取发展金融科技提升自身经营业务，从而为算法技术等布局金融行业创造了发展空间。其中，金融科技平台作为大数据与人工智能等信息技术的应用实体，它以各类信息技术为导向，掌握了人工智能算法在内的先进技术，并在为各类市场主体提供各项技术服务时，留存了海量数据，为其数据驱动型算法黑箱的形成提供了数据来源与算法基础。
金融科技平台技术导向夯实算法设施
1.金融科技平台的概念厘定
金融科技并不是从来就有的，它是金融行业与信息技术深度发展的时代产物。金融科技与传统金融具有显著区别，因为它更侧重于将人工智能、元宇宙、区块链等新技术深度介入到金融服务行业，从而推动金融服务行业的技术创新，并可能衍生新商业模式、应用程序、流程或产品，而金融科技平台是掌握大数据与人工智能算法等信息技术并开展相关业务的组织实体，为从事特许金融业务的金融机构提供相应的金融科技服务。
目前，金融科技平台在我国金融服务行业广泛分布，但是并没有形成统一的概念。在立法实践上，我国有多处法律规范对金融科技平台做了相关界定：一方面，北京银保监局于2019年发布《关于规范银行与金融科技公司合作类业务及互联网保险业务的通知》，将金融科技公司界定为通过输出技术或提供场景，与银行金融机构开展合作的企业。不过，该文件的法律效力仅限于地方性层面，法律规范的主体局限在银行业金融机构而非全国所有金融服务机构，但是它首次从金融监管视角肯定了金融科技公司的技术本质。另一方面，国家市场监管总局于2021年颁布《互联网平台分类分级指南（征求意见稿）》，首次将互联网平台界定为兼具超大用户规模、超广业务种类、超高经济体量和超强限制能力的平台。对于金融科技平台而言，它同样需要满足上述规制要求，即金融科技平台的年活跃用户数不得低于5亿人（用户规模要求），核心业务种类不得低于两类（业务种类要求），市值或估值不得低于1000亿元（经济体量要求），并且具有强有力的限制平台商户接触消费者的能力（限制能力要求）。在金融科技背景下，众多互联网平台型企业基于数据、算法等资源优势，不断渗透金融服务业务，拿下多种金融牌照并形成几类代表性金融科技平台发展模式：一是搜索引擎平台模式，它基于搜索引擎入口获取大量网络用户与流量从而积极开展金融服务行业，包括第三方支付、银行、网络贷款、保险经纪等业务；二是电子商务平台模式，它通过电商平台上的人员流动、物品流动、资金流动、服务流动、信息流动等获取多维度数据与用户，从而开展包括商业银行、证券、消费金融等品类繁多的金融业务；三是社交网络平台模式，它通过社交网络强有力的社交属性，为其开展各类金融业务奠定雄厚的数据与用户基础。
2.金融科技平台的算法技术本质
随着大数据与人工智能技术的发展，算法逐步渗透传统社会经济之中，人类社会逐步从传统的工业社会向算法社会迈进。关于算法，从语义上来看，它最早来源于古希腊语arithmoós(αριθμó)，它的本义是“计算的方法”，我国西汉时期《周髀算经》便有对算法的记载，北魏时期亦有“允尤明算法，为算术三卷”的算法语义记载。从数学角度来看，算法是通过一系列步骤，用输入数据得出输出结果的过程，在现代算法社会中，算法以各种智能终端作为信息载体，以二进制作为计算数制，并逐步发展出傅里叶、哈希、随机森林等算法，被广泛应当用于匹配、加密等场景。尽管目前并没有对算法进行统一的界定，但一般认为算法是对问题解决方案的步骤描述，其本质是用输入数据得出输出结果的程序。在计算机科学领域，算法一般视为在有限且明确的操作步骤内，将形式规范的输入值转化为输出值，以快速高效地解决某一特定问题的模式化过程。
在数字金融时代的发展背景下，人工智能算法具有相同的算法技术原理，只是将算法应用于更为复杂的金融科技场景之中。届时，金融科技平台可以利用其自身具有海量的数据、强大的算力支持、雄厚的算法基础，运行事先设计好的、嵌入金融模型的计算机代码程序，通过“输入（Input）—执行指令（Command）—输出（Output）”的固定运行模式，从而实现某种特定金融科技场景下的“最优解”。换言之，金融科技平台的技术本质是算法，正是在人工智能算法的助力下，金融科技平台才可以对金融市场主体和金融交易活动全面搜集数据信息以及匹配金融交易，克服传统金融活动中信息不对称、资源错配以及效率低下等诸多问题，从而有效提高金融产出与生产效率。
金融科技平台数据导向衍生黑箱现象
金融科技平台是一种典型的平台金融模式，符合双边市场理论，它有效连接金融机构与金融消费者，能够从金融科技产品运行与服务提供中获取并留存海量用户的数据信息。事实上，在人工智能算法时代，世间万物皆可被数据化记录，“数据是信息与社会利益的载体”。作为与土地、资本等并列的新型生产要素，数据有着不同于传统生产要素的绝对优势，如低成本、增值快等：一方面，从数据的边际成本（MarginalCost）来看，其边际成本趋近于零，这不仅体现为数据的复制与传输成本极低，而且对于前手数据的循环利用和再次创作成本也大大低于其他类型的生产要素；另一方面，数据在经历每一次的生产与再生产加工之后，所产生的新数据都体现了累积、更新和完善的过程性特征，实现了相对于前手数据的新一轮的价值增值。多次反复之后，这些数据便不再是某个单一劳动过程所形成的无序数据产品，而是转变成为一系列经过筛选、排列与整合的有序数据集，具有显著的高增值性。
在金融科技平台累积了越来越多的数据生产要素，掌握了绝对数量的金融数据资源后，便具有了潜在主导金融科技活动和重新配置金融市场资源流动的力量。具体而言，人工智能算法通过对海量金融数据展开深度学习，驱动计算机自动编写代码程序并完成金融交易活动，体现了机器学习强大的自主功能，但由于其中间环节的具体执行过程往往难为外部所知悉，从而被学术界与实务界称之为“算法黑箱”。实际上，金融科技平台利用人工智能算法尤其是深度学习模型所带来的算法黑箱，其根源在于金融科技平台所定义的数据对象（如人工神经网络，ANN）复杂程度日益加剧，而目前学术界并没有完整的理论对整个算法系统层面的算法模型可表达性、可训练性等描述与揭示，从而导致金融科技平台只能获取输入输出的数据，而完全不知道内部构造与运行机理的算法黑箱。
对于金融科技平台而言，其算法黑箱的本质特征在于其具有不透明性与难理解性。倘若以金融科技平台的量化投资黑箱为例（见图1），金融科技平台通过输入海量的数据，利用人工智能算法技术对各类大数据进行筛选、分析与处理，做出相对应的量化交易决策，进而建立输入与输出模型。其中，交易成本模型可助力金融科技平台确定交易换手率，风险模型可帮助平台避开错误的头寸敞口，投资组合模型可促进金融科技平台在降低交易成本、把控风险管理、实现平台盈利等目标之间实现平衡，将目标投资组合传送至投资执行模型并实施既定的执行策略。然而，这些量化投资模型都需要基于完善的数据与深度的研究方可实现，不过即使采取多么完善的算法模型，由于当前数据资源以及算法技术的有限性，金融科技平台对量化投资交易模型运行过程（从数据输入到金融算法产品输出）依然处于“黑箱”状态，而基于算法黑箱而向各类金融消费者所推荐或决策的金融产品与服务，必然存在着相应的金融算法风险或者其他风险，而金融消费者的反馈缺失或反馈不能，进一步加剧了金融科技平台的算法黑箱问题。
图1 金融科技平台算法黑箱的运行机理（以量化投资黑箱为例）
三、金融科技平台算法黑箱的主要问题与规制必要性
算法本身应当具有技术中立性，其不具有伦理道德价值，只有在被“人为”地运用于某一领域或某一事物时，算法技术的内在价值和影响才得以显现出来。在数字金融时代，随着人工智能算法技术的不断发展，金融科技平台利用海量数据与智能算法驱动传统金融创新发展，但金融科技平台算法黑箱似乎也带来了相应的发展问题：过度的算法依赖和监管真空，也为金融科技平台滥用算法黑箱从事金融监管套利行为埋下隐患。概言之，对机构端来说，金融算法的技术创新为金融科技平台和金融机构规避现有监管规制提供了新的路径；对客户端来说，算法黑箱的不透明性加剧了金融消费者与中小投资者这类长尾客群接受金融服务过程中的信息不对称与逆向选择风险，同时，算法黑箱还将掩盖金融风险在不同市场交易主体之间的转移和累积，当其达到某一临界值时，最终可能威胁社会公共利益。
金融科技平台算法黑箱的主要问题
1.金融科技平台算法黑箱滋生金融监管套利
算法的技术先进性是金融科技平台得以利用其进行监管套利的诱因。在金融科技市场中，为了计算更加庞杂的海量数据、考虑更为复杂的现实因素，金融科技平台通过引入人工智能算法能够大幅度提升金融活动效率，保证输出结果的精确度，降低金融交易成本。不可否认，人工智能算法已经成为数字经济时代金融企业处理海量数据的利器。金融科技平台通过数据驱动算法不断更迭数据生产力，强化了传统单一数据的生产模式，让数据拥有更多元的结构层次和变化可能。数据生产力的加速迭代必然将解构并重构原有的生产关系。新数据的产生和新旧数据的叠加，又将促进新的金融业务活动层出不穷随之产生，形成“数据—业务—新数据—新业务”的交替循环。从本质上看，算法技术带来的数据生产力激增已经打破传统金融市场的规则框架，建立起新的金融业态与发展模式。
首先，对于金融科技平台来说，算法黑箱的不透明性是其金融监管套利的主要原因。在金融市场未迎来算法时代的阶段，机构间和集团内的数据交易或信息共享大都以原始数据和单一性数据为主，通过数据交换对金融产品的市场趋势、金融消费者与投资者的偏好等进行深入分析，提升金融发展的协同效应以及金融服务的效率效果。然而，在市场逐利性与技术深化性因素的推动下，各类金融企业（包括金融科技平台在内）滥用数据的行为愈发严重，并且逐渐演变为过度采集、数据泄露、肆意共享和转让等伦理问题与道德风险，对金融稳定和金融安全带来了极大的冲击。在此背景之下，我国金融监管部门颁布了《银行业金融机构数据治理指引》，要求对于个人金融信息的采集、使用、管理等都应当在合法合规的层面展开；《金融控股公司监督管理试行办法》也针对金融集团内部的信息共享、信息技术系统共用等行为提出了合理隔离、防控风险的规定；此外，除了金融领域的特殊性规定，我国也加快了一般性立法的保障，网络安全法和数据安全法的相继出台标志着我国总体的数据意识以及数据治理规范均踏入了全新的层面。但制度的更新与完善始终不及科技的高速发展，算法黑箱的出现使得非法数据共享的问题卷土重来。根据算法黑箱的运作机理，在金融数据的输入（Input）与输出（Output）结果之间，存在中间执行（Command）难以洞悉的“隐层”，具有完全不透明性。尽管能够对黑箱输入端和输出端的数据同时进行监管，但由于无法刺破中间的“隐层”环节，导致对输出数据的监管基本属于无效监管。实际上，现有的监管规范只能针对原始形态的金融数据共享进行合规监管，而无法监管那些形态有所变异的数据，但算法黑箱就提供了一种在“知其然却不知其所以然”的情况下不断异化数据形态并产生更多差异化数据表现的过程。
其次，对于金融科技平台来说，算法黑箱的封闭性与保密性是其逃避金融监管套利追责的保护屏障。因为当前算法透明问题尚存在较大争论，所以作为算法黑箱的设计者与应用者，金融科技平台常常以算法保密与安全为由不予公开黑箱内部的真实情况，意图遮掩算法运行中可能存在的程序漏洞、方法不当、违法违规等问题，从而规避法律制裁与伦理约束。而当算法黑箱衍生的风险与问题真正爆发并公之于世之时，金融科技平台又以算法黑箱的自动化运行为借口，将责任归咎于算法技术本身，以逃避监管规制与法律问责。在法律规范的实践中，由于我国对于算法并未形成完善的规制体系，对金融科技平台的行为监管有所不足，所以当下我国难以破解金融科技平台利用算法黑箱实施金融监管套利行为，并因此防范该行为可能诱发的数据垄断和相关的金融风险。此外，金融科技平台利用算法黑箱变相共享数据并逃避金融监管之后，还可能强化机构端对客户端的金融数据掌握，加剧机构端和客户端之间的金融信息偏差，进而威胁金融消费者的合法权益及诉求。
2.金融科技平台算法黑箱加剧个别风险系统化
根据算法提供服务类型的不同，可以将其分为推荐型算法服务以及决策型算法服务，二者在当前金融市场均已得到广泛应用，但由于决策型算法服务相较于推荐型算法服务具有更明显的用户针对性和结果导向性，故涉及提供决策型服务的算法黑箱往往更容易滋生大规模的金融风险。申言之，决策型算法服务利用大数据驱动人工智能自动编写代码与程序（如优化投资组合模型）来转移金融产品上的个别风险，并借助算法黑箱的天然“隐层”优势对其掩盖，把金融风险用黑箱“包装”起来高价兜售。不过，这种掩耳盗铃的风险“规避”方式并没有摆脱算法黑箱技术的内在隐患，终将加速系统性风险的形成与爆发。实际上，计算机算法技术开始介入金融市场交易最早可追溯至20世纪80年代，其中最典型的算法黑箱事件莫过于1987年10月19日美国道琼斯工业平均指数（简称道琼斯指数，“DJI”）在当天暴跌22.6%，令全球金融市场哗然。事后，程序化交易最终成为此次金融风险的“替罪羊”，但人们并没有意识到“长尾”客群对金融算法的依赖才是突然导致此次系统性风险的罪魁祸首。事实上，算法黑箱的复杂与不透明给金融市场带来的威胁才初见端倪，此后全球金融市场出现多起由于算法黑箱而带来的金融风险问题，比如美国道琼斯指数于2010年5月6日一度在10分钟内暴跌9.2%，然后戏剧性的反弹，这次“闪电崩盘（FlashCrash）”重要成因是算法自动化决策交易的缺陷。我国在2013年8月16日同样出现一起由于算法套利系统而衍生的“光大证券乌龙指事件”，严重影响了证券市场安全以及金融消费者权益保护。由此可见，当金融市场成为算法操纵者（如金融科技平台）用来赚取大笔资金的竞速赛场，那些被“羊群效应”吸引前来的“长尾”消费者最终将沦落为输掉比赛的“替罪羊”，并蒙受接踵而来的巨额损失。
然而，真正的金融风险甚至危机还不止于此。事实上，在庞大的消费者“羊群”背后，每个消费者身上都背负着一项存在于金融系统内的个别风险，这些个别风险可能会被某些偶然性事件所触发，也可能被技术性地规避或消除。金融科技平台为了在面临市场波动之时能够更快地作出反应以赚取差额收益，往往会通过算法黑箱的封闭性将金融产品上的个别风险加以掩盖或隐蔽转移，而并非应用金融科技手段让其减少或消除。从理论上看，系统性风险属于金融市场固有的、不可分散的风险，而个别风险则系偶发因素所致，而非不可分散的。虽然个别风险可以通过人工智能算法建立投资组合模型等方式进行分散化解，但依然无法改变个别风险的存在及其传导效应的本质属性。在“公平、公正、公开”的金融监管理念以及系统风险与个别风险一致性的假设前提下，个别风险和系统风险将始终呈现正相关关系，这意味着个别风险减小会带动系统风险减小，而个别风险的增大同样会放大系统风险。金融科技平台利用算法黑箱不可透视的“隐层”掩盖每笔金融交易的个别风险，将这些看似微乎其微的个别风险永久性地留存在金融市场内部，循环往复地相互传导、不断聚集，从量变（个别风险）向质变（系统风险）转变，最终将引爆一场不可估量的系统性金融风险，进而影响整个金融行业的市场稳定和长足发展。
金融科技平台算法黑箱的规制依据
倘若金融创新是对传统金融发展模式的突破，那么其创新过程必然伴随着对预期结果的不确定性。同理，在金融科技市场自律发展的常态下，金融科技平台通过利用人工智能算法创新衍生的算法黑箱问题不可能被完全遏制甚至消除，但金融监管机构也不能持完全放任的态度，纵容其风险与问题的蔓延。为维护金融体系的安全稳定，促进金融行业的长远发展，适当的规制措施显得尤为必要：一方面，在社会利益论的框架下，金融规制既是权利保障的稳定器，又是权力失控的抑制器；另一方面，在金融风险论的框架下，金融规制矫正了市场经济规律自发的无序性行为与无规则性现象，旨在抑制金融科技平台技术创新所衍生的算法黑箱问题并保障金融稳健目标的最终实现。
1.社会利益论对金融市场规制的诉求
社会利益论认为：“只有在完全竞争的市场中，社会公众利益才可能实现效益的最大化”。然而，现实社会经济中并不存在绝对完美的竞争市场，众多市场现象（如垄断、信息偏在、外部性等）均可导致市场失灵，需要通过政府干预来规制和矫正市场存在的缺陷，以平衡多方社会利益并维持金融市场的稳定运行。
随着金融科技时代的到来以及金融算法的深入应用，金融机构为了稳固其在传统金融业时期已经形成的自然垄断地位，纷纷选择拥抱金融科技，将海量的线下金融数据通过金融科技平台进行线上数字化记录，并赋能金融算法产品的推出与应用。然而，算法固有的技术复杂性却为金融科技平台打开了非法逐利的“阀门”。一方面，算法显著提升了传统金融交易的业务效率和成交量，使得金融科技平台占据了绝对的竞争优势与市场支配地位，掌握了极佳的金融资源配置，造成机构端与客户端处于严重不平等的交易地位，也导致大量缺乏技术驱动的中小金融企业难以在市场中求得一线生机，进而加剧社会资源的单方面倾斜以及社会多方利益矛盾的出现。另一方面，算法黑箱加剧了金融信息的不对称，不同于传统金融业态下的信息不对称，金融科技平台算法黑箱造成的信息不对称介于创新者与用户之间，实际上是对传统金融信息不对称的边界进行了扩张。随着金融服务提供者与金融消费者之间的信息差越来越多，金融科技平台能够进行的套利空间就越来越大。当金融服务提供者与用户之间的利益冲突愈发尖锐，原本被分散的个别金融风险将持续性汇集，进而可能引发系统性金融危机。此外，金融科技平台利用算法黑箱逃避监管套利的法律责任，掩盖其与金融机构之间的非法数据交易行为，亦对社会公共利益造成了巨大的负外部性影响。
由此可见，金融科技平台算法黑箱问题的出现加剧了金融市场的偏向性发展。绝大部分的金融利益集中于少数市场经营者，而体量庞大的“长尾”客群却要分担几乎全部的金融风险。社会利益论对金融市场规制的诉求，旨在缓解市场经营者与消费者之间的利益冲突，以满足消费者合理的金融服务诉求为核心，通过对金融市场施以适当的干预措施，规制并矫正当前在资源分配与利益分享上存在偏颇的市场结构。诚如马克思所言“利益关系归根到底是开启社会现象之门的一把钥匙”。庞德的社会利益观也表明，秩序应建立在满足利益诉求的基础上，即利益是所有社会关系构建之时需要首先考虑的问题；而法律作为一项治国重器，势必也需要满足相关的利益需求，才能符合社会运作的基本逻辑框架。
2.金融风险论对金融市场规制的要求
金融行业常常采取高负债经营模式，这决定了金融行业存在由内而外的溢出效应，高负债经营具有明显的脆弱性，当金融行业的经营环境恶化时，这非常容易导致金融风险的蔓延。换言之，当市场经济出现了新发明、新产业与新机会时，市场经营者会产生新预期，从而积极举债。金融创新对传统金融市场释放出大量利好信号，“羊群效应”带来的跟风操作将造成金融业过度负债的混乱局面，经过一系列连锁反应后，系统风险最终可能引爆金融危机。在金融科技时代，金融风险的发生因素显得更为复杂多变：一方面，人工智能算法加快了金融决策的速度，提高了金融市场资金的周转总效率与现金流量，但资金的高流动性又预示着隐含的杠杆风险和系统风险也同步增加；另一方面，人工智能算法带来的黑箱问题又进一步加剧了传统金融业态下的道德风险问题，金融科技平台借由算法黑箱的不可知性，以一种更加隐蔽且无形的方式侵害最广泛“长尾”客群的利益。换言之，金融科技平台算法黑箱问题所衍生的潜在金融风险已处于矛盾尖端的状态，亟须通过相应的法律规制予以解决。
除了金融活动创新等市场因素可能导致金融风险的发生之外，监管与规制措施的制度设置不力同样会造成金融风险的爆发。金融风险论对金融市场规制的要求实际上体现了人类社会自始存在的追求与渴望秩序的天然倾向，因为秩序不仅与安全有关，还意味着社会结构的连贯与稳定、行为活动是受到规范的、事件的发展具有连续性与可预测性，冲突和纠纷是可控并可解决的。如果科技发展和市场经济活动缺失相应的秩序与规范，那么金融稳定也将受到威胁。在市场有效的前提下，金融创新的效果通常表现为收益与风险相伴而生并剧烈波动，高收益意味着高风险。在市场经济天然的逐利环境中，金融科技平台的个体行为总是相对激进的；但在市场秩序的要求下，市场整体的理性通常是侧重于避害的保守主义。
事实上，金融风险总是客观存在且无法彻底消除的，但是金融创新和监管规制则是主观能动的行为。金融规制作为调节金融市场的稳定器，通过完善失灵的规则秩序，引导金融科技创新地向善发展，抑制算法黑箱衍生的负面风险，为金融科技市场的参与主体提供可预见的行为规范指引和权益救济保护，寻求金融科技市场规制在各阶段的“帕累托最优”，这是防范与化解金融科技时代算法黑箱风险的必要保障。
四、金融科技平台算法黑箱规制的法律规制路径
对于金融科技平台算法黑箱而言，它是金融领域一个全新的法律规制问题，不过海外国家与地区关于金融科技平台算法黑箱的立法与研究可为我国提供有益的借鉴（参见表1）。如美国2019年提出的过滤气泡透明度法案给予用户选择切换“输入透明算法”或“不透明算法”的权利；2021年算法正义和在线平台透明度法案针对算法备案审查做出规定；以及从2019年算法问责法案到2022年算法责任法案的转变，更加强调对自动化决策系统的过程公开与透明，尤其是针对关键性的决策，消费者可依据该法案对算法系统的数据源、算法程序、参数和指标以及最终的决策质疑。同样，在欧盟，2018年生效的《通用数据保护条例》（以下简称GDPR）对算法的可解释性做出规定，重点强调用户的数据安全与权益保护，保障金融消费者权益救济；2021年4月欧盟制定《关于人工智能统一规则和修订特定欧盟法案的条例》，这是欧盟首个详细的人工智能法律框架，明确加强算法的公开透明，强调按照风险等级（不可接受的风险、高风险、有限风险和低风险）实施分级监管，从而化解人工智能风险，发展统一、可信赖的人工智能市场，建立与GDPR发展相适应的人工智能技术统一规则。英国在2022年7月将关于人工智能法律规范的数据保护和数字信息法案正式提交给议会审议，该法案立法宗旨在于负责任地使用人工智能、减少企业的合规负担以促进经济发展，并提出了六项核心原则：确保安全地使用人工智能；确保人工智能在技术上是安全的，功能与设计相符；确保人工智能具有适当的透明度和可解释性；考虑公平性；确定一名负责人工智能的法定代表人；明确赔偿或可竞争性的路径。2019年1月新加坡通过《人工智能治理示范框架》，对人工智能提供指导性伦理原则，新加坡金融管理局（简称SMA）进一步针对人工智能算法应用于金融业并进行数据分析所引发的种种问题，提出了“公平（Fairness）”“道德（Ethics）”“问责（Accountability）”“透明（Transparency）”的四大原则。由此可见，算法透明、算法问责、算法伦理是应对人工智能算法黑箱的主要法律规制重点，我国可以有选择地对其进行规制借鉴。基于此，本文认为金融科技平台算法黑箱的法律规制关键在于打开“黑箱”，即我国应当通过建立健全的算法透明体系，将金融科技算法运作的全过程置于有效的法律监管与规制之下，以达到对算法黑箱的法律规制目的。此外，除了位于事前与事中阶段的算法透明要求，需要格外注意两方面的规制要求：一方面，针对金融科技平台算法黑箱造成的实质损害，需要逐步构建起完善的事后问责机制与权益救济保障；另一方面，针对金融科技平台算法黑箱可能存在的潜在危害，需要从全流程（事前、事中、事后）角度要求金融科技平台加强算法伦理建设，防范算法黑箱风险与伦理失范。
表1 域外金融科技平台算法黑箱的法律规制要点
健全算法透明体系，打开金融科技平台算法黑箱
一方面，对于金融科技平台算法产品的准入审查、参数报备以及算法备案等要求，有助于从法律规制端的视角打开算法黑箱。另一方面，算法提供者（金融科技平台）需要适时履行必要的告知义务并对算法做出解释，有助于从消费者的视角打开金融科技平台的算法黑箱。金融科技平台应当根据有关法律的规定或监管部门的要求，面向社会公开必要的参数，依法履行相应的信息披露义务。对此，一个破解金融科技平台算法黑箱之谜的多层次算法透明体系得以构建。
1.积极推进实质性审查标准和算法备案制度
对于金融科技平台算法黑箱的法律规制而言，事前阶段的准入审查是第一种重要的规制“工具”。金融科技平台算法黑箱的准入审查，可以从形式上的程序性审查以及内容上的实质性审查展开：所谓形式上的程序性审查，它是指所有金融科技平台的算法产品在投入金融科技市场运营前，都必须经有关监管部门（如金融科技委员会、国家网信部门、工业和信息化部、中国银保监会、中国证监会等）的审查并出具相应的审查意见，对于通过审查的金融科技平台算法产品，有关部门可核发电子牌照，并在全国范围内建立牌照联网系统，以便后续阶段的查询、监管与问责；所谓内容上的实质性审查，它要求相关监管部门应当着眼于金融科技平台算法产品的内在本质，而非外观形式主义，即通过“事实发现”来揭示并获取未知的金融科技平台算法风险信息，以事先做出预判性的应对措施。
金融科技平台算法产品的实质性审查，包括两个层面的实质性审查：一是对算法服务的提供者（如金融科技平台）进行实质性审查，其目的是确定事后责任主体；二是对金融科技平台算法的整体运行过程进行实质性审查，以揭示“黑箱”内部的真实情况。就主体的审查与确定而言，虽然在实践中关于数据驱动型算法即机器学习自动编写算法程序的责任主体认定尚存在较大争议，但大部分的观点认为机器学习正在不断地吸收人类语境中隐含的内在偏见，数据驱动的算法在某种程度上并非完全保持无偏的中立性，金融科技平台算法运作的底层逻辑始终掺杂着金融数据输入者意欲表达的潜在价值观。而对于金融科技平台算法产品的审查，主要包括金融数据审查、算法参数审查、代码结构审查等方面。具体而言，针对金融科技平台与金融机构之间通过算法黑箱输入端和输出端金融数据的差异性表现进行客户信息置换从而达成监管套利的情况，监管机构在进行实质性审查时应当更加侧重对输入端数据的合法与合规性审查，再辅之以其他方面的算法审查。此外，为方便监管部门的审查，提高执法效率，还可以制定可量化的技术标准，明确要求金融算法产品在开发过程中必须符合的特定行业标准，更好地建立算法与法律之间的有效协作与沟通，在引导算法自律的同时，也能够尽可能将算法黑箱的套利动机规制于事前。与此同时，随着金融监管科技的日益发达，通过监管科技建立自动化的算法审查机制与参照标准，在事前的准入性监管阶段便揭开黑箱“隐层”的“神秘面纱”；还可以针对数据驱动型算法形成的黑箱以及提供决策服务的算法黑箱专门设立加强版的算法审查机制，对黑箱的内置程序、代码结构、参数样本和考虑因素等具体指标进行更为严格的实质性审查并予以相应的规制。
在完成上述一系列实质性审查程序后，距离一套完整的事前准入审查制度还缺少最后一个关键环节——算法备案，其作用旨在将实质性审查的具体情况和结果进行形式上的固定。本质上看，算法备案亦是实现金融科技平台算法透明的重要途径：一方面，算法备案有助于监管部门掌握金融算法的底层逻辑，以便提升其对于金融科技平台算法产品的监管能力，保证后续监管活动的顺利展开。另一方面，算法备案有助于法律监管机构在事前阶段明确责任主体，帮助金融消费者固定有关证据，从而为事后的追责环节提供保障。目前，算法备案制度已在我国市场经济实践中逐步落实，有关部门在2021年颁布的《算法管理规定》第24条明确了算法备案制度，并进一步指出算法服务提供者作为备案主体应当从“提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等”履行算法备案义务，做好备案信息的公示。当然，算法备案也并非始终处于一成不变的初始状态，而是随着金融科技平台算法产品的运行持续性地、动态地不断发生变化的结果。事实上，算法就如同一台虚拟的大型机械设备，定期检查金融科技平台算法所依托的计算模型与代码的运行，检验金融科技平台算法产品的市场有效性，是尤为必要的。一旦发现金融科技平台算法的内置程序或重要参数发生了某些更改或优化，则应当再次进行备案，以确保监管部门对进入市场的金融科技平台算法产品能够予以及时且精准的把握。
2.充分落实金融科技平台告知与算法解释义务
算法提供方（金融科技平台）面对金融消费者的告知义务与解释义务，这是一个事物的两个方面。在金融科技业务交易的整个过程中，告知义务可理解为机构（如金融科技平台）与用户订立合同时的产品说明行为，一般情况下，算法提供方（金融科技平台）应当履行必要的告知义务，此系平等主体之间的民商事法律关系。同时，算法透明原则语境下的算法可解释性，则来源于金融监管或金融规制的要求，形成以干预为导向的解释义务。从实际效果看，无论是告知义务还是解释义务，都是金融科技平台由内而外打开算法黑箱的路径。
第一，充分落实算法提供方的告知义务。
从外在表现形式上看，可以将金融科技平台在提供金融算法服务时履行的告知义务概括为一种产品说明行为，并可从以下两个角度展开论述。一方面，金融科技平台作为金融算法产品的开发者与运营者，应当在用户进入并使用金融科技平台算法产品之前，告知消费者该金融科技产品是否内置自动化决策系统、是否对个人数据进行算法计算。如果用户同意进入并使用金融科技平台算法产品，那么这意味着用户授权算法系统获取其个人数据信息并将这些数据输入设定好的程序中进行运算。此时，金融科技平台需要进一步向用户说明其对算法运行过程与结果输出是否存在干预的可能性或特殊情况，以确保消费者拥有及时止损的退出空间。此外，金融科技平台还应当赋予用户相应的选择权，让用户能够在进入并使用算法产品前，选择切换“内置算法程序的金融产品”或“无内置算法的金融产品”。对于选择内置算法程序金融产品的消费者，他们有权针对“规则驱动型算法”或“数据驱动型算法”的不同运算逻辑依据进行二次选择。
另一方面，明确算法提供方告知义务的履行方式。我国个人信息保护法第17条规定了个人信息处理者在处理个人信息前应当以“显著方式、清晰易懂的语言真实、准确、完整”地向个人告知规定的事项。针对算法所提供的服务，《算法管理规定》第16条明确了算法提供者应当“以显著方式告知用户”具体情况，并“以适当方式公示”算法意图和运作机理等。不过，就算法提供者告知义务的具体内容而言，当算法深度介入金融服务行业后，对金融算法提供者（如金融科技平台）告知义务的要求也应当同等级上升。例如，某些金融科技平台的信用评分系统对其算法的披露与说明仅限于笼统的算法模型，以“综合处理和评估”的模糊表述草草概括，显然是不足的；实际上，由于金融科技平台领域的算法架构更为复杂，故对算法的基本逻辑与主要参数进行披露，并进一步说明金融科技平台算法运行过程中可能出现的技术风险，既不会给金融科技平台造成额外的成本，也很难被竞争者用于博弈，不会导致金融科技平台商业秘密的泄露。因此，对于在风险与敏感程度都趋高的金融科技行业，相关法律规范所规定的告知义务也应当更为严格，尤其是对于金融科技平台算法提供的决策型服务，需要针对特定客户作出相应的专属说明。
第二，有效完善算法解释义务的相关规定。
无论是欧美还是新加坡等地区，都非常强调基于算法可解释的算法透明，从而打开金融科技平台的算法黑箱。需要注意的是，算法透明不是代码的完全披露，而是有条件有范围的信息披露，并不会涉及金融科技平台的商业秘密泄露。针对算法透明限度的取舍问题，有学者指出“算法公开从技术的角度既无必要，也存在一定的不可行性，因为目前基于机器学习训练的算法是不断迭代的；算法公开可从因果机制入手，引导其向可解释的方向发展”。实际上，与强调技术逻辑的内部解释有所不同，算法透明语境下的解释义务属于一种外部解释，它是以精确（契合自动化决策系统）与人类可理解的方式做出的自动化（算法）决策解释，用以建立公众对算法决策的信任，验证其遵守法律政策的要求。从算法黑箱的技术原理分析，由于它强调算法及其产生的决策过程不可知，那么对于数据驱动的金融科技平台算法决策系统所导出的结果，同样具有不可知性，用户作为决策相对人也是消费者，应当有权利知晓金融科技平台算法决策的运行机制，尤其当其认为算法决策系统所导出的结果与本人预期存有偏差时，用户理应要求作为算法提供者的金融科技平台对算法产品与服务的数据分析、处理与模型进行解释，以便在出现数据错误或权重失衡时给予救济与纠偏，保证算法运行的公开公正。
另一方面，金融科技平台算法解释义务需要落实到具体的法律规制中，而不能仅仅局限于立法理念与技术原理之中。具体而言，我国可以个人信息保护法和《算法管理规定》中有关算法公开透明的理念为核心展开，遵循从法律原则到法律实施细则的立法模式，逐层推进相关金融科技平台算法解释义务规定的完善。例如，个人信息保护法第24条规定利用个人信息进行自动化决策的，应当保证决策的透明度和结果的公平公正；若所作决定对个人权益有重大影响的，有权要求信息处理者予以详细说明。《算法管理规定》第12条更是直接明确了算法服务提供者对用户应有的透明度与可解释性。在这些法律原则性规定的基础上，金融科技平台对金融算法产品的具体运行过程及其针对不同用户的定制化决策结果就有义务提供必要程度的解释说明。在具体法律实施细则制定方面，无论是欧盟《通用数据保护条例》还是美国的算法责任法案，都对算法解释义务进行了明确阐述与规制，可以为我国金融科技平台算法解释义务规制所吸收。其中欧盟GDPR（2018年）基于算法可解释性赋予用户“审查某项特定服务中如何做出特定算法决策”的权利，并要求算法提供者“以一种简洁、透明、易懂和容易获取的形式，以清晰和平白的语言来提供”数据与算法等；美国计算机协会《关于算法透明性和可问责性的声明》（2017年）明确指出“使用算法决策的机构应对算法所遵循的程序和具体制定的决策进行解释”；此外，美国算法责任法案（2022年）进一步规定了监管委员会应当评估自动化决策系统的透明度与可解释性并记录消费者存在的质疑，以便对争议进行纠正、上诉或选择退出等救济措施。
完善算法问责机制，保障金融消费者权益救济
金融科技平台算法黑箱的法律规制实践需要构建权利（力）、义务及责任三者间的平衡机制。当金融科技平台利用算法黑箱掩盖其主观存在的非法意图而触犯金融监管规制的原则性理念并有损其他金融法律权益时，那么金融科技平台因违反第一性义务便会产生第二性义务，即应当承担与落实相应的法律责任。此时，法律规范应当对操纵算法黑箱的主体（如金融科技平台）施以限制和惩罚，以维护那些遭受算法黑箱侵害的金融权益。
1.明确责任认定的若干基本问题
（1）关于责任主体
根据前文论述，尽管是依靠机器学习自动化完成代码编写的数据驱动型算法黑箱，但从金融科技平台作为海量金融数据的集成者与提供者以及其对算法黑箱底层逻辑的潜在影响等综合因素来看，无论在法理上还是于情理中，金融科技平台作为算法提供者有义务也有必要对算法黑箱的输出结果承担相应的责任。当然，金融科技平台算法黑箱问题的问责对象并非金融科技平台单一主体，由于金融算法本身构造的复杂性——既涉及代码编写又涉及金融模型，故在金融算法设计阶段，金融科技平台作为技术支持方系算法程序的设计者，而金融机构则是金融算法的逻辑架构者。可见，金融算法的应用将金融机构与金融科技平台长期紧密的关联起来，二者都牵涉于金融科技平台算法黑箱的法律关系之中。至于金融科技平台与金融机构之间的责任分配问题，将在下文进一步阐述。
（2）关于归责原则
根据侵权责任法相关理论基础，归责原则可分为过错责任原则、过错推定责任原则、无过错责任原则。不同的归责原则直接关系到举证责任的分配问题。考虑到金融领域的特殊属性，故归责原则也应予以最广泛的适用，根据不同情况适用不同的归责原则，旨在最大限度地保障处于市场交易弱势地位的金融消费者。具体来说，如果金融科技平台主观故意利用算法黑箱造成了损失，应当承担过错责任并接受惩罚性赔偿；如果算法决策的相对人能够证明其损害是由算法提供者所造成，而金融科技平台不能证明自己对该损害没有过错，则应当承担过错推定责任并对相关损失进行赔偿；如果金融算法产品（主要体现为数据驱动型算法）在运营过程中出现机器学习的自我偏差进而借由黑箱侵蚀消费者权益，金融科技平台虽然在主观上无过错，但作为算法开发及运营的主要负责主体，应当依法承担无过错的侵权责任，并对金融消费者予以适当范围内的经济补偿。
（3）关于举证责任
目前，面对网络消费以及金融领域的算法问题，中国消费者协会多次建议加强算法规制，强调明确举证责任倒置，强化算法实施方（如金融科技平台）的举证责任。具体而言，对于过错责任和无过错责任，金融消费者只需提供其权益受损的初步证据，而对侵权行为的进一步证明，则由金融科技平台按照有关法律与监管部门的要求提供相应资料以供审查。对于过错推定责任，按照侵权责任法的基本原理适用举证责任倒置规定，若金融科技平台不能证明自己没有过错，应当承担举证不能的不利后果。金融科技平台如若认为其依法提交的证明材料涉及商业秘密，向有关主管部门说明后，有关部门负有保密义务。此外，算法备案制度的完善也有助于将金融科技平台的过错证据固定于事前，以缓解损害发生之后面临的取证难等问题。
（4）关于责任分配
责任分配首先要解决行为方参与金融科技平台算法黑箱的主次关系以及损害结果与行为方之间的因果逻辑，并考虑行为方是否履行了法律规定的必要义务等。事实上，从互联网金融向金融科技的过渡和发展时期，大部分金融科技企业的服务对象基本上已经实现了从B2C模式到B2B模式的转变，金融科技平台通过提供技术支持服务来帮助金融机构更广泛且高效地获客，为传统金融业务交易提供了强有力的“技术底座”。由此可见，金融算法是金融科技平台与金融机构联合出品的产物：一方面，金融科技平台提供算法技术支持；另一方面，金融机构则需要制定恰当的模型并释放海量金融数据用以运算。因此，在面对金融科技平台领域算法黑箱问题的责任分配时，需要基于行为方对金融科技平台算法黑箱所作“贡献”的实际情况具体裁量。一般情况下，金融科技平台作为算法的开发兼运营主体，需要承担主要责任；金融机构则需要考察其是否知情或默许等主观因素来确定是否承担连带责任。
（5）关于法律后果
在民事法律后果层面，倘若金融科技平台利用算法黑箱侵犯消费者尤其是金融消费者权益的行为，属于民事法律关系，那么它应当承担相应的民事责任，如经济补偿或赔偿等。
在行政法律喉管层面，有关金融监管部门根据金融科技平台算法黑箱所违反的市场规制要求，依法对金融科技平台追究行政责任，包括市场禁入等资格罚。在刑事法律后果层面，如果金融科技平台算法黑箱引发了系统性金融风险，严重危害国家金融安全或者社会公共利益，倘若构成犯罪的，那么依法应当追究金融科技平台的刑事责任。
2.强化金融消费者权益救济保障
实际上，除了针对金融科技平台算法黑箱本身进行全过程的监管规制外，对位于后端的算法输出结果受众群体的权益保护也同样重要，尤其是作为自动化决策系统的长尾客户群，无论从群体规模还是事件影响力都已达到了市场与行业监管当局无法忽视的地步。可见，金融消费者权益保护在金融科技时代发展的今天显得更为必要。因此，我国在加强对金融科技平台算法黑箱行为规制之余，也要进一步发挥金融消费者权益保护协会等行业自律组织的应有作用，从国家干预以外的视角督促金融科技平台在应用人工智能算法时的自我约束。落实到金融市场实践中，金融科技委员会可联合金融消费者权益保护局在用户接受金融科技服务之前以及使用金融算法产品的过程中，依法保障好用户对自动化决策系统的选择权与知情权等基本权利；并可以借助用户端的各项诉求对金融科技平台算法黑箱进行逆向审查或审计，以尽早暴露算法黑箱的潜在风险与侵权行为，加强对金融消费者的权益救济保障。
加强算法伦理建设，防范黑箱风险与伦理失范
金融科技平台的算法伦理失范带来的危害是多方面的，不仅可能造成金融歧视与诚信失范，导致消费者权益遭受损害，还可能放大金融风险并危及公共安全。归根结底，其本质原因在于金融科技平台的算法伦理意识较为薄弱，普遍存在重科技、轻伦理的现象。对此，我国亟待加快构建金融科技平台的算法伦理建设，从事前、事中、事后的全流程防范算法黑箱风险与伦理失范。
首先，无论是英国人工智能开发所提及的原则，还是欧盟《可信人工智能的伦理指南》，都非常重视人工智能算法的福祉原则与可解释原则：一方面，这要求算法开发者在开发算法时，应使其符合人类社会的道德伦理要求，实现社会福祉创造的最大化；另一方面，这要求算法开发者所开发的算法具有可追溯性与可解释性，符合技术伦理的要求，促使用户有权要求使用者对“挖掘”的用户数据做出合理使用的保证，并有权对数据不合理使用质疑，使用者有义务对用户质疑做出明确回应。基于此，本文建议保险公司可以针对金融科技平台算法侵权设立新型险种，金融科技平台作为算法开发商可以对算法后果投保，倘若其开发的算法由于算法黑箱导致消费者侵权，那么金融科技平台可通过保险公司对被侵权的消费者采取部分赔偿，从而一定程度上减轻金融科技平台的赔偿压力，亦使被侵权的消费者拥有其他可靠的求偿渠道。
其次，明确金融科技平台算法黑箱的伦理准则。参照我国目前已颁布的《关于加强科技伦理治理的意见》以及《新一代人工智能伦理规范》，可以在制度设计上从金融科技平台算法产业的全生命周期（即算法管理、研发、供应、使用等相关活动）的角度，对相关活动的自然人、法人和其他相关机构等明确金融科技平台的算法伦理准则：其一，算法管理者开展算法相关的战略规划、政策法规、技术标准制定实施以及监督审查等活动，应当通过正确行权用权推动敏捷治理，加强算法风险防范，促进算法技术的包容开放；其二，算法研发者从事算法相关的科学研究、技术开发、产品研制等活动，应强化自律与向善意识，提升数据质量，增强安全透明，避免算法黑箱与算法歧视等问题；其三，算法产品或者服务的供应者从事人工智能算法产品与服务相关的生产、运营、销售等供应活动，应当充分尊重市场规制，加强算法产品与服务的质量管控，保障消费者权益；其四，算法使用者从事人工智能产品与服务相关的采购、消费、操作等活动，应遵循合法使用，禁止违规恶用，提高使用效能。
最后，有序推进我国算法伦理委员会的建设，规范金融科技平台算法规制。关于算法伦理委员会，一方面，在制度设计层面，在明确人工智能算法伦理相关责任方的前提下，应当吸纳消费者代表、算法科学家、人文社科学者等参与，由政府牵头设立政府层面的算法伦理委员会，制定与算法善用有关的制度，建立价值评判、风险评估、奖励惩罚、培训教育等机制，将算法善用的伦理观念融入算法产品的生命周期，把控金融科技平台算法有序发展的方向。概言之，政府层面的算法伦理委员会作为金融科技平台算法黑箱等监督者，具有政府所赋予的部分自治与自调权，有序调动金融科技平台参与算法自治；另一方面，金融科技平台对照政府层面的算法伦理委员会要求，设置企业层面的算法伦理委员会，严格按照相关法律规制及其算法伦理的要求，建立审查责任与应急反应机制，结合金融科技平台企业特点，制定契合企业发展的内部算法伦理规范，提升企业道德伦理与技术伦理的水平。
结论
在以人工智能算法为典型代表的金融科技时代，金融资源的表现形式不再集中于资金融通活动，金融科技信息流通造成的分配与再分配在速度、范围和程度等各方面都已经远超纯粹的资金流动影响，甚至开始具备反向主导资金流向的趋势。在大数据与人工智能等信息技术的驱动下，尤其是人工智能算法技术的深度介入，促使各种金融科技平台快速崛起。可以说，金融科技平台之所以应运而生并在金融实践中快速铺开，具有其内在的本质原因，即金融科技平台是金融市场信息化与智能化发展的内在需求。然而，人工智能算法同样存在算法黑箱的问题：一方面，算法黑箱天然具有的不透明属性，为金融科技平台得以实施金融监管套利提供了放任的空间；另一方面，金融科技平台的算法黑箱对自动化决策结果的过程性掩盖，从根本上加剧了个别风险在黑箱所打造的“隐层”之下逐渐累积并可能蓄势爆发。
然而，当金融科技平台将海量金融数据输入算法黑箱并以另一种看似毫无关联和规律的形式输出后，算法黑箱内部的正义与否应当如何进行界定？这是一个难以解决的问题，单从其外在是难以探寻的。目前，我国对金融科技的实践运用以及在算法领域的法律规制，均获得了一定程度的成效。不过，随着新一代信息技术不断推进金融业态的变革，金融科技创新及其衍生风险的矛盾也愈发凸显出来。关于金融科技平台算法黑箱问题的法律规制，与其说是对算法的治理，不如说是对行为规制的回归。算法尚未能主导其开发者或运营者的行为，金融科技平台利用算法黑箱绕开监管体系、逃避法律责任，实际上依然属于传统工业时代下的治理问题，故并非完全依赖于技术治理所能够解决。对此，我国需要有选择地借鉴域外国家与地区（欧盟、英国、美国、新加坡）成熟的算法黑箱的法律规制经验，从算法透明、算法问责、算法伦理层面完善金融科技平台算法黑箱的法律规制路径：其一，健全算法透明体系是破解金融科技平台算法黑箱问题的关键所在，通过完善自动化决策系统进入金融市场的审查与备案制度，强化对算法提供方告知义务和解释义务的要求；其二，在事后阶段完善算法问责机制，推进针对金融科技平台算法黑箱的问责机制与消费者权益救济；其三，从事前、事中、事后的全流程阶段加强算法伦理建设，防范算法黑箱风险与伦理失范，从而为金融科技创新向善发展保驾护航。
