人工智能时代金融风险的挑战与防范

人工智能时代金融风险的挑战与防范

杨琳瑜

(中共漯河市委党校，河南 漯河，462000)

摘  要：人工智能技术的日益完善，给金融风险管理领域带来颠覆性的变革。人工智能时代当金融风险问题具有更强的技术性，隐私泄露具有更大的隐蔽性，科技与金融融合衍生歧视性，对金融行业就业产生替代性，监管制度具有一定的滞后性。应对人工智能时代金融风险，要健全法律法规、创新发展政策，完善监管框架、明确各方责任，增强技术能力、防范技术风险，加强宣传教育、保护消费者权益，推动人工智能时代金融产业的健康发展。

关键词：人工智能、金融风险、风险防范

习近平总书记指出，“把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量，努力实现高质量发展。”人工智能作为人类文明向智能社会迈进的创新“加速器”，正在对人类经济生活方式与社会结构转型产生重大而深远的影响。人工智能的发展将会给金融风险管理领域带来重大变革。金融领域一直在不断探索和采用人工智能（AI）技术来改进决策过程、改善客户体验和提高风险管理能力。与互联网连接式特征不同，人工智能技术具有嵌入式特征，且使用成本低、应用范围广泛，既能承担重复性脑力工作，又能释放机械工业系统潜力，这可能会带动生产关系的范式变革，衍生出诸多新型商业模式，甚至改变并重构世界商业秩序。随着人工智能技术在金融行业应用场景的不断拓展，金融产品研发、金融机构业务运营以及风险防控等业态都将更加智能化。一方面，通过运用人工智能的深度学习系统，如果有足够多的数据供其不断进行学习，人工智能就可能不断完善，甚至能够超过人类的知识回答能力。得益于人工智能的助力，金融领域逐渐实现了金融服务的智能化、个性化和定制化，金融机构开展业务可以实现降本增效。但另一方面，人工智能技术驱动下的金融创新也可能会导致传统金融市场上的各种风险与技术风险交叉叠加，给金融系统带来了巨大风险，这也大大增加了金融科技领域的监管难度，给现有的金融监管框架和体系带来新的挑战，因而加强风险防范和管理，进而保障金融安全和维护金融稳定。在此背景下，人工智能在金融领域的应用引起了广泛关注，成为交叉学科研究的主要方向，研究文献数量亦呈现显著增长趋势，其中人工智能影响金融发展的风险与监管协调等问题成为人工智能在金融领域应用研究中的重点内容。

一、人工智能与金融风险

人工智能作为引领性科技、突破性创新的方法之一，是创新驱动发展的重要组成部分。金融领域未来的系统将是以人工智能、大数据、云计算、区块链等新一代信息技术为核心要素，以基础化应用、通用化应用和个性化应用为系统层次结构，可实现金融服务智能化、个性化和定制化的综合系统，具有理论创新和应用场景突出的特点。其中，智能投顾、智能信贷和智能客服等应用已经成为突出的发展方向。另外，自然语言处理技术也逐渐成熟，实现了语音识别、语音合成、机器翻译等应用。智慧城市、智慧医疗、智慧财务等领域也开始应用人工智能技术，提高决策效率、降低成本和提高服务质量。不仅如此，在数智时代，大数据与人工智能改变了经济主体行为与经济运行方式，也改变了经济学研究范式。大数据为人类提供了认识与改造世界的新思维，即大数据思维，这是通过大数据发现复杂系统的运行规律、解决现实问题、预测未来变化的新范式；大数据思维的实现方式主要基于人工智能技术与方法。通过检索2003-2023年间Web of Scienc中经济金融学领域人工智能技术论文发现，在近20年间，关于人工智能技术的论文数量从2003年的2篇增加到2020年的95篇。在 2018年以前，关于人工智能的研究文献数量偏少且发文量也上下波动，而从2018年开始，人工智能相关研究的文献数量暴增。关于人工智能在金融领域应用的风险的研究，主要包括风险含义、风险种类、监管政策等方面。

（一）人工智能时代的金融风险。人工智能技术本质上是计算机科学的一个分支，其涉及信息论、控制论、自动化、哲学等学科的技术和理论，是一门综合性科学技术。人工智能技术具有高度智能化特征，因此其被广泛应用于各个产业，在推动各产业转型升级的同时，也促进了各个行业不断发展，并取得了不错的经济效益。此外人工智能技术是基于计算机技术的发展而创新升级的，其应用范围更广，能大幅提高人们的工作效率，实现时间管理优化。大数据、云计算等信息技术是伴随着互联网通讯技术的不断升级换代而发展的，在大数据技术的驱动下，深度学习理论不断被完善，人工智能技术应用也在改进。影响最大的“人机大战”比赛，在国棋对战中英国的机器人ALPHAGO击败了世界冠军柯洁，让世人见证了人工智能的超人类思维。传统金融业成本高、效率低，无法满足个性化需求，这为人工智能在金融领域的应用提供了机会。而人工智能在大数据、互联网、区块链等信息技术的支持下能够大幅降低金融交易成本，提升金融服务效率；智能化的产品和服务可以满足个性化的金融需求，充分弥补传统金融业的不足。人工智能在成本和效率上的优势拓展了其应用于金融领域的广度和深度金融风险，即金融活动中产生的风险，是指任何有可能导致企业或机构财务损失的风险。金融风险可以分为多个方面，包括市场风险、信用风险、流动性风险、操作风险等。当其他国家尚停留在人工智能场景开放、场景征集等问题争议层面时，我国人工智能发展已经进入到“技术赋能与场景落地深度融合、技术创新与场景细分精准匹配、技术突破与场景应用交互迭代”的前沿阵地。海量社会场景的落地延伸催生出人工智能前所未有的风险频谱，其先进性、动态性、复杂性发展为我国人工智能带来史无前例的治理挑战，率先处理人工智能技术与社会相互调试的前沿性治理问题成为我国“大国责任担当”的时代任务。在数字化转型背景下，金融科技创新速度加快，新技术在金融领域的广泛应用也引入了新的风险维度，导致金融风险呈现出新的特点。因此，金融监管和金融风险防范面临更大的挑战，迫切需要开展人工智能和大数据等新技术在金融风险监测领域的应用研究，并对应用前景做出合理的预测布局。

（二）人工智能时代的金融风险类别。人工智能在金融领域也存在一系列风险，包括技术风险、泄密风险和业务风险等。人工智能在金融领域的应用推动产生了许多新型的金融应用场景，然而这类应用场景在人工智能技术上具有同质性，这种同质性容易引致技术性风险。人工智能的底层算法和运算模式具有同质性，一旦这些技术被破译或遭受黑客攻击，那么所有应用这些技术的金融业务体系都会在短时间内陷入瘫痪，风险将溢出至金融体系的各个主体，引发系统性风险。金融业属于信息密集型产业，在使用人工智能技术时，需要收集到大量的个人信息，设计大量的商业机密，目前数据采集范围逐步扩大，一旦金融基础设施或通讯设备被不法分子控制，黑客可以在一瞬间窃取大量数据，例如信用卡信息、个人身份信息等。目前国内的金融业的算法、信息控制和披露标准都尚未统一，金融领域中的交易信息和客户信息都具有非常高的敏感性，一旦泄露可能会引起严重后果。尽管人工智能技术的应用使金融体系更加高效和智能，但并未改变金融业务风险，甚至在某些方面强化了金融业务风险。我国新一代人工智能已经涉及到科学技术创新突破、社会经济结构转型和生产生活方式变革的方方面面，主要以大数据智能、跨媒体智能、群体智能、混合增强智能、自主智能系统为标志性技术攻关方向，以多源异构数据加速积累、信息基础设施快速迭代、智能场景应用深度落地、社会伦理风险快速涌现为基础性变革载体。由数据驱动的智能化交易策略在宏观经济环境稳定的情形下才适用，在面临经济动荡的环境时可能会做出错误的决策。人工智能技术的应用增强了不同主体之间的关联性，导致风险在高度关联的背景下传播速度更快，风险传染性更强。人工智能技术在金融领域的应用使得利益相关者的节点呈现网络特征，这种网络连接了不同市场、区域和业务，网络特征又强化了风险的传染性，进一步导致跨业务、跨市场、跨区域传染过程更复杂，传播速度更快，影响范围更大。

（3）人工智能时代的金融风险监管。人工智能技术在金融领域的应用有助于金融监管机构更准确地掌握风险的传播路径和风险位置，更早地识别金融风险；同时，人工智能技术的应用也可以为金融监管提供系统性风险形成和扩散的实时信息。人工智能通过已成熟的大数据和云计算技术建立实时、动态的监管系统，能实现监管数据的共享与集成，优化金融机构资产端和负债端等业务的监管流程，建立数据驱动的算法监管体系，最终提升监管效率。人工智能技术有助于将监管的重点从事后应对问题转移到风险发生之前的识别和防范。人工智能可以通过对大量金融数据和市场指标的深度分析，有效识别和预测潜在的风险因素和系统性风险。通过构建预测模型，人工智能能够帮助监管机构预测金融市场可能出现的风险，从而让金融监管机构提前采取相应的监管措施，为金融市场的稳定提供有力保障。人工智能在监测合规和风险控制方面也具有重要的作用，尤其是在挖掘违规行为的效率比起传统方式有着较强提升。通过对金融机构的数据和报告进行实时监测和分析，人工智能可以及时发现潜在的违规行为和风险暴露，确保金融机构的合规性和风险控制能力达到监管要求，维护金融市场的健康运行。同时，人工智能对于反洗钱和欺诈方面的监控具有较强优势。监管设置反洗钱及欺诈的指标，人工智能通过机器学习指标，并整合大数据分析，可以实时监测异常交易模式、洗钱行为和其他欺诈活动，助力监管机构及时发现并制止潜在的违法行为，保护绿色金融市场的公平性和稳定性。

二、人工智能给金融系统带来的风险

人工智能作为一个新的充满机遇和挑战的领域，是科学技术发展的必然产物，在金融风险管理领域对其进行合理的应用，可以使其处理数据的速度、分析数据的深度、人工成本等都发生积极的变化，控制金融风险的效能得到提升。人工智能在金融领域的应用能提供许多创新性应用场景，也相应地会引致新的风险。金融风险管理需要处理大量复杂数据，应用人工智能将有助于金融系统大幅降低人力成本并提升金融风险管理能力。我国新一代人工智能赋能多重治理挑战的系统突破亟需从多维视角中甄别问题、精准应对，从动态范式中探寻规律、超前布局，进而推动人工智能治理由静态认知向动态思辨转变、由单点聚焦向系统研判转变。金融监管更多依赖现有的金融结构设计监管框架，与人工智能推动的金融发展存在结构性错位。人工智能在金融风险管理中的应用也面临一些现实和潜在的挑战。

（一）风险问题具有更强的技术性。“人工智能”最初是由John Mc Carthy在 1956 年达特茅斯学会上提出的，他认为：“人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样”。此后，学者们在此基础上提出众多理论，人工智能的概念和应用也随之扩展，在1993 年之后进入高速发展阶段。人工智能的理论和应用技术日益完善，世界各国政府和跨国企业都在加大对人工智能的投入，其应用将会给社会各个领域带来巨大影响，也必将使金融风险管理领域产生颠覆性的变革。人工智能环境中，形成的金融风险具有较高的隐蔽性，排查难度较大，风险传播能力较强，能够在较大范围内进行快速传播，会形成具有相互作用、相互影响的系统性风险。金融风险类型较多，具体包括信用类、市场类、流动类、操作类等。金融领域的人工智能技术包含的机器学习算法和大数据技术，使之成为一个可能面临罕见的新型攻击的目标。由于机器学习算法一般是基于样本学习或模式识别，这些算法在面对新样本或样本变异时的效果会打折扣，这就会使人工智能系统容易遭受欺骗或攻击。比如，在信用鉴定方面，机器学习算法可能会收集数据和行为迹象，然后能够根据这些信息对未来的信用借贷进行预测。但是，如果某个攻击者能够通过任意访问这个系统来篡改或错乱某些数据，那么整个预测体系就会崩塌，损害整个金融机构的信誉和客户安全。在智能平台中形成的多种新型风险，均有各自特点。科技金融风险形成时，是以线上平台为背景，表现出较强的技术性，需要采取全新的措施，做出有效的风控处理。技术性风险，主要表现在交易参数设计不当、客户操作合规管控不到位等。此类风险，需要采取较强的技术控制措施，保证风控效果。数据类、信息安全类等多种风险的叠合，形成了数据管理不善、信息泄露等各类风险。此类安全风险，能够持续性攻击系统，具有风险持续周期长、风控处理技术要求高等特点。如果人工智能的程序出现错误，根据其对数据的分析结果也会不正确，如过度拟合问题便对相关数据中非相关部门的剔除造成影响。金融风险管理的预测和管理风险都是分析大量数据后得出的结果，如果程序出现错误，金融机构想要根据数据分析使风险管理的决策更加准确则会较难，还会对相关的经营活动造成影响。神经网络等

AI技术普遍存在“算法黑箱”的问题，即很难解释输入变量与输出变量间的因果关系，或阐明其传导机制。这可能导致金融风险难以在事前或事中识别，只有当风险发生后才能被观测到，且很难解释这些风险是如何产生的。如果将AI技术同时用于多项金融业务，还可能导致风险的交叉传染更加隐蔽，一旦风险发生，对金融体系的冲击可能更大。

（二）隐私泄露具有更大的隐蔽性。AI的训练和使用需要用到大量用户数据，不同的AI模型之间还会涉及数据共享问题。这对于金融机构在收集、存储、使用、共享用户个人信息和交易数据方面提出了更高要求。隐藏在人工智能技术背后的数据安全和算法安全可能会威胁金融消费者的正常金融行为和合法权益，甚至出现用户金融数据、账号、财产等权益损失。主要原因是在现有的监管框架下，金融机构、科技公司及金融消费者之间的责权利并未协调一致，金融消费者权益保护的内容不能及时得到补充，加之维权手段单一和匮乏，这使得隐性的侵犯消费者权益的行为时有发生。金融机构或金融科技公司滥用用户数据、泄露个人隐私的例子屡见不鲜。对此，主要经济体均已出台数据安全和隐私保护的相关法律，但这些法律在金融领域的落实情况以及金融机构的合规情况仍有待观察。随着市场竞争的加剧，消费金融机构也开始积极探索和深化人工智能的应用，从传统的金融机构向数字化、智能化转型，他们利用科技手段“深度挖掘”客户的个人信息，以提升客户的销售成功率和防假率。同时，利用“大数据”和“人工智能”等手段，对消费者的个人信息进行窃取和滥用，造成金融消费者的大量非法交易和泄露，使消费者的合法利益受到了极大的损害。个人信息的非法交易和滥用，是对金融消费者权益的一种践踏和破坏。个人信息作为一种独立的权利对象，其权利的构成必须由法律来加以保障。但是，随着人工智能的发展，大量的消费金融机构通过“大数据”“人工智能”等手段非法买卖信息，滥用消费者个人信息，造成消费者难以承受的困扰，消费金融的电话、短信“狂轰不断”“恶意催收”“暴力催收”等问题屡禁不绝，严重扰乱了金融消费者的生活，并且在未经当事人同意的情况下，非法买卖、滥用信息，也对金融消费者的权益造成了极大的损害。

（三）科技与金融融合衍生歧视性。金融行业数字化程度较高，在日常业务中积累了海量用户及交易数据，因此是AI应用最理想的场景之一。事实上，金融机构也普遍在利用AI技术升级或创新金融业务。美国咨询平台Business Insider调查显示，全美80%的银行认为AI有助于改善金融服务，并已经或计划将AI与金融业务相结合；到2027年，预计全球AI金融服务市场规模将增至1300亿美元。未来，金融创新或越来越依赖人工智能技术，但除了技术开发人员了解技术的思维过程，金融监管机构、金融机构以及社会公众均无法“查询”人工智能做出投资决策的过程，训练数据和算法的黑匣子问题可能潜藏着“算法偏见”。如果算法模型缺乏全面数据清理和数据匿名化过程，人工智能技术有可能演化出群体偏见，给出错误的投资建议，尤其可能会冲击普惠性、公平性原则。如当金融市场参与者大量使用非传统数据集（如卫星数据或社交媒体数据）来开发人工智能模型，不能确保所开发的模型不会对某一类人群产生歧视，也不能确保做出的决策是公平和无偏见的。同时，如果人工智能技术给出一个错误方案，将会把风险转嫁给提供方案的金融机构，给金融机构带来声誉风险和信誉损失。长此以往，就会扰乱正常的市场秩序、破坏金融系统的稳定性。在数字经济深度融合的背景下，金融科技伦理治理要求现有的监管理论进行革新，在关注金融机构资产质量、资本充足率、盈利水平、流动性管理、逆周期调节等指标之外还要着眼于维护金融消费者的数据安全、算法隐私、金融服务及产品的数据可信度、算法精确度等问题，同时加强引导金融科技技术行为回归社会道德治理的轨道，以建立健全金融科技伦理治理框架，用强制的手段将技术创新带来的金融风险隔离在屏障之外。

（四）对金融行业就业产生替代性。在金融行业使用人工智能，相比于人类雇员有４种优势，包括低成本、高效精确、智能化和全天候，因此对人类在金融行业的就业构成了威胁。人工智能在金融风险管理领域的应用，逐步取代了原本的人力操作，投资顾问、信贷风险分析、信用评级等岗位对于人员的需求越来越少。随着科技的进步，金融风险管理领域的就业结构将会发生较大的变化，进而减少对从业人员的需求。尽管运用人工智能还会有新的工作岗位创造出来，但是这可能远远低于其取代的岗位需求，所以会极大影响着就业的稳定性和金融系统配置的人力资源的格局。人工智能通过其强大的数据处理与学习能力适应的工作范围更加广泛，内容也更为复杂，从柜员引导到技术员工、从银行到投行，逐步挤压从业人员的生存空间，越来越多的员工面临失业的风险。人工智能发展对于就业的冲击必然和首先表现为结构性失业。一方面人工智能是协助者，有助于从业人员更高效、准确地完成工作；而在另一方面人工智能却是替代者，会像人一样胜任一些工作，取代那些工作的从业人员，导致他们失业。就金融行业而言，会计、交易员、银行柜员甚至投行技术员工等岗位都会受到冲击。但同时，新的工作也会产生，比如维护交易程序的计算机工程师等，目前由于人工智能的局限性仍无法完全替代从业者。

（五）监管制度具有一定的滞后性。随着金融科技业态的衍生发展和金融科技产品的迭代更新，人工智能技术驱动下的金融创新可能导致传统金融市场上的各种风险与技术风险交叉叠加，传统金融业监管原则、监管理念和监管理论面临挑战。在数字经济背景下，传统金融业的信用识别、获取、评估以及金融产品的设计、运行、风控等环节都在技术进步的推动下发生了颠覆性的变化，传统监管理论指导下的制度体系尚未完全匹配不断革新的技术环境，容易引发包括信用风险、操作风险、流动性风险等在内的多重金融风险，且这些风险与新型技术应用衍生出的风险相互叠加、传导，进而影响金融行业的稳定性。AI的训练和使用需要用到大量用户数据，不同的AI模型之间还会涉及数据共享问题。这对于金融机构在收集、存储、使用、共享用户个人信息和交易数据方面提出了更高要求。此前，金融机构或金融科技公司滥用用户数据、泄露个人隐私的例子屡见不鲜。当前，基于技术创新衍生出的多样化金融科技产品在提升金融服务质量和效率的同时，也加大了金融监管的难度。一方面，金融监管框架和法律法规的补充和更新跟不上新的技术变化环境，可能会降低金融监管在风险识别、风险预测上的敏感性和准确性，出现监管失灵。另一方面，监管手段的缺乏也使得现有的治理手段捉襟见肘，难以依靠事前预警来规避金融创新引发的系统性风险，通过事后整治以维持金融市场正常运行秩序，只能治标不治本，而用旧的监管框架去约束新的技术行为，则会提升规制成充，加之维权手段单一和匮乏，这使得隐性的侵犯消费者权益的行为时有发生。目前，已有多起利用AI技术进行“换脸”对个人隐私和声誉造成了严重侵犯的案例。若不法分子将之用于金融领域，例如利用“换脸”技术欺骗人脸识别，冒充本人进行取款或转账；在训练大模型时故意插入“有毒”信息，误导大模型的判断并为自己谋私利；或是通过算法推荐功能对客户进行心灵误导等，可能严重损害消费者利益。随着人工智能的不断发展，新型数字交易的兴起可能会导致新型的市场操纵和金融风险，而相应的监管手段往往是在风险发生后才出现。我国目前并没有建立起完善的法律法规，法律法规的缺乏使得监管边界较为模糊，许多与人工智能有关的商业模式只能参照传统金融和互联网金融领域的法律法规制定，一旦出现纠纷，法律责任的认定往往缺乏法律根据。尽管目前已经出台了一系列的法规，但有关的政策还有待完善，存在着“监管真空”等问题。随着金融市场人工智能的深入运用，金融运营方式、监管方式发生了变化，如何顺应时代潮流，不断健全法制，如何通过人工智能发现潜在的风险源，解决发展与监管的结构性错位问题，成为各有关部门亟待解决的问题，也是未来人工智能在金融监管领域的研究重点。

三、应对人工智能时代金融风险的有效路径

人工智能的快速发展及其在金融领域中的应用正在颠覆和改变着金融行业，人工智能在金融领域应用已经成为金融服务行业不可或缺的一部分，人工智能的应用对经济和社会的影响具有异质性在金融领域的应用涉及风险与监管问题。为此，金融系统需要正确认识人工智能，完善人工智能在金融领域的应用体系，采取相应的安全技术措施、人力资源管理措施，加快构建人工智能在金融领域应用的监管安排。

（一）健全法律法规，创新发展政策。随着人工智能技术的发展，政府需要引导金融机构在运用新技术推动金融创新的同时能够积极应对人工智能技术带来的冲击；金融机构单方面拥抱人工智能新技术的动力不足，政府需要通过政策进行引导。在政策引导下，金融机构通过创建新机构、寻找合作伙伴以及研发新技术等方式参与金融竞争，挖掘长尾用户的潜在需求。金融机构也需要根据技术应用中产业链的各个环节，设计个性化的金融服务产品和平台。面对技术性原因造成的金融行业摩擦性失业，政策需要从人才转型的角度进行引导。金融从业人员通过灵活的教育或培训等方式掌握新技能，也积极从单纯性人工操作向依托人工智能提供智能化的金融优质服务方向转型，以适应金融智能化产业链的人才需求。应加快出台针对人工智能算法的法律法规和监管政策，为人工智能在金融领域的应用厘定行为边界，并不断提高智能算法的透明度和可解释性。为了确保人工智能技术受到责任追究机制和透明、公平、安全等原则的制约，要对采用人工智能技术的金融机构和企业负责人实行严格且明确的责任制，明确人工智能技术错容率判定的技术和手段。同时，要对不同类型的人工智能模型所产生的行为和引发的审慎性风险进行差异化监督和管理，在实际施行过程中要稳健、谨慎、有计划地进行，避免在人工智能技术尚处于应用探索阶段发生监管过度的情况，影响金融行业中的技术革新速度和数字经济产业的健康发展。要根据金融市场的发展情况，及时调整新技术新业务的法律体系，防止技术和法律脱节。要加强国际协作，各国围绕金融科技领域监管的态度与策略存在明显区别和差异。金融机构受利润最大化动机的直接激励，容易利用前沿科技加快金融创新脚步、增加金融创新产品种类形成的风险管控盲区来实现监管套利。为此，要加强国际间的监管协调力度，在人工智能技术应用、技术创新、信息安全、风险评估、漏洞查补等方面加强合作，共同制定全球统一的金融科技行业监管标准。

（二）完善监管框架，明确各方责任。要建立政府调控、行业自律、市场制约相结合的监管体系，及时发现和填补监管漏洞，保证金融市场健康有序发展，风险可控，监管落到实处。人工智能推进金融业态智能化，金融监管也必然需要实现智能化，使监管和被监管机构技术上具有适配性。大数据、人工智能和区块链技术对金融领域的渗透会远大于其他领域，但制度需要保持连续性的特征，使得金融监管制度转换的速度远远落后于人工智能技术在金融领域中的应用速度，导致金融监管中出现许多创新与监管之间的非协同问题。研究者基于国际上监管沙盒制度的比较强调监管部门应转变监管理念，政策应该积极引导发展智能监管，采用监管沙盒模式鼓励金融创新。为鼓励金融科技创新，推动人工智能技术广泛应用，应主动探索“沙盒”监管的模式，鼓励中低风险领域先行先试，但要明确准入要求和退出机制，避免潜在风险。自2019年12月份北京首批启动试点以来，中国版金融科技“监管沙盒”不断扩容，在全部申请的项目中，以人工智能技术作为主要技术支撑的项目占有很高比例，包括自然语言处理（NLP）、图像识别、知识图谱、迁移学习、联邦学习等多个领域。“沙盒”监管需明确准入要求：一是如果人工智能技术创新对金融体系产生系统性影响的风险较大，或者创新过于复杂且难以理解，那么应用此类技术的金融机构将不能被纳入“沙盒”监管框架；二是系统重要性金融机构不能仅依赖一家第三方技术公司提供的人工智能技术；三是使用同一算法的金融机构，不能同时测试其创新产品。同时，应建立“沙盒”监管的退出机制：一是在没有充分的证据证明某一项金融创新有继续测试的必要性时，测试一段时间后，测试应自动终止；二是在“沙盒”监管测试过程中一旦发现创新可能威胁金融稳定，则应终止对金融创新的测试。监管部门应该制定更为具体的法规制度以规范金融领域中人工智能的应用。这些规定应当包括人工智能资质的认证，数据隐私保护、信息安全与系统稳定性保障等方面。此外还需要对人工智能的工作流程、算法、数据采集等多个方面进行全面的法规和制度设立。监管部门应该加强人工智能应用的监督与检查。由于人工智能与相关技术的更新速度非常快，这就要求监管部门具备足够的专业知识，能够及时发现和解决问题。监管部门应该加强与金融机构等相关企业的沟通和协作，建立完善的人工智能应用监管机制，及时发现和控制金融领域中的风险。监管机构应该进一步加大对人工智能等金融科技的研究力度，尽快将有关的规范统一起来，组建专业的应急管理团队，强化网络安全。由于金融市场的健康和稳定运作离不开对金融自由化的风险管理，因此，在金融风险管理中，必须慎重推进，特别是在刚刚起步的阶段，要有一个具体的规划。针对金融市场的现实特点，结合人工智能技术的发展特点，对其进行全面的规划，以保证其在实施过程中的安全性。

（三）增强技术能力，防范技术风险。金融市场主体都面临着收益和风险的不确定性，风险管理因而成为重要环节。过去几十年间，全球曾经爆发过数次大规模的金融危机，如1987年美国的“黑色星期一”大股灾、1997年亚洲金融风暴以及2008年国际金融危机等。这些事件对全球金融市场造成巨大破坏，同时也使人们逐渐意识到金融风险管理的重要性。为提高数据处理和分析的速度，人工智能开始逐步应用于金融风险管理领域。人工智能应用中的核心技术若非自主掌握则具有不可控性，且容易引起金融的技术性风险；政策推动人工智能技术应用过程中，以保障金融信息安全为底线。金融机构如果完全依赖外部的人工智能技术，则无法清楚理解应用过程中的运行机制。一旦系统运行存在漏洞、逻辑陷阱或者其他恶意程序，使用者将面临信息等技术性威胁，因此实现关键技术的自有化是推动人工智能在金融领域中应用的基础。要完善人工智能程序设计原则，打造一个透明的人工智能、道德的人工智能以及负责任的人工智能，需要落实设计员作为开发者的意识以及明确设计原则。因此，要设计完善的人工智能就必须先设定具有指导意义的设计原则，指导人工智能开发、设计、使用、管理、控制的整个过程。设计人员在开发和设计人工智能时，应根据一定的设计原则完善人工智能的功能，确保在人工智能处理信息发生歧义或错误时，保留补救的机会，不让这种错误的影响扩大，并利用一切机会让人类介入，继而转变为由人来做出选择。通过政策指引积极主动推进自主可控技术的应用，用自主研发的技术手段来确保信息安全，加强安全管理与监控，保证系统行为可以监控和追溯，安全问题可以发现并控制，以防范人工智能在金融领域应用中的风险。要加强对人工智能与金融服务及产品融合过程中的风险排查力度，提高风险防控管理技术和水平，对风险管理和预测模型进行改进，以期能够更加准确地识别人工智能在金融领域中的潜在风险。要尽可能用简单易懂的方式来进行信息披露，赋予数据用户主体对人工智能技术的决策行为和结果合理质疑的权利，将人工智能的底层逻辑建立在安全可控的范围内，有效管理金融行业数据信息，规范行业内数据格式，提高人工智能的深度学习能力和分布式存储、自动化能力，为人工智能与金融行业深度融合打下坚实的数据资源和硬件技术基础。金融监管部门要加快打造金融科技专业研究团队，用技术引导金融业务的数字化改造。同时，前沿科学技术在金融领域的应用还要注意匹配问题，若缺少对用户需求、现有竞品等商业模式的分析，缺乏对金融市场整体发展方向的把握，而强行将新技术注入金融产品中，就不能对实体经济发展起到良好支撑。在具体应用层面，通过“人工智能

+金融业务”可以提升数据的挖掘与分析能力、市场的行情分析与预测能力、客户的需求分析及服务能力、风险的管理与控制能力等。

（四）加强宣传教育，保护消费者权益。人工智能技术属性带来的自身透明度低、数据运算量大、算法处理程序复杂等特点使得金融消费者始终处于市场或交易的劣势地位，消费者在金融专业知识和技术信息披露不到位的情况下容易受到实质性侵害。要对金融科技产品投资者进行相关专业技术知识的宣传教育，培养其对不确定性风险捕捉的敏感度，引导其树立根据自身风险承担能力寻求适合的金融科技产品的意识，增强其在面对数据安全和算法安全漏洞引发的权益侵害现象的维权意识和能力。同时，要完善金融机构问责机制，建设行业自律标准，健全自查自纠制度，提升金融消费者权益保护的效果。要建立专家业务平台，在专家业务平台中，有效连接系统与相关的法律内容。当发现金融风险时采取警告措施，让相关管理者明确监管政策的各项法律规定，督促相关主体规范参与金融活动。监管单位应严谨融合各项法律内容、规章制度。如果金融业务中，出现违规行为，监管系统需开发记录审计的相关功能模块，参照监管各项法律内容，有效识别金融业务潜在的不足，最大程度地给予风控处理。采取法律文本图形分析方法，便于业务人员理解各项金融监管的法律内容。比如，在工作流程中，添加命题类业务要求，更直观地表达法律规范、审计要求。规范文本是一种具有直观性的业务工具。规范文本内，设定了合规、合规的分析模型。针对各类法律规范结果，建立文字式的分析流程，让被监管主体明确相关金融监管的方式与原则。专家系统借助此种警告、规则、逻辑判断等方式，顺应金融监督者的各要求，增强业务流程的合规性，获取相应的结果。

四、结语

人工智能技术的日益完善，给金融风险管理领域带来颠覆性的变革。人工智能技术在金融领域的应用仍处于早期阶段，这意味着金融监管机构仍有时间引导人工智能技术在金融行业中规范应用。人工智能在金融领域的应用推动产生了许多新型的金融应用场景，需要通过信息技术分析大量的用户信息数据以实现金融智能化应用，自动化交易系统倾向于在经济动荡时期减少交易，人工智能时代当金融风险问题具有更强的技术性，隐私泄露具有更大的隐蔽性，科技与金融融合衍生歧视性，对金融行业就业产生替代性，监管制度具有一定的滞后性，加剧金融风险的隐蔽性、传染性、叠加性和难预测性，放大金融体系的脆弱性，威胁金融安全与稳定。应对人工智能时代金融风险，要健全法律法规、创新发展政策，完善监管框架、明确各方责任，增强技术能力、防范技术风险，加强宣传教育、保护消费者权益，健全金融稳定长效机制，维护金融安全。

参考文献

[1]柴洪峰,李智鑫,王意帆,等.基于人工智能的金融风险监测技术发展趋势[J].新金融,2024(3):4-10.

[2]贾文倩,张丽颖.金融领域人工智能的知识图谱分析——基于文献计量的视角[J].黑龙江金融,2023(7):64-68.

[3]黄琦,赵大伟,代会琳,等.人工智能“火爆”背景下的金融安全“冷”思考[J].金融发展研究,2023(11):77-81.

[4]尹振涛,王美懿.人工智能考验金融监管[J].中国外汇,2023(6):18-20.

[5]于孝建,彭永喻.人工智能在金融风险管理领域的应用及挑战[J].南方金融,2017(9):70-74.

[6]廖高可,李庭辉.人工智能在金融领域的应用研究进展[J].经济学动态,2023(3):141-158.

[7]益言.人工智能在金融领域的应用及监管进展[J].中国货币市场,2023(12):71-76.

[8]谭钦月.人工智能在金融领域的重大风险防范体系研究[J].产业创新研究,2023(20):45-47.