浅谈人工智能带来的适航挑战——EASA,AI,Roadmap,2.0,发布

浅谈人工智能带来的适航挑战——EASA,AI,Roadmap,2.0,发布

石硕1，谭展2, *，袁烨1，路遥1

1. 中国商飞上海飞机设计研究院 适航工程中心，上海201210

2. 中规(北京)认证有限公司，苏州 215300

摘要： 为了应对数据驱动的学习方法的挑战，EASA开发了一个人工智能可信度框架，该框架围绕四个主要组成部分，即人工智能可信度分析、学习保证、人工智能可解释性和人工智能安全风险缓解。本文围绕着人工智能在航空领域应用的进展，重点介绍了被认为是AI技术导入民航业监管和适航认证核心概念的AI可信度和学习保证，对EASA人工智能路线图的演变进行了多个维度的分析，并对OEM需要关注的问题进行了概括总结，对人工智能技术带来的适航挑战进行了分析。

关键词：人工智能；EASA AI路线图；AI可信度；学习保证

1

人工智能(AI，Artificial Intelligence)正在引领第四次工业革命，包括航空业在内的众多工业领域，都期望于其助力带来变革机遇。

欧盟航空安全局(EASA)依托MLEAP(Machine LEarning applications APproval)项目分阶段三步走的计划和成果提供AI在适航领域的借鉴，于2023年5月发布AI路线图2.0版本——航空领域以人为中心的人工智能路径(Human-centric approach to AI in aviation)，主要针对最新的GPT类AI技术进展做了全面更新。

1EASA AI路径

2018年10月，EASA成立了一个人工智能内部工作组，旨在开发一个人工智能路线图，以识别EASA受人工智能的影响领域：

（1）在航空领域中引入人工智能所带来的机遇和挑战；

（2）对EASA在组织、流程和法规方面的影响；

（3）为应对上述挑战而应采取的行动。

2020年2月，EASA 发布AI路线图（Artificial Intelligence Roadmap）1.0版本[1]——以人为本的航空业人工智能方法（A human-centric approach to AI in aviation），提出了适航领域 “人工智能可信度(AI Trustworthiness)”的概念；2023年5月，EASA 发布AI路线图2.0版本[2]——航空领域以人为中心的人工智能路径（Human-centric approach to AI in aviation），主要针对最新的GPT类AI技术进展做了全面更新，确定了适用于适航审定的学习保证(Learning Assurance) [3]框架。

图 1 EASA AI成果发布时间轴

Fig. 1EASA AI Roadmap

期间EASA于2022年4月19日发布了第一个面向AI技术的专用条件SC-AI-01‘Trustworthiness of Machine Learning based Systems’作为2021年4月发布的 “第一级机器学习应用的可用指南（征求意见稿）(EASA Concept Paper‘First Usable Guidance for Level 1 Machine Learning Applications’ProposedIssue 01)（2021年12月发布正式版作为交付成果）的咨询材料（advisorymaterial），而后于2023年2月更新发布征求意见，涵盖了人工智能应用第2阶段(Concept Paper ‘First Usable Guidance for Level 1&2 Machine Learning Applications’ProposedIssue 02)。

图 2 EASA AI路线图2.0时间线

Fig. 2 EASA AI Roadmap 2.0 Timeline

EASA的学习保证框架以MLEAP项目为参考，此项目受Horizon Europe framework资助，致力于研究EASA AI路线图中的W型保证过程的挑战性目标。

图 3 W型保证过程

Fig. 3 W-ShapedAssuranceProcess

2 AI航空应用

人工智能技术是一个广泛的领域，其定义也随着发展而不断变化。本文引用欧洲航空安全局（EASA）的表述："人工智能——any technology that appearsto emulate the performance of a human"。伴随着未来民用运输类航空领域人工智能技术应用，人工智能技术将会不仅影响工业界所提供的民航航空产品和服务，同时将会引发航空领域新的商业模式和技术革命。

与此同时，人工智能在航空领域的应用也带来了许多伦理、社会、经济和法律等问题，如谁对事故负责，如何保护人工智能免受网络攻击或如何确保数据保护和透明度等。

图 4 EASA人工智能的可信度构建

Fig. 4EASA AI Trustworthiness Building Blocks

2.1 AI航空应用领域

目前，较为明确的人工智能技术在航空领域中擅长的应用主要包括以下几个方面：

（1）自动驾驶和无人机：利用计算机视觉、语音识别、深度学习等技术，可以实现自主飞行和自主降落等功能，同时也可以有效地提高航班的起降效率。

（2）机器人检测和维修：通过机器人来进行飞机的检测和维修工作，可以大大提高安全性和效率。

（3）预测和分析工具：通过机器学习算法，可以对航班数据和安全数据进行分析和预测，预先发现问题并采取措施来确保航班安全。

（4）智能安全系统：利用机器学习和计算机视觉等技术，可以实现对飞机安全的实时监控和预警，及时发现潜在安全隐患并采取相应措施来确保安全。

（5）空管系统：AI技术可以协助空管系统实现更加高效、安全和智能的航班管理，包括航路规划、飞行高度调整、天气预测等方面。

（6）客户服务：通过机器学习和自然语言处理等技术，可以实现智能客服和机器人导游等应用，提高旅客服务的质量和效率。

本文将主要聚焦于航空器初始适航所涉及的AI技术应用的探讨，如AI技术可以协助新型航空器设计和制造，进行飞行仿真、材料选择、结构优化等方面的工作，提高新型航空器的性能和安全性。

2.2 AI航空应用等级分类

EASA将AI在民航业的应用分为三个等级——L1（辅助人类）、L2（人-机合作）、L3（高级自动化），每个等级还可以细化分成A和B。L1 AI的适航及应用计划将在2025年前后落地，L2 AI（例如大型商业航空公司采用AI辅助下的单飞行员）将会在随后未来10年发生（2035年），L3 AI则将会在2035-2050年之间逐渐实现。

图 5 EASA AI民航业应用等级分类

Fig. 5EASA AI Civil Aviation Industry Application Level Classification

3 AI可信度框架

EASA AI路线图2.0考虑如何将机器学习（MachineLearning）、深度学习（DeepLearning）、Logic- and Knowledge-Based（GPT类Symbolic AI）快速升级的AI技术，以及组合后的混合AI技术，持续应用到民航业。其核心实质为从数据中提取和学习特点任务的行为模式。

图 6 EASA AI路线图2.0技术范围

Fig. 6 EASA AIRoadmap 2.0Scope

为了应对数据驱动的学习方法的挑战，EASA开发了一个人工智能可信度框架，该框架围绕四个主要组成部分，即人工智能可信度分析、学习保证、人工智能可解释性和人工智能安全风险缓解。EASA认为，AI可信度（AITrustworthiness）是AI技术导入民航业监管和适航认证的核心概念。

3.1 AI可信度分析

AI及其可信度已和自动化、数字化并成为驱动当今航空研发三大技术。

欧盟高级别专家组也发布了AI可信度所涉及的7个维度，即责任、技术鲁棒性和安全、监管、隐私与数据管理、非歧视和公平、透明度、社会与环境福利。

AI可信度分析也将进一步研究基于风险的AI/ML应用，即根据危险的等级对其可信度要求和验证方法进行划分。

图 7 基于风险的方法

Fig. 7 Risk-based Approach

航空业有四大与人工智能相关的问题需要解决：一是如何建立公众对嵌入人工智能技术的航空产品的信心？二是如何为审定和批准先进的自动化技术做好准备？三是如何将伦理角度考虑要素（如透明度、非歧视性、公平性）纳入监管过程？四是还需要开发和制定什么过程、方法和标准来释放人工智能的潜力，进一步提高当前的航空运输安全水平？

图 8 人工智能评估

Fig. 8 AIEvaluationDepartment

3.2 学习保证

传统的研制保证架构不适用于AI（机器学习），为此EASA提出了建立学习保证(Learning Assurance)系统嵌入现有研制保证架构。预期的学习保证构成要素包含：

表1预期的学习保证构成要素

Table1Expected Learning Assurance Components

4 EASA AI路线图的演变

EASA AI Roadmap历经39个月的时间发布更新，V2.0沿袭V1.0强调了数据质量、模型可解释性、数据安全性等问题的重要性，并提供了一些制定安全模型和框架的建议，V2.0版本对人工智能应用的范围做了更细致的划分，提供了更加全面、具体并且实用的方案和措施，强调了许多新技术和新领域的重要性，主要包括：

（1）应用范围划分：V2.0版本补充了增强型AI，将AI应用划分为三类：自动化、增强型AI和认知AI。

（2）政策推荐：V2.0版本在强调政策制定的必要性方面进一步提供了更具体的政策建议和推荐，包括如何制定数据规则、加强隐私保护等方面的建议。

（3）风险评估与管理：V2.0版本更加强调了风险评估和管理的重要性，并且提供了更多关于风险评估和管理的具体指导。

（4）应用场景的扩大：V2.0版本将AI应用场景扩大到了自主飞行、无人机领域、航班调度优化等许多新领域，同时也更新了原有的应用场景。

（5）对技术的关注：V2.0版本对于深度学习、神经元模型、模型不确定性等新技术的运用提出了更加细致的指导，还强调了AI算法的可解释性问题。

（6）对风险管理的重视：V2.0版本更加关注了AI技术带来的潜在风险，提出了更加全面的风险评估和管理措施，进一步保障AI技术的安全和可靠性。

（7）对数据的需求（AI来源）：V2.0版本对数据的规范、采集、存储和共享都提出了更加细致的要求，以保证AI技术的高效和可用性。

（8）关注人为因素：V2.0版本非常强调了人机协作和交互的重要性，并探讨了未来机器人和人类之间如何实现更加紧密的合作。

5 结论

应对人工智能引发的技术革命，人工智能技术在航空业的应用催生了工业方、审查方（政府）以及EUROCAE、SAE International、ISO等联合制定标准规范，保证AI应用的安全性，现阶段涉及和可关注的工业标准有：

(1) Process Standard for Development and Certification/Approval of Aeronautical Safety-Related Products Implementing AI AS6983 (ARP 6983) （即将发布）

(2) Artificial Intelligence in Aeronautical Systems: Statement of Concerns AIR6988 （2021-04-30）

人工智能在航空产品上的应用会随着如小型系统或子系统的研制而逐步渗透展开，目前仍面临着诸多困难和挑战，包括但不限于：

（1）预期功能的全面描述方面的困难；

（2）数据的完整性和代表性；

（3）缺乏AI/ML应用程序行为的可预测性和可解释性；

（4）缺乏预期功能和鲁棒性、稳定性的保证；

（5）缺少评估ML/DL（深度学习）应用的标准化评估方法；

（6）ML中的偏差和方差；

（7）架构和算法的复杂性；

（8）适应性学习过程等。

图 9 人工智能应用生命周期过程

Fig. 9AI ApplicationLifeCycleProcess

除了从工业技术角度面临的挑战外，相应适航规章及符合性方法应对AI技术在航空器上应用的适航取证，也将需要重点关注和探索：

（1）因AI的覆盖性而制定新的专用条件或更新规章；

（2）符合性方法和标准对AI技术产品的适用性；

（3）AI的监控与冗余备份，以及是否仍需原始非AI模式的备份；

（4）AI在航空器上的应用所产生的新的应用场景及潜在失效模式；

（5）现有复杂系统对于AI技术产品/系统的接受性等。

参考文献

[1]EASA. EASA. Artificial Intelligence Roadmap 1.0. Available at: https://www.easa.europa.eu/newsroom-and-events/news/easaartificial-intelligence-roadmap-10 published 2020. [Accessed September 2021].

[2]EASA. EASA. Artificial Intelligence Roadmap 2.0. Available at: EASA Artificial Intelligence Roadmap 2.0 - A human-centric approach to AI in aviation | EASA (europa.eu)published 2023. [Accessed May 2023].

[3]MLEAP Consortium, EASA Research – Machine Learning Application Approval (MLEAP) interim technical report, May, 2023. Available at:

Machine Learning Application Approval - MLEAP | EASA (europa.eu)published 2023. [Accessed May 2023].

[4]EASA, ‘Concept Paper: First usable guidance for Level 1 machine learning applications — Issue 01’, European Union Aviation Safety Agency (EASA), Cologne, 2021.

[5]EASA, ‘Concept Paper: Guidance for Level 1 & 2 machine learning applications — Proposed Issue 02’, European Union Aviation Safety Agency (EASA), Cologne, 2023.

[6]EU Commission, ‘EU Commission — Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts, COM/2021/206 final’, 2021.

[7]EASA and Collins Aerospace, Formal Methods use for Learning Assurance (ForMuLA), April 2023.

[8] PREDICTIVE & DETECTIVE MAINTENANCE: EFFECTIVE TOOLS IN THE MANAGEMENT OF AERONAUTICAL PRODUCTS. José Cândido de Almeida Júnior, Rogerio Botelho Parra FUMEC University — 31st Congress of the International Council of the Aeronautical Sciences — Belo Horizonte, Brazil; September 09-14, 2018

An briefanalysis to the AI airworthiness challenges

-- EASA AI Roadmap 2.0 released

SHIShuo1, TAN Zhan2, [*], YUAN Ye1, LU Yao1

1. Airworthiness Engineering Center, COMAC Shanghai Aircraft Design and Research Institute, Shanghai 201210, China

2., ZG Certification, China

Abstract: EASA has developed an AI Trustworthiness Framework for the challenges of data-driven learning approaches, which is built around four main components, namely AI Trustworthiness Analysis, Learning Assurance, AI Interpretability and AI Security Risk Mitigation. This paper focuses on advances in the application of AI in aviation, highlighting AI trustworthiness and learning assurance, which are considered to be core concepts for the introduction of AI technology into civil aviation regulation and airworthiness certification, providing an analysis of the evolution of EASA's AI roadmap in several dimensions, and providing an overview of the issues of concern to OEMs and an analysis of the airworthiness challenges posed by AI technology.

Keywords:artificial intelligence; EASA AI roadmap; AItrustworthiness; Learning assurance

[*]Foundation item：National Natural Science Foundation of China (*********)

*Corresponding author. E-mail: xxxx@csaa.edu.cn