AICSO RESEARCH HUB

AI安全治理研究资源库

汇聚国内外标准、工具、论文与AICSO研究成果,为12项核心能力提供系统性知识支撑。

D1 AI技术与攻防安全

涵盖AI系统面临的直接技术威胁的识别、防御和测试能力,是AI安全的技术基础。

C01算法与数据安全
保护AI模型训练和推理过程中的算法安全与数据安全,涵盖数据脱敏、防投毒、隐私保护技术。
标准框架
NIST Privacy Framework 1.0
美国NIST发布的隐私风险管理框架,适用于AI训练数据的隐私保护设计。
标准框架
ISO/IEC 27701 隐私信息管理
国际隐私信息管理体系标准,为AI数据处理的合规性提供认证路径。
开源工具
TensorFlow Privacy / PySyft
差分隐私训练框架与联邦学习库,实现"数据可用不可见"。
前沿研究
Backdoor Attack & Data Poisoning
数据投毒与后门攻击的系统性研究,涵盖检测方法与防御策略。
AICSO研究
AICSO-CF C01能力矩阵
白皮书第5章定义的C01 L1-L6能力要求,指导个人与组织的数据安全能力建设。
C02AI对抗防御
防御Prompt Injection、越狱、模型滥用,以及配置安全护栏(Guardrails)的系统性能力。
行业标准
OWASP Top 10 for LLM Applications (2025)
大语言模型应用十大安全风险,Prompt Injection、敏感信息泄露位列前三。
攻击知识库
MITRE ATLAS
AI系统攻击技术知识库,覆盖对抗机器学习的战术、技术和过程(TTPs)。
开源工具
NeMo Guardrails / LLM Guard
安全护栏框架,提供输入过滤、输出过滤与对话策略控制的可编程防护。
前沿研究
Prompt Injection Attacks & Defenses
提示注入攻击与防御的系统性综述,覆盖直接注入、间接注入和跨上下文注入。
AICSO研究
AICSO-CF C02能力矩阵
白皮书第5章定义的C02 L1-L6能力要求,从识别注入模式到设计企业级护栏架构。
C03AI红队测试
通过系统化的模拟攻击(Red Teaming)发现AI系统安全弱点并推动演练修复的能力。
方法论
Microsoft AI Red Teaming Guide
微软发布的AI红队测试指南,涵盖组织管理、测试方法与工具使用。
开源工具
Garak / PyRIT / artprompt
自动化红队工具集,Garak由NVIDIA开发,PyRIT由微软发布,提升攻击测试效率。
评测基准
HELM Safety / TruthfulQA / BBQ
LLM安全评测基准,为模型安全性提供标准化衡量尺度。
AICSO研究
AICSO-CF C03能力矩阵
白皮书第5章定义的C03 L1-L6能力要求,从执行红队用例到建立行业联防联测机制。

D2 AI工程与架构安全

涵盖支撑AI系统运行的底层环境安全保障——从GPU集群到供应链,确保基础设施韧性。

C04AI基础设施安全
保护GPU集群、云原生环境、容器化AI服务及推理API接口安全的能力。
安全基线
CIS Benchmarks for Kubernetes
Kubernetes安全基线配置标准,覆盖AI工作负载的容器编排安全。
安全标准
NIST SP 800-204 系列
微服务安全参考架构,适用于AI推理服务的API安全设计。
开源工具
Falco / Trivy / Aqua Security
容器运行时安全监控、镜像漏洞扫描与云原生安全平台。
前沿研究
GPU Side-Channel & CUDA Security
GPU侧信道攻击与CUDA安全配置研究,覆盖显存隔离与分布式训练通信安全。
AICSO研究
AICSO-CF C04能力矩阵
白皮书第5章定义的C04 L1-L6能力要求,从基础设施基线检查到企业级架构设计。
C05AI供应链安全
管控开源模型、第三方API服务、MCP工具链及AI开源组件供应链风险的能力。
安全框架
SLSA Framework / NIST SSDF
供应链安全等级框架与安全软件开发框架,适用于AI软件供应链治理。
开源工具
Syft / Grype / ModelScan
SBOM生成工具与漏洞扫描器,ModelScan专门用于AI模型文件安全检查。
前沿研究
AI SBOM & Model Supply Chain
AI软件物料清单与模型供应链安全研究,覆盖开源模型后门检测与供应商风险评估。
AICSO研究
AICSO-CF C05能力矩阵
白皮书第5章定义的C05 L1-L6能力要求,从开源模型安全检查到企业级供应链架构。
C06AI安全运营
建立AI系统日志审计、安全事件监控、态势感知(AI SOC)及告警响应机制的能力。
运营框架
NIST Cybersecurity Framework 2.0
网络安全框架,"识别-保护-检测-响应-恢复"五 functions 适用于AI安全运营。
SIEM平台
Splunk / Sentinel AI Analytics
SIEM平台的AI分析模块,支持AI特有安全事件的集成监控与自动化响应。
前沿研究
AI SOC & Model Behavior Anomaly
AI安全运营中心概念与模型行为异常检测研究,覆盖基线建模与偏差告警。
AICSO研究
AICSO-CF C06能力矩阵
白皮书第5章定义的C06 L1-L6能力要求,从日志采集到企业级AI SOC架构设计。

D3 AI治理与风险合规

从技术层面转向制度层面,确保AI应用在合规框架内安全运行,构建组织治理能力。

C07AI治理体系建设
在企业内建立AI资产台账、生命周期审批流、管理制度及跨部门治理委员会的能力。
管理体系
ISO/IEC 42001 AI管理体系
首个AI管理体系国际认证标准,要求建立AI引入、验证、上线和退出的闭环机制。
治理框架
OECD AI Principles
OECD AI原则,覆盖包容性增长、人类中心价值、透明度、鲁棒性与问责制。
前沿研究
AI Governance Maturity Models
AI治理成熟度模型研究,涵盖从"AI可用"到"AI可治理"的五级演进路径。
AICSO研究
AICSO-CF C07能力矩阵 & ASGMM
白皮书第5章C07能力要求 + 第6章AI安全治理成熟度模型(ASGMM),含评估维度矩阵。
C08AI法规与合规
掌握国内外AI法规并确保企业AI应用合规落地的能力。
中国法规
生成式AI服务管理暂行办法
网信办等七部门发布,覆盖算法备案、安全评估、内容安全与数据合规。
中国法规
算法推荐 / 深度合成 / 内容标识
算法备案制度、深度合成管理规定与AI生成内容强制标识办法。
国际标准
EU AI Act & ISO 42001
EU AI Act风险分级体系与ISO 42001 AI管理体系,为出海企业提供双轨合规参照。
AICSO研究
白皮书第10章 中国监管要求映射
AICSO-CF能力与6部中国AI法规的映射表,含算法备案与大模型备案实施指南。
C09AI伦理与知识产权
处理AI系统的偏见公平性、可解释性审查、生成内容版权及责任归属分配的能力。
伦理框架
UNESCO AI Ethics / IEEE EAD
联合国教科文组织AI伦理建议书与IEEE伦理设计标准。
开源工具
LIME / SHAP / Fairlearn
可解释AI工具与公平性评估工具,支持模型决策解释与偏见检测。
前沿研究
AI Copyright & Liability Allocation
AI生成内容版权归属与责任分配研究,覆盖各国司法实践与立法动态。
AICSO研究
AICSO-CF C09能力矩阵
白皮书第5章定义的C09 L1-L6能力要求,从偏见识别到企业AI伦理框架设计。

D4 业务与组织领导力

超越技术和制度层面,关注AI安全的组织推动力——从风险评估到事件管理再到安全文化建设。

C10AI业务风险评估
识别AI应用场景业务风险,进行量化评估(BIA),并为管理层提供投资回报与风险决策支持的能力。
风险框架
NIST AI Risk Management Framework
NIST AI风险管理框架,"治理-测度-管理-映射"四轴指导AI风险管理实践。
国际标准
ISO 31000 风险管理
ISO风险管理通用标准,为AI业务风险评估提供方法论基础。
前沿研究
FAIR Model & AI Risk Quantification
FAIR风险量化模型在AI场景的应用,支持风险的定量化分析与决策支持。
AICSO研究
白皮书第5.7节 企业AI采纳深度与能力适配
三种企业AI采纳类型(全栈/部署/消费)的能力相关性矩阵与团队配置建议。
C11AI安全事件管理
制定AI特定安全事件(如幻觉失控、越狱传播)的应急预案、舆情公关及模型熔断回滚机制的能力。
响应标准
NIST IR 800-61 / ISO 27035
事件响应指南与信息安全事件管理标准,适用于AI安全事件的流程设计。
前沿研究
Model Rollback & Circuit Breaker
模型紧急回滚与熔断机制研究,覆盖版本管理、灰度发布与降级策略。
前沿研究
AI Incident Management & Crisis PR
AI安全事件的舆情管理与危机响应研究,覆盖对外沟通策略与品牌声誉保护。
AICSO研究
AICSO-CF C11能力矩阵
白皮书第5章定义的C11 L1-L6能力要求,从按预案响应到企业级事件管理体系设计。
C12安全沟通与培训
将技术风险转化为业务语言向董事会汇报、推动跨部门安全文化及开展全员AI安全意识培训的能力。
培训体系
Security Awareness Training Frameworks
安全意识培训体系框架,覆盖分层培训设计与效果评估机制。
组织模型
Security Champions Program
安全冠军计划,在各业务团队培养安全代言人,推动安全文化落地。
前沿研究
AI Risk Communication to Board
向董事会汇报AI风险的方法论研究,覆盖风险可视化与业务语言翻译。
AICSO研究
白皮书第7-8章 岗位体系与组织架构
AI安全官岗位说明书模板、各等级典型岗位对照、AI治理委员会与团队配置建议。

AICSO研究成果

AICSO-CF 1.0白皮书及其衍生研究,为企业AI安全治理提供系统性知识支撑。

核心AICSO-CF 1.0 能力框架白皮书
定义4-12-6能力模型,涵盖10章正文+3个附录,从个体能力到组织体系的完整图景。
白皮书
AICSO-CF 1.0 能力框架白皮书
执行摘要→AI安全官定义→4-12-6能力模型→成熟度等级→能力矩阵→治理模型→岗位体系→组织架构→案例→监管映射。
附录工具
附录A:AI风险评估检查表
数据安全、模型安全、基础设施安全、治理合规四维度检查项,可直接用于AI系统上线前必检流程。
附录工具
附录B:AI安全能力自测问卷
12项能力自评(1-6分),对照L1-L6等级标准判断自身所处阶段与发展短板。
术语标准
附录C:AICSO术语表
收录16个核心术语的中英文对照与定义,提供统一的理解基准。
专题白皮书核心研究专题
白皮书中深度展开的专题研究成果,按主题索引。
专题研究
企业AI采纳深度与能力适配(第5.7节)
三种企业AI采纳类型(全栈/部署/消费)的12项能力相关性矩阵、风险优先级差异与团队配置建议。
专题研究
ASGMM治理成熟度模型(第6章)
AI安全治理成熟度五级模型,含组织/流程/技术/文化四维度评估矩阵与评估方法。
专题研究
中国AI监管法规映射(第10章)
6部中国AI法规与AICSO-CF能力的映射表,含算法备案与大模型备案实施指南。
专题研究
行业建设路线与案例(第9章)
按企业规模(初创/中型/大型)与行业(金融/互联网/医疗/自动驾驶/制造业)的差异化建设路线。
在线工具
AI安全官能力自测工具
基于白皮书附录B的在线评估,12题3分钟,自动生成雷达图与能力短板分析。
认证课程
AICSO体系化课程矩阵
覆盖就业入门→标准实战→深度实战→企业内训→认证考试的完整学习路径。