人工智能的飞速进步和应用带来了前所未有的机遇和挑战，也将可信人工智能推向产业发展的前台，正在金融、保险、制造、医疗等领域加速落地。伴随人工智能技术底座不断夯实和大模型、AIGC等的爆发式增长，人工智能迈出了走向通用人工智能的关键一步，2023年4月中共中央政治局会议强调“重视通用人工智能发展，营造创新生态，重视防范风险”，可信AI成为新阶段平衡创新与风险的重要技术手段。

　　

 

　　2023年7月7日，2023世界人工智能大会“聚焦·大模型时代AIGC新浪潮”论坛于上海成功举办，中国信通院联合清华大学、蚂蚁集团共同发布《可信AI技术和应用进展白皮书(2023)》(以下简称“白皮书”)，中国信通院华东分院院长廖运发、清华大学副教授李琦、蚂蚁集团机器智能部副总经理张天翼出席发布仪式，共同见证白皮书正式发布。

　　白皮书编写团队充分发挥各自优势，凭借扎实的技术能力和深入的产业观察，基于统一的可信AI认知维度，梳理总结可信AI技术和应用发展现状，提炼面向新阶段大模型和AIGC引发的新需求，形成以技术为保障的可信AI评估体系和工具，并从技术、产业、生态和监管维度对可信人工智能发展提出了建议，对趋势进行了展望。希望借助本白皮书的发布，能够帮助社会各界更加全面地了解可信互连技术内涵及现状，共同推动产业发展。

　　清华大学副教授李琦对白皮书进行了解读。希望本次白皮书的发布能够给未来可信人工智能发展带来建议和启发，使可信AI技术迎来研究应用更加均衡、内在动力更加多维、外在监管更加全面的新局面。

　　白皮书内容目录

　　第一章 人工智能迈向发展新阶段

　　1.1人工智能发展迎来全新时代

　　1.2人工智能可信面临全新挑战

　　1.3全球人工智能治理机制进展

　　第二章 可信AI产业实践深入发展

　　2.1应用AI鲁棒性技术对抗恶意攻击

　　2.2应用AI可解释性技术提升决策透明度

　　2.3互联网平台公平性探索

　　2.4 AI应用实践中的数据模型安全和隐私保护

　　第三章 面向大模型和AIGC的可信AI探索

　　3.1大模型和AIGC的发展与生态

　　3.2大模型的生成式攻击和防御

　　3.3大模型自身的安全风险与隐患

　　3.4大模型的可解释性及公平性

　　第四章 以技术为保障的可信AI评估

　　4.1可信AI检测工具

　　4.2可信AI检测框架

　　4.3检测实例分析

　　第五章 发展建议和趋势展望

　　5.1发展建议

　　5.2未来展望

　　如果您对白皮书内容感兴趣，欢迎与编写组联系：

　　常永波

　　中国信通院华东分院