蚂蚁集团周俊：大模型产业落地，关键是解决可信问题

近日，蚂蚁集团智能引擎技术事业部副总裁周俊出席“生成AI·重塑未来——专精特新高质量发展大讲堂（第五期）人工智能专场”，发表题为“大模型发展与落地思考”的主旨分享。周俊表示，生成式人工智能大模型蕴含许多机遇，有着巨大市场规模的应用前景；但因其复杂结构和大量参数，增加了模型的不确定性和风险，所以降低了用户的信任度。因此，解决可信问题是大模型落地过程中要解决的关键问题。

蚂蚁大模型技术和应用布局

生成式人工智能（Gen AI）通过大模型正加速发展，在2023年全球Gen AI市场整体收入为670亿美元，预计2032年将达到1.3万亿美元。百模大战、一卡难求与智算中心的加速建设，反映当前生成式人工智能竞争的焦点仍集中于基础模型与计算基础设施。周俊认为：大模型的出现是AI新世界的一个小火花，将大模型真正融入千行百业的创新应用中，才是百花齐放之时。当前，生成式人工智能在科技、零售、银行、医药、通信、教育等行业均有试点落地，但距离规模应用还很遥远。蚂蚁集团始终秉持开放的思想，希望和各行业合作伙伴开展跨界合作，共同推动人工智能可信化的程度往前发展。周俊表示，只有大模型的创新应用深度融入千行百业，实现生产力变革，才能带来AI新技术范式内在价值的真正释放。

大模型产业落地中的可信性挑战

随着大模型服务不断地发展，包括蚂蚁集团在内的许多企业需要不断更新其算法系统以应对新的挑战，首要面对的就是可信方面的问题。首先在生命攸关、财产攸关等敏感领域，如何确保可靠、有效应用大模型服务，一方面缺乏标准，另外一方面技术也尚未成熟。

其次，当前大模型技术创新关注在通识能力提升与模态扩展上，在特定领域知识强化、真实性、准确性上关注不够。周俊认为，大模型的本质在于数据驱动，即通过对海量数据的深度挖掘和分析，提取出有用的信息。但在庞大的数据库中，往往隐含着有害样本（比如隐私和敏感数据），如何挖出这些数据也是值得思考的问题。

蚂蚁可信大模型之创新实践

对于如何解决上述可信性问题，周俊表示，这是全面的系统性工程，在数据、算法、应用、安全和隐私保护维度上都要兼顾。作为国内领先的金融科技公司，蚂蚁集团秉持准确专业、可控透明、真实严谨、安全可靠四个维度的可信要求，在数据保障、算法保障、应用保障、安全与隐私保护方面，持续投入与创新，他从四个方面充分展示了蚂蚁可信大模型做出的创新实践。

可信大模型实践之一：人工反馈强化学习。大模型人工反馈强化学习系统是一种结合了深度学习、强化学习和人工反馈的先进机器学习框架。该系统通过收集人类反馈、规则等信息，结合强化学习，实现对复杂环境的感知和理解。

可信大模型实践之二：行业领域知识增强。通过搭建知识图谱和大模型双向融通的模式，将现实世界中的复杂关系抽象为计算机可理解和处理的数据结构，帮助大模型提升回答的专业性和准确性。

可信大模型实践之三：内嵌风险防御。在模型生成内容后，通过自然语言处理技术、图像理解技术等对生成内容进行自动识别和过滤，确保内容符合法律法规和道德规范。

可信大模型实践之四：蚁鉴AI安全检测平台，基于对抗演练持续优化安全能力。搭建一体化的安全检测的平台，通过多种安全检测算法和技术，不断优化大模型安全能力与防控治理体系。

最后，周俊展望了未来人工智能在行业中的应用。通过民生政务与AI结合，优化政务服务，提升治理水平，促进社会公平；通过能源行业等与AI的结合，优化能源使用，推动社会和谐发展。随着技术的不断发展和应用场景的不断拓展，蚂蚁集团将继续深化人工智能在金融领域的应用与发展，为全球用户提供更加高效、安全、智能的金融服务。

本文来源：中国金融信息中心 陆家嘴金融网

文字：魏嫣然（实习生）、顾至冉

统筹：顾至冉