从印刷术到智能体，信息技术的演进始终推动着知识表达、呈现与传播方式的革新。以大模型为代表的人工智能（AI）技术，正重塑知识生产链条，引领人类迈向知识创新新纪元。然而技术突破伴生新的挑战：大语言模型存在幻觉与越狱安全问题，图像生成模型遭滥用引发社会风险，AI内容知识产权争议持续发酵。这些风险警示：拥抱技术红利时，须同步构建安全防护体系，确保AI发展安全可控。

▲马兴军

聚焦时代命题，复旦大学可信具身智能研究院青年研究员马兴军领衔的可信AI研究取得突破性进展，他在国际顶级会议持续发表前沿成果，编著的《人工智能：数据与模型安全》填补领域教材空白，研发的OpenTAI可信平台与全球机构形成技术联盟。“可信AI不仅是技术攻坚，更是科技伦理的实践。我们致力于打造具备安全、鲁棒、可控、公平与隐私保护能力的AI体系，让人机协作真正成为文明进步的可持续动力。”突破技术疆界，马兴军的研究实践已升华为履行社会责任的使命担当。

逆境破茧

从沂蒙山区到世界名校AI实验室，马兴军用知识改写了命运的轨迹。出生在山东贫困县，家徒四壁的他，从小学到高中，学费一直依靠社会捐赠和奖学金维系。高中毕业时揣着全村凑来的钱，他独自踏上北行列车到吉林大学求学。“报到时，交了学费，钱已不够买被褥，刘丽辅导员帮我付了钱，还把我送到宿舍。”1988年出生的马兴军至今清晰记得求学路上的一道道“沟壑”。

“面对家庭经济困境，我别无选择，读书是唯一出路。”马兴军坦言。困境锻造出他超乎常人的目标感和毅力。旁观者赞叹他的努力，但对他而言，努力早已成为本能：靠勤工俭学，他完成了本科学业；边工作边准备考研，他坚持每天学到深夜；为突击留学研究生入学考试（GRE）和托福考试，他竟剃光头发以迫使自己减少社交。

走上科研之路，对马兴军来说是偶然与必然交织的结果。年少时，阅读科普读物，克隆爱因斯坦的大脑、头颅移植等设想让他震撼不已，没想到这些阅读碎片在多年后与脑机接口、AI这些科学热点居然产生了奇妙连接。

大二期间通过参与通信与视频压缩课题，马兴军初识科研魅力，但本科毕业时，面对家庭经济压力，他搁置保研机会选择北漂，在大唐电信子公司从事软件开发。昔日同窗聚会时聊起的前沿AI研究，令他心潮澎湃，促使他重新审视人生方向。

经认真备考，2012年马兴军进入清华大学攻读硕士学位。求学期间，他恰遇全球深度神经网络研究热潮兴起。2012年，深度神经网络AlexNet在百万级别ImageNet图像分类挑战赛中一战成名。2015年，何恺明等人提出的残差神经网络首次在ImageNet图像分类任务上超过人类的表现。深度学习吸引了全世界的目光。

在清华大学，靳晓明教授开设的机器学习课程成为马兴军了解前沿热点的窗口。一次走廊讨论中，几位同学热议深度神经网络突破时，靳晓明教授闻声而至，眼中闪烁着光彩向大家发出邀约：“要不要来读我的博士？”这种即时碰撞的学术氛围，正是清华在AI启蒙教育中保持前沿的缩影。

当AI研究进入爆发性发展阶段，马兴军抓住机遇进入澳大利亚墨尔本大学计算与信息系统系深造。凭借企业工作经验和清华学术积累，他赢得全额奖学金支持，并获得参与导师詹姆斯·贝利教授（James Bailey）的医疗AI项目资格。

在墨尔本大学强调自主探索的科研环境中，马兴军历经两年适应期，首篇论文直至博士二年级才艰难发表。屡遭拒稿后，戏剧性的转变不期而至。“中期答辩前夜我意外收到顶会论文录用通知，隔周另一篇论文也顺利接收。”马兴军笑着说。这种“厚积薄发”的节奏贯穿他的科研历程。

深耕澳大利亚6载，马兴军聚焦可信AI研究，重点关注AI模型的安全性、鲁棒性、公平性、隐私性等核心问题。他设计的鲁棒损失函数被智慧医疗、自动驾驶、自然语言处理、图学习、科学智能等前沿领域广泛应用，有效应对现实世界中的复杂噪声标签问题，成果获学术界高度认可。

海外经历使马兴军拥有了观察世界的多重视角。留学期间，他既感受到自由探索的学术魅力，更深刻体会到不同科研体制的差异性。“西方科研体系并非尽善尽美，国内有组织的科研模式反而展现出独特优势，当需要集中力量突破关键技术时，这种系统化攻关能力往往能创造‘卡脖子’困境下的破局奇迹。”马兴军之前的认知滤镜被打破。

认知的转变并非简单的优劣判断，而是源于对科研规律的深层把握，“唯有将个人研究嵌入国家科技发展的坐标系中，才能真正释放科技创新的规模效应”。这份清醒的认知，让马兴军坚定地投身将学术理想根植于国家战略需求的具体实践中。

勤耕不辍

决定任教复旦大学，马兴军是被学校深厚的交叉学科底蕴所吸引。他坦言，自己对AI、天文学、物理学乃至人类文明演进等跨领域问题充满探索热情。尽管缺乏相关学科的系统知识储备，但复旦文理交融的学术传统、扎实的数理学科基础，以及新组建的六大工科创新学院所构建的跨学科平台，为他提供了独特的研究土壤。

作为可信AI领域的探索者，马兴军聚焦于解析AI系统的运行机理与潜在缺陷。这一方向不仅需要深度理解现有模型的工作机制，更要系统诊断其失效边界并寻求改进路径。为此，他必须融合多学科视角。入职3年来，马兴军已与数学、伦理哲学及自然科学领域的学者建立起实质性合作，这种突破学科壁垒的科研生态，远超他入职初期对学术协作效率的预期。

马兴军与姜育刚教授、吴祖煊副教授合作，面对AI模型快速演进与安全威胁同步升级的行业现状，他们将理论研究成果与工程实践经验相结合，编撰完成《人工智能：数据与模型安全》一书。书中以数据安全、模型安全为双主线，系统解析了对抗样本生成、隐私保护算法等关键技术，成为国内首部系统论述相关领域的专业教学用书。著作通过构建完整的知识框架，为应对大模型时代的安全挑战提供了理论储备，并荣获机械工业出版社华章分社2024年度金码奖。

在教学实践中，马兴军主导的“人工智能基础”课程已成为复旦大学理工医学科核心通识课，每学期开设9个平行班，年均覆盖逾千名本科生。针对零基础学生的特点，课程构建“理论+实践”立体化教学架构，独创“1+4”协同教学模式——每班除主讲教师外配备4名研究生助教。助教团队全程参与教学：编写零基础适配代码文档，提供线上线下即时答疑，破解新生编程门槛，实现理论教学与工程能力的有机融合。

▲马兴军（中）与学生在华为进行合作交流

在研究生培养和团队建设方面，马兴军结合跨文化教育经验创新培养策略。针对国内学生学术自驱力强但创新视野不足的特点，采用适度宽松管理模式，在选题论证、技术路线设计等关键环节，着重引导学生突破思维定式，鼓励自主探索。这种培养方式使团队逐渐形成了敢于尝试、勇于突破的研究氛围，大家更主动地投身于具有挑战性的课题，科研创新能力和学术品味得到明显提升。

通过定期邀请领域专家开展国际联合指导、主动对接海外优质学术资源、组织跨学科研讨等方式，马兴军持续开阔团队视野。目前，团队已建立起涵盖基础研究到应用转化的完整科研链条，成员在理论突破与工程实践能力上均展现出快速成长的态势。

在科研上，2022年归国后，马兴军带领团队与上海人工智能实验室治理研究中心和清华大学团队共同研发了蒲公英人工智能治理开放平台（OpenEGLab），同年9月1日，平台在世界人工智能大会上正式发布。

针对全球AI治理面临的规则碎片化、文化差异大、技术落地难等痛点，平台构建了覆盖伦理原则、政策法规、技术标准的多维度数据库。这让不论是政府工作人员还是业内企业、研究人员都能更方便、直接地查找所需相关条文，共同促进AI的发展。

“平台的目标是打造系统、实用的AI伦理与治理基础设施，目前定位为公益、开放的AI治理共创平台。取名‘蒲公英’，代表着希望、温暖与友谊，寓意知识传播与协作共享。”马兴军介绍。这种将理论研究、技术开发与实际应用深度耦合的模式，正为打造系统、实用的AI伦理与治理基础设施提供着新思路。

探索不止步，在平台完善升级上，马兴军不遗余力推陈出新。2025年3月31日，在复旦大学可信具身智能研究院揭牌仪式上，他牵头发布了可信AI开放平台（OpenTAI），集成可信AI核心技术，打造开放共享的创新生态，以“信任是智能的终极形态”为理念，推动安全、可靠、可控的AI发展，共同探索可信AI的未来。

高质量数据是可信评测的核心支柱，OpenTAI平台正式开放四大核心数据集，目前，这些数据集已被全球40余个国家、100多家机构与研究团队采用。平台将持续扩展多模态具身安全数据生态。此外，平台还正式推出三大核心工具集，这些工具集将前沿研究成果转化为即用型解决方案，全部开源并兼容主流开发平台，已在自动驾驶、内容安全等实际场景得到验证。平台通过持续集成最新攻防技术，构建从研究到产业应用的完整创新闭环，助力开发者快速打造安全可靠的AI系统。

马兴军坦言，在可信AI领域，从大规模对抗攻击到后门风险检测，从大模型安全对齐到大语言模型审计，诸多前沿科学难题亟待突破。这些难题的解决需要跨越国界、语言、文化和应用场景的深度协作。为此，OpenTAI平台打造开放研究社区，汇聚领域力量，通过联合创新攻克技术壁垒，推动大规模通用可信技术的研发。“我们诚邀学术界与产业界伙伴加入，共同构建更安全可信的AI技术体系。”马兴军说。未来，OpenTAI将持续搭建跨国界、跨学科的合作桥梁，与全球伙伴携手，共同推动可信AI技术的创新与发展。

臻于至善

2025年，马兴军因在可信AI领域的创新探索入选“AI100青年先锋”榜单。这项由《麻省理工科技评论》-中国与深科技（DeepTech）联合发起的权威评选，聚焦40岁以下在AI技术创新、产业落地及社会价值维度表现卓越的青年领军者。

“科研的价值不在于论文数量，而在于能否成为国家需求与人类发展的探路者。”面对获奖，马兴军坦言自己并非传统意义上的“奖项收割者”，但这份认可让他看到学界对可信AI研究的迫切期待。在他看来，真正的“先锋派”须直面3个维度的挑战：突破技术瓶颈的科研勇气、平衡创新与风险的全局思维、推动技术向善的社会责任感。正是这种理念，驱动他带领团队在可信AI领域持续深耕。

秉持“国际共建、开放共享”的核心理念，近期，联合英国牛津大学、美国伊利诺伊大学厄巴纳-香槟分校等全球9国26家顶尖机构，马兴军领衔发布迄今为止领域内规模最大的大模型安全技术综述，系统梳理了大模型安全领域的最新进展，为行业提供了重要参考。

从沂蒙山区仰望云海的少年，到AI领域的青年科学家，马兴军始终铭记教育改变命运的力量。如今，他资助偏远地区学子，每封受助学生的来信都让他想起曾经的自己。“那些躺在山坡上幻想远方的孩子，值得被赋予更多可能性。”在他看来，AI不仅是技术革命的引擎，更是破解教育不均衡的密钥——通过虚拟现实、自适应学习系统等技术，未来山区的课堂或将直通全球顶尖教育资源。这一愿景，正逐渐融入他的科研规划。

回溯成长轨迹，马兴军将科研信念的源头归于多位师长的精神馈赠：小学班主任“行正道则不惧”的品格启蒙，大学辅导员“以乐观消解贫困阴影”的豁达，博士生导师“自由探索比循规蹈矩更重要”的治学理念，共同塑造了他“做正确而非功利之事”的价值观。如今，他也在科研团队中延续这种传承——为青年学者创造容错的创新环境，鼓励跨学科碰撞，正如当年老师们为他推开的自由探索之门。

站在AI技术重塑人类文明的关键节点，马兴军始终保持着清醒认知：既要以技术筑牢AI安全的防线，也要以人文温度拓宽科技普惠的边界。“当我们谈论AI的未来时，不应只关注算力的跃迁，更要思考如何让每个人都能平等触碰时代的脉搏。”这份兼具理性与情怀的愿景，或许正是他对“先锋”二字最生动的诠释。

来源: 科学中国人