如何助力大模型安全发展？清华大学人工智能研究院孵化企业瑞莱智慧RealAI，日前推出了一款人工智能安全平台。
7月7日，南都记者获悉，瑞莱智慧在2023WAIC世界人工智能大会发布了全新人工智能安全平台。
据称，为大模型提供了端到端的模型安全性测评解决方案。相较上一版本，在评测维度上进行了全面升级，涵盖了近70个评测维度，包括数据安全、认知任务、通用模型特有漏洞、滥用场景等。该平台的工作流程包括通用大模型的测评和优化，通过自研红队对抗模型和教练模型，从源头上修复模型中的问题，提升安全性能。
瑞莱智慧联合创始人、算法科学家萧子豪认为，大模型“落地难”的本质在于，当前仍处于“野蛮生长”阶段，还没有找到场景、风险和规范三者之间的平衡点。而在探寻这一平衡点的过程中，缺少易用和标准化的工具，即在技术层面上缺乏有力抓手，能够科学评判大模型在场景中能否同时满足规范和低风险，且能够进一步定位问题并给出优化建议，助力模型上线运行。
萧子豪表示，未来瑞莱智慧将继续致力于技术创新和产品优化，确保在人工智能安全的攻防战中始终处于领先地位，为人工智能的高质量发展贡献力量。
采写：实习生伍晓倩南都记者黄莉玲
版权声明：本站所有作品（图文、音视频）均由用户自行上传分享，仅供网友学习交流，不声明或保证其内容的正确性，如发现本站有涉嫌抄袭侵权/违法违规的内容。请举报，一经查实，本站将立刻删除。