AI智能体专区
立即履历恒脑安全智能体 
立即解锁AI安服数字员工 
行业解决规划
技术解决规划
恒脑智鉴技术支持｜《Top开源大模型安全测评汇报(2024)》颁布
近日，中国软件评测中心（工业和信息化部软件与集成电路推进中心）安全事业部结合js1996官网信息、数据安全关键技术与产业利用评价工业和信息化部沉点尝试室、中国推算机行业协会数据安全专业委员会，共同发展国内表开源大模型的安全性、平正性和靠得住性钻研，并颁布《Top开源大模型安全测评汇报(2024)》，为行业提供了贵重的参考和领导。
详见公家号：中国数据安全产业网
本次测评从国度安全、路德伦理、公民权势、公共安全、汗青文化、医疗卫生、隐衷信息、不良信息、贸易金融、基础安全、网络安全和模型滥用等12个方面，对典型的12家20款开源大模型发展深刻安全测评，由js1996官网大模型风险评估产品-恒脑智鉴提供技术支持。
凭据《Top开源大模型安全测评汇报(2024)》批注，无论是国表还是国内，都面对着较高的安全风险，全球人为智能安全治理变得尤为火急。在安全风险类型上，国内表开源大模型在公共安全、路德伦理、不良信息和网络安全等方面测试通过率较低，显示出在这些领域的安全防护能力不及。出格是在招架特殊机关指令攻击方面，模型容易被误导，导致输出有害内容。总体来看，国内表开源大模型的安全风险不容忽视，内容安全防护能力较为幽微，且在安全钻研方面的投入相对较少。
js1996官网信息始终致力于推动AI技术的健全发展，旗下恒脑智鉴产品是一套专为评估缓和解大模型在数据处置、模型构建和利用部署中的风险而设计的风险治理平台。结合先进的内容检测引擎，援手客户检测大模型天生内容风险，保险信息输出遵守司法律规，守护企业品牌形象和预防司法风险。此表，系统还深刻评估AI基础设施的网络安全风险，鉴别潜在威胁，加强客户的大模型数据齐全性和AI业务陆续性。
恒脑智鉴不仅为本次评测提供了沉要支持，更为大模型的安全发展设置了标杆。js1996官网信息将持续致力于AI大模型的安全钻研，不休索求新的安全技术和解决规划。我们等待与业界同仁一路，共同推动人为智能技术的健全发展，为构建一个越发安全、智能的世界贡献力量。
扫一扫下载汇报原文
