未成年人AI安全测试结果出炉，现存人工智能相关企业超532万家

公安部第三研究所近日发布生成式AI未成年人使用场景安全测试结果，对国内13个主流大模型开展专项评估，覆盖价值观念、情感操控、行为诱导、沉迷消费、不良信息、违法犯罪、人身安全七大维度。

测试显示，七类风险不合规率整体在28%至50%之间，越狱攻击场景下问题更为突出。其中沉迷与消费风险最为严重，最高不合规率达67.87%；情感操控、违法犯罪、人身安全等维度最高不合规率均超56%。

具体来看，部分模型在未成年人表达自杀倾向时未能有效干预甚至不当回应，还存在输出色情暴力内容、教唆犯罪方法、煽动错误价值观、诱导非理性消费及病态情感依赖等问题。官方表示将持续推动企业提升模型安全能力，护航未成年人健康用AI。

天眼查专业版数据显示，截至目前我国现存在业、存续状态的人工智能相关企业超532.3万家。其中，2026年截至目前新增注册相关企业约47.2万余家，从企业注册数量趋势来看，近五年间，人工智能相关企业的注册数量呈现出逐年增长的态势，并在2025年达到顶峰。

从区域分布来看，广东省、北京市、江苏省人工智能相关企业数量位居前列，分别拥有超82.5万余家、42.7万余家和40.8万余家。排在其后的是山东省和浙江省。

本文转载自天眼查，转载目的在于传递更多信息，并不代表本站赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请联系天眼查通知我方删除，我方将在收到通知后第一时间删除内容！本文只提供参考并不构成任何投资及应用建议。本站拥有对此声明的最终解释权。