日前,中央网信办秘书局、市场监管总局办公厅联合印发《智能社会发展与治理标准化指引(2025版)》(以下简称《指引》)。
《指引》提出了智能社会发展与治理的基本原则和要求,明确了常见智能技术应用场景、社会影响及其观测评估指标,规定了人工智能社会实验的一般程序和要求,构建了包括基础通用、发展与治理原则、场景应用、技术和方法、效果评价等五部分内容的智能社会发展与治理标准体系,为各地方、各部门、科研院所、企事业单位等开展智能社会发展与治理理论研究和实践活动提供技术支撑和规范指引。
《指引》提出,开展人工智能社会实验,推进智能社会发展与治理标准化工作须遵循三方面原则。一是增进福祉,注重和谐。在社会发展层面,应以社会高质量发展为目标,建设人与智能技术相和谐的社会环境,提升生活水平与社会福利,促进经济社会可持续发展。相关内容包括但不限于:促进和谐共生。推动社会和智能技术协同发展,降低智能技术发展造成社会冲突的风险,以技术进步促进社会发展,增强社会向心力、塑造社会凝聚力。遵守公序良俗。坚持有益社会的价值导向,坚守智能技术全生命周期中应遵循的基本伦理价值和道德观念,以科技向善引导文明行为,保障社会规范。确保公平普惠。保证智能技术应用中秉持公正平等,充分考虑社会各界多元需求,采取有效措施防止产生偏见歧视,最大限度实现惠及全民的技术覆盖,保障全社会共享技术创新成果。
二是以人为本,保障权益。在个人权益层面,应保障人类各项基本权利,尊重个人利益诉求,以技术进步促进个人发展。相关内容包括但不限于:保障基本权利。在智能技术发展中保障个人生命健康、人身自由、私人财产等权利不受侵犯,切实保障智能技术在产品设计、系统搭建、应用服务过程中符合法律法规和各项要求,确保安全、合法、高效。体现关怀救济。充分尊重对智能技术接受程度和使用意愿的个体化差异。提升各类群体技术适应性,努力弥合技术鸿沟,为无法接触技术或者技术使用困难的个体提供替代方式,促进人机和谐友好交互。保证知情同意。在产品与服务中使用智能技术应明确告知用户,明示智能产品与服务的功能与局限,保障用户的知情、同意等权利。尊重用户选择,为使用或者退出智能产品与服务提供简便易懂的解决方案。
三是包容创新,持续优化。在技术治理层面,应保障智能技术安全和系统可控,为智能技术的研发、应用与共享提供敏捷包容的发展环境。相关内容包括但不限于:实现责任可溯。明确智能技术研发和使用等相关方的责任,建立伦理冲突和技术事故的问责机制。强化智能技术研发过程安全管理和风险评估能力,实现智能技术的可审核、可监督、可追溯。强调审慎敏捷。持续评估智能技术发展水平与社会影响,避免技术滥用与误用,禁止违规恶用。根据智能技术特征优化监管模式,建立敏捷的响应与协调机制,及时发现和解决可能引发的风险。促进包容开放。推进智能社会发展与治理多元参与,推动政府部门、科研院所、教育机构、企业、社会团体、社会公众互动协调。促进跨学科、跨领域、跨地区、跨国界交流合作,推动形成具有广泛共识的智能社会发展与治理框架和标准规范。 (作者:子千)
(二)中观层面.........................................................5
(三)宏观层面.........................................................6
四、人工智能社会实验规程........................................7
(一)实验准备,组织应用........................................7
(二)实验开展,科学测量........................................8
(三)实验反馈,综合评估........................................9
五、智能社会发展与治理标准体系框架.......................9
(一)基础通用标准.................................................10
(二)发展与治理原则标准.......................................10
(三)智能社会发展与治理场景应用标准...................11
(四)技术和方法标准..............................................13
(五)效果评价标准.................................................14
人类社会正迈向以人工智能为关键技术支撑的智能社会。总结形成智能社会发展与治理的经验规律和理论,超前探索智能社会发展与治理的标准规范,完善适应智能社会发展与治理的体制机制,将有效支撑国家治理体系和治理能力现代化建设。为落实中共中央、国务院《关于加快建设全国统一大市场的意见》和《国家标准化发展纲要》的要求,深入推进人工智能社会实验,加快形成适应智能社会发展与治理的标准体系,充分发挥标准化的基础性、引领性作用,特制定《智能社会发展与治理标准化指引(2025 版)》。
一、总体要求
(一)基本内涵
智能社会发展与治理的标准化,是指围绕智能社会发展与治理的现实或潜在问题,基于人工智能社会实验等科学循证方法,探究智能技术带来的社会影响及其作用机理,围绕智能技术社会应用的基本原则、测试优化方法和效果评估,制定、发布和实施规范性文件的活动。
(二)工作目标
建立健全科学合理的智能社会发展与治理标准研究制定、实施反馈、优化完善的工作机制,建成覆盖智能技术主要社会应用场景、有效保障技术全生命周期良性健康发展的标准体系,为推动智能社会发展与治理标准化创新打下良好基础。
(三)主要内容和适用范围
本指引提出了智能社会发展与治理的基本原则和要求,明确了常见智能技术应用场景、社会影响及其观测评估指标,规定了人工智能社会实验的一般程序和要求,构建了智能社会发展与治理的标准体系框架。
本指引适用于智能技术社会应用与评估领域的标准化活动,为智能社会发展与治理相关工作提供技术支撑,同时可为国家智能社会治理实验基地建设等专项工作提供规范。各地方、各部门、科研院所、企事业单位等开展智能社会发展与治理理论研究和实践活动时,可参考使用本指引。
二、智能社会发展与治理原则
开展人工智能社会实验,推进智能社会发展与治理标准化工作,须遵循以下三方面原则。
(一)增进福祉,注重和谐
在社会发展层面,应以社会高质量发展为目标,建设人与智能技术相和谐的社会环境,提升生活水平与社会福利,促进经济社会可持续发展。相关内容包括但不限于:一是促进和谐共生。推动社会和智能技术的协同发展,降低智能技术发展造成社会冲突的风险,以技术进步促进社会发展,增强社会向心力、塑造社会凝聚力。二是遵守公序良俗。坚持有益社会的价值导向,坚守智能技术全生命周期中应遵循的基本伦理价值和道德观念,以科技向善引导文明行为,保障社会规范。三是确保公平普惠。保证智能技术应用中秉持公正平等,充分考虑社会各界多元需求,采取有效措施防止产生偏见歧视,最大限度实现惠及全民的技术覆盖,保障全社会共享技术创新成果。
(二)以人为本,保障权益
在个人权益层面,应保障人类各项基本权利,尊重个人利益诉求,以技术进步促进个人发展。相关内容包括但不限于:一是保障基本权利。在智能技术发展中保障个人生命健康、人身自由、私人财产等权利不受侵犯,切实保障智能技术在产品设计、系统搭建、应用服务过程中符合法律法规和各项要求,确保安全、合法、高效。
二是体现关怀救济。充分尊重对智能技术接受程度和使用意愿的个体化差异。提升各类群体技术适应性,努力弥合技术鸿沟,为无法接触技术或者技术使用困难的个体提供替代方式,促进人机和谐友好交互。
三是保证知情同意。在产品与服务中使用智能技术应明确告知用户,明示智能产品与服务的功能与局限,保障用户的知情、同意等权利。尊重用户选择,为使用或者退出智能产品与服务提供简便易懂的解决方案。
(三)包容创新,持续优化
在技术治理层面,应保障智能技术安全和系统可控,为智能技术的研发、应用与共享提供敏捷包容的发展环境。相关内容包括但不限于:
一是实现责任可溯。明确智能技术研发和使用等相关方的责任,建立伦理冲突和技术事故的问责机制。强化智能技术研发过程安全管理和风险评估能力,实现智能技术的可审核、可监督、可追溯。
二是强调审慎敏捷。持续评估智能技术发展水平与社会影响,避免技术滥用与误用,禁止违规恶用。根据智能技术特征优化监管模式,建立敏捷的响应与协调机制,及时发现和解决可能引发的风险。
三是促进包容开放。推进智能社会发展与治理多元参与,推动政府部门、科研院所、教育机构、企业、社会团体、社会公众互动协调。促进跨学科、跨领域、跨地区、跨国界交流合作,推动形成具有广泛共识的智能社会发展与治理框架和标准规范。
三、智能技术社会应用场景与影响评估
推动智能社会发展与治理,必须厘清智能技术的应用场景,识别、界定、观测和评估相关社会影响,对可能出现的风险和挑战做好应对。根据智能技术的作用对象,可将智能社会发展与治理的应用场景及影响划分为微观、中观、宏观三个层面。
(一)微观层面
智能技术作用于个人的主要场景包括:自动驾驶、智能家居、智能客服等。如利用生物特征识别、行踪轨迹等敏感信息进行身份验证;通过智能传感技术感知周围环境进行辅助驾驶;智能监测个人健康状况为医师诊断和治疗提供辅助参考;基于推荐算法的智能检索和信息推送服务等。上述应用场景中,可能产生的影响包括:心理状态、行为模式、价值观念、社会关系等的变化。如人脸识别技术应用对个人安全感的影响;自动驾驶对个人出行范围、社交网络和就业的影响;网络游戏对用户沉迷、过度消费、家庭关系变化的影响等。评估智能技术在微观层面产生的影响,可观测的指标包括:一是个体行为。如测量移动应用程序测量使用频率、用户使用意愿,收集用户兴趣热点、活动轨迹等行为偏好。二是个体感知。如通过问卷调查收集个人的风险认知、技术接受程度等心理动态,以及幸福感、获得感和安全感等主观感受。
(二)中观层面
智能技术作用于组织与行业的主要应用场景包括:智慧教育、智慧医疗、智慧金融等。如线上教育平台利用大数据智能技术进行师生画像、知识推送并提供虚拟教师;医疗机构运用图像识别技术、自然语言处理进行医学影像智能识别并提供辅助诊断参考;金融机构运用智能技术开展市场预测、风险评估、投资分析业务等。
上述应用场景中,可能产生的影响包括:业务流程、组织关系、职责分工和组织运行模式等的变化。如智能制造技术应用对行业和组织管理流程再造的影响;智能电网应用对供电企业能源分配和管理方式的影响等。
评估智能技术在中观层面产生的影响,可观测的指标包括:一是经济效益变化情况。如通过在线销量数据分析智能推荐技术应用前后对销售效益的影响;通过生产效率、质量控制等数据观测智能制造技术应用对产品制造流程的影响。二是组织治理或者行业协同水平变化情况。如通过收集企业战略转型动向、产业生态发展情况、组织响应速度等数据,观察智能技术应用对战略实施情况、行业协同效能、组织结构适应性等的影响。
(三)宏观层面
智能技术作用于社会的主要应用场景包括:数字政府、智慧城市、数字乡村、智能应急管理等。如通过建立城市大脑监测调度城市运行情况;利用能源大数据预测用能需求、经济发展等。上述应用场景中,可能产生的影响包括:公共治理方式、社会服务能力、应急响应流程、公众参与模式等的变化。如互联网平台信息传播对于社会舆论的影响;数字金融技术应用对于金融体系和经济安全的影响;智能应急管理对于风险管理能力的影响,数字乡村建设中移动应用程序使用对乡村治理结构的影响等。
评估智能技术在宏观层面产生的影响,可观测的指标包括:一是政府治理与决策的效率和效果。如通过数字公共服务平台的数据变化,分析智能技术应用对政府响应与资源调配速率的影响;通过经济运行数据变化,观察智能技术应用对区域经济增长率、节能减排的贡献等。二是公共服务质量的优化改进情况。如通过终端传感器运行数据或舆情监测数据,分析公共服务均衡度与满意度的改善等。
四、人工智能社会实验规程
人工智能社会实验是国家智能社会治理实验基地探索智能社会发展与治理路径的关键方法,也是智能社会发展与治理标准化的基础方法之一。人工智能社会实验通过识别、界定、观测和评估特定智能技术社会应用场景的影响,分析可能带来的治理挑战,总结应对措施,形成解决方案和标准。其规程主要包括组织应用、科学测量和综合反馈三个阶段。
(一)实验准备,组织应用
一是明确技术与应用场景。聚焦突出问题,选取具有典型代表性的技术和应用场景,观测技术对微观个人、中观组织或宏观治理的综合影响。应用场景可选择已有场景,或新建场景,若为新建场景,应充分评估,减少重复建设。
二是明确参与主体。实验要有明确的应用主体、研究主体、技术主体,各建设主体间分工明确。应用主体具备建设实验场景的条件,研究主体具有智能社会发展与治理研究能力和相关领域政策制定经验,技术主体具有搭建实验场景所需的技术水平。
三是明确实验方案。各主体应建立组织实施机制,明确沟通协商程序,共同设计实验方案,为实验场地、经费、数据等提供必要保障,解决场景建设、实验布点、成果转化等环节出现的问题。
四是防范伦理风险。方案要明确伦理风险预警机制,制定应急预案,注重全流程伦理风险防控,开展必要的伦理审查,确保实验符合法规政策、社会伦理、科研伦理。例如,抽样分组要充分考虑弱势群体的公平性,以符合科研伦理。
(二)实验开展,科学测量
一是选取测量要素。围绕实验要解决的社会问题或要达到的治理目标,选取科学合理的测量要素。要素应体现技术应用对微观个人、中观组织或宏观治理的综合影响。
二是明确测量指标。将测量要素转变为内涵清晰、概念准确的可测度变量。例如,将人工智能技术对组织运转模式、行为轨迹等影响,转变为机构调整、出行方式等可测量的具体数据指标。
三是科学抽样与分组。选择合理的实验类型和规范的抽样方法,科学设置实验组和控制组,充分考虑弱势群体、特殊群体等因素,保证实验数据的科学性和代表性。
四是数据收集与分析。依据科学、规范的社会科学测量手段,综合利用观察记录、问卷调查、大数据捕捉与社会计算等方法,进行数据收集和处理,并开展恰当的定性或定量分析。
(三)实验反馈,综合评估
一是综合集成。综合技术发展可能、社会个体的接受程度、经济文化环境等因素,形成技术标准、技术规范、政策建议等实验成果。
二是实验评价。对实验过程和成效进行评价,内容包括实验场景建设情况、组织与保障机制、风险防范与伦理审查、工作计划执行效果、实验成果及转化等。
三是成果反馈。实验成果反馈给各有关方面,以提供智能技术赋能社会发展与治理的经验与政策建议。
五、智能社会发展与治理标准体系框架
标准是人工智能社会实验工作的重要成果。为充分发挥标准在智能社会发展与治理中的基础性、引领性作用,应整体部署和系统推进,构建适应技术创新需要、满足产业发展需求、支撑智能社会建设的智能社会发展与治理标准体系。智能社会发展与治理标准体系框架结构包括基础通用、发展与治理原则、智能社会发展与治理场景应用、技术和方法、效果评价等五个部分,如图 1 所示。
(一)基础通用标准3. 风险跟踪与评价标准。规范针对人工智能社会实验过程中产生的伦理风险与社会问题,包括围绕风险跟踪与评价的科学性、有效性、准确性,提出风险识别、风险预防、风险监测、风险跟踪与预防评估的方法等。