完善人工智能治理应着重处理好四组关系

　　□林韬杰 赖喜娜 赵建仓

　　当前，人工智能深入发展、广泛应用，但人工智能在提升生产力水平的同时也带来治理挑战，如何以“善治”促进“善智”，成为全社会共同关注的焦点问题。当下，完善人工智能治理亟需处理好技术与社会、效率与公平、秩序与活力、发展与安全四组关系。

　　要处理好“技术跃迁”与“社会接纳”的关系

　　完善人工智能治理首先应从技术维度入手，首要议题是弥合技术跃迁与社会接纳之间的鸿沟。技术快速演进与社会迟滞认可之间的张力，现已成为制约智能技术深度应用的主要障碍。在技术层面，人工智能技术迅猛发展，关键技术的突破，助推一批头部企业快速实现从“工具性整合”向“平台化统辖”功能跃迁，进而积攒了赋能千行百业的澎湃势能。

　　然而，智能技术的高度复杂和不可解释等“黑箱”特性无可避免地引发广泛社会性担忧，公众对智能技术应用存在隐私泄露、风险外溢、责任模糊等诸多担忧和困惑。此外，公众对智能技术应用更深层次的担忧，还在于其正加快重塑人机关系界限并挑战人类情感、伦理、道德和价值体系，这些现实担忧在一定程度上削弱了社会对智能技术的接纳程度，进而可能阻碍智能技术势能向经济社会发展动能转换的进程。

　　因此，处理好技术与社会的关系，是完善人工智能治理需要率先解决的基础性问题，也是优化智能技术发展应用环境的题中之义。化解人工智能发展的“技术-社会”张力，需要从研发和应用两端着手予以干预。在研发端，要促进技术理性与价值理性对齐，确保技术设计本身内嵌“技术向善”的理念和准则；在应用端，要通过“人工智能社会实验”等必要手段评估技术的社会适用性，确保进行合乎伦理规范和主流价值观的产业应用。

　　要处理好“效率提升”与“分配公平”的关系

　　促进生产效率提升是人工智能最直接的经济影响，但若片面追求效率，将会影响发展成果的公平分配。人工智能的高质量发展应当统筹效率与公平，最大程度确保技术发展红利由各参与方互惠共享。

　　从效率层面看，人工智能技术的应用推动生产要素高效配置和生产关系重构，“黑灯工厂”、无人驾驶、智能配送等一批高效率场景迅速落地，为企业降本增效提供了现实解决方案。然而，效率提升的背后却隐藏着分配公平风险。从公平视角审视，某些新型就业形态劳动者群体，为算法迭代、模型训练等关键技术攻关贡献了大量行为数据。但在技术实现规模化商用之后，部分从业者或将面临职业替代的潜在风险，难以充分分享技术发展红利，甚至可能承受算法带来的不利影响。与此同时，算法偏见也可能进一步放大公平层面的挑战，例如AI辅助招聘场景下，可能容易出现基于性别、地域、院校的隐形筛选倾向，背离公平就业的内在要求。这类分配层面的失衡，会制约智能技术的深度应用，也会妨碍其增效价值的充分释放。

　　由此，处理好效率与公平的关系，是完善人工智能治理亟需回答的重要课题，事关能否有效调动多元主体积极性，促进人工智能向上向善。破解人工智能发展的“效率-公平”矛盾，需要强化政府引导、市场自律和行业监督。政府应加快完善政策法规，强化技术发展公平普惠价值引导；企业应恪守技术应用伦理准则，增强社会责任感和公共精神；行业协会应健全行业内部监督约束机制。多方合力，共同保障技术发展惠及全体社会成员。

　　要处理好“秩序稳定”与“创新活力”的关系

　　人工智能技术呈现强赋能性、强颠覆性、强战略性耦合叠加特征，这决定了针对人工智能的治理务必要统筹平衡好秩序稳定和创新活力的关系。

　　建立健全富有韧性、适度超前的人工智能技术政策和产业政策框架，是确保国家或地区在发展竞争中赢得技术主动权、抢占产业制高点的必要前提，这有助于提升人工智能创新活力并加速智能技术迭代升级。但同时，若政策框架与当下实际条件、现实需求不相适配，如“管得太死”或“放得太松”，则容易导致智能技术创新不足或治理失序，进而错失新一轮科技革命和产业变革的窗口机遇，抑或掉入新兴技术的负外部性陷阱。

　　因此，在秩序与活力之间寻求平衡点，是当前完善人工智能治理的关键制度设计问题和核心政策安排议题，事关智能技术能否始终沿着国家和地区既定的战略规划持续有序迭代升级，并对经济社会发展发挥正向促进作用。维系人工智能发展的“秩序-活力”平衡，需要针对不同领域风险评级并且精准分类施策，构建张弛有度的制度框架、深化韧性治理。

　　要处理好“发展趋势”与“安全可控”的关系

　　统筹发展与安全是推动科技创新工作的重要原则，人工智能作为引领新一轮科技革命和产业变革的战略性技术，处理好其发展与安全问题尤显关键。

　　人工智能技术自身发展及其作为工具赋能千行百业发展，是理解人工智能发展逻辑的两个主要维度。但无论从哪个维度讲，驱动人工智能发展都务必确保安全可控。相较于人工智能自身内蕴的“黑箱”等技术风险，其在赋能千行百业过程中因被滥用、恶用、错用、误用而引致的市场风险、社会风险、伦理风险等更加令人担忧。尤其在我国大力推进“人工智能+”行动的政策背景下，智能技术在各领域规模化落地，随之衍生的各类安全问题，值得各方予以高度重视。因此，处理好安全与发展的关系，是完善人工智能治理的长期性目标和根本落脚点，驱动发展是人工智能技术进步的目的，安全则是智能技术应用的关键底线，二者是相辅相成的天平两端，偏重任何一端都将破坏系统稳定，唯有动态平衡发展与安全，方能确保人工智能可持续发展。

　　统筹人工智能领域的“发展-安全”目标，应加大力度实施全周期敏捷治理。在研发阶段，要建立严格的安全评估机制，对新技术的潜在风险提前进行评估把关；在应用阶段，要构建实时监测与预警体系，实时跟踪技术应用情况，根据变化灵活快速采取应对措施；在总结阶段，要及时复盘梳理治理经验和教训，避免僵化的治理机制，持续迭代优化治理体系，健全包容试错、动态调适的治理机制。

　　作者单位：林韬杰，广东省生产力促进中心、人工智能与数字经济广东省实验室（广州）；赖喜娜，人工智能与数字经济广东省实验室（广州）；赵建仓，人工智能与数字经济广东省实验室（广州）、华南理工大学

　　注：本文系2022年度广州市重点研发计划重大科技专项“广州国家新一代人工智能创新发展试验区人工智能社会实验揭榜挂帅项目”（20220602JB-GS04）、琶洲实验室自立项目“广州重点领域人工智能社会实验研究”（PZL2022ZZ0001）、“琶洲实验室运行期成果产业化体系建设研究”（PZL2024ZZ0001）的阶段性成果