人工智能时代的科学:知识、数据和信任
国际科学理事会和ISC数据委员会
会话216
背景
人工智能正在重塑科学事业,但目前的治理讨论对人工智能对科学这一知识系统的系统性影响并未给予足够的重视。虽然多边论坛正在讨论人工智能的社会、经济、伦理和技术层面,但对科学知识生产、验证和共享的影响在很大程度上被忽视了。这种差距对于全球南方的科学机构和研究人员来说尤其严重,他们面临着明显的挑战:他们所在地区产生的公开可用的科学数据越来越多地被收集用于训练商业人工智能系统,而没有对等利益或保护科学主权的数据治理框架。
国际科学理事会的科学系统未来计划和研究中的人工智能披露计划,以及 CODATA 在 FAIR 数据和人工智能治理方面的工作表明,国际科学界已经开始解决这些问题。然而,这些举措仍然分散在各个机构网络中。WSIS论坛提供了一个重要的场所,以展示这一证据基础并将其与更广泛的数字治理对话联系起来,确保科学在负责任的人工智能发展中的利害关系被决策者和多边进程所看到。
会议主题
会议研究了三个相互关联的维度:(1)人工智能和知识生成——人工智能在研究中的自主角色如何影响科学方法以及谁算作知识生产者;(2)科学数据和人工智能模型——开放科学原则和数据主权之间的紧张关系,特别是对全球南方而言;(3) 可靠性和研究诚信——当人工智能生成的输出进入科学记录时,需要哪些治理机制。
相关项目和做法
会议借鉴了多项举措的证据:ISC在研究全球人工智能披露标准(温哥华标准)方面的工作;CODATA人工智能数据质量和治理工作组;以及全球南方科学系统围绕新兴技术驾驭公私合作伙伴关系的国家示例。这些举措为讨论需要何种规范、标准和框架提供了实际基础。
2025年后WSIS的愿景
WSIS承诺将科学作为全球公共产品(体现在有关电子科学的C7行动方面)必须不断发展,以解决人工智能在决定产生什么知识、由谁生产这些知识以及谁从中受益方面的作用。2025年后的WSIS应将科学研究界定位为人工智能治理的核心利益攸关方,确保关于数据治理(GDC目标4)和负责任的人工智能(GDC目标5)的讨论基于全球科学企业的需求和公平关切,特别是在全球南方。
-
C2。信息和通信基础设施
-
C3。获得信息和知识
-
C4。能力建设
-
C6。有利环境
-
C7。 ICT应用:生活各个方面的收益-电子科学
-
C10。信息社会的道德层面
-
C11。国际和区域合作
C2(信息和通信基础设施):人工智能治理需要了解数据基础设施的存储地点、控制者、流动方式如何塑造不同地区的科学能力。
C3(获取信息和知识):开放科学原则与人工智能对科学数据的使用相互交织;治理框架必须在开放与公平控制和惠益分享之间取得平衡。
C4(能力建设):科学机构需要新的技能和治理能力来引导人工智能融入研究,特别是在南半球。
C6(有利环境):需要政策框架来支持负责任地在研究中使用人工智能,同时保护科学诚信和数据主权。
C7(ICT应用:电子科学):这是核心行动方针;本节会议直接探讨了人工智能作为一种新兴的信息通信技术如何重塑科学发现和研究系统的问题。
C10(信息社会的伦理层面):科学中的人工智能提出了关于研究伦理、问责制和公共利益的根本性问题。
C11(国际和区域合作):科学领域的公平人工智能治理需要多边合作和服务于所有区域的框架。
-
目标4:确保包容和公平的优质教育,并为所有人提供终身学习机会
-
目标9:建立有弹性的基础设施,促进可持续工业化和促进创新
-
目标16:促进公正,和平与包容的社会
-
目标17:振兴全球可持续发展伙伴关系
SDG 4(优质教育):人工智能在知识生产方面的作用影响着科学教育和研究培训的演变方式。
SDG 9(工业、创新、基础设施):科技创新越来越依赖人工智能;这一交叉点的治理塑造了全球的创新路径。
可持续发展目标16(和平、正义和强大的机构):研究诚信和值得信赖的知识是基于证据的决策的基础。
SDG 17(为实现总体目标结成伙伴关系):科技领域公平的公私伙伴关系取决于保护公共利益和全球南方公平的治理框架。
- 目标 1:消除所有数字鸿沟,加快实现可持续发展目标
- 目标 4:推进负责任、公平、可互操作的数据治理方法
- 目标五:加强人工智能国际治理,造福人类
https://council.science/events/wsis-forum-2026/
https://council.science/our-work/science-systems-futures/