360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
邬贺铨谈2023年ICT发展十大期待:元宇宙要尽快从炒作转到务实******
光明网讯(记者 李政葳)“2023年我国经济发展仍然充满不确定性,中国经济发展进入动能转换期,需发挥TFP中数据作为新生产要素作用,以数字化转型为ICT产业发展开拓广阔空间。”1月6日,由中国工信出版传媒集团主办、北京信通传媒·通信世界全媒体承办的“2023ICT行业趋势年会”上,中国工程院院士邬贺铨这样说。
“极不平凡的2022年,ICT产业可谓负重前行。”展望2023年,在充满不确定性的发展环境与互联网进入下半场的时代背景下,邬贺铨提出了十大期待:
期待一:5G向5G-Advanced演进
邬贺铨表示,移动通信已经进入5G时代,从应用、性能和技术层面,5G相比前几代在技术上有了很大的发展,应用场合有了很大的扩展,性能有了很大的提升,开创了移动通信新的时代。5G-Advanced作为5G后续阶段的增强演进,致力于提升个人实时交互体验,增强蜂窝物联网能力,不断探索上行超宽带、实时宽带交互和感知定位等新场景,基站的低碳将取得可喜进展。其研究方向将聚焦于:网络智能化、行业网融合、家庭网融合、天地网融合、AR/VR融合、用户面增强、确定性通信能力增强、网络切片能力增强、通感一体增强、组播广播增强。
期待二:5G推动星地融合
当下,移动通信难以做到对边疆、应急和海洋等低成本广覆盖。不过,用手机直连卫星(同步轨道、低轨、北斗)可实现单向发送救援短报文。低轨卫星的出现提供了可使用小型终端直接接入的可能,但卫星过顶时间短,需要数百到上万颗卫星组成星座。基于此,邬贺铨认为,卫星移动通信系统发展方向是与地面移动通信5G网络融合。不过,星地融合目前依然面临挑战,例如,终端与星间往返时延大,小区半径上百公里,中心和边缘处的终端到卫星的传输时延相差很大。邬贺铨建议,星地网络协同设计进而推动卫星移动通信发展。
期待三:6G的研究从愿景开始
随着5G进入规模商用阶段,6G正进入概念形成和技术储备的关键时期。未来,6G将实现人、物理世界和数字世界的智慧联接,实现多空间深度融合。在邬贺铨看来,发展6G没必要一味求“快”,它更大的意义在于覆盖5G到不了的地方,将许多目前的“不可能”变为“可能”。哪些技术将有望成为6G研究的关键呢?对此,邬贺铨认为,物理层技术增强(超大规模MIMO、全双工)、新物理维度(智能超表面、全息、轨道角动量)、新频谱技术(太赫兹、可见光)、融合技术(通感一体、通信+AI)、网络技术(内生智能网络、分布式自治网、确定性网络、算力感知网、星地一体网、网络内生安全)等技术将成为关键。
期待四:5G+工业互联网构建数实融合平台
对于中小企业使用公有云,邬贺铨认为,可以通过5G在工业互联网构建企业上云的一个平台。5G核心网的用户面,可以为一组用户组成一个5G局域网的用户群,可以实现第二层包的转发,缩短转发的距离。相对WiFi来讲,它有更好的覆盖以及更好的业务的隔离。
期待五:IPv6+提升对数据流感知与管控能力
“十四五”时期是加快数字化发展、建设网络强国和数字中国的重要战略机遇期,我国IPv6发展处于攻坚克难、跨越拐点的关键阶段。邬贺铨指出,IPv6使得我国有了与发达国家相比起步还不算晚的机会,而且我国因原来使用私有地址,故对比地址数更为看重IPv6的可编程空间。因此,我国率先在IETF标准化组织倡议并积极开发“IPv6+”新功能,现在IETF关于“IPv6+”新功能的文稿中由我国提交的占60%,我国在“IPv6+”系统与产品开发创新的努力为全球“IPv6+”标准发展作出积极贡献。
期待六:云网融合+算网协同打造互联网新基建
在《“十四五”数字经济发展规划》中明确指出,要推进云网协同和算网融合发展,加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系,加快实施“东数西算”工程,推进云网协同发展,提升数据中心的跨网络、跨地域数据交互能力,加强面向特定场景的边缘计算能力,强化算力统筹和智能调度。邬贺铨表示,从国家的要求以及从业务和应用发展来看,云网融合和算网融合是自然的一种选择。云网融合+算网协同打造的新型信息基础设施,既夯实了互联网行业发展的基础,也为ICT产业创新再出发提供了用武之地。
期待七:抓住摩尔定律持续的机遇
邬贺铨认为,伴随芯片技术进步的是对开放统一跨架构编程模型的需要。基于标准的统一软件堆栈,对源自不同厂商的CPU、GPU、XPU、FPGA、AI加速器等底层硬件能力做统一描述并通过各种不同的高性能库去封装,允许使用业界标准的编程语言直接对这些硬件能力进行编程,统一代码维护,能显著提升开发效率。同时,得益于芯片技术进展,5G的高带宽低时延特点也将得以发挥。
期待八:AI自动生成内容将迎来爆发式增长
针对AI前景,邬贺铨以OpenAI公司为例。AI研究公司OpenAI成立于2015年,股东有马斯克、PayPal和微软等。OpenAI 2020年开发出了GPT-3语言模型(拥有1750亿个参数),2022年12月1日基于GPT-3的聊天机器人ChatGPT开放测试,因其高质量的内容回答迅速走红,上线5天就超百万用户,挑战传统搜索引擎。
AIGC(人工智能自动生产内容)作为基于大规模数据训练的大模型,将颠覆现有内容生产模式,可以实现以十分之一的成本,以百倍千倍的生产速度,创造出有独特价值和独立视角的内容。AIGC不仅用于内容生成,其新思路和途径也可用在工业领域。
期待九:WEB3.0支持数字资产与实物资产关联
Web1.0是PC互联网;Web2.0是移动互联网;Web3.0是价值互联网,它是去平台中心化或者说是用户中心化,利用区块链、智能合约等,构建在区块链基础上去中心化的互联网新应用形态,通过确权使用户在网上创造的作品成为数字藏品(NFT--非同质化通证,即可信数字权益凭证),实现平台与用户利益分享。邬贺铨指出,Web3.0可以应用到博客、游戏、数字藏品,实现数字资产与实物资产关联,催生数字藏品创作市场及相应的工作岗位。
期待十:元宇宙要尽快从炒作转到务实
元宇宙是指人类运用数字技术构建的,由现实世界映射或超越现实世界,可与现实世界交互的虚拟世界。狭义的元宇宙是一种基于AR/VR/MR等技术,整合了用户化身、内容生产、社交互动、在线游戏、虚拟货币支付的网络空间。元宇宙源于现有技术的集成但尚未成熟,而且沉浸式的XR、全息影像和感官互联等需要很高的带宽,5G也难以支持。
邬贺铨指出,元宇宙前景还不清晰,目前主要面向消费的应用(沉浸式文旅、高体验游戏、感官互动等),未来还可进行产业应用(数字创意设计、开发平台、虚拟办公空间等)。元宇宙尽管充满着想象空间,奈何研发成本高、研发周期长,且难成大众刚需,短期内很难看到回报。不过,元宇宙要尽快从炒作转到务实,虚拟世界是网络空间的一种生态但不代表互联网未来。
(文图:赵筱尘 巫邓炎)