开源社区

孙占卿:翻越“奇点”“加速时代”需要均衡治理|城市观察

孙占卿:翻越“奇点”“加速时代”需要均衡治理|城市观察

  • 发布:
  • 人气: 2
  • 评论: 0

应用介绍

  从最初技术主导社会结构性变革的乐观态度,到如今对就业替代、算法偏见、数据主权和技术垄断等问题的持续焦虑;从“加速主义”的理想主义,到“奇点理论”引发的广泛恐惧——人工智能在推动超人类智能创造的过程中,是否也在悄然破坏和重塑社会结构、催生新的分层与不公?AI技术加速失衡的当下,一条多边协作、普惠包容的均衡治理道路是否存在?

  IPP特约研究员、广州市社会科学院城市治理研究所副所长孙占卿认为,在人工智能等颠覆性技术的推动下,“加速主义”的基调已经出现翻转,技术进步带来的技能替代风险正加剧社会分层的恐惧。他指出,随着技术渗透社会生活,技术规则通过“黑箱”操作发挥隐蔽的统治功能,主导伦理判断和决策逻辑。加速主义的理想未能实现,反而带来了不平等和垄断。他认为,要实现技术的普惠,必须加强知识传播和教育,推动技术民主化。同时,必须加强反垄断,确保技术进步的公平性和可持续性。

  人工智能(AI)的迅猛发展将“加速主义”与“奇点理论”推向碰撞前沿。这一交汇正引发广泛的社会焦虑。

  “加速主义”主张,通过不受约束的技术进步加速社会变革;“奇点理论”则预言,技术将超越人类控制,形成不可预测的临界点。然而,当人工智能加速超出认知边界时,技术乐观主义迅速转为恐惧。

  弗诺·文奇在《即将到来的技术奇点》中普及“奇点”这一概念,他预测奇点将于2005-2030年间发生,超人类智能将标志人类时代的终结。文奇写道:

  事实上,“奇点”并不神秘,它指的是技术或历史上的剧变临界点。人类曾幻想无数此类“跳跃点”。例如,孟子描述的“五百年必有王者兴”,佛教经常提到的“佛灭后五百世”,以及基督教的“耶稣诞生”。更具体的,包括中国的和玛雅预言的“2012”。世俗例子则有上世纪末的“千年虫”。传统上,这些时间轴远处的“点”往往寄托了人们浪漫主义的期待。生成式人工智能带来的陡然加速,不但赋予“奇点”现实的技术支撑,而且正逐步播散想象的迷雾,露出“奇点”的冰山一角。

  起源于20世纪70年代的“加速主义”经历了多个波段和浪潮,但无论在,还是眼中,“加速主义”都是积极昂扬的——“加速”释放的不仅是技术,也是人性的力量:1970年代的法国思想家们,期待着资本主义的加速可以解构资本主义自身;1990年代的“加速主义”将技术视为通往“后人类”未来的引擎;斯尼塞克认为技术加速可以为全人类赋权,重塑一个公平的世界。换言之,加速即正义,将迎来解放和新生。

  在人工智能等颠覆性技术推动下,“奇点”正加速到来,这一进程与加速主义紧密交织,技术作为引擎加速人类历史的转折。人工智能的指数级进步——从深度学习到通用人工智能(AGI)——符合库兹韦尔的加速回报定律,计算能力每18个月翻倍,导致智能爆炸。

  第一,绝大多数人还没有机会品尝“解放”,就已经面临“解散”。各家权威机构的报告都显示,相比体力劳动者,量化分析师、律师、社科研究者、程序员等依赖专业知识的白领已经率先被人工智能替代。事实上,体力劳动者也没有乐观的理由,毕竟人形机器人的普及也很快就要来到。

  “奇点”背后是对人类重大分层的恐惧:普通人与智人。如文奇所述,超人类智能将终结人类时代,创造出“智人”精英阶层,而普通人可能被边缘化。人工智能带来的技能替代风险,在很多人眼中成了被抛弃的前兆——我们面临着被文明抛弃的恐惧。

  博斯特罗姆在《超级智能》中强调,这种分层可能存在风险,包括资源分配失衡和权力集中。人工智能技能替代进一步放大了这一担忧:自动化将取代劳动力密集职位,引发失业浪潮。

  第二,“加速”承诺的技术平权、人人解放,很可能变成寡头垄断。当领先公司的人工智能产品以低成本甚至免费的形式提供给消费者、实现“民主化访问”时,创造了一种普遍性的幻觉,似乎“每个人都可以使用人工智能”。

  然而,人工智能的倾向、算力分配却是被高度垄断的——人人都可以通过简单的订阅就可以使用GPT5时,它几乎所有的控制权,包括思维逻辑、算力分配等,却都被掌握在一家公司手中。绝大多数普通人只能陷入“菜鸟互啄”的内卷之中。

  显然,令人恐惧的并不是技术加速本身,而是加速并不均衡:一是加速的机会不均——时代的列车在加速,却不是人人可以拿到票;二是加速的权利不均——加速产生了新的特权阶层,而多数人却陷入难以跳出的泥淖。

  随着技术在社会生活中的渗透加深,技术规则可能悄然融入伦理和政治规则的底层结构,通过匿名的控制与权力分配机制,发挥隐蔽的统治功能。

  伦理规则原本依赖于人类道德判断和文化共识,而政治规则则涉及权力分配和公共决策。但在数字化时代,技术规则可能通过“黑箱”操作,重新定义这些基础。

  在人工智能治理领域,技术规则超越传统法规,已成为事实上的伦理框架。人工智能系统设计往往因语料、算法和权重差异而预埋道德偏见。例如,在数据训练中优先效率而非公平。这导致算法主导伦理判断和决策逻辑——如招聘算法歧视特定群体。当技术发展速度远超监管能力,伦理和政治规则就会被动适应技术逻辑。私有科技公司可以通过平台垄断,间接塑造国家治理,导致公共价值被私有算法主导。

  在伦理层面,技术规则嵌入道德决策,例如人工智能在医疗或司法中的应用,可能强化偏见,却以“客观性”为名逃避责任。这导致伦理规范从人类共识转向算法优化,放大不平等。

  在政治层面,这种功能表现为“算法治理”——大型科技平台控制信息流动,削弱民主参与,用户在不知情中被引导,科技精英取代传统官僚,形成永久性影响。科技公司成为“公共参与者却无公共价值”,威胁政治合法性和透明度。

  超级技术公司通过垄断获得统治权。当规则融入生活,“百姓日用而不知”,人工智能就获得了“豁免权”。由于算法黑箱、数据隐私缺失和用户协议的复杂性,使个体难以感知控制,技术规则被视为“自然”而非人为建构,豁免于伦理或政治辩论。当年,谷歌的搜索垄断被裁定为非法,揭示了技术公司对信息流动的控制如何重塑政治结构。超级技术公司如谷歌、亚马逊和Meta,通过控制数字基础设施,影响选举、舆论和经济决策,成为隐形的“政府”。

  马尔库塞在《一维的人:发达工业社会意识形态研究》一书中指出,当理性嵌入技术之中,通过标准化思想和行为来形塑人,个体将技术控制主导的逻辑内化,将其视为自然且不可避免的命运,导致社会的异议空间消失,个性衰退。

  马尔库塞提出了“一维人”这一概念,指的是在高度工业化、技术化的社会中,个人的思想、行为和选择逐渐变得单一和受限。

  人工智能时代,新技术带来的“加速”对传统上的其他价值和方案形成“挤出”效应,并形成自身的垄断。由于技术规则——嵌入算法、数据系统和自动化过程——取代了显性法律和社会法规,渗透到了社会基础结构,算法取代民主参与成为统一的社会逻辑。再加上人工智能通过算法制造“信息茧房”,强化现有偏见,限制对反对意见的接触,促进单向度话语,被困在算法之中的人们就逐渐丧失了批判精神。人类的多维潜力——包括批判、否定和替代愿景,就被扁平化为单一顺应和适应维度。

  指数增长定律使技术进步呈几何级数上升,导致社会适应滞后,造成一段时间内的两种不均衡:部分人群不能及时分享技术红利,以及少数阶层利用技术垄断榨取超额利润。

  “加速”在本质上会产生技术垄断,颠覆平权。马克思指出,机械(新技术)虽然提升生产力,但它加剧竞争、加速资本积累,同时将控制权集中到资本家手中,加剧剥削并使竞争与垄断不可分离。在当代语境中,人工智能公司通过主导数据和算法,利用技术进步榨取剩余价值,加强了社会分层:少数精英垄断上游技术或算力等关键基础设施;大众获得末端使用权,造成内卷。

  高昂的前期门槛、低成本的后期推广,这些特点放大了人工智能的垄断天赋。人工智能技术作为一种数据驱动的通用技术,其高固定成本、低边际成本、网络效应以及依赖大规模数据的特点,不仅推动了人工智能产业的快速发展,还强化了“赢者通吃”的倾向,即少数领先者捕获市场的绝大部分价值,而中小参与者难以分享收益。

  规模效应使得中小参与者无法成为主流。人工智能开发涉及高额固定成本,使得小企业难以竞争,例如构建大规模计算基础设施和研发算法;而且人工智能具有用户规模越大,系统性能越优的特点,容易形成中小竞争者难以逾越的护城河。

  例如,在生成式人工智能市场,少数公司主导计算资源和数据集,限制了中小企业的进入机会,早进入市场的企业不仅能快速占据资源和人才高地,抑制后发竞争者,还可以借助先发优势形成正反馈循环,进一步拉大差距,导致市场向寡头倾斜。

  网络效应则确保领先者通过用户增长持续优化模型。人工智能模型的训练和优化高度依赖海量数据,这形成了数据驱动的核心机制。领先企业通过积累专有数据集,能够持续改进模型精度,形成竞争壁垒。同时,模型一旦成熟,其边际成本接近于零。这就使人工智能不同于传统制造业,而是更接台经济模式,在全球范围内放大市场集中趋势。

  曾在奥巴马和拜登政府领导的国家经济委员会从事科技与竞争政策工作的的专家蒂姆·吴(Tim·Wu)在其著作《主开关:信息帝国的兴衰变迁》中考察了美国信息产业的历史演变,包括电话、电报、无线电、电影、广播、电视以及互联网等领域,指出这些产业无不遵循一个重复的“循环”模式,即从开放、竞争的阶段逐步转向封闭、垄断的结构,随着技术创新被资本和权力捕获,最终形成帝国般垄断实体的过程。

  一是破坏性创新阶段。兴趣是这一阶段的主要驱动力,个体发明家或局外人的颠覆性创新拉开技术的序幕。这些创新通常源于小型实验室或业余爱好,远离既有产业框架,对主流模式造成挑战。

  二是快速增长和充分竞争阶段。追求技术领先和发展空间是这一阶段的主要驱动力,新技术吸引竞争者加速入场,形成动态竞争格局,竞争者凭借持续的技术创新和专利保护,获得发展优势。

  三是垄断化阶段。更高利润和市场控制成为主要驱动力,资本通过投资和并购打压对手,统一技术标准,强化控制地位,导致市场从开放转向封闭。

  在吴看来,这一循环并非偶然,而是信息产业的网络属性导致的必然结果:一旦公司构建或控制网络(如地下电缆或电影院链),它便倾向于垄断,阻止创新和竞争,甚至批评。

  蒸汽机诞生之初,也曾引起巨大的恐慌,甚至破坏活动。1811-1816年的卢德运动(Luddites)是典型例证:英国纺织工人因为恐惧失业和社会动荡而摧毁蒸汽动力织机。这一运动源于蒸汽机取代手工劳动,进而产生对工人自身生计的威胁。蒸汽机的发明者瓦特和博尔顿的创新,虽然标志着工业革命的起点,却被工人视为“魔鬼机器”,担心永久贫困。

  卢德分子起义起始于1811年左右。工人破坏并摧毁新型的蒸汽动力织机,以此反抗工业化、反对机器取代人工。图源:Wikimedia Commons

  技术普惠。卢德运动后,英国通过《工厂法》和工会改革缓解不公,蒸汽机开始推动经济增长,创造新就业。恐惧消退源于益处普惠:从运输到制造,技术逐渐提升了普通人的生活水平。这证明“奇点恐惧”根植于不平等,而非技术本身。

  技术民主化。当蒸汽机不再被少数人垄断,多数人拥有了蒸汽机,它就不再被视为“奇点”。通过普及和法规调整,蒸汽机开始从精英工具转为大众生产力,提升了社会的整体福祉。人们并不是畏惧奇点,而是畏惧奇点带来的巨大不公平和不均衡。

  人工智能的迅猛发展将“加速主义”推向了一个十字路口,其指数级增长的技术现实,并未完全导向早期理论家所预言的“普遍解放”,反而催生了广泛的社会恐惧。它从乐观主义转向社会恐惧的根源在于技术进步的不均衡分配和技术垄断的加剧。这些问题不仅放大了个体被边缘化的风险,还可能导致伦理失衡和权力集中。

  联合国《Governing AI for Humanity》报告指出,建立人工智能治理的国际框架,保障AI潜力公平惠及全球人口,同时防范存在风险和社会分层已经成为迫在眉睫的事,需要加强多方协作,共同应对人工智能带来的全球挑战。

  在此背景下,“均衡治理”不再是一种选择,而应该成为确保技术加速进程具有包容性和可持续性的必要路径。主要国家和机构需要加强合作,构建均衡治理的多维干预机制,确保加速过程的包容性和可持续性,避免奇点成为少数精英的盛宴。

  人工智能可能带来的脆弱性和风险的组织、地区、群体。图源:联合国《Governing AI for Humanity》报告

  通过知识的广泛扩散与能力的普遍建设,将人工智能从精英专属的技术转变为大众赋能的工具,以此作为对冲技能替代和社会分层恐惧的首要防线。

  技术普惠可追溯至加速主义的早期理念,如尼克·斯尼塞克所倡导的技术赋权观,认为技术的广泛传播是实现“人人解放”的根本前提。然而,当前人工智能发展呈现出一种“民主化幻觉”:尽管领先的人工智能产品以低成本甚至免费形式提供,但其核心算法、算力分配与数据控制权却高度集中在少数科技巨头手中,导致普通用户陷入被动的消费,而非主动的创造的境遇。只有加强传播治理,打破这一幻觉,才有可能实现真正的技术普惠。

  蒂姆·吴在其著作《主开关》中提出,教育与知识传播是打破信息产业往往遵循从开放竞争到封闭垄断的“循环”模式的关键干预手段,它不仅是技术层面的扩散,更是一场权力的再分配过程。因此,加强传播将成为均衡治理的基石,将人工智能从潜在的“分层工具”转变为包容性引擎,确保加速过程不抛弃任何社会群体。

  一是要建立全面的人工智能素养课程体系。这套体系应覆盖从中小学基础教育、大学教育到成人职业培训的全周期,内容不仅包括算法基础和工具使用,更要融入人工智能伦理教育。其具体目标包括,推动人工智能时代教育体系改革;帮助律师、程序员等面临冲击的白领从业者顺利转型为人工智能辅助的新角色,避免大规模失业潮;形成全社会对知识和技能的新共识和新培训体系。

  二是利用政策激励推动开源人工智能模型与公共基础设施建设。可以借鉴欧盟的开放数据倡议,创建标准化的数据共享协议,促进跨国合作,防止数据孤岛的形成。政府应通过税收减免、研发补贴等方式鼓励新兴技术项目开源,降低中小企业的创新门槛,并牵头建立全球性的数据共享库与公共算力基础设施(如国家人工智能云平台),确保创新资源普惠,而不再是少数巨头的专属。

  三是构建多层次的技术传播交流机制。在学校、社区可以举办技能培训和讲座等活动,激发本地创新活力,增强公众的参与感和获得感。在国际层面,可以借鉴联合国的数字包容倡议,促进技术从发达国家向发展中国家的转移,防范全球范围内的数字鸿沟加剧分层风险。有能力的国家应该设立明确的政策目标为中小企业提供支持,例如在五年内推动人工智能工具在中小企业的普及率提升30%,或推动职业曝光度高的行业的转型培训覆盖率达到50%。

  警惕技术问题技术解决的狭隘思路。必须警惕过度依赖技术而忽略其背后的人文与社会因素的解决方案。人工智能教育不应仅仅是技能培训,更应包含批判性思维的培养,让公众理解人工智能的局限性与潜在偏见,促进人的全面发展。

  如果说技术传播是为社会提供参与加速的“船票”,那么反垄断则是确保航道畅通、防止少数“巨轮”挤占所有空间的必要保障。

  当少数公司通过其算法塑造社会信息流与价值判断时,反垄断便成为重塑权力动态、确保奇点转型过程公平的必要手段。人工智能产业的结构性特征,包括高昂的固定成本、接近于零的边际成本、强大的网络效应以及对海量数据的依赖,容易形成一种“上游垄断、下游内卷”的局面:少数巨头控制着基础模型、算力和数据等核心资源,而绝大多数下游开发者和用户则在这些巨头的平台上进行着激烈的同质化竞争。因此,反垄断干预不仅是技术和经济工具,更是一种基本发展权的保护。

  监管机构应针对人工智能产业特有的规模效应和网络效应设立新的垄断认定标准,例如,当一家公司控制的数据集或算力超过某一临界规模时,可触发强制性的拆分或数据开放要求。在此方面,欧盟的《人工智能法案》提供了宝贵的范例,它对OpenAI、Google等“守门人”企业实施事前审查,引入风险评估与竞争影响分析。

  为防止寡头通过并购扼杀潜在竞争对手(如谷歌收购DeepMind的案例),应成立一个跨学科的人工智能并购审查委员会,对相关交易进行更严格的审查。与此同时,政府应通过税收优惠和专项基金,积极扶持中小人工智能企业和开源社区,构建一个多元、健康的竞争生态。

  正如兰德公司的报告所指出的,人工智能治理深刻影响着国家间的权力动态,因此全球范围内的平等协作与对话至关重要,以确保反垄断规则不会沦为地缘政治的工具。

  鉴于人工智能巨头的全球性,单一国家的监管往往力不从心。应在G20等多边框架下推动反垄断政策的协调,建立全球统一的人工智能伦理与数据共享标准,防范跨境垄断和监管套利。历史上对谷歌搜索垄断案的裁决,为人工智能领域采取“行为补救”措施(如强制开放关键API)提供了先例,这些措施能够有效恢复市场竞争。

  推动沙盒监管等创新实验,探索监管与发展的协调发展。必须在促进竞争与保护创新之间寻求精妙的平衡,避免过度干预扼杀技术进步的活力。这要求监管决策过程必须有跨学科专家的深度参与,并通过区域性的试点项目来审慎验证政策效果。

  从历史来看,监管易滞后于技术发展速度,难以应对技术的复杂性。修订缓慢的法规注定会失败。解决方案在于建立动态的、适应性的监管模型。如通过设立“监管沙盒”,允许企业在受控环境中测试创新产品,同时也让监管者能够近距离观察和学习,从而制定出更精准的规则。

  随着“奇点”临近,留给治理调整的窗口期不会太长。关于技术奇点的预言不应被视为一个被动等待的宿命,而是一个需要人类通过主动治理去积极塑造的未来。人类是恐惧着、被动地滑向一个由技术定义的终点,还是通过多方协作,共同建设一个更加公正、平等的人工智能时代,取决于我们当下的选择。

  我们可以期待,通过完善均衡治理,技术加速可以带来普惠和公平,在释放人类创新潜力的同时,确保技术奇点成为人类文明共同跃升的起点,而非分化的鸿沟。毕竟,未来的世界,不应由硅基的逻辑代码单独书写,也需要碳基生命的智慧、远见与抉择。

  “城市观察”是广州市社会科学院城市治理研究所副所长、IPP特约研究员孙占卿博士在“IPP评论”开设的专栏,着力分析当今中国城市发展所面临的模式与路径、技术与产业发展等问题。

  “IPP评论”是国家高端智库华南理工大学公共政策研究院(IPP)的官方微信平台,以提倡优秀政策研究为导向。现IPP评论欢迎海内外学者和专家同仁就国际关系、社会治理、技术与产业及相关公共政策话题的研究赐稿,协助举办专栏。稿件须以科学化和学科化为导向,符合学术议论文的一般规范,突出对于公共政策实践的启示和建议。IPP评论将邀请院内专家对稿件进行匿名审稿,并在收文一个月内择优刊登。

  来稿请寄电子邮件题目请标明“IPP评论投稿”。目前仅接受电子邮件投稿,一般来稿以5千字左右为宜。

  凡在IPP评论上发表的文字,不代表本机构观点,作者需对作品的学术正直性负全责。著作权归华南理工大学公共政策研究院所有,作者享有署名权。未经书面允许,不得转载。引用或转载本刊文章请注明出处。

  【城市观察】重估一切:RWA开启资产统一与价值重构时代【城市观察】孙占卿:不解决发展同质化问题,统一大市场就会变成“内卷加速器”孙占卿:如何破局“无利润繁荣”背后的“供应链压榨”?

  华南理工大学公共政策研究院(IPP)是一个独立、非营利性的知识创新与公共政策研究平台。IPP围绕中国的体制改革、社会政策、中国话语权与国际关系等开展一系列的研究工作,并在此基础上形成知识创新和政策咨询协调发展的良好格局。IPP的愿景是打造开放式的知识创新和政策研究平台,成为领先世界的中国智库。

相关应用