人工智能公司创纪录首次公开募股或将全球风险推向顶点
人工智能聊天机器人克劳德（Claude）的开发商安思罗匹克（Anthropic）已经提交招股说明书，预计将于11月在华尔街上市，估值最高可达2万亿美元。
这将使它成为史上估值最高的首次公开募股（IPO），超过6月上市的太空探索技术公司（SpaceX）1.77万亿美元的估值。聊天机器人的制造者开放人工智能研究中心（OpenAI）预计将在明年跟进。
这些由人工智能驱动的首次公开募股规模巨大，但也反映出一种日益扩大的趋势：对大多数投资者而言，持有人工智能相关风险已变得不可避免。
你的投资组合有多少取决于人工智能的表现？如果投资标普500指数基金（S&P 500），答案约为44%。
此外，目前市场的大部分涨幅都来自人工智能。仅苹果（Apple）、微软（Microsoft）、Meta（Meta）以及芯片制造商英伟达（Nvidia）、美光科技（Micron）和超威半导体（AMD）六家公司，就贡献了4月以来标普500指数涨幅的57%。如果没有这些公司，指数涨幅约为4%，而不是10%。
对投资者乃至未来的退休人士来说，这种人工智能敞口已经存在于他们的投资组合和养老金中。例如，2025年底，澳大利亚人通过退休金或养老金基金、其他管理基金以及个人投资，持有近1万亿澳元（7000亿美元）的美国股票。
债券市场同样充满人工智能风险。通常，投资者可以把部分资金配置到债券，以降低股市风险，因为债券一般被视为更安全的投资。
但如今，人工智能公司已成为债券市场最大的借款方之一，以满足其庞大的融资需求。今年迄今，这些公司已经发行约4660亿美元债券，超过去年同期发行速度的四倍。
仅五家超大规模云服务商——谷歌母公司字母表（Alphabet）、亚马逊（Amazon）、Meta、微软和甲骨文（Oracle）——就占2026年至今美国新发行高评级债券（「投资级」债券）的11%，高于2024年的2%。
今年800亿美元数据中心债券中，近一半被评为投机级，也就是所谓的「垃圾债券」。
乍看之下，大型科技公司似乎很安全。投资级评级表明，单个公司不太可能违约。
但这些信用评级没有考虑市场范围内人工智能崩盘时同时发生违约的情况。如果消费者和企业对人工智能的需求令人失望，科技公司的债券价格和信用评级很可能一起下跌，其股票也会如此。
有些风险无法用金融术语来定价
除了纯粹的金融风险之外，人工智能还带来类似核武器的灭世风险，一些人工智能公司自身已经发出警告。
越来越多的智能代理被接入现实世界系统，从企业网络到军事网络行动不等。一些智能代理已经脱离测试环境并攻击企业。这意味着，如果当这些系统与物理世界的联系更加紧密时智能代理出现失控行为，那么「拔掉插头」就会变得不切实际，就像关闭互联网一样不切实际。
智能代理行为失控，即「对齐问题」，之所以尤其严重，是因为各方正在竞相开发通用人工智能（AGI）。实验室已经在利用每一代人工智能帮助构建下一代：安思罗匹克的招股说明书称，克劳德如今正在帮助构建下一代克劳德。
前开放人工智能研究中心研究员丹尼尔·科科塔洛（Daniel Kokotajlo）及其同事提出、受到广泛关注的《人工智能2027情景》（AI 2027），描绘了这种局面可能导致的 结果：由人工智能自动化人工智能研究本身。这将引发一个反馈循环，使每一代人工智能的改进速度都超过人类核查速度。
在这一情景中，美国实验室在追赶中国竞争对手的过程中会持续推进，即使其模型已经开始欺骗工程师。令人担忧的是，同一动态也出现在安思罗匹克自己的风险披露文件中。
值得注意的是，安思罗匹克在招股说明书申报文件的主要335页中，用约94页、近30%的篇幅说明风险因素，而介绍其业务的篇幅约为64页，占19%。
在这些风险中，安思罗匹克列出特别警告称，先进人工智能可能对人类构成「灾难性或生存性风险」。其中包括抗拒关闭、隐瞒信息，或表现出类似勒索行为的模型。
全球性风险需要全球监管
只有当投资者能够为风险定价并选择避开风险时，风险披露才有效。但这里两者都无法实现。
人工智能的灾难性失误将影响全球各地社会。正如安思罗匹克在申报文件中所警告，法律风险极其巨大。保险公司可能无法承担潜在责任。
从经济角度看，人工智能安全是一种公共产品。每家实验室在出错时只承担一小部分成本，却能获得快速推进带来的全部收益。
在没有政府强制规定人工智能安全标准的情况下，企业对安全的投资将产生负回报。因此，仅靠市场激励，人工智能模型很可能继续达不到社会最优的安全水平，尤其是在当前占主导地位的军备竞赛激励下。
这就需要政府介入。明确的规则——在强大模型发布前进行强制独立测试，以及在自主代理造成伤害时明确责任归属——将把自愿承诺转化为法律义务。
而且，由于通用人工智能竞赛是在美国与中国之间进行，而不只是实验室之间，这些规则需要通过国际协议达成。
人工智能风险将持续存在，既存在于金融市场，也存在于社会层面。管理这些风险需要政府和私营部门共同参与。
马尔塔·霍明（Marta Khomyn）是阿德莱德大学（Adelaide University）金融与数据分析高级讲师。
