想象有一天，一切都乱了套。那是星期五。

这并不是一场全球性的灾难，因为它主要是许多设备、小工具、电脑和机器无法正常工作。但这是启示性的——也是不祥的。

在当今世界，一个糟糕的软件就能在全球范围内造成严重破坏。研究我们日益复杂的技术系统的专家们表示，未来还会有更多这样的事情发生。

纽约大学(New York University)名誉教授、即将出版的《驯服硅谷》(Taming Silicon Valley)一书的作者加里·马库斯(Gary Marcus)周五表示，“正如这一事件所显示的，我们有很多依赖单点故障的基础设施。”“绝对没有什么能保证我们不会再发生类似的意外或恶意事件。”

随着有关宕机原因的更多信息出现，似乎很清楚这只不过是一起事故，是由奥斯汀一家名为CrowdStrike的公司在自动更新中出现的软件故障造成的。最重要的新闻是航空和银行业等主要行业的脆弱性。但对于任何拥有一台电脑的人来说，这都是一段艰难的时光，这台电脑在周五早上平淡无奇地宣布，没有进一步解释它无法工作。

技术的消费者期望软件能发挥作用，而它通常也能做到。但这会导致自满和数字文盲:我们不记得任何人的电话号码，因为在智能手机上，你只要点击名字，电话就会接通。我们不带现金，因为大家都用信用卡。

21世纪的生活相当神奇——直到它不再神奇。

马库斯担心，随着我们越来越依赖人工智能，社会将变得更加脆弱。在X上，他写道:“世界需要大规模提升其软件游戏。我们需要投资于提高软件的可靠性和方法论，而不是匆忙推出半生不熟的聊天机器人。不受监管的人工智能行业是灾难的根源。”

迎头赶上

故事，让你随时了解

上诉法院否决了拜登的助学贷款偿还计划

SparkleSummary是人工智能生成的，新闻编辑室审查。

波斯湾正在忍受140华氏度以上危及生命的高温指数

SparkleSummary是人工智能生成的，新闻编辑室审查。

保罗·好莱坞是对的:不要冷藏面包

SparkleSummary是人工智能生成的，新闻编辑室审查。

鲍勃·纽哈特去世，享年94岁，他从单口相声变成了情景喜剧明星

SparkleSummary是人工智能生成的，新闻编辑室审查。

社交焦虑可能是有限的。有很多方法可以让你解脱。

SparkleSummary是人工智能生成的，新闻编辑室审查。

人工智能革命——在今年6月拜登总统和前总统唐纳德·特朗普之间的总统辩论中一次也没有提到——正准备使这些系统更加相互依赖和不透明，使人类社会以无人能完全预测的方式变得更加脆弱。

政治领导人对这些变化反应迟缓，部分原因是他们中很少有人了解这项技术。即使是技术专家也不能完全理解我们全球联网系统的复杂性。

“越来越明显的是，世界It系统的神经中枢是一个巨大的黑匣子，由相互连接的软件组成，没有人能完全理解，”技术学者、《为什么事情会反咬人》(Why Things Bite Back)一书的作者爱德华·坦纳(Edward Tenner)周五在一封电子邮件中说。“你甚至可以说这是一个黑匣子，里面装满了没有记录的诡雷。”

上周五发生的事情让我想起了一个从未完全实现的威胁:千年虫。25年前，当我们接近世纪之交时，一些计算机专家担心，在1999年进入2000年的那一刻，一个软件漏洞会导致飞机从空中坠落，以及其他各种灾难。政府和私营企业花费了数十亿美元试图提前修复计算机问题，而这一重大时刻以最小的干扰到来了。

但2024年的全球信息网络有多脆弱(或多有弹性)，这个问题很难回答。这些系统数量太多，相互联系太紧密，任何人都无法拥有全面的战场意识。

周五的技术故障短暂地提醒人们，这个看不见的世界是多么脆弱，尤其是对那些试图赶飞机、预约手术或给进入神秘故障模式的个人电脑上电的人来说。全天在线热门话题是“蓝屏死机”，这是微软Windows系统停止安全运行时出现的错误信息的昵称。人们发现，死机蓝屏最近呈现出一种更温和、不那么令人担忧的蓝色，就好像有人咨询了色彩理论家一样。

提供抵御网络攻击软件的CrowdStrike公司对此次宕机负有责任，这一点并没有被忽视。作者Tenner指出，在灾难的历史上，旨在提高安全性的技术往往会带来新的风险。

1915年，泰坦尼克号使密歇根湖游览船“伊斯特兰号”(SS Eastland)失去稳定后，救生艇和甲板上的加固装置安装了起来。芝加哥港在装货时倾覆，造成840多人死亡。”

然后是安全别针:它被很多孩子吞下，打开，外科医生开发了一种特殊的工具来取出它，Tenner说。

《侥幸:机遇、混乱和为什么我们所做的一切都很重要》一书的作者布莱恩·克拉斯(Brian Klaas)在技术中断后在X上写道:“我们设计的社会系统极易发生灾难性风险，因为我们在超连接的系统中已经优化到了极限，没有一丝松懈。”一个小小的失败现在变成了一个巨大的失败。”

自然原因也可能引发技术灾难。许多国家安全专家最担心的是，一场强大的太阳风暴可能会破坏电网，或破坏对通信、导航、天气预报和军事监视至关重要的卫星。

这类卫星也可能成为敌对对手的目标。美国官员对俄罗斯可能发展在太空部署核武器的能力表示担忧，这将对我们的卫星构成威胁，并可能导致太空碎片呈指数级增长，带来灾难性后果。

周五的技术中断没有任何地缘政治阴谋，也没有任何像热核爆炸那样戏剧性的事情。这只是一些糟糕的代码的结果，一个bug——系统中的小故障。

华盛顿大学(University of Washington)历史学家、《密码:硅谷与重塑美国》(the Code: Silicon Valley and the Remaking of America)一书的作者玛格丽特·奥马拉(Margaret O’mara)指出，当今相互关联的技术仍然离不开人类。

“归根结底，数字经济是属于人类的，”她说，“由代码和机器组成，这些代码和机器是由人类的决定和不完美所设计、指挥的，偶尔还会被人类的决定和不完美彻底打乱。”

点击分享到