人工智能开发者预测灾难并准备应对禁令

公司 Anthropic 和 OpenAI 的高管们正在模拟与人工智能相关的灾难后公众骚乱的情景。预计将发生大规模事件，最有可能是网络攻击，导致金融服务和电力的访问中断。首例因危险的人工智能造成的重大损失可能会加剧公众的不满。OpenAI 的一位代表表示正在为各种情景做准备，而 Anthropic 则拒绝发表评论。南韩银行遭受攻击的例子显示了这种威胁，黑客利用中国模型的工具窃取客户数据。规划者预计，民主党人在中期选举后将开始限制人工智能，但由于国会的无能和与经济的相互关系，他们将面临困难。公司们专注于演练最坏的情景并向国会通报，尽管目前通过监管的机会不大。内部人士预计在未来 6-12 个月内会发生严重事件，包括关于禁止超级智能的提议。如果出现危机，华盛顿可能会克服党派分歧，正如在 COVID-19 期间所发生的那样。