人工智能因其自动化任务的能力而受到支持者的欢呼，允许用户从无聊的工作任务中解脱出来(或者，在一个不太愉快的例子中，用无用的垃圾淹没网络)。当这种趋势发展到极点会发生什么?
在《大西洋月刊》(The Atlantic)最近的一篇文章中，乔纳森·齐特林(Jonathan Zittrain)谈到了即将到来的人工智能代理时代——代表人类操作的机器人，不仅能对特定的提示做出反应，还能进行更复杂的互动，比如购物和回复电子邮件。齐特兰写道:“人工智能的这种常规化，不仅能与我们交谈，还能在世界上行动，是数字与模拟、比特与原子之间血脑屏障的跨越。”“这应该让我们三思。”
Zittrain提到了一个人，他创造了一个机器人，可以管理披萨订购过程的每一步:它给当地的披萨店打电话，用合成的声音“说话”，对另一条线上的人做出回应，询问正确的配料，提供该人的地址，等等。听起来整齐!然而，当这些相对自主的代理永远漂浮在互联网的以太中，不断地朝着相关性早已消失的目标努力，同时不断地消耗资源时，问题就可能出现了。齐特林指出，有些人可能会把这些机器人用于邪恶的目的:“想象一下，一群亲弗拉基米尔·普京(vladimir Putin)的特工在玩一场漫长的游戏，他们加入爱好者论坛，认真讨论这些爱好，然后等待一个看似有机的、合适的时机，在他们喜欢的政治话题上做文章。”
Zittrain指出了现在可以采取的合理措施，以避免未来的灾难，而不会破坏这种新型数字助理可能带来的任何潜在好处。
插图:Ben Kothe / The Atlantic。来源:冬季;谢丽瑶/盖蒂。
我们现在需要控制人工智能代理
由乔内森斯特兰
2010年，在ChatGPT和Claude以及所有其他活泼的、可对话的人工智能模型兴起之前，一群机器人在纳斯达克和其他证券交易所短暂地抹去了1万亿美元的价值。为了弄清楚发生了什么和原因，以及如何防止这种情况再次发生，进行了漫长的调查。美国证券交易委员会(Securities and Exchange Commission)在该问题上的报告指责高频交易算法出人意料地参与了一种无意识的“烫手山芋”买卖合约。
这一事件被称为“闪电崩盘”，相对于即将发生的事情，这可能显得有些古怪。这是因为，即使在所有的人工智能炒作中，人工智能革命的一个隐现部分也没有得到充分的研究:“代理人”。代理是代表人类独立行动的人工智能。正如2010年的闪电崩盘所显示的那样，自动化机器人已经使用多年。但是，大型语言模型现在可以将任何人表达的简单语言目标转化为计算机可解释和可执行的具体指令，而不仅仅是在证券交易等狭窄的专业领域，而是在整个数字和物理世界。这样的代理很难理解、评估或对抗，一旦被释放，它们可能会无限期地运作。
接下来要读什么?
人工智能制造的垃圾充斥着Etsy
：凯特琳·蒂芙尼(Kaitlyn Tiffany)去年写道:“ChatGPT和其他人工智能工具在流行文化中占据主导地位，你可以向它们提出任何要求的想法也是如此。”“你甚至可以要求他们让你变得富有。”
注:
你今天可能看到了CrowdStrike漏洞的新闻，该漏洞导致全球相当大一部分数字基础设施下线，飞机停飞，电视广播中断，医院瘫痪。在《大西洋月刊》(The Atlantic)的一篇文章中，塞缪尔·阿贝斯曼(Samuel Arbesman)用一种立刻让人想起人工智能热潮的方式描述了这种情况:“我们的技术系统太复杂了，任何人都无法完全理解。”
——达蒙
