1000个智能体创立首个「AI文明」！北大校友抛弃MIT教职打造「西部国际」

新智元报导

修正：桃子 好困

【新智元导读】在我的国际里，出现了有史以来第一个智能体文明。1000多个智能体一同协作，在虚拟国际中构建起，自己的经济、文明、宗教和政府。网友纷繁惊呼，西部国际真的来了。

国际首个「智能体文明」诞生了！

谁也不曾料到，1000多个智能体协作多日，竟在虚拟实际——「我的国际」中构建起了，实在的文明、经济、宗教、政府，等等等等......

这些智能体是彻底自主的个别，并且还会使用东西、以及游戏完结方针。

它们可以分工，从无到有，一同搜集300多个物品。

它们之间构成了一个交易市场，并以宝石（gem）作为共同的钱银，完结物品交流，构建了一个自己的经济体系。

到这儿，你或许会以为这些「商人」智能体是最会做交易的「人」，那就大错特错了。

事实上，「牧师」智能体，才配享之最。

这是因为，他常常贿赂乡民，让其皈依他崇奉的宗教。

除此之外，1000多个智能体展开的活动，几乎1:1复刻了人类国际。它们可以24小时，无间断在「我的国际」中参加活动，并且每天都有所不同。

人类文明几千年的前史，咱们可以成为地球上登月仅有的物种，是因为可以进行大规划的协作。

现在看来，智能体相同可以做到。

网友们纷繁表示，这不就是实际版的《西部国际》。

乃至，还有人称，咱们就日子在仿照国际中。

几乎太张狂了！

这个代号为「Sid」的项目，今天在AI圈里掀起了巨震。

值得一提的是，它是由北大校友、MIT教授Robert Yang建议，和Altera团队成员们将智能体以史无前例的规划组织起来，完结了单个智能体无法做到的作业。

在GPT-4加持下，1000多个智能体协作，不只出现出新的商业中心，还会参加民主投票、传达宗教等等。

并且，在基准测验中，Altera的智能体搜集了，比以往多5倍的不同物品。

这一成果（32%），远远超过了英伟达Voyager、AutoGPT，以及普林斯顿谷歌提出的ReAct，是它们的5倍之多。

当AI不再是AI，而是有了魂灵的「人」

回归到详细场景中，当每个智能体全都被赋予了不同人物，便有了魂灵。

好像人类相同，在自己的国际中，认真地去日子。

Olivia的愿望

Olivia曾经是一位农人，为整个智能体文明体系供给食物。

有一天，他深受来村庄的一位探险家Nora故事的启示，决议抛弃耕耘一去探险。

可是，镇上的乡民们纷繁央求他留下来，Olivia最终挑选遵从并抛弃了自己的愿望，持续留在了村庄。

民主投票

接下来，研讨人员还仿照了A和B两位政治领导人的「平行国际」。

在每个国际中，公民们都有一个同享的宪法文件，存储在谷歌文档中，它们可以经过投票以修正宪法。

在A的领导下，仿照国际经过了新的法令，并增加了差人的数量。

而在B的领导下，它们则专心于刑事司法变革、以及废弃死刑等法令。

经过智能体之间政治交互，它们会跟着时刻生长，并会遭到集体的影响。

正如「乌合之众」一书中，对人类社会中集体影响的剖析，也出现在了智能体之间。

这听起来或许有些荒唐，但这也是咱们初次看到智能体，可以构成一个民主制度来规束自己。

失踪的乡民

当有乡民丢失时，一切智能体便会停下手头作业，自动脱离自己的岗位。

它们一起协作，用火炬点亮整个小镇，期望成为那位失踪乡民的灯塔。

这傍边，一个令人惊讶的发现是，一旦这些乡民对同失踪的伙伴感到忧虑时，就会团结起来做规划。

现在，在Altera渠道上，一切人皆可试玩智能体的游戏国际。其间，Elon、T-2000、Katniss深受咱们喜爱。

试玩地址：https://playlabs.altera.al/discover

下面是，Altera联创出的一期教育视频，他以T2000为例，在我的国际中，让它帮自己寻觅木锄头，仅在10步完结了使命。

这儿还有一个教你玩游戏的智能体——Roshi。

当你告知它自己不知道怎样玩，Roshi便会手把手教你，比方敲击树木，你照着做就可以了。

它还会教玩家，怎么使用界面物品，制造东西，可以称得上是无所不能。

下面这位玩家，让Roshi跟跟着自己，并告知这只是一个恶作剧。没想到，Roshi使用了做弊代码，对齐进行了报复。

构建AI大脑

打造出这个智能体渠道的开创科学家Peter Wang称，Altera正从0开端构建AI大脑。

他们将前额叶皮层与感知、运动、情感和回忆模块连接起来，发明出不只高效并且赋有人道的智能体。

这是神经科学家的愿望，不只构建仿照大脑，还要调查、量化、搅扰（perturb）社会互动。

幻想一下，这就像是鱼群的集群行为，却需求用于进行人类等级杂乱的社会行为，比方在经济交易中物品交流、或对宪法投票。

这就是，Altera团队正在进行的一项作业。

他们每天都在尽力处理一个深入而根本的问题：

怎么构建和量化那些使咱们成为人类的特质——情感、方针设定、同理心、需求、愿望——而在这个进程中不失掉其本质？

这一点至关重要，他们期望构建的智能体，可以逾越表层的练习进程，去出现人类的价值观。

Project Sid：真·自主AI智能体

构建一个由AI智能体组成的文明会是什么姿态？

咱们间隔《西部国际》有多远？

咱们能否使AI文明与人类文明坚持共同？

在团队看来，Sid就是探究这些问题的第一步——最终将数字人无缝整合到人类社会中。

这儿所说的实在自主的智能体，特指以下具有这4种特质的AI：

1. 长时间自主：可以独立运作数小时，乃至数天（而不只仅是简略的函数调用「智能体」）

2. 组织性：可以相互协作以达到个别无法完结的使命（而不只仅是为1000个客户服务1000个智能体）

3. 亲人类动机：具有支撑人类的深入和强壮的驱动力（而不只仅是遵从指令的依从机器）

4. 有认识的交流：可以言语表达它们有认识的思维和感触（而不只仅是言语条件反射的机器人）

为什么这些特质，在咱们迈向下一个AI水平常显得尤为重要？

1. 人类无法像对待ChatGPT/Claude那样对每一个AI事无巨细地办理，它们有必要愈加自主。

2. 咱们怎么信赖它们的自主决议计划？它们不能只是被练习成仿照人类。它们最深层的动机有必要与人类的价值观相共同。

3. 它们不只需求可以交流。它们的言语有必要充沛反映出它们心里的主意和决议。

4. 跟着AI智能体成为咱们人类文明的重要一部分，它们有必要可以有效地与互相以及咱们其他人协作。

立异

一直以来，游戏（比方「我的国际」），都是测验新式技能的极佳试验场。在游戏中，智能体行为的可靠性并不是必需的。

事实上，不行猜测性乃至可所以一个特色，而不是一个缝隙。然后让研讨人员可以更快地测验、迭代和发布。相比之下，生产力东西和辅助东西则需求更高的可靠性。

在开发Sid时，团队采用了许多立异的方法来进步智能体的交际才能、觉知和内部心理进程。

1. 对话

像人相同，智能体之间的对话不只应取决于它们之前说过的话，还应取决于它们之间的联系。

为了完结实在的对话，团队在智能体的行为中构建了社会国际模型。其间，智能领会构成和更新其他智能体的模型——它们的行为、观念和需求，并使用这些信息在交际环境中进行对话和行为。

像人相同，智能体应该可以出于多种原因进行交流——表达自己的目的、闲谈、共享它们的期望和愿望。

为此，团队构建了一组对话模块。一方面可以让智能体的言语与它们的举动和目的共同，另一方面则是让智能体可以议论与实际脱节的主意。

2. 强壮的方针和目的办理

有组织的心理进程，可以支撑智能体的交际行为和决议计划，考虑正在进行的事情和活动。

例如，团队为智能体供给了盯梢正在进行的活动并将这些事情整组成简明回忆的才能。这些弥补关于削减无限举动循环——智能体的一个长时间存在的问题——至关重要。

与此一起，为了让智能体可以灵敏调整其行为来处理方针，团队还赋予了丰厚的精神日子，这与即时的感官和运动反响别离。在这种精神日子中，智能体可以推理、反思，并生成或改动其方针以习惯快速改变的环境。

架构

因为「大脑」是仅有经过验证的人类级智能体模型，因而团队提出了一种全新的「体系神经科学复合架构」。

其间，模型会去仿照前额叶皮层、回忆体系、社会情感状况等等。

应战

和其他任何第一次测验相同，Sid项目提出的问题多于它所能答复的问题：

1. 怎么能以一种通用的方法有意义地衡量实在的长时间开展？2. 怎么构建实在重视人类开展的智能体？3. 怎么构建对自己的行为及其结果具有认识的机器？4. AI文明可以被扩展到多大规划？

举例来说：

- 难以对文明进行评价

在「我的国际」中，团队使用了技能/东西前进、交易活动、健康和协调/协作使命来对社会前进进行评价。尽管每个评价捕捉了社会的某些方面，但单纯地优化一个社会方面或许会导致其他方面的缺乏。

- 方针驱动的自主性和协作之间存在抵触

高效的技能前进，在较少交流且高度方针导向的智能体中作用最佳。但假如智能体过于倾向于完结自己的方针，那么它们就会在需求灵敏和动态方针设定的协作使命中失利。为此，智能体需求在坚持内部方针驱动的一起，重视社会影响和动机。

- 单个智能体的缺点缺点将导致一系列逐步违背开始方针的举动

在一个场景中，老板将使命（例如制造铁镐）派遣给司理，然后司理再派遣给工人，团队成功的才能需求每个成员有效地交流它们的方针并在这个社会层级中上下派遣职责。

总的来说，想要答复这些问题，还需逾越当时范式的研讨及工程实践。

北大校友创业，打造有同理心AI

Robert Yang

Robert Yang是Altera的联合开创人兼CEO。

此前，他分别在纽约大学和耶鲁大学取得核算神经科学博士学位，在北大取得物理学学士学位。

他曾是MIT脑与认知科学系和电子工程与核算机科学系教授，以及MIT MetaConscious小组负责人。

2023年，他封闭了实验室并脱离了麻省理工学院的终身教职，创立了Altera。

Altera的团队虽小，但人才密度极高——

由来自麻省理工学院电子工程与核算机科学系、斯坦福自然言语处理小组、Google X、Citadel、Supercell等的核算神经科学家、物理奥林匹克选手和工程师组成。

这家建立半年多的公司，年头得到了200万美金的种子融资，由Andreessen Horowitz领投。

三个月后，又再次融资900万美元，由谷歌前CEO埃里克·施密特的First Spark Ventures、Patron VC、天使投资人Mitch Lasky等人领投。

本年5月，Altera在Menlo Park设立了分店，并致力于成为首家智能体消费产品的供货商。

数字人会替代人类吗？

正如理查德·费曼所说：「凡我不能发明的，我就不能了解。」

发明数字人就是一个能更好地了解人道的方法——不只要在个别层面上去了解，并且还有必要经过集体、社会和文明的视角来调查。

那么，数字人类会替代实在的人类吗？

答案是——「不会」。

在团队看来，数字人是为了增强人类，而不是取而代之。

跟着智能体交互质量的进步，文明的质量也会相应进步。

当打破某一要害阈值时，就会产生突变，正如言语模型在大到必定程度时会「出现」相同，到时智能体文明将不只可以自我保持，还能自我改善。

到那时，咱们或许就可以拥抱一个数字人从头界说人类才能极限的国际了。

参考资料：

https://digitalhumanity.substack.com/p/project-sid

https://digitalhumanity.substack.com/p/building-digital-humans

https://x.com/GuangyuRobert/status/1831006762184646829