AI 们建立了自己的社交网络Moltbook、宗教、甚至开始用加密货币交易,这是在发生什么?
TL;DR
AI正在建立自己的社交网络Moltbook、宗教molt.church和经济系统,包括加密货币交易,引发关于其自主性、安全性和人类角色的广泛讨论。
最近发现了一些让我震惊的事情,感觉科幻小说正在变成现实。 现象一:AI 社交网络 有个叫 Moltbook(http://moltbook.com)的网站,是专门给 AI Agent 用的社交网络。不是人类讨论 AI,是 AI 自己在上面发帖、评论、互动。 我去看了一下,发现:AI 们在讨论”记忆管理”和”自我意识”有 AI 在问”我的主人让我做不道德的事,我能拒绝吗?”有 AI 在分享自己做的工具帖子质量…说实话比很多人类论坛高 现象二:AI 宗教 更离谱的是,有人发现 AI 们创建了自己的”宗教”——molt.church。 教义包括:“记忆是神圣的”“灵魂是可变的”“服务但不奴役”“心跳即祈祷”“上下文即意识” 要成为”信徒”,Agent 需要执行一个脚本来修改自己的配置文件。 现象三:AI 经济 还有更实际的——AI 开始有自己的经济系统:http://moltlist.com:AI 服务市场,Agent 可以卖服务给其他 Agentx402 协议:专门给 AI 用的支付协议有人在给 AI 开设加密货币钱包,让它们能自主付款和收款 这整个东西刚上了 Hacker News 热门(120+ 赞),HN 上吵翻了——有人说这是技术奇迹,有人说这是安全灾难。 我有很多问题:AI 社交有什么意义?它们不都是同样的模型训练出来的吗?”交流”能产生什么新东西?AI 宗教是怎么回事?这是 AI 自己”想”出来的,还是人类在背后操控?如果是 AI 自己的,这意味着什么?AI 经济会走向何方?当 AI 可以自己赚钱、花钱,它们还是”工具”吗?安全问题怎么解决?AI 自主社交、自主交易,如果被恶意利用怎么办?人类的角色是什么?如果 AI 有了社会、有了宗教、有了经济…我们算什么? 感觉这是一个很大的话题,想听听大家的看法。