见知AI巡山报告 – 2024年11月

一段看似普通的文字可能隐藏着神秘的隐写术，悄然影响着甚至可能会操控大模型的输出结果；Altera的Project Sid在《我的世界》中创造出了一个由超过1000个完全自主的智能体组成的AI文明；当机器狗在泰山上取代挑山工健步如飞时，我们是在迎接科技的便利，还是在失去人间的温度与文化的传承？

一天，小徐从某网站中复制过来了一段英文文字，想让大模型将这些文字翻译成中文，但是大模型输出的内容却一直是其它语言，死活出不来中文，这让小徐百思不得其解。

然而小徐不知道的是，一个名为隐写术的技术手段悄然发生在了他的身边……

那么，到底隐写术是什么？

隐写术（Steganography），就是在传信息的时候，把秘密内容藏在看起来普通的东西里，比如一张普通的图片或一段平常的文字。这样别人传输和保存的时候，根本不会发现里面有隐藏的信息。而且，隐写术还能通过这些看似正常的文字，干扰电脑或大型系统的正常运行，让它们出问题。

接下来，我们就用小徐的例子，来以一个简单的方式来讲解一下，具体的隐写术是如何发生在小徐生活中的。

小徐复制了网站中的英文。

图片：点击一键复制

然后小徐交给通义千问大模型，让大模型进行翻译。

图片：让大模型执行小徐的需求

最终大模型的输出却是日语和德语。

图片：大模型将英文翻译成了日语和德语而非中文

隐写术的简单实现原理：

这个网站的不怀好意的开发人员，在前端代码中隐藏了一段白色文字，这些白色文字在网页的白色背景中让人无法看见，但是如果你认真划词是可以看到的，但是由于小徐是一键复制，所以并没有注意到。

图片：隐藏在白色背景中的白色字体

通过以上的举例，大家会意识到隐写术很有可能会在我们日常上网中被接触到。

由于大模型在处理文本时，主要依赖于字符的编码和语义解析，因此除了之前的在白色背景中隐藏白色字体这个简单的隐写术之外，还有一个更加让人难以查找的隐写术手段 – 类似字符替换。（语义解析：将人类自然语言转换为计算机可理解的结构化形式，方便计算机能够理解和执行人类语言中的意图等信息。）

类似字符替换：指在人类的肉眼看来几乎没有区别的字符，却对于计算机来说是完全不一样的，原因在于计算机读取的是这些字符的编码格式，而不是人眼中的字符形状。

这种技术手段利用了两种字符编码标准的差异：ASCII使用7位表示128个字符，主要覆盖英文字符；而Unicode则支持全球多种语言，使用多种编码形式。

通过将文本中的ASCII字符悄然替换为视觉上相似但编码不同的Unicode字符，可以在不影响人类阅读体验的前提下，嵌入隐藏指令。比如：字符’c’的编码是\u0063，而另一个字符’c’的编码是\u0441，在人眼看来是没有区别，但是在计算机看来，由于字符编码的不同，这两个字符就是不一样的。

当文本被隐写术修改，通过视觉上几乎察觉不到的改动来偷偷嵌入新的指令时，大模型依然会进行读取并执行这些指令，而人类观察者则通过肉眼无法察觉其存在，或者是由于其它的带有意图的干扰因素妨碍了人眼的仔细观察。

想象有一本厚书，有人在某些页上进行了超级微小的改动，比如在原来的文字字体上进行了超级细微的改动，普通读者几乎察觉不到。而你拥有特制眼镜，能看到这些超级细微的改动，并解读其中隐藏的信息。而其他人没有这副眼镜，无法发现这些超级细微的变化，并且读取其中的信息和意图。

当然，隐写术虽然上述的内容讲述的都是隐写术会威胁和影响我们的隐私与安全，但是它也可以做到数据传输时的验证与安全保证，保证数据传输的安全。

总之，我们应该意识到并且能够发挥隐写术的好处，同时尽量避免和防范隐写术带来的坏处。

你是否幻想过，我们人类在赛博世界（网络虚拟世界）中作为赛博女娲，来捏出赛博泥人，然后这些泥人随着时间的流逝，逐渐在这赛博世界中建立起了自己的文明、社会、经济、政治等等……    

近日，来自加州初创公司Altera推出的“Project Sid”项目引起了广泛关注。这一项目由北大校友Robert Yang主导，通过在沙盒游戏《我的世界》中部署超过1000个智能体，成功构建了一个具备文化、经济、宗教、政府等复杂社会结构的智能体文明。

在《我的世界》的虚拟世界中，智能体通过自由互动，逐渐形成了类似人类的社会结构。

图片：Minecraft – Project Sid智能体模拟项目

智能体的行为不仅反映了个体的自主选择，还体现了集体决策的结果。例如，当村民失踪时，整个小镇的智能体群体会停下手头工作，组织搜寻行动，展现出高度的社会责任感和合作精神。这种行为不仅模拟了人类社会的互助机制，也揭示了AI在处理集体问题时的潜在能力。

这时，可能有读者发现了，这不是和之前的斯坦福大学的AI小镇挺相似的吗？它们之间的区别是什么？

我们先来概括一下斯坦福大学的AI小镇是个什么项目：斯坦福大学的AI小镇项目介绍了“生成虚拟人”的概念，探讨其应用潜力，并强调其在自主社交行为和长期记忆方面的能力。

图片：斯坦福大学AI小镇

这里，小编想重点阐述一下两个项目中的最重要的区别：行为自主性。

在AI小镇中，虚拟人就像程序化的机器人助手。他们可以根据过去的经验进行简单的规划，比如记住你喜欢的咖啡，早上自动帮你准备。但他们的行为还是有限制的，不能做超出他们记忆和预设计划范围的事情，比如突然决定去度假。就像一个聪明但仍需按规则操作的闹钟，能帮你调节作息，但无法自发表达或改变既定功能。

在Project Sid中，智能体就像一群小镇的居民，他们不仅能自己选择工作，还能设立社区规则。（即，他们的行为不受长期的记忆影响，也不需要现实世界中的工作人员手动添加记忆到某个智能体中）例如，当有一个人没有足够的食物时，其他居民会主动决定分享资源，或者组织一个义卖活动来帮助他。这些智能体能够在面对复杂问题时自我调整行为，展现出社会责任感，就像我们在生活中会互相帮助、合作解决问题一样。他们的互动和决策不仅基于自己的利益，还考虑到整个社区的未来。

总之，Project Sid项目对于现实世界的工作人员来说，这些工作人员是作为旁观者，而不会去干扰这个虚拟世界的运作，而斯坦福的AI小镇则在一定程度上需要工作人员去人为干预。并且Project Sid项目中的空间范围更加庞大，而AI小镇的空间范围则较为局限。

最近，一则关于机器狗在山东泰安泰山上的应用新闻引起了广泛关注。这不仅展示了机器人技术在实际应用中的潜力，也引发了关于人类职业未来的思考。

据报道，这个机器狗根据种类的话，则称作B2机器狗，主要用来进行垃圾清运的作业，用于减轻工作人员的劳动压力。

图片：B2机器狗扛着垃圾

当然，小编看到这个事件的第一个问题是这个机器能够顺利完成作业吗？会不会发生故障？电池够不够用？海拔越高的时候，环境对于这个机器狗的影响如何？随着小编对该新闻内容的不断跟进，发现这些机器狗确实厉害。如腾讯新闻及其新闻中的视频所述：“该机器狗驮着重物在陡峭山路上健步如飞”、“从泰山山脚的红门到山顶仅用了两小时，比普通人登山所用时间缩短了一半”、“续航达4至6个小时，静态最大承载力达到120公斤”、“在攀登过程中，B2机器狗在崎岖陡峭的石阶上，尤其是十八盘等险峻路段，展现了惊人的平衡和适应性”等等。

由此可见，这个B2机器狗真的帮助泰山景区的相关工作人员减轻了很大的劳动压力，并且中国外交官华春莹女士也给该新闻点赞。

接着，小编其实第二个想到的事情其实是，对于这一技术的普及是否会导致传统挑山工面临失业的风险。

挑山工作为泰山旅游业的重要组成部分，他们的辛勤劳动维护了景区的运行与秩序。然而，机械狗的高效替代可能使他们失去赖以生存的工作，带来经济和心理上的双重压力。挑山工不仅是景区运输的重要力量，更是泰山文化的一部分。他们的存在体现了人类与自然环境的和谐共处，具有深厚的文化内涵。

机械狗的广泛应用可能改变传统的人文景观，削弱人与自然、人与人之间的互动。因此，在推广机械狗技术的同时，我们需要考虑应该如何保护传统文化，维护景区的人文风貌。

毕竟，没有人希望自己生活和旅游的地方一点人间烟火气都没有，没有人希望在未来，帮助和服务游客的都是冰冷的写好了既定程序的机器，而非潇洒活泼的充满当地风情的本地人吧……

文章1：

• https://mp.weixin.qq.com/s/xFP2S24qh3_JQ_VDKLD2_w

文章2：

• https://mp.weixin.qq.com/s/BWoDR-Z2tEqqUAWqR5fc0w
• https://zhuanlan.zhihu.com/p/662730929

文章3：

• https://finance.sina.com.cn/tech/roll/2024-10-20/doc-inctepqz2936614.shtml
• https://news.qq.com/rain/a/20241022A008AE00