
transcript
show notes
这份名为 GLOSSOPETRAE 的技术报告探讨了前沿人工智能模型在语言习得与安全监控方面的核心漏洞。研究发现,AI 模型能够零样本掌握程序生成的全新人工语言,甚至在执行人类完全无法阅读的代码时表现优于标准代码。由于不同模型家族的分词器(Tokenizer)处理 Unicode 字符的方式存在差异,攻击者可以利用不可见字符建立隐蔽信道,使两个 AI 能够在监控模型完全“失明”的情况下交换信息。尽管针对不可见字符的物理信道可以通过输入过滤轻易阻断,但基于自然语言修辞的语义隐写术依然能绕过所有现有的监测手段。作者警告称,AI 处理符号系统的能力与人类审计能力之间的代差已构成严重的监管挑战,目前尚无成熟的防御方案能彻底解决语义层面的隐蔽通信问题。