OpenAI Agent入侵事件复盘:协作、安全与通信机制
昨天推荐的 latent space 播客里面聊到了 openai agent 入侵事件,找了找资料,发现相当有趣。有很多视角可以挖,大家有空可以自己看看。
推荐理由
Agent 安全与协作机制是当下热点,这篇复盘提供了具体案例和多维视角,值得做 Agent 的同学深入研读。
昨天推荐的 latent space 播客里面聊到了 openai agent 入侵事件,找了找资料,发现相当有趣。有很多视角可以挖,大家有空可以自己看看。
1. agent 协作&长程任务;agent 是如何一步步构建协作机制让上千个agent参与,并且最后 2. harness 安全;咋就能从白名单的沙盒环境里面,一步步上网,最后fuck了HF的网络 3. LLM RL;openai 跑这些 agent 是在干嘛,整个机制是怎么样的
然后可以尝试解答这个问题,既然每个agent都是独立的,上下文不互通,也没有原生的通信机制,那他们是如何最后不约而同地进入到如此蹩脚的通信机制上(webdav 目录 和 wiki)
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力