让 Codex 长出物理触手:深入剖析 iPhone-use 的零依赖 USB 桥接、PUA 协议与视觉坐标容灾架构
随着大语言模型在桌面端“Computer Use”能力的突飞猛进,让 AI Agent 代替人类操作操作系统已成为各大前沿实验室的必争之地。然而,相比于开放度极高的桌面系统或拥有完善 ADB 调试通道的 Android,苹果 iOS 生态因其极其严苛的安全沙盒、代码签名(Code Signing)、W^X 内存防护以及高度封闭的驱动接口,始终是自动化智能体难以攻克的“数字孤岛”。
近日,开源项目 iPhone Use(GitHub 仓库:zhongerxin/iPhone-use)以极其优雅的工程解法打破了这一僵局。该项目不仅让 OpenAI Codex 能够通过纯物理 USB 直连操控一台真实的非越狱 iPhone,更开创性地提出了一整套 Phone Use Agent(PUA) 交互协议、零外部依赖的标准库级 MCP 服务端、带租约的 MJPEG 屏幕流总线、Unicode 字形簇分段键入算法,以及颠覆性的“控件失效自动降级视觉坐标点击”容灾机制。本文将从系统拓扑、通信协议、容灾架构到交互渲染,对该项目的工程内核进行全景拆解。