
2026 年 9 月 5 日,独立研究员 Simon Willison 公布了一组实验记录:使用搭载 GPT-6 Astra 的 ChatGPT Codex 驱动 macOS 本机安装的 Blender 桌面客户端,仅凭自然语言提示词完成了一幅“鹈鹕骑自行车”的高质量 3D 场景建模与无头渲染。整个过程在三轮简短对话内完成了从玩具雏形到电影级光影海滩的升级,最终耗时不到 13 分钟。
表面看是智能体在帮创作者编写 Python 脚本,本质是具备视觉反思与本地系统调用能力的 coding agent 正在重构 3D 内容生成的生产范式。模型不再局限于输出静态多边形或不可编辑的扩散模型图片,而是直接接管数字内容创作(DCC)工业软件,输出具备完整材质、灯光、骨骼层级与渲染参数的工程文件。
极简提示词起步,模型如何直接接管本地 GUI 软件
让 coding agent 操作本地复杂桌面软件的关键,在于利用软件内建的脚本接口进行无头渲染(Headless Rendering,即不启动图形用户界面,纯粹通过后台命令行调用渲染内核)。Blender 自带完整的 Python API,允许外部程序传入脚本直接操纵场景对象、摄像机、材质着色器以及 Cycles 或 Eevee 渲染器。
在配置好本地 Blender 环境后,启动 coding agent 并执行任务只需要一段最简指令:
Use the already install /Applications/Blender to render a scene of a pelican riding a bicycle
若希望完全省去模型探索系统路径与参数的时间,可以直接给出更明确的调用模板:
Use Blender like this: /Applications/Blender.app/Contents/MacOS/Blender --background --python scene.py
在实际执行过程中,GPT-6 Astra 会在工作目录自动创建 work/ 与 outputs/ 子文件夹。模型自主编写了包含几何图元拼接、材质定义、程序化曲线挤出与三点布光设置的 work/pelican_scene.py 脚本,并自动触发无头渲染指令。第一轮渲染耗时 2 分 39 秒,输出了一只白身、珊瑚色围巾、骑着青绿色自行车的卡通鹈鹕,背景为柔和的鼠尾草绿,展现了标准的粉彩玩具质感。
视觉 QA 闭环驱动,三轮迭代从粉彩玩具到夕阳海滩
与传统的代码生成工具不同,现代 coding agent 具备视觉问答与反思能力(Visual QA)。每次渲染生成 PNG 格式图片后,模型会自动重新加载该图片,对比提示词中的构图与色彩要求,自主检查画面的透视、光照衰减与对象比例。
第二轮提示词仅输入了极为口语化的需求:
OK add a background and a lot of flair
GPT-6 Astra 耗时 3 分 51 秒 完成代码重构与二次渲染。模型不仅为鹈鹕添加了经典的条纹船夫帽,还在背景中搭建了包含热带棕榈树、木质海滩小屋、彩色漂浮气球、三角彩旗以及散落五彩纸屑的度假海岸场景,材质高光与阴影细节得到了大幅扩充。
第三轮提示词进一步推向极限:
OK make it a whole lot better
经过 5 分 59 秒 的复杂逻辑计算与渲染采样,模型输出了一张氛围感极强的日落海滩木板路全景。场景新增了夕阳低角度暖色逆光、海面远景帆船、自行车前把手上的编织花篮以及精细的地表木纹法线映射。
| 阶段 | 核心问题 | 留下的硬伤 |
|---|---|---|
| 第一轮(基础生成,2分39秒) | 几何结构过于简单,仅能用基础图元拼接角色主体 | 场景缺乏背景环境,材质为纯色塑料感,无阴影层次 |
| 第二轮(风格扩展,3分51秒) | 道具元素堆叠过多,画面视觉中心容易被杂物分散 | 光照仍为单一漫反射,局部几何体存在穿模与重叠 |
| 第三轮(画质跃迁,5分59秒) | 大场景渲染采样增加,导致 Python 脚本解析与渲染耗时显著变长 | 复杂有机物如鸟羽细节仍依赖程序化着色器近似模拟 |
从单次对话到 Skill 固化,构建免调试的 3D 工作流资产
单次成功的对话只是一次性交付,将操作流程封装为智能体技能(Skill)才是将实验转化为生产力的关键步骤。在渲染完成后,只需向模型下达封装指令:
Create a quick skill that describes how to use the currently installed /Application/Blender based on what you learned
Codex 内置的 skill-creator 工具链会自动启动。它会提炼本次操作中验证有效的命令行参数、无头渲染环境变量配置、临时文件管理规范以及 Python API 常见语法约束,自动生成并校验一份标准 SKILL.md 文档。随后,系统通过内置的 quick_validate.py 进行静态格式检查,最终将其复制到本地智能体技能目录 ~/.codex/skills/blender-local。
技能固化后,在后续任何新对话中,创作者无需再次解释路径与调用格式,仅需输入:
Use your Blender Local skill to build this scene (附带参考图或描述)
这种工作流的核心优势在于输出物既包含高分辨率渲染图,又同步保留了完整的 .blend 原生工程文件。创作者随后可以在桌面端打开 Blender,对模型拓扑、材质节点、骨骼动画进行人工精细微调,彻底打破了传统文生图模型“生成即固定、无法二次局部编辑”的黑盒困境。
运行时权限与长序列合成,本地智能体渲染的实战避坑指南
在配置与运行 coding agent 接管本地工具时,创作者通常会遇到环境隔离与长时间任务中断两类典型问题。
首先是受限运行时的权限冲突。在 macOS 沙盒或受限终端环境下,Codex 首次直接调用 /Applications/Blender.app 时容易因缺失动态库读取权限或显卡硬件加速权限而触发启动崩溃(Crashed at startup in the restricted environment)。解决方法是确保终端给予 coding agent 运行环境足够的本地子进程派生与目录读写权限,避免因静默拦截导致进程挂起。
其次是长耗时任务的网络与连接稳定性。在生成高面数网格或编译大型技能包时,WebSocket 长连接可能会偶发断连(如实测中出现的 stream error)。现代 agent 具备断线自动重试机制(通常在 5 次重连窗口内恢复),在编写复杂脚本时,应引导模型分模块保存阶段性 .py 文件,避免单次脚本执行超时。
若需要将该工作流扩展至 3D 动态视频生成,只需在提示词中要求模型编写循环帧渲染逻辑:
Render a 60-frame camera turntable animation as PNG sequence to outputs/frames/ and stitch into MP4 using ffmpeg
Blender 会依次导出带编号的序列帧图片,智能体随后调用本地 ffmpeg 工具合成平滑的 60fps 旋转镜头视频,实现从静态 3D 资产到动态视频资产的全自动流水线。
综合判断与未来演进
驱动本地 Blender 渲染 3D 场景的工作模式,绝非单纯的“AI 生成 3D 资产”,而是一场由 coding agent 充当“数字技术美术(Technical Artist)”的工业级协作变革。它澄清了一个长期存在的行业误读:AI 在 3D 领域的终局并不是取代现有的渲染引擎与建模管线,而是作为上层大脑,精准调用人类已打磨数十年的成熟工业软件生态。
然而,当前工作流依然面临一个未解决的核心瓶颈:模型对超高精度自由曲面(NURBS)与雕刻级多边形网格的直觉控制力仍然不足。GPT-6 Astra 目前极其擅长基于 Python 代码进行图元构建、布尔运算、程序化纹理与灯光布局,但面对复杂的有机生物面部解剖学形变或复杂的流体动力学粒子解算,代码直接生成的网格拓扑仍然难以直接替代顶级 3D 艺术家的手工雕刻。如何让智能体学会操作网格细分着色器与外部权重控制,将是下一代 3D 智能体工作流的核心攻坚方向。
引用来源
- Simon Willison. "Using Blender with coding agents on macOS", 2026-09-05. https://til.simonwillison.net/llms/blender-coding-agents-macos
- Simon Willison. "TIL: Using Blender with coding agents on macOS", 2026-09-05. https://simonwillison.net/2026/Sep/5/blender-coding-agents-macos/
- Simon Willison. "simonw/gpt-6-astra-blender-pelican-bicycle", GitHub Repository, 2026-09-05. https://github.com/simonw/gpt-6-astra-blender-pelican-bicycle
- Simon Willison. "Codex Transcript: gpt-6-astra-blender-pelican-bicycle", 2026-09-05. https://github.com/simonw/gpt-6-astra-blender-pelican-bicycle/blob/main/codex-transcript.md
- Simon Willison. "Codex bundles LibreOffice", 2026-09-01. https://simonwillison.net/2026/Sep/1/codex-libreoffice/