Chinese Brief
中文案例导读
BigScience Workshop / Petals project 公开的真实任务执行案例,来源为 公开代码库,复核于 2026-06-27T08:32:44Z。 Model Atlas 将它标记为 A 类证据,因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
CASE EVIDENCE / A RECORD
BigScience Workshop / Petals project 公开的真实任务执行案例,来源为 公开代码库,复核于 2026-06-27T08:32:44Z。
原始记录:BigScience Petals 支持分布式运行并 prompt-tune LLaMA 65B
Chinese Brief
BigScience Workshop / Petals project 公开的真实任务执行案例,来源为 公开代码库,复核于 2026-06-27T08:32:44Z。 Model Atlas 将它标记为 A 类证据,因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
任务
Petals 把大模型分片运行在志愿者/组织节点组成的分布式 swarm 中,README 明确列出 Prompt-tune Llama-65B for text semantic classification 的示例,并提供连接 Petals HTTP/WebSocket endpoint 的公开聊天 Web app。
公开产物包括 Petals 代码库、LLaMA-65B prompt-tuning Colab 示例、chat.petals.dev Web 应用和 public swarm monitor/source;使用者可以通过 Petals API 进行推理、查看 hidden states 或执行微调。
LLaMA 65B 作为 Petals 支持的大参数模型之一,承担文本表示、生成和 prompt-tuning 底座;Petals 通过分布式执行降低单机部署 65B 模型的门槛。
公开聊天 demo 当前可访问但其在线后端模型可能随时间变化;强证据来自 README 中对 Llama-65B prompt-tuning 示例和 Petals 分布式运行机制的明确描述。