中国基金网移动版

　　GPT-5 开发进展和表现

　　训练进度与效能：

　　GPT-5 已完成至少两次大规模训练，其性能优于 GPT-4.但提升幅度有限，未能达到预期。

　　开发团队投入了多样化的数据来源，包括由专业人员创作的数据和使用 AI 模型生成的合成数据(如 o1 模型)。

　　成本挑战：

　　训练 GPT-5 的成本非常高，每次为期 6 个月的训练计算成本高达 5 亿美元，未来大规模 AI 模型开发的成本可能突破 10 亿美元。

　　数据短缺导致了额外的高额开支。获取高质量的训练数据(如科学研究、专业代码)变得愈发困难且昂贵。

　　数据短缺与应对策略

　　高质量数据需求：

　　传统的数据来源(如互联网文章、社交媒体、科学论文)已不足以满足 GPT-5 的训练需求。

　　数据短缺成为制约 GPT-5 开发的最大瓶颈。

　　解决方案：

　　雇佣专业人员： 聘请软件工程师、数学家等，编写高质量的代码和数学问题作为训练数据。

　　与专家合作： 涉及理论物理学等专业领域，与专家探讨复杂问题的解决方法，形成新的训练数据集。

　　开发合成数据： 使用 AI 模型(如 i1)生成数据，避免传统数据源的局限性。

　　合成数据的局限性：

　　苹果研究团队发现，像 o1 这样的推理模型在很多情况下只是在模仿已有数据，而非真正解决新问题。

　　AI 模型生成多个答案的方法进一步推高了运营成本。

　　Orion 项目停滞与资源分配

　　Orion 的困境：

　　Orion 项目因进展缓慢被迫暂停，OpenAI 开始投入资源开发其他项目，如 GPT-4 的精简版和 AI 生成视频工具 Sora。

　　因资源有限，新产品开发团队与 Orion 团队之间的资源争夺加剧了问题。

　　新产品方向：

　　OpenAI 正计划推出一个“比以往更智能”的推理模型，但其是否被命名为 GPT-5 尚未确定。

　　Altman 强调 2024 年内不会发布 GPT-5.但公司仍积极探索新技术应用。

　　未来展望

　　OpenAI 的 GPT-5 项目反映了超大规模 AI 模型开发的两大核心挑战：

　　资源压力： 高昂的成本和有限的计算资源对研发速度造成了制约。

　　创新瓶颈： 数据质量与算法优化成为突破性能瓶颈的关键。

　　尽管如此，OpenAI 的长远规划显示出对 AI 领域的持续投入，包括多领域扩展与高效应用开发。未来，如何平衡成本、效能和市场需求，将决定 OpenAI 的竞争力。