重磅：OpenAI开放大模型微调功能，上传自己数据就可定制GPT-3.5Turbo，人人可打造专属ChatGPT，开发者狂喜

现在，GPT-3.5 Turbo支持自定义微调了！

只需上传自己的数据，就可以运行专属的定制大模型。

开发者狂喜！不少人惊呼：Awesome！

早期测试表明，经过微调的GPT-3.5 Turbo版本在某些任务中甚至可以超越GPT-4。

更新之余，OpenAI还直接明示了定价计划，微调费用主要分为初始训练费用和使用费用。

一个具有10万tokens训练数据集的微调工作（3个epoch训练）成本大概在2.40美元。

此外，OpenAI还透露了GPT-4微调将于今年秋天推出。

不过也有人不吃这套，吐槽微调成本太高，其生成成本是基础模型的8倍，必须要按照他们所说“将提示大小减小90%”，才能从中获取效益。

开发者自己进行监督微调

OpenAI首先给出了指南手册，微调可以用来改进这些模型性能。

除了提高性能之外，还能缩短提示时间，确保类似性能。另外，微调目前仅支持处理4000 tokens，这也是此前微调型号的两倍。16k tokens微调将于今年秋季推出。

早期测试人员通过对模型本身指令进行微调，加快了API调用还降低成本，让prompt减少了90%。

对函数调用结合和 gpt-3.5-turbo-16k的微调支持将在今年秋季晚些时候推出。

具体微调步骤，分为四步：

准备数据

{  "messages": [    { "role": "system", "content": "You are an assistant that occasionally misspells words" },    { "role": "user", "content": "Tell me a story." },    { "role": "assistant", "content": "One day a student went to schoool." }  ] 

上传文件

创建微调作业

使用微调模型

OpenAI透露，未来他们将推出微调UI，这样轻松访问正在进行中的工作。

定价方面，分为训练成本和使用成本。

不过可以看到的是，价格确实比基础模型高了不少。

更新了GPT-3模型

与此同时，OpenAI还在API端口更新了GPT-3模型：babbage-002 和 davinci-002。

这些模型都可以用新的API端点进行微调。

原始基础模型 (ada, babbage, curie, 和 davinci)将于明年*（2024年）1月4日关闭。

好了，感兴趣的朋友可以开始定制自己的GPT-3.5Turbo了。

参考链接：[1]https://openai.com/blog/gpt-3-5-turbo-fine-tuning-and-api-updates[2]https://news.ycombinator.com/item?id=37227139

本文来自微信公众号“量子位”（ID:QbitAI），作者：白交，36氪经授权发布。（原标题：《OpenAI开放大模型微调功能！上传自己数据就可定制GPT-3.5Turbo，开发者狂喜》）

相关推荐

免费版GPT-4，火到官网崩溃
ChatGPT插件重磅上线，不只“联网”，还将打造强大AI生态
关于ChatGPT安全问题，OpenAI最新回应
OpenAI要搞“App Store”，专卖ChatGPT应用？
OpenAI要做自己的App Store了？
ChatGPT “克星”出现，OpenAI 重磅发布全新 AI 鉴别工具，网友吐槽：失败率太高啦
扎克伯格搞免费开源，搅动大模型池水
ChatGPT路线图曝光：没有GPT-5，GPT-3或将开源
部署像ChatGPT这样的大语言模型，到底要花多少钱？
更强的GPT-4，更封闭的OpenAI

网址: 重磅：OpenAI开放大模型微调功能，上传自己数据就可定制GPT-3.5Turbo，人人可打造专属ChatGPT，开发者狂喜 http://www.xishuta.com/newsview87774.html