API2GPT(ChatGPT)
复制页面
API2GPT(ChatGPT)
介绍
项目说明
导言
身份验证
发出请求
参数详情
聊天(Chat)
聊天完成对象
聊天完成块对象
创建聊天补全
POST
自动补全(Completions)
完成对象
创建完成
POST
嵌入(Embeddings)
嵌入对象
创建嵌入
POST
图像(Images)
图像对象
创建图像
POST
音频(Audio)
创建音频
POST
创建转录
POST
创建翻译
POST
消费查询
POST
参数详情
复制页面
频率和存在惩罚
Completions API
中发现的频率和存在惩罚可用于降低对令牌重复序列进行采样的可能性。他们通过添加贡献直接修改 logits(非标准化对数概率)来工作。
在哪里:
mu[j]
是第 j 个标记的对数
c[j]
是在当前位置之前对该令牌进行采样的频率
float(c[j] > 0)
如果为 1,
c[j] > 0
否则为 0
alpha_frequency
是频率惩罚系数
alpha_presence
是存在惩罚系数
正如我们所见,存在惩罚是一种一次性的加性贡献,适用于所有至少被采样过一次的标记,而频率惩罚是与特定标记被采样的频率成正比的贡献。
如果目标只是稍微减少重复样本,则惩罚系数的合理值约为 0.1 到 1。如果目标是强烈抑制重复,那么可以将系数增加到 2,但这会显着降低样本质量。负值可用于增加重复的可能性。
修改于
2023-11-20 03:02:09
上一页
发出请求
下一页
聊天完成对象