V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
anai1943
V2EX  ›  OpenAI

chatgpt api chat/completions 输出指定长度范围结果

  •  
  •   anai1943 · 204 天前 · 655 次点击
    这是一个创建于 204 天前的主题,其中的信息可能已经有所发展或是发生改变。
    写了个小脚本,用 gpt-3.5-turbo-16k 模型输出说明文档,希望 chatgpt api 返回的内容能尽量详细,啰嗦或者废话没关系,最好能在指定字数范围内。

    试过调整过 temperature 、top_p 、max_tokens, 还试过 prompt 明确返回的答案长度为 3000 个中文字以上这种提示,结果返回的还是 2000 字以下。

    prompt 目前提供的都是很详细的要求,文档大纲、大纲的描述、返回格式等等都描述的很清楚了。

    有什么好的办法让 api 能返回指定范围的字数,感谢!
    8 条回复    2023-10-08 11:58:30 +08:00
    maymayblog
        1
    maymayblog  
       204 天前
    除了“继续”我没见过其他真实有效的方法
    anai1943
        2
    anai1943  
    OP
       204 天前
    @maymayblog 接口已经返回 { "finish_reason":"stop"} 了,应该是回答完了吧,没法继续了,本身回答的内容长度不够。
    maymayblog
        3
    maymayblog  
       204 天前
    @anai1943 因为你不太在意他废话,所以你使用历史记录,回复他一个“继续”他会接着写的,但是继续次数越多,越偏离你的中心思想
    Puteulanus
        4
    Puteulanus  
       204 天前
    字数这个感觉无解,之前再三强调写一千字作用,它信誓旦旦的说自己写了一千多,复制出来一看只有六百字
    xabcstack
        5
    xabcstack  
       204 天前
    这是一个逻辑性要求很高的需求, 不要小看这个需求, 只能说明 ai 目前能力还不足
    otakustay
        6
    otakustay  
       203 天前
    不够长的时候,对话模式和它说“你继续”,然后把多次的答案拼起来
    anai1943
        7
    anai1943  
    OP
       203 天前 via Android
    @maymayblog 嗯 目前只能这样了
    sn1p4am169
        8
    sn1p4am169  
       202 天前
    可以尝试给每个大纲加上长度限制,可给定一个“用 UTF-8 字节统计”的数字。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5517 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 03:35 · PVG 11:35 · LAX 20:35 · JFK 23:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.