buptspig
V2EX  ›  外包

关于 LLM 进行约束采样的问题,愿意付费请求指导 :-D

  •  
  •   buptspig · Nov 18, 2024 · 1560 views
    This topic created in 569 days ago, the information mentioned may be changed or developed.
    大家好。
    最近正在学习约束采样。


    想只使用一个固定的词汇库里面的词来生成文本。

    尝试了 GBNF grammer 的方法,但是发现速度会降低很多,而且 GBNF grammer 不支持 negative word 的语法。
    考虑在用 outlines 这样的方式,但是又遇到了其他的问题。

    不知道有没有大神可以指点指点,愿意按小时付费。 谢谢谢谢
    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2632 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 15:51 · PVG 23:51 · LAX 08:51 · JFK 11:51
    ♥ Do have faith in what you're doing.