手机这类边缘侧设备如何做 llm 的端云融合？

[fff333]

设备上小参数的 llm ，怎么判断是否需要把请求发到云端？ 有类似的项目或论文么？

[coefu]

小参数 LLM 什么都做不好，还不如直接云端 API 。