kvenux

最近秋招陆陆续续面了一堆应届生,说点感受

  •  
  •   kvenux · 20h 19m ago · 8733 views

    整体水平是真的高。CCF A 一作的不少,两段大厂实习基本是标配,而且实习都是实打实做过东西的,能讲出细节。聊业务、聊领域、聊 Agent 怎么搭、评测怎么做,回答得全面也有自己的思考,简历和表达都比我们当年强很多。

    但稍微往底层问一点,问题就出来了:

    • LLM 接口的 token 分几类、计费为什么不一样,说不清楚
    • prefill 和 decode 分别在做什么,说不清楚
    • QKV 的八股答得很漂亮,但往下追问 KV cache 存的是什么、长上下文为什么慢,基本就答不上了

    现在的学校有点像一场军备竞赛:

    • 老师用 GPT 出题,学生用 GPT 做题,老师再用 GPT 阅卷
    • 论文用 AI 找方向、写代码、跑实验、润色,人手一篇反正是摸奖中彩票
    • 面试准备也能看出 AI 痕迹,大概率是让 AI 整理八股、模拟面试,标准答案背得比谁都熟

    结果就是大家都卡在一种似懂非懂的状态里。说完全不懂吧,概念、术语、公式都知道,说真懂吧,追问两句就露馅了。

    他们自己心里多少也清楚,但没时间停下来补,因为身边的人都在往前冲。于是一边心虚,一边加速,越卷越拧巴。

    最后感慨一下,今年大环境居然成了这样。换我穿越回去,大概率全面扑街。只是作为面试官坐在对面,看着一个个这么优秀又这么拧巴的年轻人,心情复杂。。。

    Supplement 1  ·  14h 23m ago
    补充下背景:团队是做 agent 方向的,这三个问题是业务里天天碰到的,成本、首字延迟、长上下文性能都有关系
    基本现在学生实习都会做点知识、领域 agent ,再不济也用过 codex 、dsh
    平时自己 agent 跑一轮多少成本、上下文长了为什么慢,搞过 agent ,或者自己深入用过 agent 的人基本都清楚吧
    102 replies  •  2026-11-12 11:25:45 +08:00
    1  2  
    ❮ ❯
    letking
    letking
    26 mins ago
    101
    你这三个问题说实话很基础,都是背诵题不需要什么底层理解,这都答不上来你怎么判断出来水平很高的。

    你们做 agent 方向,“这三个问题是业务里天天碰到的,成本、首字延迟、长上下文性能都有关系”,但无论你了解或不了解这三个问题,你都解决不了吧?你知道了 prefill 和 decode 的区别、KVCache 存的啥,又能优化什么?全都是调 api ,或者部署开源推理框架,你知道了这些难道就能把首字延迟降低了?
    你们要是做 agent ,这些问题你们能用的上的只有怎么缓存 prompt 吧,无非也就是尽量保证前缀一致。可以说做 agent 都没什么可面的,ai 都能干的比人好。
    liangjx
    liangjx
    21 mins ago
    102
    agent 完全是软件工程的内容,似乎你的提问属于推理部署优化范畴了,不过还是取决你们要招什么样的人。归根结底还是候选人太多
    1  2  
    ❮ ❯
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4179 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 03:47 · PVG 11:47 · LAX 19:47 · JFK 22:47
    ♥ Do have faith in what you're doing.