解析网站 log(如 Nginx access log),得出 PV, UV, topK access 是什么岗位? ELK?

2020-09-13 12:19:23 +08:00
 oahebky

注:ELK(ElasticSearch, Logstash, Kibana)

背景: 前两天一家公司,搜索了一下感觉还不错;它们发给我一套线上试题先做再邀约面试。 面试题的岗位是爬虫工程师。

先说我自己,工作经验是 LINUX-C 的,学了 Python 想转 Python 开发 (主要考虑后端或数据相关岗;爬虫岗优先级靠后一点。 Python 能力是得到求职市场承认的,投简历没有百分百邀约面试,不过去面试的百分百谈薪资,面试最后都是我说回去考虑一两天答复; 但是业务能力我完全明白自己不足,具体的 PV,UV 是什么我还得学一下)

上面是整体的背景;然后下面是线上面试题的细节:

第二道的题目内容是分析标题的 access log ;不过这个 access log 不是 Nginx 生成的,但是很像就是了; 相当于是 server 提供 RESTful API,是 access API 的 log,包含了更多的信息,举个例子吧:

{"remote_addr": ..., "host": ..., "time": ...,
 "request": ..., ... "url": ..., "request_url": ...}

json 格式的“大”文件 每一条 log 根据具体的 API 格式没有百分百相同,但都是 JSON

题目分析 log 文件,调用函数能够得到 pv,uv, 和 topK 的一个 url 查询(如 /api/any_thing?key=中文,得到这个特定 API 的 key 后面内容的 topK )


最后回到标题,平时工作像上述分析 log 得到 pv,uv,topk 这样的,算是什么岗位? ELK ??

1078 次点击
所在节点    问与答
3 条回复
supermoonie
2020-09-13 12:34:32 +08:00
爬虫爬取数据是一回事,爬下来的数据也是一回事,也算是爬虫的工作吧,只不过爬虫还是更专注爬取与反爬
putaozhenhaochi
2020-09-13 13:01:07 +08:00
数据分析 /增长黑客?
srlp
2020-09-13 17:05:31 +08:00
data engineer

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/706562

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX