请教,深度学习和大数据的数据清洗、标注、分类工作具体是在做些什么

2017-10-24 11:21:18 +08:00
 Yunhao

一朋友找工作,看到一家做深度学习和大数据的公司,主要就是做数据清洗、标注和分类工作,没有很高的学历要求。不是很了解大数据这一块,所以问问大家。
看字面大概知道是要做什么,但是好像很多时候片面的认知会跟实际工作是有些偏差的 : )。我本来以为是编码工作,会有相应的引擎这种,不过网上查的还有需要一天打 500 个电话的。简单点的是不是 Excel 要好一点,会点代码就可以了?还有工作中主要设计到什么工作软件呢?有没有了解的朋友分享一下

6856 次点击
所在节点    问与答
8 条回复
imn1
2017-10-24 11:25:53 +08:00
看这个描述,应该跟代码 /编程没太大关系
实际上是杂工,你想象一下人工识别验证码的工人(只是举个例子,不是说就是干这个)
northisland
2017-10-24 11:30:56 +08:00
标数据。
圈出目标,标记关键点。等等。
Yunhao
2017-10-24 11:33:35 +08:00
@imn1
@northisland 那看起来是不是不会涉及到开发了
haddy
2017-10-24 11:41:42 +08:00
数据清洗:采集到的数据是非结构化数据,不遵循一定的格式。比如说年龄的数据,可能是“ 43 岁”、“ 43 ”、“四十三”、“ 43 ”(多了个空格)、“ 2312 ”等等。将他们统一到一个格式上,成为机器可读取的结构化数据,就是数据清洗。
标注和分类:字面意思。比如说有一堆照片的库,每张照片前景只拍了一样东西,然后你要将这些照片按照前景拍的是什么来分类,标注每张照片中出现的物体有什么。
haddy
2017-10-24 11:42:59 +08:00
V2EX 自动加了空格,数据清洗的例子那里可能会看得比较迷糊。不过我觉得还是能猜出来大概是什么吧。
xunyu
2017-10-24 12:06:42 +08:00
这是比较低端的劳动
Yunhao
2017-10-24 12:14:57 +08:00
@haddy 谢谢,解释的很清楚。是不是用 EXCEL 这种软件一条记录一条记录的处理,有什么专门的工具吗?
princelai
2017-10-24 12:18:17 +08:00
清洗就是楼上说的非标准格式转换为标准格式,工具随意,excel,正则表达式什么的,标注就是这个图片是衣服还是鞋是狗是猫你给标注出来,没什么技术含量,但是很累

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/400180

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX