V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  cloudzhou  ›  全部回复第 12 页 / 共 44 页
回复总数  874
1 ... 8  9  10  11  12  13  14  15  16  17 ... 44  
如果写中间件,那么多线程就是基本知识了
而一个好的框架,就是让开发者不需要过度考虑并发问题
2023-03-07 11:27:42 +08:00
回复了 urnoob 创建的主题 随想 继上次看 BYD,熟人已经提车,感觉没有特别香。
15w 美系(伪)豪华品牌,这个价位基本和“豪华”没关系了,取舍而已
去年 byd 卖了 186w 量,怎么可能都是滴滴
2023-02-22 19:10:44 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@Livid
V2ex 有些 bug ,提醒也没有,@ 引用提示的人,逻辑我有点看不懂,是帖子出现的人吗?好像也不是
2023-02-22 19:08:41 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@house600 公司内部项目,不大合适开源,原理基本都讲了

@machen
我可没对你怎么输出,就是说你这个功能,不是刚需,没解决痛点
我更没怎么蹭,引 gist 是为了和 @house600 讲怎么实现,“来回引用”?相对你的帖子,我们两位的讨论更有价值点
2023-02-18 05:08:52 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@lesismal 我刚想说这种回调式写法,协议要使用状态机去实现,就看到你 nbhttp 用状态机解析 http 协议
omg ,这工作量我都不敢想,但是你确定实现了一个完整的 http 协议解析了吗?这工作量可不小
2023-02-18 04:48:52 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@lesismal 我为我言语表示道歉,因为这个帖子本身在推广自己 lib (还蹭美团),你又贴了自己链接,导致把你也一顿输出~。不是相轻,相反,能写出这样项目的人,水平很高,因为需要知识扎实(我写不出来,除非我去看别人代码)。

> 你前面提出的几十万协程问题,是指实际进行同步 io 的行为,后面楼层又说标准库的同步 io 也足够。

回归这个问题,就是说不管是否池化,是否协程,对资源的限制都是需要的,否则下游都会击垮,因为真实环境,就是一定还会访问下游( db/redis/rpc )等
标准库的同步 io 也足够,是指如果只是挂在 net.Conn.Read() 的协程,那多一些也问题不大

---
回到技术问题:之前没看你这个项目,这次去认真看了~
但是,盲猜通过回调实现,比如 Java 里面的 netty ,只有这样才实现少数 io 协程分发
结果确实是:
g.OnData(func(c *nbio.Conn, data []byte) {
c.Write(append([]byte{}, data...))
})

刚好我写过 netty 协议的 encoder/decoder ,还写过一些嵌入式类似回调解析协议
我的体验就是,回调式符合机器设计,不符合人类思想,维护状态是很累的
如果你用两种方式来解析 websocket 协议,就能体现明显差距
我说的“反感”,就类似,Golang 官方那么努力能你写平铺直叙的同步读写,一把给干回来了

我另外一个顾虑是:类似这种依赖某个 x 这么基础组件,有一天 Golang 升级到 xxx 版本了,协程更高效了
然后没有人敢升级,因为这个 x 组件重度依赖,做了好多高科技,没人敢动,这在我们技术上出现过
---
说点我的技术选择:
1. 主流技术优先,Java 世界 Spring 一把梭,甚至按着官方文档来就好了; Golang 就官方库,在上面封装一下脚手架
2. 选择 /实现方案的时候:解决程序员心智问题优于其他,代码的可读性优于其他
---
你这项目我准备 clone 下来看看怎么实现的
2023-02-17 22:50:04 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@lesismal 你这逻辑,无非是,net.Conn 都会挂住一个协程,比如 Read 操作,到几百万协程
而你自己写了类似 epoll 监听,只有 readable connection 才会实际占据协程,对不?

我说的几十万协程,是指实际进行同步 io 的行为,比如消费 kafka 然后 db/redis/rpc 操作等,瞬间击垮对方 /自己系统
对于因为监听 io 阻塞的协程,其实 Go 官方也是足够用的,虽然看起来协程多很多

说点打击你积极性的话,我非常反感一些很底层操作,使用非官方库的行为,其中包括协程、nio 部分
真正有你这种需求的,只有有限的 im 、网络转发才需要
the key point: 绝大部分遇到的问题,都是 io 相关,说的天花乱坠,db/redis/log 先要看能不能抗住

很多人做的事情,很像是,把一个长板,构建的更长,然后给大家看,哇,我做了多厉害的工作,然后短板依在。
2023-02-17 17:52:20 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
2023-02-17 17:47:59 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@house600 细节上,做了多个线程池的梯度下降处理,举个例子,定义线程池 poo1 -> pool2 -> pool3 ,最大线程数量从高往低,每个 namespace 定义的最大 pool 占用百分比,分别是 5%,20%,30%,类似这样,一个 namespace 最大占用线程数:
max = poo1*5% + pool2*20% + pool3*30%

除非同时有 20 个 namespace 都占用了那么 5%(那你系统一定有大问题),否则资源最大化同时,又有隔离限制,达到一个平衡
2023-02-17 17:39:10 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@lesismal 我知道,你实现了一个 nio ,替代标准库,不过我的观点不在此,我的意思是,真实的业务,在这个网络层面之前,其他已经挂了,还没到这里,问题终究就是需要对资源进行限制

@cubecube 是,我赞成协程不需要池化和复用,只需要控制顶层资源


@house600 这里是这样做的:
executor.execute("processNamespace", () -> handle***(xxx), Opt.withMaxConcurrent(100));
的时候,把 runner 包装一下,执行方法前 processNamespace +1 ,之后 processNamespace -1 ,
通过一个阻塞的变量控制: https://docs.oracle.com/javase/7/docs/api/java/util/concurrent/locks/Condition.html
计数器控制:
https://stackoverflow.com/questions/69760046/java-conditions-with-locks

比如你设置了最多 10 线程,那么当前 10 线程可以,再 +1 = 11 的时候,就会触发等待,需要计数器 -1 才可以继续
2023-02-17 16:26:32 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@dqzcwxb 你说的都是 *理论上*,好像我们现实中没遇到这场景一样,还是 Go 的服务,够原生协程了吧
现实就是:几十万的协程,就把服务快击垮了,cpu 99% 以上,响应不过来,总有其他短板阿

你要是写一个 hello world ,确实可以不用考虑
2023-02-17 15:22:50 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@TWorldIsNButThis 是啊,我只是针对上面一个发言,就是协程不是万能的,并发控制一样需要,甚至因为协程更加容易滥用
2023-02-17 14:22:28 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
@lmshl
这个倒是说得太早,尤其是 Java 世界,要原生支持协程且有一段时间。
即便支持协程,对于协程数量的控制还是要需要的,比如有时候消费延后的 kafka ,积累了几十万数据,任何语言启动几十万协程,都不是一个小代价,会系统抖动,影响其他逻辑。

只是技术上我一直倾向一个观点,不要依赖人,依赖算法,而这个 lib 只是提供了一个依赖人去修改的功能,就很鸡肋。
2023-02-17 10:22:21 +08:00
回复了 machen 创建的主题 程序员 美团:某动态线程池框架是官方开源的么?
你这个需求,是为了动态修改线程池状态,但是这个反而不是我们更需要的,
我做了类似的一个线程池框架,最终实现是:

---------------------------------------------------

# Executor 基于命名空间的公用线程池

## 背景

- 合理使用 Java 线程池并没有想象那么容易,容易滥用
- 能否合理做到 try{}catch{},log ,reject(CallerRunsPolicy/AbortPolicy/DiscardPolicy)
- 在尽量使用资源和防止滥用取得一个平衡

## 设计

- 全局共用线程池,便于管理全部线程,唯一是要注意资源隔离
- 提供梯度降级线程池处理,最大并发控制
- wait group ( fork -> join 模型)
- 监控上报(以 namespace 作为划分)
- 优先级
- 保持和 java.util.concurrent.Executor 一致接口

## 使用场景

### 1. 需要限制最大并发线程数量

比如:kafka 消费,要防止积累的数据瞬间占用大量线程,必要时异步转同步,阻塞消费(典型场景:***)

```
executor.execute("process***", () -> {
handle***(xxx);
}, Opt.withMaxConcurrent(100));
```

### 2. 定义并发上限之后不同表现

```
executor.execute("lowPriority", new Runnable(){...}, Opt.withRejectPolicy());
// CallerRunsPolicy 转变成为当前线程执行
// AbortPolicy 打印异常并且放弃
// DiscardPolicy 默默丢弃
```

### 3. 低优先级

比如: 可以丢失的异步任务,达到最大线程数之后,将放在低优先级 pool ( 64 线程) 执行,相互竞争

```
executor.execute("lowPriority", new Runnable(){...}, Opt.withLowPriority());
```

### 4. fork -> join 模型

比如: 发出多个异步任务,等待集体完成

```
executor.execute("job1", new Runnable(){...}, Opt.withConcurrentGroup("thread-group"));
executor.execute("job2", new Runnable(){...}, Opt.withConcurrentGroup("thread-group"));
executor.execute("job3", new Runnable(){...}, Opt.withConcurrentGroup("thread-group"));
executor.wait("thread-group")
// job 1-3 done
```

### 5. log / monitor

对于开启的任务,都进行 log 和耗时监控,同时上报 monitor

---------------------------------------------------

搞一个全局线程池(最大可能是 2048/4096 ,...),通过同步原语控制并发数( or 百分比,10%)
来让资源最大化使用,但是同时不至于滥用资源,至于这个控制算法,需要仔细斟酌,这才是核心需要

至于那些资源动态改来改去,最多算是一个 1.0 版本,我们需要的是,让机器帮我们选择,作出决定。
2023-02-14 18:12:24 +08:00
回复了 go522000 创建的主题 问与答 在这个情人节,我提出了离婚。心好累。
作为程序员,精准量化有必要:
1. 加班频率到底如何,是否影响生活了,还是你意气用事
2. 她对孩子怎么样,付出如何

---
以女方角度,没准是,费心费力代娃,努力工作,加班还被老公吼
2023-02-14 16:06:54 +08:00
回复了 sillydaddy 创建的主题 生活 自己或者小孩子还有必要学习英语吗?
这个问题在于一门新的语言,算不算基础学科的一部分

比如数学,大部分人的数学,在初中阶段就够用了;普通程序员,微积分用的都很少,高中水平够了

对于基础学科,就好比有了计算器,我们依然会教小孩数学,并且认为是必须的学科
那这个问题,我依然会教育小孩英语,一门最广泛,各种领域获取资源最便利的一门学科,同时也是文化的一部分
2023-02-13 15:17:13 +08:00
回复了 zzzkkk 创建的主题 杭州 手里 150 万 年入 54 万 又不想买房了
如果你考虑利息这个角度,那么永远都不需要买房,除非像日本那样低利率时代。
核心问题还是:是否需要一个房子,带给你幸福感如何
地方水质不同,饮水机是我对所有人推荐的,不用都不知道水能那么脏
最贵的 RO 反渗透,不过根据我的实测,换了后水质好很多
2023-01-29 11:23:17 +08:00
回复了 wxw752 创建的主题 生活 想买辆好点的车,很纠结麻烦各位帮我分析分析
车贬值和维护成本极高,如果一定要 530 ,可以考虑成色好点的二手车
我第一辆车,15w 落地,五年之后二手 4.5w ,算下来一年 2w 折旧+几 k 维护
1 ... 8  9  10  11  12  13  14  15  16  17 ... 44  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1013 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 28ms · UTC 20:29 · PVG 04:29 · LAX 13:29 · JFK 16:29
Developed with CodeLauncher
♥ Do have faith in what you're doing.