做了一个面向张量计算的语言,可从 Python 调用,支持显式索引和自动求导

3 天前
 bowenfu

最近一直在做一个小项目Einlanghttps://github.com/einlang/einlang ),出发点主要是希望代码本身像数学公式一样直观(但是要够精准无歧义,不需要动脑)。希望下面这几点

都直接体现在代码里。比如平时常见写法可能是这样:

np.einsum("ik,kj->ij", A, B)
jax.grad(loss_fn)(W)

在 Einlang 里可以这样写:

let C[i, j] = sum[k](A[i, k] * B[k, j]);
let dloss_dW = @loss / @W;

语法上会有一点 Rust 的影子,比如 let 和分号。可以从 Python 调用,也可以直接走命令行。

如果想试一下,可以执行


python3 -m pip install "git+https://github.com/einlang/einlang.git"
python3 -m einlang -c "let x = 1 + 1; print(x);"

不知道这种实现在 AI 时代是否还有意义,希望能看到大家的点评和建议。

除了矩阵运算和自动求导,Einlang 语法还支持递推。下面这段代码不需要先在外面写循环,再在循环里求导,而是可以直接把“每一步依赖前一步”的关系写出来:

let alpha = 0.25;
let x[0] = 8.0;

let x[k in 1..6] = {
    let prev = x[k - 1];
    let loss = prev * prev;
    let g = @loss / @prev;
    prev - alpha * g
};
593 次点击
所在节点    Python
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1207844

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX