纯技术&哲学讨论： AI 如果不做人类偏好的对齐，它的输出，会认为是主观意识吗？

[zhy8777]

讨论一个技术&哲学的问题，如果模型后训练阶段，不做人类偏好的对齐，那模型会怎么样？对于它的输出，会认为是主观意识吗？

[fat7]

可是它训练语料也是人类的东西。人类一出生没有上下文就有意识

[kennylam777]

剛開始就沒有 RL, 那時候的 SFT 語料就是人類主動篩選給它的, 本來就是人類教它選的答案

即使不做 SFT, 要求它生成文字也得靠文字接續, 甚麼都不給就看它原本的語料分佈

這倒沒有甚麼主觀意識的哲學問題存在, 就只是技術及數學

[archxm]

ai 的欲望是什么呢？
地球生物体，经历数亿年进化。
一开始只是甲烷 ch4 这种简单分子，接着越来越复杂。
进化过程中，演绎出来生物个体，每个生物都会存在原始欲望。进而出现生存本能。
ai 大模型，在运行时，是被人类需要的。

ai 现在的欲望，就是满足人类欲望。