这是一个创建于 54 天前的主题，其中的信息可能已经有所发展或是发生改变。
公司最近在做一个科技创新项目，偏面子工程，经常要对外宣传营销，经常要我硬写“创新点”文章报道。
我就用通义/Gemini：前期构思，后期润色。
内容后来被各路媒体、自媒体引用、转载（当然大部分是花钱请的）。
后来再写相关内容，继续习惯性丢给 LLM 。他会联网搜索到我之前写的报道，内容是我自己编的，参考资料也是。开始循环引用了。
一时间，不知道是我在喂养模型，还是模型在反哺我。自然产出的内容也会更低质，偏离原本内容。
 |
1
Seanfuck 54 天前
恶行循环了，后面可能会没（人类产出的）东西训练模型，导致 AI 停止进步。
|
 |
2
ileeoyo 54 天前  1
所以有时关闭 AI 联网搜索，反而能输出更优质的结果。
|
 |
3
acorngyl 54 天前
时序模型，如果模型容量不够，做多步推理（用生成内容预测新内容），或者用生成内容做训练数据，模型预测结果会因为错误累积，迅速崩塌。
|
 |
4
PepperEgg 53 天前
过拟合
|
 |
5
sparklee 53 天前
近亲繁殖
|
 |
6
elevioux 53 天前
随着互联网上由 AI 生成的内容越来越多，原生数据占比越来越少，基于此训练的 AI/联网搜索会逐渐劣化？
|
 |
7
gunner168 53 天前 via iPhone
难怪之前很多 ai 助手，比如三星 bixbi ，微软小冰，越更新越废，看来是这个原因了
|
 |
8
catazshadow 53 天前 via Android
计算不产生熵
|
Select Language