西西河

主题:【原创】AI 幻觉 -- 孟词宗

  • 共: 💬 16 🌺 30
  • : 💬 16 🌺 7
网络搜索是不可靠的

第四个就是调用搜索引擎,约等于公司内部聘请外部专家,来对答案进行评审;

网络搜索是不可靠的。这些年来网络上充满了各种虚假信息。搜索到的东西往往是虚假和错误的。AI 出现后又造成新的闭环:AI 幻觉的东西(例如老胡文章里的“时空折叠算法”)被放到网络上,然后又被 AI 拿来当作证据。😂

其实训练 AI 和教育人类小孩一样。都要建立一个基础标准。例如 1+1=2, 9.8>9.11 等等。另外一些基础的观念也要建立。其实就是建立数学基础和建立“三观”。然后从这个基础出发来进行回答。而回答要偏离(联想度)基础标准多少就可以设立权重。而且还可以根据不同场景加以调节。例如在作数据分析时,就绝对不能偏离。而在要求有“不落窠臼的想象力”(英语叫 Thinking out of the box)的情况时,则可以根据情况加大偏离的权重。



有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河