天才一秒记住【久久文学】地址:https://www.jjwxx.com
】
【检测到宿主系统性地掌握了“深度学习与自然语言处理”
的核心知识体系。
】
【信息学经验值+20!
】
【当前信息学等级:lv.0(35100)】
看著那猛涨了一截的经验条,徐辰並没有太多的惊讶。
对於一个已经站在数学lv.2高度的人来说,ai的底层逻辑並不神秘。
拋开工程实现的细节,现代深度学习的本质,就是在一个极高维的参数空间里,寻找一个能够擬合数据分布的流形。
“现在,地基已经打好了。”
徐辰的目光,投向了系统物品栏里那份名为《具备逻辑推理与长时记忆模块的改进型大语言模型算法框架(laart)》的“草稿”
。
他將其提取出来,仔细研读。
这份“草稿”
並没有直接给出成型的代码,它更像是一份来自未来的“技术白皮书”
,指出了三个核心模块。
徐辰决定,先攻克最核心的——符號逻辑推理模块(slrm)。
目前的ai界,为了解决大模型的“幻觉”
问题,即一本正经地胡说八道,主流做法是rlhf,也就是基於人类反馈的强化学习。
但这本质上是让人类去“教”
鸚鵡说话,鸚鵡並不懂真理,它只是学会了迎合人类的口味。
徐辰翻开草稿的“逻辑推理”
章节,眼神逐渐变得凝重。
草稿上写著这样一段话:
“不要试图在离散的符號层面去强行嫁接逻辑规则。
应当將一阶谓词逻辑的语法树,通过某种拓扑变换,嵌入到连续的向量空间中。
使得逻辑推演的过程,等价於向量空间中的几何变换。”
“建议路径:採用区域表示法。
將每个概念视为高维空间的一个闭区域。
逻辑蕴含即为几何包含。”
“关键模型参考:箱嵌入……”
然而,写到这里,草稿就像是被撕掉了一半似的,戛然而止。
后面关於如何构建这个“box”
,如何处理梯度的反向传播,以及最关键的损失函数设计,全是一片空白。
“系统,你这是断章狗行为啊……”
徐辰忍不住吐槽了一句。
不过,这也激起了他的好胜心。
既然方向已经指明了,剩下的路,自己走不出来吗?
他在草稿纸上画了一个简单的示意图,顺著草稿的思路继续推演。
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!