论文阅读笔记---LLM + 图结构信息编码未知实体和关系进行TKGs补全任务

发表于2025-06-15|更新于2025-06-15|论文阅读笔记

|总字数:19|阅读时长:1分钟|浏览量:|评论数:

当前文章暂不对外可见，请输入密码后查看！

文章作者: TCcjx

文章链接: https://tccjx.github.io/2025-06-15-post12_%E5%A4%A7%E6%A8%A1%E5%9E%8B+%E5%9B%BE%E7%BB%93%E6%9E%84%E4%BF%A1%E6%81%AF%E8%9E%8D%E5%90%88/

版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源思想是一个锐化的过程！

论文阅读笔记 TKGs 补全推理 LLM 图结构信息 private

相关推荐

论文阅读笔记---CyGNet阅读笔记-TKG推理任务

ssh连接远程服务器及Linux小常识

理解学习率调度（余弦退火 + warmup）的原理和作用

1.学习率设置对模型训练的影响学习率设置过大，会导致训练loss振荡，模型训练不稳定学习率设置过小，会导致模型训练缓慢同时，需要注意的是，在模型初期和后期对于学习率的设置是不一样的 2.Warmup阶段在模型刚刚训练的时候，模型的参数都是随机初始化的，如果使用较大的学习率设置，很容易导致模型跑飞。Warmup的思想就是一开始从一个min_learning_rate进行线性增长，增长到目标值。12if step < warmup_steps: lr = max_lr * (step / warmup_steps) 3.余弦退火阶段Warmup 之后，学习率按余弦函数逐渐衰减： Warmup 之后，学习率按余弦函数逐渐衰减： \eta_t = \eta_{\min} + \frac{1}{2}(\eta_{\max} - \eta_{\min})\left(1 + \cos\left(\frac{t - t_w}{T - t_w} \pi\right)\right)其中： $\eta_{\max}$：最大学习率 $\eta_{\min}$：最小学习率 $t_w...

论文阅读笔记---LLM结合规则学习方法提出一种新的时态知识图谱推理框架

论文阅读笔记---LCGE-基于逻辑和常识来实现时态知识图谱补全的方法

第一次实习及读研一年来心路历程总结

评论

数据加载中