avatar
文章
33
标签
69
分类
4
主页
标签
分类
关于
友情链接
思想是一个锐化的过程论文阅读笔记---LLM结合规则学习方法提出一种新的时态知识图谱推理框架 返回首页
搜索
主页
标签
分类
关于
友情链接

论文阅读笔记---LLM结合规则学习方法提出一种新的时态知识图谱推理框架

发表于2025-08-11|更新于2025-08-11|论文阅读笔记
|总字数:19|阅读时长:1分钟|浏览量:|评论数:
文章作者: TCcjx
文章链接: https://tccjx.github.io/2025-08-11-post17_GenTKG-%E4%BC%A0%E7%BB%9F%E8%A7%84%E5%88%99%E6%96%B9%E6%B3%95%E7%BB%93%E5%90%88%E5%A4%A7%E6%A8%A1%E5%9E%8B%E7%9A%84%E7%9F%A5%E8%AF%86%E5%9B%BE%E8%B0%B1%E6%8E%A8%E7%90%86%E6%A1%86%E6%9E%B6/
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 思想是一个锐化的过程!
大模型private时态知识图谱推理传统规则学习方法
上一篇
论文阅读笔记---LCGE-基于逻辑和常识来实现时态知识图谱补全的方法
下一篇
损失函数中的温度参数τ
在对比学习的损失函数(如InfoNCE、NT-Xent等)中,温度参数(Temperature,通常用τ表示) 是一个核心超参数,其核心作用是调节模型对样本间相似度差异的敏感程度,通过缩放相似度分数来控制损失函数中正负例的区分强度。 1. 温度参数的数学位置以最常用的InfoNCE损失为例,其公式可简化为: \mathcal{L} = -\log\left( \frac{\exp(\text{sim}(z_i, z_+)/\tau)}{\sum_{k \in \text{neg} \cup \{+\}} \exp(\text{sim}(z_i, z_k)/\tau)} \right)其中: $zi$ 是锚点样本的特征向量,$z+$ 是正例样本的特征向量,$z_k$ 是负例样本的特征向量; $\text{sim}(\cdot, \cdot)$ 是相似度函数(如内积、余弦相似度),一般都是余弦相似度; $\tau$ 即为温度参数,位于指数函数的分母,作为softmax的缩放因子。 2. 温度参数的直观含义温度参数的核心作用是调节相似度分布的“尖锐度”,控制模型对正...
相关推荐
2025-09-25
综述(自用)-基于规则方法的时间知识图谱推理(预测)
2025-08-16
论文阅读笔记---LCGE-基于逻辑和常识来实现时态知识图谱补全的方法
2025-06-03
第一次实习及读研一年来心路历程总结
2025-10-09
ssh连接远程服务器及Linux小常识
2025-06-15
论文阅读笔记---LLM + 图结构信息编码未知实体和关系进行TKGs补全任务
2025-05-23
Bert用于命名实体识别任务(NER)
前记:BERT(Bidirectional Encoder Representation from Transformers)是2018年10月Google AI研究院提出的一种预训练-微调大模型,和GPT属于是同一时期的产物。BERT在多项自然语言处理任务上都实现了SOTA,抛弃了传统模型,在一种任务上需要修改模型架构的方式,而是同一个模型架构在不需要修改的情况下,应用于多个任务上。因此,一经问世就引起了学术界极大地关注,甚至超过了GPT。 BERT的网络架构使用的是基于Transformer中的Encoder部分,由于其使用Attention的关系,从而避免了传统网络结构,诸如RNN,LSTM,GRU等的遗忘问题,可以捕获一个长序列不同token的相关性问题。 Bert架构图如下: 网络结构介绍:这里重点介绍一下Bert的嵌入编码部分,后面部分就是Encoder模块的堆叠了,并没有什么新奇的。Bert的嵌入编码有三部分,分别是token Embedding,position Embedding, segment Embedding,之所以这里需要segment Embeddi...

评论
avatar
TCcjx
生活给我出难题,我说ok小问题
文章
33
标签
69
分类
4
Follow Me
公告
欢迎志同道合的朋友,一起交流
目录
  1. 1. 1.简介
  2. 2. 2.概述
  3. 3. 3.整体框架
  4. 4. 4.实验 and 讨论
    1. 4.1. 4.1 消融实验
  5. 5. 5.个人总结
最新文章
大模型数据格式全景解析2026-07-29
Agent Memory综述2026-07-01
从反向传播角度理解 PPO 损失函数2026-05-04
从底层架构到工程实战:深度拆解生产级 AI Agent 的记忆机制2026-05-02
理解学习率调度(余弦退火 + warmup)的原理和作用2026-04-23
© 2025 - 2026 By TCcjx框架 Hexo 7.3.0|主题 Butterfly 5.5.4
搜索
数据加载中