avatar
文章
26
标签
56
分类
4
主页
标签
分类
关于
友情链接
思想是一个锐化的过程论文阅读笔记---LLM结合规则学习方法提出一种新的时态知识图谱推理框架 返回首页
搜索
主页
标签
分类
关于
友情链接

论文阅读笔记---LLM结合规则学习方法提出一种新的时态知识图谱推理框架

发表于2025-08-11|更新于2025-08-11|论文阅读笔记
|总字数:19|阅读时长:1分钟|浏览量:|评论数:
文章作者: TCcjx
文章链接: https://tccjx.github.io/2025-08-11-post17_GenTKG-%E4%BC%A0%E7%BB%9F%E8%A7%84%E5%88%99%E6%96%B9%E6%B3%95%E7%BB%93%E5%90%88%E5%A4%A7%E6%A8%A1%E5%9E%8B%E7%9A%84%E7%9F%A5%E8%AF%86%E5%9B%BE%E8%B0%B1%E6%8E%A8%E7%90%86%E6%A1%86%E6%9E%B6/
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 思想是一个锐化的过程!
大模型private时态知识图谱推理传统规则学习方法
上一篇
论文阅读笔记---LCGE-基于逻辑和常识来实现时态知识图谱补全的方法
下一篇
损失函数中的温度参数τ
在对比学习的损失函数(如InfoNCE、NT-Xent等)中,温度参数(Temperature,通常用τ表示) 是一个核心超参数,其核心作用是调节模型对样本间相似度差异的敏感程度,通过缩放相似度分数来控制损失函数中正负例的区分强度。 1. 温度参数的数学位置以最常用的InfoNCE损失为例,其公式可简化为:$$\mathcal{L} = -\log\left( \frac{\exp(\text{sim}(z_i, z_+)/\tau)}{\sum_{k \in \text{neg} \cup {+}} \exp(\text{sim}(z_i, z_k)/\tau)} \right)$$其中: $z_i$ 是锚点样本的特征向量,$z_+$ 是正例样本的特征向量,$z_k$ 是负例样本的特征向量; $\text{sim}(\cdot, \cdot)$ 是相似度函数(如内积、余弦相似度),一般都是余弦相似度; $\tau$ 即为温度参数,位于指数函数的分母,作为softmax的缩放因子。 2. 温度参数的直观含义温度参数的核心作用是调节相似度分...
相关推荐
2025-09-25
综述(自用)-基于规则方法的时间知识图谱推理(预测)
2025-08-16
论文阅读笔记---LCGE-基于逻辑和常识来实现时态知识图谱补全的方法
2025-06-15
论文阅读笔记---LLM + 图结构信息编码未知实体和关系进行TKGs补全任务
2025-05-20
大模型中的三角位置编码实现
三角位置编码公式: Transformer中嵌入表示 + 位置编码的实现12345678910111213141516171819202122232425262728293031323334353637import torchimport mathfrom torch import nn# 词嵌入位置编码实现class EmbeddingWithPosition(nn.Module): """ vocab_size:词表大小 emb_size: 词向量维度 seq_max_len: 句子最大长度 (人为设定,例如GPT2的最大长度是1024) """ def __init__(self, vocab_size, emb_size, dropout=0.1, seq_max_len=5000): self.seq_emb = nn.Embedding(vocab_size, emb_size) # 序列中每个token的embedding向量表示 # 位置...
2025-06-03
论文阅读笔记---CyGNet阅读笔记-TKG推理任务
2025-06-12
基于Transformers库的命名实体识别
step1 导入相关包123import evaluatefrom datasets import load_datasetfrom transformers import AutoTokenizer, AutoModelForTokenClassification, TrainingArguments, Trainer, DataCollatorForTokenClassification step2 加载数据集123from datasets import DatasetDictner_datasets = DatasetDict.load_from_disk("ner_data")ner_datasets 输出:DatasetDict({ train: Dataset({ features: [‘id’, ‘tokens’, ‘ner_tags’], num_rows: 20865 }) validation: Dataset({ features: [‘id’, ‘tokens’, ‘ner...

评论
avatar
TCcjx
生活给我出难题,我说ok小问题
文章
26
标签
56
分类
4
Follow Me
公告
欢迎志同道合的朋友,一起交流
目录
  1. 1. 1.简介
  2. 2. 2.概述
  3. 3. 3.整体框架
  4. 4. 4.实验 and 讨论
    1. 4.1. 4.1 消融实验
  5. 5. 5.个人总结
最新文章
Qwen2技术报告2025-12-03
Q-learning及DQN算法2025-11-25
博士屯TalkShow阅读文献总结2025-11-23
与远端服务器进行文件传输同步的方式总结2025-10-14
pyenv + poetry 进行多版本python项目管理方案2025-10-12
© 2025 - 2026 By TCcjx框架 Hexo 7.3.0|主题 Butterfly 5.5.3
搜索
数据加载中