avatar
文章
37
标签
91
分类
4
主页
标签
分类
关于
友情链接
思想是一个锐化的过程
搜索
主页
标签
分类
关于
友情链接

思想是一个锐化的过程

Attention is all you need.
发表于2025-05-17|AI
德语->英语项目: https://github.com/TCcjx/pytorch_transformer-remake 项目目录结构(文件说明): .data(文件夹):数据集Multi30K checkpoints(文件夹):训练权重文件保存处 config.py:全局配置文件,DEVICE以及输入token的最大长度 dataset.py:数据预处理文件,构建德语和英语词表,实现德语和英语的词元token和IDX的一一隐射,以及德语和英语句子预处理函数(输入德语和英语句子,返回分词后的词元列表信息,以及词元ID列表) multihead_attn.py: 构建多头注意力机制模块,这里的实现同时也考虑了解码器中第二个多头注意力机制模块的代码复用,在编码器和解码器的多头注意力机制模块中都可以复用这个多头注意力机制的模块 encoder_block.py:编码器模块的构建 encoder.py:编码器的实现,同时自动处理PAD掩码矩阵,再传入encoder_block中,实现多个encoder_block的堆叠使用 decoder_block.py:解码器模块的构建 de...
1…45
avatar
TCcjx
生活给我出难题,我说ok小问题
文章
37
标签
91
分类
4
Follow Me
公告
欢迎志同道合的朋友,一起交流
最新文章
记一下 AI Infra 里的 TTFT 和 TPOT2026-11-18
Voice Agent 级联模式讲解2026-10-25
Everything will be a media2026-10-14
AI 总乱改代码?一个规则文件帮你搞定(附完整提示词)2026-09-06
大模型数据格式全景解析2026-07-29
分类
  • AI18
  • 编程日记10
  • 论文阅读笔记6
  • 随笔3
标签
glue code Agent memory 补全推理 Memory KVCache PyCharm&Vscode private python环境管理 pyenv Decode AI Infra 大模型部署 Linux 量化 规则文件 TTS Hit@1\3\5\10 传统规则学习方法 STT Claude code TTFT AGENTS.md Attention poetry ssh 技术报告 语音交互 CyGNet Self-Attention 延迟 论文阅读笔记 时态知识图谱推理 transfomer vscode 推理服务 实习总结 吞吐 Voice Agent TKGs 时态知识图谱
归档
  • 十一月 2026 1
  • 十月 2026 2
  • 九月 2026 1
  • 七月 2026 2
  • 五月 2026 2
  • 四月 2026 2
  • 三月 2026 1
  • 十二月 2025 1
  • 十一月 2025 2
网站信息
文章数目 :
37
本站总字数 :
37k
本站访客数 :
本站总浏览量 :
最后更新时间 :
© 2025 - 2026 By TCcjx框架 Hexo 7.3.0|主题 Butterfly 5.5.4
搜索
数据加载中