leo Blog

「离开世界之前一切都是过程」

llm parameter analysis

1. 前言本文分析采用decoder-only框架transformer模型的模型参数量、计算量、中间激活值、KV cache。为了方便分析，先定义好一些数学符号。记transformer模型的层数为$l$, 隐藏层维度为$h$,注意力头数为$a$。词表大小为$V$,训练数据的批次大小为$b$，序列长度为$s$ 2. 模型参数量 transformer模型由$l$个相同的层组成，每个层...

Posted by Leo on September 24, 2023

cmake rpath, rpath-link, RUNPATH

一、Abstract LD_LIBRARY_PATH & rpath & runpath 我们复制了目标程序所需的动态链接库，但是我们如何确定程序启动时，真的能够顺利找到这些动态链接库呢？在 Linux 中，主要有三个因素可以决定特定可执行文件的动态链接库的搜索路径：环境变量 LD_LIBRARY_PATH 、rpath 和 runpath。...

Posted by Leo on September 24, 2023

cmake PRIVATE, INTERFACE, PUBLIC

一、Abstract 指令说明 target_include_directories()：指定目标包含的头文件路径。官方文档 target_link_libraries()：指定目标链接的库。官方文档 target_compile_options()：指定目标的编译选项。官方文档目标由 add_library() 或 add_executa...

Posted by Leo on September 24, 2023

cmake set, option, string etc

一、Abstract Option 此函数向项目添加一个选项，可以包含选项介绍及默认值。其原型为： option( "" [value]) 示例： option(ENABLE_SAMPLE_BUILD “Build the sample programs” OFF) 第一个参数为选项名称。需要注意的是，此选项不仅仅可以是boolean，也可以...

Posted by Leo on September 24, 2023

shell primer

Shell 变量 Shell 编程跟 JavaScript、php 编程一样，只要有一个能编写代码的文本编辑器和一个能解释执行的脚本解释器就可以了。 Linux 的 Shell 种类众多，常见的有： Bourne Shell（/usr/bin/sh或/bin/sh） Bourne Again Shell（/bin/bash） C Shell（/usr/bin/csh） ...

Posted by Leo on September 23, 2023

linux命令大全

文件管理 scp Linux scp 命令用于 Linux 之间复制文件和目录。 scp 是 secure copy 的缩写, scp 是 linux 系统下基于 ssh 登陆进行安全的远程文件拷贝命令。 scp 是加密的，rcp 是不加密的，scp 是 rcp 的加强版。语法 1 2 3 scp [-1246BCpq...

Posted by Leo on September 23, 2023

命令行常用工具的替代品

目的：了解好用的命令行工具一、exa exa 是ls命令的替代品，可以彩色输出目录内容，更容易辨识。 1 $ exa --long --git 上面命令中，参数–git表示输出文件的 Git 状态。 N：新文件 M：文件有变动 I：该文件被忽略除了平铺显示，exa还支持目录的树状显示。 1 $ exa --tree --level=2 exa 有可供你尝试和探索的很多选...

Posted by Leo on September 23, 2023

linux awk grep sed

Posted by Leo on September 23, 2023

git Primer

目的：git primer 下面是常用 Git 命令清单。几个专用名词的译名如下。 Workspace：工作区 Index / Stage：暂存区 Repository：仓库区（或本地仓库） Remote：远程仓库一、新建代码库 1 2 3 4 5 6 7 8 # 在当前目录新建一个Git代码库 $ git init # 新建一个目录，将其初始化为Git代码库 $ git init ...

Posted by Leo on September 23, 2023

git

目的：git best practices 一、撤销提交一种常见的场景是，提交代码以后，你突然意识到这个提交有问题，应该撤销掉，这时执行下面的命令就可以了。 $ git revert HEAD 上面命令的原理是，在当前提交后面，新增一次提交，抵消掉上一次提交导致的所有变化。它不会改变过去的历史，所以是首选方式，没有任何丢失代码的风险。 git revert 命令只能抵消上一个提交，如...

Posted by Leo on September 23, 2023