ForeverYolo的博客

写在开头该文是 RAG（Retrieval-augmented generation 检索增强生成）领域的一篇论文，发表于 ICLR 2025. 原文链接：Think-on-Graph 2.0: Deep and Faithful Large Language Model Reasoning with Knowledge-guided Retrieval Augmented Generation 相关工作RAG 的定义RAG（检索增强生成，Retrieval-Augmented Generation） 是一种结合了信息检索技术和大型语言模型（LLM）生成能力的人工智能框架。它的核心思想是：在生成答案之前，先像人类查资料一样，从外部知识库中检索相关信息，然后将这些信息作为“参考资料”提供给大模型，以生成更准确、更可靠、更具时效性的回答。 该方法在近现代被认为是解决 AI 幻觉和领域知识匮乏的重要手段。 RAG 的分类 基于文本的 RAG 方法：主要依据问题与文本之间的语义相似性来检索信息。这类方法在捕捉文本间的深层关系方面存在困难，且检索到的文本可能包含冗余内容。例如：2008年经济衰 ...

总结这篇论文是发表在 WWW’23 上的一篇知识图谱融合方向的论文，使用的是 Transformer 架构。整体思想上借鉴了 NLP 领域的预训练 + 微调的设计思想。 通过大量的知识图谱训练样本预训练出一个知识图谱模型。 之后在面对下游任务时冻结模型参数，重新训练 embedding 用于适配下游任务的任务场景。 继续冻结模型参数，用 Prompt Tuning 的方法将任务表示为 Prompt 的一部分，进行微调，适配下游任务的任务内容。 论文原文链接：Structure Pretraining and Prompt Tuning for Knowledge Graph Transfer 相关知识知识图谱表示方法知识图谱表示方法是指通过模型中的参数和函数对知识图谱中的信息进行编码，它们可以恢复图结构并捕捉实体与关系之间的语义。在分类上，可以分为 3 类： 基于嵌入的方法：模型直接学习知识图谱三元组中实体和关系的 embedding。经过学习之后，这些 embedding 就可以隐式捕捉知识图谱元素中的相似性、关系、层次、公理等信息。例如 RotatE。 该方法学习到的都是特 ...

写在开头最近在学习深度学习中的简单模型——多层感知机（Multilayer Perceptron 简称 MLP），将学习内容和代码模板、实例记录一下，以便后续利用。 多层感知机原理一句话总结，通过在线性模型中加入隐藏层来克服线性模型的限制，使得该结构有逼近任意真实函数的能力。 数据流流动MLP 的每一层的节点间都是全连接的，数据从前向后流动，层与层之间和线性模型类似，是一个线性组合函数。每一层得到运算结果后，还会叠加一次激活函数，再作为下一层的输入。图中 $\sigma $ 就是激活函数。 数学原理模型退化模型退化是指一个复杂模型退化到一个简单模型的情况，即利用简单模型就可以发挥复杂模型的全部性能。MLP 就存在这样的情况，在每一层都表达线性函数的条件下 MLP 将会退化为线性模型。简单来讲，这是因为线性函数叠加线性函数还是线性函数。所以无论叠加多少层隐藏层，本质上都是线性函数的叠加，最终得到的输入输出之间的关系仍然是线性的。 而线性模型能表示所有输入输出之间是线性的情形，此时用线性模型就能表达上述 MLP 所表达的函数。因而 MLP 失去了本应有的作用。 理解有困难的话可以想这个例 ...

写在开头经常在嵌入式开发板做研发的人都知道，在编译机编译出产物后，如何在开发板上使用是一个比较繁琐的问题，一个比较简单易行的方法是准备一个 SD 卡，将内容通过读卡器写到 SD 卡里，然后插入到开发板上使用。 这样的流程虽然很简单易行，但对 SD 卡的反复拔插对 SD 插槽寿命是一个极大的考验。且如果需要在短期内依次做出大量的修改，反复拷贝/插入SD卡也是一种折磨的体验。 本文就是为了解决这个问题，通过在主机建立 Tftp 服务器，用网线连接开发板与主机，每次启动时开发板可以直接下载主机的编译产物来使用。 物理配置使用网线将 PC 与 开发板连在一起。 PC 配置 主机的版本 Ubuntu 22.04 安装 TFTP 服务器软件包 12sudo apt-get updatesudo apt-get install tftpd-hpa tftp-hpa 创建 TFTP 根目录并设置权限，这里以在用户目录下 TFTP 目录为例。 123mkdir -p ~/tftpsudo chown -R $USER:$USER ~/tftpsudo chmod -R 755 ~/tftp 编辑 tft ...

写在开头接上篇，研究完 ZCU102 USB 理论后，进行在 Hvisor 上进行 USB 直通的尝试。 设备树修改在现有能够正常在 ZCU102 上工作的精简设备树进行修改，加入 USB 及其关联设备的设备树节点。关系图如下： 可见引入一个 USB 会同时引入很多设备。这使得此次尝试变得复杂起来。 Hvisor 修改为前述所有新增设备在 Hvisor 中配置直通区域和中断号。 Qemu 测试自行编译的内核测试使用自行编译的内核测试，成功启动 RootLinux，但 USB 为启动，提示 USB 驱动因为前置驱动未启动而被挂起。排查过配置本身后怀疑自行编译内核缺少相关驱动，换为 BSP 中自带的内核进行测试。 BSP 内核测试使用 BSP 中自带的内核进行测试，成功启动 RootLinux，且内核日志有了正确的 USB 启动信息。 上板测试有了 Qemu 测试的经验，直接在板上使用 BSP 自带内核进行尝试，发现卡死在内核启动，回档到最开始的精简设备树，可以正常启动。证明此问题由最近对设备树的改动产生。一个个增减设备，最后定位到 Clock-generator，其设备树描述如下： ...

写在开头最近在研究 ZCU102 的 USB 模块，借此把此 USB 模块及其边缘内容一起研究总结一下。 实物结构ZCU102 的 USB 接口在图中 5 标，其中用红框圈起来的是跳线位置，关于跳线是什么后面会介绍。 USB 接口为不常见的 Micro USB（3.0） Type-B 接口，主要用于移动硬盘盒。 我不是很理解为什么 ZCU102 USB 做成了如此罕见的接口，让使用变得困难，但好在 ZCU102 开发板随箱子附带了 TypeB 转 Type-A 母口的转换器。 USB 模块架构图本篇文章以下图作为主线，分别对每个模块展开研究。 USB MIO GPIOGPIO 是一种芯片与外部电路相连接的引脚（划重点），全称是 General Purpose Input Output 通用功能输出输出，目的是实现功能复用，其结构如图所示，左边接到外设、右边接到芯片。 功能复用是指：GPIO的引脚可以由CPU配置成不同的工作模式和工作电压，一共有八种工作模式：上拉输入、下拉输入、浮空输入、模拟输入、推挽输出、开漏输出、复用推挽输出、复用开漏输出。 举个例子，在输入功能下，CPU可以 ...

写在开头时隔一年，重走前后端开发路，正好比较有时间，打算好好将开发过程中有价值的点记录一下，对自己也是一种记忆，也方便后来使用相同框架的人快速上手。 Vue3 前端介绍 截止 2025 年 1 月 22 日，Vuetify 3 框架在 github 上有着 40.2 k 的 Star，我在前几年完全没听过这个，可见其这几年发展之快。 笔者了解了一下发现其组件较为全面，社区也比较完善。并且完全开源 搭建从原生的 vite 搭建 vue3 前端我认为是吃力不讨好的，所以直接基于 Vuetify 3 框架的模板来作为前端的 base。 初始化模板非常简单，只需要 npm create vuetify@latest 即可，期间会有一些选项要求配置，例如：1234567891011success Installed "create-vuetify@x.x.x" with binaries: - create-vuetify? Project name (项目名): ❯ vuetify-project //生成应用程序的文件夹? Use TypeScript (使用 Ty ...

写在开头经常搞 Liunx 的人都知道，文件系统是 Liunx 不可或缺的一部分，难免会遇到需要自己定制一个文件系统的情形，本篇文章就是讲述了基于 ubuntu_base 来定制一个文件系统的方法。 环境准备 如果想要构建的文件系统和构建时所用的平台不一样，则需要创建一个模拟环境，创建也很简单，安装 qemu-user-static 即可。例如apt install qemu-user-static。 获取 ubuntu_base，直接从官网下载即可，如果访问异常就挂一个代理，至于版本选择，一般情况选新不选旧，但也要结合你的实际情况。 配置根文件系统以 ubuntu-base-24.04.1-base-arm64 为例： 解压根文件系统： tar -xvf ubuntu-base-24.04.1-base-arm64 -C 目标文件夹 为根文件系统配置网络: cp /etc/resolv.conf ubuntu-base-24.04.1-base-arm64/etc/resolv.conf 更换 apt 的软件源： sudo vim ubuntu-base-24.04.1-ba ...

写在开头使用 ext4 镜像作为文件系统时，如果需要向其中添加某些大型文件，则可能会遇到镜像空间不足的问题，本篇尝试对此给出几种解决方案。 无大小对齐要求的扩容如果对最终的大小没有对齐要求，则可以直接采用如下方式： 创建一个空的镜像，需求扩容多大创建多大：dd if=/dev/zero of=blank.ext4 bs=1M count=需求大小 将额外的空白文件追加到镜像文件中：cat blank.ext4 >> myimage.ext4 修复文件系统：e2fsck -f myimage.ext4 调整文件系统大小：resize2fs myimage.ext4 有大小对齐要求的扩容操作如果对最终的大小有对齐要求，则推荐创建一个指定大小的空的ext4新镜像，将旧镜像内容复制到新的镜像中： 创建一个空的镜像，需求扩容多大创建多大：dd if=/dev/zero of=myimage.ext4 bs=1M count=需求大小 在空镜像上建立ext4文件系统：mkfs.ext4 myimage.ext4 将空镜像、旧镜像挂载：1234mkdir myimagesudo m ...

背景FIT image 是嵌入式常用的 bootloader 为了响应 ARM Unify Kernel 而推出的一种镜像格式，其本质是内核、设备树、文件系统合并成一个文件的镜像，并且其中可能包含多个内核、设备树、文件系统等。Unify Kernel 是指将同一内核运行在不同的硬件平台之上。即编译 Linux 内核无需指定具体架构和SOC，其如何兼容不同开发板、平台由 DTB 完成。Bootloader 在启动时，根据硬件环境、选择不同的 DTB 文件，即可使 Linux Kernel 运行在不同的硬件平台上。 FIT-image 简介正如上所说，为了支持 ARM 的 Unify Kernel 构想，需求 Bootloader 提供选择不同 DTB 的能力，过去我们一般都是自行通过 FATLOAD 将需要的 DTB 加载到内存的指定位置，然后通过 BOOTM {Kernel_addr} - {DTB_addr} 来完成这项工作的。 Uboot 为了简化这种过程，推出了全新的 Image 格式 —— FIT uimage，来自动化上述过程。其中 FIT 是指 Flattened Ima ...