https://billxiang.github.io/BillXiang-BookMarks/ BillXiang的书签收藏 - 技术文章聚合 zh-CN Fri, 22 May 2026 09:21:34 GMT https://www.laumy.tech/3254.html/%e8%a7%a3%e6%9e%84llm%ef%bc%9a-%e4%bb%a5llama-cpp%e5%88%86%e6%9e%90%e6%a8%a1%e5%9e%8b%e6%8e%a8%e7%90%86%e8%bf%87%e7%a8%8b/ 本文深入剖析了基于llama.cpp的大语言模型推理过程，从Transformer架构的自注意力机制到llama.cpp的实现细节，包括模型加载、分词器、推理上下文管理、Prefill和Decode阶段，以及GGML引擎的内存池、张量、计算图和量化技术，全面解析了LLM推理的软件实现机制。 Fri, 22 May 2026 09:19:21 GMT https://www.laumy.tech/3254.html/%e8%a7%a3%e6%9e%84llm%ef%bc%9a-%e4%bb%a5llama-cpp%e5%88%86%e6%9e%90%e6%a8%a1%e5%9e%8b%e6%8e%a8%e7%90%86%e8%bf%87%e7%a8%8b/ https://lwn.net/Articles/725238/ 本文介绍了Linux内核调度器开发中常用的四种基准测试工具：Hackbench用于测量任务间通信的平均唤醒延迟；Schbench提供详细的延迟分布统计，尤其关注尾部延迟；Adrestia是极简的微基准测试，用于获取典型最大唤醒延迟；Rt-app则是一个高度可配置的实时工作负载模拟器，用于建模复杂应用场景。这些工具帮助开发者测试性能、检测回归并验证补丁。 Fri, 22 May 2026 06:24:21 GMT https://lwn.net/Articles/725238/ https://www.cnblogs.com/emergence/p/19043338 本文系统综述了视觉-语言-动作（VLA）模型，这是一种将视觉感知、语言理解与物理动作生成统一于单一框架的具身人工智能系统。文章梳理了其从基础集成、专用化到泛化与安全关键部署的演进过程，涵盖了架构创新、训练策略及在机器人、自动驾驶等领域的应用，并分析了实时控制、泛化能力等挑战与未来方向。 Thu, 21 May 2026 09:40:47 GMT https://www.cnblogs.com/emergence/p/19043338 https://lwn.net/Articles/531853/ Linux内核3.8版本引入的“每实体负载跟踪”机制，通过将负载跟踪从运行队列级别细化到每个调度实体（进程或控制组），并利用衰减公式计算历史负载贡献，从而更精确地衡量系统当前负载，为负载均衡、小任务打包和CPU频率调节等优化提供了基础。 Thu, 21 May 2026 03:49:15 GMT https://lwn.net/Articles/531853/ https://is-cloud.blog.csdn.net/article/details/125907424 本文详细对比了阿里云与AWS云主机的性能测试结果，涵盖计算、存储、网络和应用四大方面。测试显示，在多数指标上，如内存带宽、存储IOPS与延迟、网络传输速率及MySQL、Redis等应用性能，阿里云表现优于AWS。但在网络单向延迟方面，AWS略胜一筹。文章旨在为云主机选型提供数据参考。 Wed, 20 May 2026 11:16:12 GMT https://is-cloud.blog.csdn.net/article/details/125907424 https://git.kernel.org/pub/scm/linux/kernel/git/mason/schbench.git/about/ schbench是一个用于模拟生产Web工作负载的Linux调度器基准测试工具，通过消息线程和工作者线程模拟请求处理，测量唤醒延迟、请求延迟和每秒请求数，并提供多种配置选项以评估系统调度性能。 Wed, 20 May 2026 11:12:52 GMT https://git.kernel.org/pub/scm/linux/kernel/git/mason/schbench.git/about/ https://lists.riscv.org/g/tech-fast-int/message/914 RISC-V快速中断技术会议纪要：Christian Herber介绍低延迟、向量化、基于优先级的抢占式中断方案进展，包括硬件向量化、嵌套抢占支持和中断跳转表扩展。会议确定了改进示意图、开源测试套件、规范审查和集成到手册的后续行动，讨论了实现复杂性和成本，关注认证计划和测试基础设施需求。 Wed, 20 May 2026 08:17:12 GMT https://lists.riscv.org/g/tech-fast-int/message/914 https://lists.riscv.org/g/tech-fast-int/message/897 Sat, 09 May 2026 01:54:46 GMT https://lists.riscv.org/g/tech-fast-int/message/897 https://mp.weixin.qq.com/s/dcDiGNGN1-332VkqiJwIYQ RISC-V Data Center SIG会议讨论了软件中断MSI控制器（SMSIC）提案，旨在通过分离IPI与MSI处理路径来提升大规模多核系统的性能和扩展性。会议决定将提案重点聚焦于性能优化，移除安全动机讨论。 Thu, 23 Apr 2026 11:09:24 GMT https://mp.weixin.qq.com/s/dcDiGNGN1-332VkqiJwIYQ https://lists.riscv.org/g/sig-datacenter/topic/118395206 阿里巴巴的GUO Ren和CHEN Jiankang提出了一项RISC-V集成数据流卸载加速器（RVI-DOA）的提案。该提案旨在为RISC-V平台定义一种标准化的硬件加速器，以高效卸载内存密集型操作（如memcpy、memset、CRC计算、压缩/解压等），从而提升系统吞吐量、降低CPU和缓存占用。此举旨在弥合RISC-V生态与x86（如Intel DSA、AMD PTDMA）和IBM（zEDC）等平台在数据流加速能力上的差距，尤其适用于NUMA平衡、虚拟机迁移、内存压缩交换等关键操作系统工作负载。提案目前处于RISC-V数据中心SIG的讨论阶段，Greg Favor在回复中质疑了其标准化范围，指出类似功能在ARM生态中并未标准化，通常由SoC厂商自行提供。 Thu, 23 Apr 2026 11:07:37 GMT https://lists.riscv.org/g/sig-datacenter/topic/118395206 https://mp.weixin.qq.com/s/_Uv0YOhDZ6TMjpqN5Fmhvw?scene=334 本文介绍了GPU虚拟化技术的实现架构，重点分析了分时复用和硬件隔离两种主流方案。分时复用通过软件调度实现GPU在多个虚拟机间的共享，硬件隔离则依赖GPU内部硬件分区实现真正的并发使用。文章还讨论了图形API虚拟化等补充技术，为理解GPU虚拟化提供了系统框架。 Wed, 22 Apr 2026 10:07:41 GMT https://mp.weixin.qq.com/s/_Uv0YOhDZ6TMjpqN5Fmhvw?scene=334 https://mp.weixin.qq.com/s/d6toVeZzrUc1C4g1EJRPnQ 腾讯云开源高性能AI Agent安全沙箱CubeSandbox，结合Rust与KVM实现硬件级隔离。该服务基于RustVMM与KVM构建，能在60毫秒内启动沙箱且内存开销低于5MB，提供内核级安全隔离，兼容E2B SDK，支持一键部署，解决了Docker容器在AI场景下的安全风险。 Fri, 17 Apr 2026 09:07:57 GMT https://mp.weixin.qq.com/s/d6toVeZzrUc1C4g1EJRPnQ https://docs.redhat.com/zh-cn/documentation/red_hat_enterprise_linux/9/html/monitoring_and_managing_system_status_and_performance/optimizing-virtual-machine-cpu-performance_optimizing-virtual-machine-performance-in-rhel 本文介绍了在RHEL 9中优化虚拟机CPU性能的方法，包括调整vCPU数量、配置NUMA架构、设置vCPU固定和上限、调整CPU权重，以及管理KSM（内核相同页合并）等策略，旨在提升虚拟机资源效率和整体性能。 Fri, 17 Apr 2026 07:44:44 GMT https://docs.redhat.com/zh-cn/documentation/red_hat_enterprise_linux/9/html/monitoring_and_managing_system_status_and_performance/optimizing-virtual-machine-cpu-performance_optimizing-virtual-machine-performance-in-rhel https://github.com/akopytov/sysbench/tree/master Sysbench是一个基于LuaJIT的脚本化多线程基准测试工具，主要用于数据库性能测试，也支持文件IO、CPU、内存、线程调度等系统级基准测试。该项目提供多种安装方式，支持MySQL和PostgreSQL数据库驱动，具有丰富的统计功能和低开销特性，可通过自定义Lua脚本扩展测试场景。 Tue, 14 Apr 2026 08:24:16 GMT https://github.com/akopytov/sysbench/tree/master https://github.com/kdlucas/byte-unixbench Byte-UnixBench 是一个开源的基准测试套件，用于评估类 Unix 系统的综合性能。它包含 Dhrystone、Whetstone、文件复制、进程创建、系统调用开销等多种测试，旨在衡量 CPU 运算、文件 I/O、进程管理和图形处理等能力。该工具支持多核 CPU 测试，通过对比基准系统得分来生成性能指数。项目采用 GPL v2 许可证，托管在 GitHub 上，持续维护更新。 Tue, 14 Apr 2026 03:49:25 GMT https://github.com/kdlucas/byte-unixbench https://lmbench.sourceforge.net/whatis_lmbench.html LMbench是一个开源的性能基准测试套件，用于测量和比较不同计算机系统的性能。它包含带宽、延迟、网络、文件系统和进程创建等多种测试，支持主流厂商的系统，并遵循GPL许可证。 Mon, 13 Apr 2026 10:08:02 GMT https://lmbench.sourceforge.net/whatis_lmbench.html https://lore.kernel.org/linux-riscv/aff1c335-bd02-449e-8791-eb7050ec982d@kernel.org/ Linux内核邮件列表中，David Hildenbrand在回复Mike Rapoport的邮件中讨论了大语言模型（LLM）在生成内核代码补丁时的倾向。他指出，LLM倾向于生成防御性过强的代码，并提出一些理论性的问题，这可能不适用于实际的内核开发。他建议开发者在使用LLM生成代码后，务必仔细检查其输出，以免在维护者面前失去信誉。该讨论是关于RISC-V架构内存管理相关补丁的回复。 Fri, 10 Apr 2026 08:14:06 GMT https://lore.kernel.org/linux-riscv/aff1c335-bd02-449e-8791-eb7050ec982d@kernel.org/ https://www.cio.com/article/4153735/ibm-arm-team-up-to-bring-arm-software-to-ibm-z-mainframes-2.html IBM与Arm宣布合作开发可同时运行IBM和Arm工作负载的硬件，使Arm软件能够在IBM大型机上运行。该计划针对无法迁移至云端的受监管工作负载，重点在于安全性、数据驻留和企业级控制。双方将开发虚拟化工具、确保Arm应用符合监管要求，并创建通用技术层以增加软件选择。IBM尚未公布具体时间表，但预计需三年开发周期。 Thu, 09 Apr 2026 10:05:00 GMT https://www.cio.com/article/4153735/ibm-arm-team-up-to-bring-arm-software-to-ibm-z-mainframes-2.html