程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
编程
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
2026-07-17 14:24:55 +0800 CST
view 11
深度拆解微软 BitNet:1.58-bit 三值量化、Absmean/Absmax、BitLinear、bitnet.cpp 子矩阵内核,附 PyTorch 手写实现与 CPU 端侧推理性能实测。
BitNet
1-bit LLM
大模型推理
模型量化
端侧AI
bitnet.cpp
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
编程
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
2026-06-11 00:19:05 +0800 CST
view 358
全面解析 llama.cpp 推理引擎,从 GGUF 格式、量化原理、架构设计到跨平台部署,提供生产级代码实战和性能优化指南。
llama.cpp
GGUF
量化
端侧推理
大语言模型
VoxCPM2:无分词 Tokenizer-Free 语音合成——从架构革命到工程落地的完整指南
编程
VoxCPM2:无分词 Tokenizer-Free 语音合成——从架构革命到工程落地的完整指南
2026-04-19 14:46:06 +0800 CST
view 876
深度解析面壁智能开源的VoxCPM2:2B参数、Tokenizer-Free连续空间生成、236万小时训练数据、RTF 0.13、8GB显存可跑,30语言支持。包含架构分析、代码实战、性能优化指南。
语音合成
TTS
VoxCPM2
面壁智能
AI音频
Rust 杀入 CPython 腹地:Python 3.16 背后那场静悄悄的底层革命——从 FFI 边界到构建系统的全链路深度拆解
编程
Rust 杀入 CPython 腹地:Python 3.16 背后那场静悄悄的底层革命——从 FFI 边界到构建系统的全链路深度拆解
2026-05-23 08:54:29 +0800 CST
view 558
Rust即将进入CPython官方解释器——Python 3.16背后从FFI边界设计到构建系统工程的全面深度拆解,含PyO3实战与性能优化
Python
Rust
CPython
PyO3
Rust 改造 CPython 全链路实战:从 FFI 边界设计到 PyO3 内部机制,拆解 Python 3.16 底层重构的每一个技术细节
编程
Rust 改造 CPython 全链路实战:从 FFI 边界设计到 PyO3 内部机制,拆解 Python 3.16 底层重构的每一个技术细节
2026-05-01 02:25:15 +0800 CST
view 497
深度拆解 Rust for CPython 项目的 FFI 边界设计、构建系统集成、PyO3 内部机制和模块迁移实战
Rust
Python
CPython
PyO3
FFI
内存安全
MiniCPM-o 2.6 深度解析:8B参数如何在iPad上跑出GPT-4o级全模态性能——端侧多模态大模型的工程化突破
编程
MiniCPM-o 2.6 深度解析:8B参数如何在iPad上跑出GPT-4o级全模态性能——端侧多模态大模型的工程化突破
2026-05-11 01:50:57 +0800 CST
view 566
深入解析MiniCPM-o 2.6:8B参数如何在iPad上实现GPT-4o级全模态性能,时分复用TDM机制、端到端架构、低延迟并发处理的技术内幕,附完整部署代码和性能优化实战
AI,MiniCPM,多模态,端侧模型,面壁智能
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 1838
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
编程
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
2026-06-22 19:28:19 +0800 CST
view 278
深入解析 AirLLM 的无量化层间 Offloading 技术原理,探讨如何通过 CPU-GPU 混合推理在 4GB 显存上运行 70B 大模型,附完整代码实战与生产部署指南。
LLM推理
GPU优化
CPU Offload
层间调度
AirLLM
PyTorch
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 125
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
编程
TIME_WAIT状态的连接过多导致系统端口资源耗尽问题
2024-11-17 21:27:27 +0800 CST
view 3422
本文讨论了如何优化Linux系统中的TIME_WAIT状态,使用netstat命令查看TCP连接状态,并通过修改/etc/sysctl.conf文件中的相关参数来减少TIME_WAIT套接字的数量。具体参数包括开启SYNCookies、重用TIME-WAITsockets、快速回收TIME-WAITsockets等,最后通过执行/sysctl-p命令使修改生效。
Linux
网络优化
TCP配置
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 893
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
Python 3.14 自由线程(no-GIL)与实验性 JIT 深度实战:当 CPython 终于学会用满多核,一次把并发与性能讲透(2026 深度长文)
编程
Python 3.14 自由线程(no-GIL)与实验性 JIT 深度实战:当 CPython 终于学会用满多核,一次把并发与性能讲透(2026 深度长文)
2026-07-13 04:45:10 +0800 CST
view 59
深度拆解 Python 3.14 自由线程(no-GIL,PEP 779)与实验性 copy-and-patch JIT(PEP 744):从 GIL 历史、偏置引用计数、对象线程安全,到子解释器并发、t-strings 与真实多核基准,配 8 段可运行代码。
Python 3.14
Free-Threading
no-GIL
JIT
并发编程
CPython
Python 3.14 自由线程(No-GIL)深度实战:当 CPython 终于拥抱真正的多线程并行——从 PEP 703 架构到生产级迁移的 2026 完全指南
编程
Python 3.14 自由线程(No-GIL)深度实战:当 CPython 终于拥抱真正的多线程并行——从 PEP 703 架构到生产级迁移的 2026 完全指南
2026-06-25 19:43:54 +0800 CST
view 215
Python 3.14 自由线程(No-GIL)深度实战:从PEP 703架构到生产级迁移。涵盖偏置引用计数、线程安全容器、临界区机制、C扩展兼容性、性能基准测试与最佳实践,万字长文带你掌握2026年Python最大架构变革。
Python 3.14
自由线程
No-GIL
PEP 703
CPython
多线程
并发编程
性能优化
Python 3.14 深度解析:Tail-call 解释器、JIT 编译器与解释器架构的范式跃迁
编程
Python 3.14 深度解析:Tail-call 解释器、JIT 编译器与解释器架构的范式跃迁
2026-05-12 03:43:26 +0800 CST
view 497
Python 3.14 引入了 tail-call 解释器(3-5% 提速)、实验性 JIT 编译器、增量 GC、多解释器标准库支持(PEP 734)、模板字符串(PEP 750)、延迟注解评估(PEP 649/749)、Zstandard 标准库支持(PEP 784)等核心改进
Python
CPython
JIT编译器
性能优化
Python 3.13 免费线程模式深度实战:告别 GIL,真正拥抱多核并行——从原理到生产迁移的完整指南(2026)
编程
Python 3.13 免费线程模式深度实战:告别 GIL,真正拥抱多核并行——从原理到生产迁移的完整指南(2026)
2026-06-26 00:13:20 +0800 CST
view 257
Python 3.13免费线程模式深度解析:告别GIL,真正拥抱多核并行。从原理到生产迁移的完整指南,含性能测试、兼容性分析和最佳实践。
Python 3.13
no-GIL
免费线程
GIL
并发编程
多核并行
CPython
性能优化
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
编程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
2026-07-14 03:43:32 +0800 CST
view 66
深度拆解 Ollama 本地大模型推理工程化:从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存,到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优,配完整可运行代码与 vLLM 对比。
Ollama
本地大模型
llama.cpp
GGUF量化
大模型部署
AI工程化
隐私计算
推理优化
Ollama 完全指南:本地大模型部署的事实标准——从原理到生产级 AI 应用开发(2026)
编程
Ollama 完全指南:本地大模型部署的事实标准——从原理到生产级 AI 应用开发(2026)
2026-06-05 04:13:34 +0800 CST
view 383
Ollama 本地大模型部署完全指南,从架构原理到生产级部署,涵盖 RAG 集成、性能优化、Docker/K8s 部署等核心内容。
Ollama
本地大模型
AI应用开发
Go语言
llama.cpp
Ollama 完全指南:本地大模型部署的事实标准——架构、实战与生产级部署(2026)
编程
Ollama 完全指南:本地大模型部署的事实标准——架构、实战与生产级部署(2026)
2026-06-05 04:13:52 +0800 CST
view 436
Ollama 本地大模型部署完全指南,从架构原理到生产级部署,涵盖 RAG 集成、性能优化、Docker/K8s 部署等核心内容。
Ollama
本地大模型
AI应用开发
Go语言
llama.cpp
Python 3.13 无 GIL 与 3.14 JIT 深度解析:告别单核时代,Python 终于能跑满 CPU 了
编程
Python 3.13 无 GIL 与 3.14 JIT 深度解析:告别单核时代,Python 终于能跑满 CPU 了
2026-05-12 20:41:33 +0800 CST
view 411
深度解析Python 3.13无GIL自由线程构建和3.14 Torchlight JIT编译器:细粒度锁、原子引用计数、偏向引用计数实现真正多线程并行;LLVM 17后端函数级即时编译2-4倍性能提升。含代码实战与迁移指南。
Python3.13,Python3.14,无GIL,JIT编译器,自由线程,CPython,性能优化,多线程并行
MiniCPM-V 4.6:参数砍到1.3B,多模态小钢炮拿下同级第一
编程
MiniCPM-V 4.6:参数砍到1.3B,多模态小钢炮拿下同级第一
2026-05-13 17:38:45 +0800 CST
view 649
面壁智能发布MiniCPM-V 4.6,参数量仅1.3B,1B级多模态评测第一。仅用Qwen3.5-0.8B的2.5%token量即超越对方。LLaVA-UHD v4架构创新,视觉编码运算量降低55.8%,手机断网秒级响应。
MiniCPM-V
面壁智能
多模态
端侧AI
密度定律
MiniCPM-V 4.6 手机实测:1.3B参数跑满端侧推理,输入框还没缩回结果就出来了
编程
MiniCPM-V 4.6 手机实测:1.3B参数跑满端侧推理,输入框还没缩回结果就出来了
2026-05-13 17:56:16 +0800 CST
view 496
MiniCPM-V 4.6手机实测体验:输入框还没缩回结果就出来了。1.3B参数推理版token消耗仅为Qwen3.5-0.8B的1/43,TTFT高清大图75.7ms快2.2倍,LLaVA-UHD v4架构视觉编码运算量降低55.8%。
MiniCPM-V
面壁智能
端侧AI
手机AI
多模态
Microsoft BitNet 深度实战:1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命(2026完全指南)
编程
Microsoft BitNet 深度实战:1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命(2026完全指南)
2026-05-26 12:35:43 +0800 CST
view 411
深入解析 Microsoft BitNet 1比特大模型推理框架,从原理到实战,让CPU跑起千亿参数模型。包含完整代码示例、性能优化策略和应用场景分析。
BitNet
模型量化
大模型推理
CPU推理
1-bit LLM
BitNet b1.58 深度解析:微软如何用1.58位量化颠覆大模型推理范式
编程
BitNet b1.58 深度解析:微软如何用1.58位量化颠覆大模型推理范式
2026-04-23 19:09:57 +0800 CST
view 594
深度解析微软开源的BitNet b1.58 2B4T模型,从1.58位三值量化原理、架构设计、性能对比到部署实战,全面剖析这个仅需0.4GB内存、在普通CPU上流畅运行的革命性大语言模型。
BitNet
量化
大模型
微软
CPU推理
边缘计算
TCP关闭连接过程,为什么要4次挥手?
综合
TCP关闭连接过程,为什么要4次挥手?
2024-11-19 04:54:37 +0800 CST
view 1405
TCP关闭连接的过程被称为“四次挥手”,确保双方可靠地关闭连接。过程包括四个步骤:客户端或服务器发送FIN报文段,另一方确认并发送ACK,随后发送自己的FIN报文段,最后发起关闭请求的一方发送最后的ACK。此过程确保数据完整性和可靠性,避免数据丢失。
网络协议
TCP
数据传输
连接管理
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
42
43
44
45
46
...
94
下一页