消费级显卡FP8算力天梯图,30系还是输在了硬件上

在单人单卡部署场景下，FP8实现了显存占用与计算效率的平衡点。相比FP16，显存占用直降50%，让24G显存跑出32G的容量；相比INT8量化，原生浮点计算保留了更高的模型精度，无需复杂的校准流程。对于个人开发者而言，这意味着在单张消费级/专业级显卡上也运行14B+的大模型或者极限部署30B的模型，推理速度提升30%-50%，真正实现”一卡多用，性能不打折”。

NVIDIA显卡支持情况

对于nvidia显卡在 40系和50系上才开始支持FP8计算单元，并支持稀疏矩阵加速

50款消费级显卡FP16算力与显存全面对比

大模型本地化时代，显卡的FP16算力和显存容量已成为比游戏帧率更硬性的指标。本文整理了NVIDIA（30/40/50系）与AMD（RX 6000/7000系）共50余款消费级显卡的核心数据，通过算力/显存双维度天梯图，帮你：

在通用人工智能（AGI）的演进历程中，2025年初至2026年初被视为“开源模型的分水岭”。这一时期，开源界不仅在原始参数规模上追平了闭源旗舰模型，更在推理效率、长文本处理、原生多模态能力以及智能体（Agentic）架构方面实现了范式转移。从DeepSeek引领的“推理革命”到阿里Qwen3.5的混合架构革新，再到智谱GLM-5对国产算力的极致适配，开源生态呈现出前所未有的繁荣。本报告将深入分析这一阶段最具影响力的开源模型，涵盖全尺寸参数规模、量化技术路径及其实际应用表现。\n\n

告别臃肿：nanobot，一个更轻、更纯粹的 AI Agent 的实践和原理解析

本地clawbot功能虽然强大，但整体较为复杂，这边香港大学开源了nanobot，仅4k多行，实现了clawbot的核心功能核心功能，相对于clawbot有代码少，易扩展的优点，而且还支持本地的vllm模型，能充分使用本地的模型节省成本，这边整理一下我的使用体验和代码具体原理分析。

PDF内容提取神器-MinerU 解析及使用

MinerU 是由上海人工智能实验室下属的 OpenDataLab 团队于2024年7月推出的开源文档智能提取工具，旨在高效地将复杂的多模态PDF文档（包含文本、公式、表格、图像、页眉页脚、脚注等）转换为结构清晰、机器可读的 Markdown 或 JSON 格式，从而为大模型训练和AI应用提供高质量的数据语料支持 。
项目地址：https://github.com/opendatalab/MinerU
官网地址：https://mineru.net/
目前star数已经在48k+

从本地3090到云5090：云GPU还是蛮香的

这边写一篇文章记录一下 最近机器使用情况