详细内容或原文请订阅后点击阅览
Maxxxed-Out M5Max MacBookPro 上的本地法学硕士表现:每日排行榜
法学硕士模式选择部门
来源:Brad DeLong关于 OpenClaw 安装状态的注释:控制论白鹤中的速度、一致性、内存占用和语义深度。本地法学硕士现在可以(和不能)在小餐厅边桌消费硬件上有效地做什么......
我承认,在上个月之前,我并没有想到我会拥有一只带有可交换软件大脑的控制论助理龙虾。
来自尝试在 Apple M5Max 芯片上本地运行代理 OpenClaw 的前线的报告:加载延迟、内存占用、每秒令牌数、简单连贯性以及认知密度:维持逻辑上严肃的论证的模拟的能力。
分享
在一台具有 128GB 统一内存、600GB/s 内存带宽和可能 70 TFLOPS FP16 的原始 LLM 相关计算能力的机器上(参见:NVIDIA RTX 5090 为 350,但内存是四倍),我们有:
赠送订阅礼物
注释:
绝对的奇闻趣事 gemma4:26b-a4b-it-q4_K_M 性能方面。这里到底发生了什么,使它成为如此异常的异常值?
deepseek-r1:70b 作为第二性能冠军。
低初始延迟:所有这些模型初始加载的绝对速度。
速度恶魔:对于后台任务、日志记录或简单分类,llama3.2:1 和 llama3.2:3b 可以以最低的资源成本和惊人的速度完成大量非常简单的汇总和分类任务。
连贯性非常重要:速度是你到达的速度;连贯性应该是你是否到达了正确的目的地。
团体订阅可享受 75% 的折扣
除了初始加载延迟、内存消耗、令牌生成速度以及维持连贯思路拟像的能力之外,还有另一个性能维度:称之为语义深度或认知密度。
发表评论
