Mirror Speculative Decoding: Breaking the Serial Barrier in LLM Inference
推测性解码通过使用草稿模型进行预测来加速 LLM 推理，但收益受到自回归草稿生成成本的限制：增加草稿大小会提高接受率，但会引入额外的延迟开销，从而加剧速度与准确性的权衡。先前的方法（Medusa、Hydra、EAGLE）部分降低了草稿成本，但要么降低了接受度，要么引入了限制扩展的开销。我们提出了镜像推测解码（Mirror-SD），这是一种打破延迟与接受权衡的推理算法。 Mirror-SD 从...启动分支完整部署
As Feds Crack Down on Huge Ed Tech Data Breach, Parents and Students Left Out
学校（内）安全是我们关于最新学校安全新闻的双周简报，由 Mark Keierleber 审核。在这里订阅。美国联邦贸易委员会本月宣布，计划打击科技公司 Illuminate Education 2021 年发生的大规模数据泄露事件。自黑客闯入该公司以来，此举又增加了政府针对该公司采取的一长串行动 [...]
Simon Lavington 去世，享年 85 岁，是一位计算机科学家，他对计算机系统硬件的学术兴趣激发了他对调查和记录早期英国计算机历史的热情。为此，他获得了国际声誉，并于 2024 年被授予国家计算博物馆荣誉院士称号，以表彰他“对计算历史和持续发展的杰出贡献”。他的第一本书《曼彻斯特计算机史》于 1975 年出版。他后来又写了六本，最近又开始写另一本，关于女性程序员的开创性工作。西蒙出生于伦敦切尔西，母亲简（娘家姓尼克伦）是一名护士，父亲埃德加·拉文顿是一名商业顾问兼公司董事。西蒙在赫特福德的黑利伯里学院接受教育，之后在魁北克度过了间隔年，然后在曼彻斯特大学攻读电气工程本科学位。 195
