Apple 的 Translation 框架:免费、端侧运行,比表面看上去更见功力
Apple 的 Translation 框架:通过 translationPresentation 与 TranslationSession 实现免费的端侧翻译,以及演示里总被跳过的离线下载边界。
AI & Technology关于设计、开发、AI基础设施和产品构建的思考。
Apple 的 Translation 框架:通过 translationPresentation 与 TranslationSession 实现免费的端侧翻译,以及演示里总被跳过的离线下载边界。
AI & TechnologySophie Wilson 设计了 ARM 指令集——如今几乎装在地球上每一部手机里——靠的是一支极小的团队,以及一种近乎冷酷的 RISC 效率,让低功耗几乎成了意外的副产品。
Engineering & CraftJim Keller 设计了 AMD 翻身之作、iPhone、Tesla Autopilot 等背后的芯片——靠的是用硅片消除瓶颈,并从第一性原理重新思考。
Engineering & CraftSalvatore Sanfilippo 围绕一条原则打造了 Redis——少做。一个小巧、单线程、驻留内存、你能完整装进脑子里的存储系统,用 C 写成,供人阅读。
Engineering & Craft在两次人工智能寒冬中,当整个领域都在嘲笑类脑神经网络时,Geoffrey Hinton依然押注于它——信念胜过潮流,直觉胜过形式化。
Engineering & Craft岩田聪是一名程序员,他成为任天堂社长后,却从未停止做一名玩家——以技术的精湛,成全玩家的快乐。
Engineering & Craft赵京铉让模型自己学会控制结构——GRU中的门控记忆、注意力中的软对齐——并将其与诚实、可复现的科学方法结合在一起。
Engineering & CraftFoundation Models 给你的是 Apple 那个封闭的端侧 LLM。MLX 则让你在 Apple Silicon 上运行自己的模型:量化的开放权重模型与 LoRA 微调。
AI & TechnologyAlan Kay 通过转换视角发明了未来:把计算视为思考的媒介,用相互之间以消息通信的对象来构建系统。
Engineering & CraftBjarne Stroustrup以零开销原则构建了C++:永远不必在表达力强的代码与贴近底层的速度之间做取舍。好的抽象不花费任何代价。
Engineering & CraftRich Hickey 在一个区分之上构建了 Clojure 和 Datomic:简单不等于容易。简单意味着不缠绕、每件事物只承担一个关注点;而容易只是意味着熟悉。
Engineering & CraftThompson 与 Ritchie 用通过单一通用接口——文本流与管道——组合而成的小巧锋利的工具,构建了 Unix 与 C。简洁胜于功能堆砌。
Engineering & Craft技术写作: Introl
本地运行大型语言模型的全面硬件建议和成本分析。
针对不同AI工作负载比较NVIDIA最新数据中心加速器的GPU选择指南。
深入技术分析Google张量处理单元从TPUv1到TPUv5的演进。
容器化环境中GPU集群的资源共享策略。
使用Ray框架构建和管理分布式AI计算的指南。
开源LLM经济学分析和DeepSeek的竞争定位。
未来数据中心电力需求和NVIDIA下一代GPU路线图。
为下一代AI基础设施供电的小型模块化反应堆解决方案。
DeepSeek多头压缩架构创新的技术分析。