All Posts

本文探讨了 prompt caching 的基本原理，以及如何实现 prompt caching。

介绍了MoE（Mixture of Experts）模型中的TopK算法，解释了为什么要在其中添加噪音。

解读一下击败 GPT-4o 的开源模型 Llama 3.1 的炼成过程。

本文探讨下如何搭建一个 universal clipboard，实现跨设备的复制粘贴功能。

凯利公式由 John R. Kelly, Jr. 于1956年提出，阐述了在每次投资中应投入多少资金，以获得长期内最大的收益。

本文介绍了如何通过 AppleScript 和 iMessage 数据库，在 iMessage 平台上实现一个聊天机器人。

本文对比了 HuggingChat 提供的 7 个开源模型在电影信息提取任务上的表现，涵盖指令对齐、提取能力和幻觉等方面。

本文讨论了Mistral-8x7B的主要特点，包括其结构、性能以及一些创新技术如SWA和GQA。

OpenAI whisper 包括开源模型和付费语音转写服务，本文介绍了这两者的使用方法及其区别。