Prompt

本文探讨了 prompt caching 的基本原理，以及如何实现 prompt caching。

Tree of thoughts（ToT）是由普林斯顿大学和谷歌 DeepMind 联合提出的模型推理框架，通过树形搜索提高语言模型的解决问题的能力。