RestGPT,https://restgpt.github.io,让大模型连接真实世界的 Restful API
在构建 AI Agent 时,检索增强(Retrieval-Augmented Generation,RAG)是提的比较多的,它可以缓解大模型的幻觉问题,还有一点也十分重要,那就是工具增强(Tools-Augmented),让大模型可以正确地选择工具,并依次执行任务,最后达到期望的效果。
RestGPT 采用迭代式从粗到精的在线规划框架,让 LLM 逐步找到合适的 API,并在它设定的程序执行器中完成程序执行;整个过程有点类似广度优先算法,先找到 API 集合再找到详细的 API,然后利用 LLM 的推理能力,将多个 API 组合成调用链。
框架要求输入 API 文档和 Response Schema 信息,其效果相比 ReAct、Reflexion 等框架,包括对比 ChatGPT,都要好出 10%~160%。
我详细看了论文对应的项目代码,https://github.com/Yifan-Song793/RestGPT,主要依靠 Prompt 以及循环执行来完成任务规划,实现过程较为简单,而 Prompt 写的过于复杂。这个思路是值得借鉴的,实际使用过程还是建议自己重新撸一份代码。
视频演示了使用 TMDB 电影数据库搜索 Sofia Coppola 导演的电影总量:
在构建 AI Agent 时,检索增强(Retrieval-Augmented Generation,RAG)是提的比较多的,它可以缓解大模型的幻觉问题,还有一点也十分重要,那就是工具增强(Tools-Augmented),让大模型可以正确地选择工具,并依次执行任务,最后达到期望的效果。
RestGPT 采用迭代式从粗到精的在线规划框架,让 LLM 逐步找到合适的 API,并在它设定的程序执行器中完成程序执行;整个过程有点类似广度优先算法,先找到 API 集合再找到详细的 API,然后利用 LLM 的推理能力,将多个 API 组合成调用链。
框架要求输入 API 文档和 Response Schema 信息,其效果相比 ReAct、Reflexion 等框架,包括对比 ChatGPT,都要好出 10%~160%。
我详细看了论文对应的项目代码,https://github.com/Yifan-Song793/RestGPT,主要依靠 Prompt 以及循环执行来完成任务规划,实现过程较为简单,而 Prompt 写的过于复杂。这个思路是值得借鉴的,实际使用过程还是建议自己重新撸一份代码。
视频演示了使用 TMDB 电影数据库搜索 Sofia Coppola 导演的电影总量: