#程序员
一个GPT接口省钱小技巧。
因为 GPT 接口是无状态的,上下文需要我们自己管理,所以为了省钱,其实完全可以在输入 token 比较少时,用 GPT3.5 的 4K 模型,之后随着用户越聊越多时,才升级为 16K 模型,之后如果不够用了,再升级为 GPT4 的 32K 模型。
另外,维护上下文时,其实没必要把历史问题和回复的全文放进去,如果你想偷懒实现,可以直接截取前100个字,这种做法足够应付99%的提问。
如果你想把剩下的1%情况也做好,那么可以上 embeddings ,智能提取历史问题和回答。
一个GPT接口省钱小技巧。
因为 GPT 接口是无状态的,上下文需要我们自己管理,所以为了省钱,其实完全可以在输入 token 比较少时,用 GPT3.5 的 4K 模型,之后随着用户越聊越多时,才升级为 16K 模型,之后如果不够用了,再升级为 GPT4 的 32K 模型。
另外,维护上下文时,其实没必要把历史问题和回复的全文放进去,如果你想偷懒实现,可以直接截取前100个字,这种做法足够应付99%的提问。
如果你想把剩下的1%情况也做好,那么可以上 embeddings ,智能提取历史问题和回答。
#职场社畜日常
现代的上班制度有问题啊
请个半天病假,实际上一个萝卜一个坑,有事找你还是要通过手机找你,你还是得给他处理。就算你今天没干完活,第二天这些事情还是在你头上,那么请问,请假这半天的工资为什么不发?
现代的上班制度有问题啊
请个半天病假,实际上一个萝卜一个坑,有事找你还是要通过手机找你,你还是得给他处理。就算你今天没干完活,第二天这些事情还是在你头上,那么请问,请假这半天的工资为什么不发?
电商,或者说零售
真是有活力的无限游戏
淘宝,天猫,京东,拼多多,得物,唯品会,抖音电商,快手电商,视频号电商,小红书电商,B 站电商,以及数不尽的线下零售渠道商
以前阿里以为自己已经天下无敌,这几年,世界却早已经变了好几次
真是有活力的无限游戏
淘宝,天猫,京东,拼多多,得物,唯品会,抖音电商,快手电商,视频号电商,小红书电商,B 站电商,以及数不尽的线下零售渠道商
以前阿里以为自己已经天下无敌,这几年,世界却早已经变了好几次
发现好多经纪人都用今日水印相机。功能切入点非常非常非常简单,只是把拍照时间和地点等信息当做水印展示在照片上。主打一个真实防篡改。主要场景有工作拍照留痕、团队考勤打卡、工程施工管理、外勤拍照、综合执法执勤、取证拍照等…