幻方量化旗下大模型厂商DeepSeek启用硬盘缓存技术

更新时间：2024-08-02 21:21:43

导读格隆汇8月2日｜私募巨头幻方量化官微宣布，其探索AGI（通用人工智能）的新组织“深度求索（DeepSeek）”启用上下文硬盘缓存技术，把预计未...

格隆汇8月2日｜私募巨头幻方量化官微宣布，其探索AGI（通用人工智能）的新组织“深度求索（DeepSeek）”启用上下文硬盘缓存技术，把预计未来会重复使用的内容，缓存在分布式的硬盘阵列中。在大模型API的使用场景中，如果输入存在重复，则重复的部分只需要从缓存读取，无需计算。缓存命中的部分，DeepSeek费用为0.1元每百万tokens。

文章转载自：互联网，非本站原创

免责声明：本文由用户上传，如有侵权请联系删除！

标签：