·
a16z: 我们很高兴宣布,我们将主导 Inferact 的 1.5 亿美元种子轮。
@inferact 是由 vLLM 项目维护者领导的新初创公司,包括 Simon Mo、Woosuk Kwon、Kaichao You 和 Roger Wang。
vLLM 是领先的开源推理引擎,也是各类开源项目中最大的之一,被 Meta、Google、Character AI 等众多公司用于生产环境。
#Inferact 通过专门的财务和开发资源支持 vLLM 项目,并将构建他们视为下一代商业推理引擎的架构。
对于 #a16z 基础设施来说,投资于 #vLLM 社区明确意味着未来将带来极其多样化的 #AI 应用、代理和工作负载,运行在多种硬件平台上。
@inferact 是由 vLLM 项目维护者领导的新初创公司,包括 Simon Mo、Woosuk Kwon、Kaichao You 和 Roger Wang。
vLLM 是领先的开源推理引擎,也是各类开源项目中最大的之一,被 Meta、Google、Character AI 等众多公司用于生产环境。
#Inferact 通过专门的财务和开发资源支持 vLLM 项目,并将构建他们视为下一代商业推理引擎的架构。
对于 #a16z 基础设施来说,投资于 #vLLM 社区明确意味着未来将带来极其多样化的 #AI 应用、代理和工作负载,运行在多种硬件平台上。
·
·
老牌加密货币 #AI 分析公司 #Nansen 今天面向所有用户开放了一种全新的交易方式:分析和交易,合而为一。
https://x.com/nansen_ai/status/2013870913851437366
https://x.com/nansen_ai/status/2013870913851437366
·
📊 Anthropic 2026 年首个经济指数报告
具体情况如下:
- AI 在近 50%的工作中处理了约四分之一的任务,较去年的 36%有所上升,但不到 10%的公司出现了完全职位更替。
- 需要高中技能的任务在 AI 下加速 9 倍,大学级任务提升 12 倍,克劳德在复杂场景下提升。
- Claude 处理较长任务的能力持续提升,Anthropic 的数据显示,长达 19 小时的任务成功率达到 50%。
- 编码任务仍主导 #Claude 的使用,尽管辅助(学习、反馈、迭代)已取代纯自动化相关任务。
为什么重要: 生产力提升正在迅速发生,但人工智能完全接管工作的恐慌还未反映数据。问题在于初级员工—— 如果 #AI 承担了通常用于培训和积累经验的繁重工作,整整一代年轻人才可能会陷入全新的经济现实。
·
什么是大模型蒸馏版(Distilled Model)?
蒸馏版(Distilled Model)是指用一个大模型(老师模型)来“教”一个小模型(学生模型),让小模型学会大模型的核心能力,但参数量大幅减少、速度更快、内存占用更低。
核心目的:
把大模型的“知识”压缩到小模型里,实现接近大模型的效果,但跑得更快、更省资源(适合本地单机、手机、边缘设备)。
把大模型的“知识”压缩到小模型里,实现接近大模型的效果,但跑得更快、更省资源(适合本地单机、手机、边缘设备)。
一句话总结:
蒸馏版 = “大模型瘦身版”,性能接近原版,但更小、更快、更省电。
蒸馏版 = “大模型瘦身版”,性能接近原版,但更小、更快、更省电。
常见例子:
- DeepSeek-R1-Distill-Qwen-32B(从更大模型蒸馏出的32B版)
- Llama-3.1-8B-Instruct(从Llama-3.1-405B蒸馏)
转发此帖子?
与您的关注者分享。
回复