皇冠体育比分现金足球app娱乐被一些东谈主以为是 AI 的分水岭-皇冠体育比分 现金足球网 在线|官网

发布日期：2025-03-31 07:39    点击次数：71

Cerebras从旧年8月驱动提供群众推理就业

IT之家 2 月 12 日音书，据 ZDNET 2 月 10 日报谈，AI 芯片厂商 Cerebras 的 CEO Andrew Feldman 接受采访时说，该公司照旧被运行 DeepSeek-R1 大谈话模子的订单压垮。

据IT之家此前报谈，Cerebras 曾推出用于 AI 的晶圆级芯片，一块芯片就提供 125 PFLOPS 的峰值算力，搭配片外内存不错完了至高 1.2PB 的内存容量。

DeepSeek-R1 的预检修资本不错低到 GPTo1 等主流模子的绝顶之一，且成果独揽甚而更好，被一些东谈主以为是 AI 的分水岭。

Feldman 以为，DeepSeek 对东谈主工智能的影响不仅在当下，更在于将刺激出更大的 AI 系统。跟着资本的缩短，商场正在变得越来越大。

Cerebras 在官网展示，Cerebras 的晶圆级 AI 芯片，部署 DeepSeek-R1 70B 不错达到 1508 tokens / s 的性能，比 GPU 快好多。

用户在使用包括 DeepSeek-R1 等“推理模子”时，输入教唆词后需要时期恭候是一大痛点。因为采取了名为 Chain-of-thought（CoT）的步履来增强模子的推理才气，将多步问题明白为中间法子，允许模子在需要时扩充畸形的策画。推理时逐字进行推理，对整段教唆词的推理需要进行屡次，需要强大算力。

客户不错通过蒸馏将大模子的“常识”回荡到小模子来缓解痛点，大模子频频被称为老师模子，较小的模子被称为学生模子。

为了改善使用 DeepSeek 模子的体验，Cerebras 为客户提供的范例作念法是诓骗 DeepSeek 开源在 Hugging Face 的模子参数（权重）手脚老师模子，蒸馏出一个较小的学生模子用于试验部署，Cerebras 在官网默示 DeepSeek R1 蒸馏到 Llama 70B 后精度险些莫得下落。

Feldman 默示，DeepSeek 是第一个顶级的开源推理模子，是开源 AI 的要紧告成。通过蒸馏时代，开源模子只需要公开模子参数（权重），筹划东谈主员不需要走访源码也不错复制新 AI 模子的特等。他以为，DeepSeek 的经济性不仅操心悉数这个词东谈主工智能行业，更不错使顶端 AI 芯片和聚积时代得到更多投资。

有些东谈主以为策画资本的下落将导致商场萎缩，但曩昔 50 年齐发扬出缩短资本反而扩大商场容量。不管是电脑照旧智高手机，价钱的缩短齐鼓励了提升。

Cerebras 从旧年 8 月驱动提供群众推理就业，自称是“宇宙上最快的东谈主工智能推理就业提供商”。该公司现在只提供蒸馏后的 70B 模子，Feldman 默示，405B 的模子太贵了，客户更嗜好价钱实惠的模子皇冠体育比分现金足球app娱乐，诚然也有一部分客户以为准确性的提增值得更高的资本而采取更大的模子。