Nvidia顶级AI芯片 在eBay卖破17.6万元

Nvidia H100(图取自Nvidia官网)
(纽约16日讯)随着训练和运作人工智能(AI)软体所需的芯片需求激增,辉达(Nvidia)最先进的绘图显卡在eBay上售价超过4万美元(下同,约17万6000令吉)。
根据《经济日报》引述CNBC报道,脸书母公司Meta前顾问技术长卡麦克(John Carmack)14日发布一则推文表示,辉达的H100处理器在eBay上的标价约4万至4万6000美元不等。有些零售商过去提供这款处理器的价格约3万6000美元。
这款去年发表的处理器是辉达最新的旗舰款AI芯片,效能超越号称在AI应用上“最耐操”的A100处理器,A100的售价则为约1万美元。
开发商正利用H100建构所谓的大型语言模型(LLM),这种模型也是聊天机器人ChatGPT等AI应用的核心。运作这些系统的成本相当昂贵,需要功能强大的电脑来一次处理极大量的数据好几天或好几周,也仰赖高超的运算能力来生成文字、图像或预测。
要训练一套AI模型,尤其是像ChatGPT这样的庞大模型,一次需要数百个辉达的高阶芯片同时运作。
微软已砸下数亿美元购买上万个辉达A100芯片来建构ChatGPT。辉达掌控了AI芯片绝大多数市场。
辉达也提供名为DGX的超级电脑,这台电脑共有8个绘图处理器同时运作。辉达今年稍早宣布的新服务,将让企业能以每月3万7000美元的租赁价格连上DGX电脑。在这个价格方案,系统使用的是较旧款的A100处理器。
辉达表示,H100是第一个为特有AI架构Transformer做最优化处理的芯片,这种架构构成了近期许多AI进展。业界专家表示,为了建构比目前可用的还要更大、更需要数据的模型,将需要更效能强大的芯片。
新闻来源:经济日报
陈立武:放眼AI硬件竞争 英特尔迎战英伟达

英特尔新任CEO陈立武。(取自英特尔官网)
(纽约28日讯)英特尔新任总执行长陈立武向投资人发出讯息,表示英特尔将要在人工智能(AI)硬件上,与英伟达(NVIDIA)竞争。
陈立武在周四提交的英特尔年报中,写道:“我们毫无疑问需要强化在以云端为基础的AI资料中心市场里的地位,研发具竞争力的机柜级系统解决方案。这将是我和团队一项关键的优先任务。”
由年报中的叙述,陈立武希望在他的领导下,英特尔的AI事业能够重回轨道。
本月稍早,英特尔任命他接替去年12月被闪逼退休的基辛格,出任总执行长。
道琼社发出的《巴隆周刊》报道说,陈立武指的是要与英伟达最先进的GB200 NVL72 Blackwell AI系统竞争。
英伟达这套系统,被一位前英特尔高阶主管称为目前AI运算界的“顶级掠食者”,它配备了72颗GPU,连结在一个服务器机柜中,在小空间里提供空前的算力。
现在的AI资料中心硬件市场,英伟达占有绝对优势。英特尔的AI产品相对表现一直不好。
去年10月,英特尔承认,它的Gaudi-AI加速器,不能达成原本所定的,2024年要有5亿美元(约22亿令吉)的营收目标。
今年1月,英特尔宣布,取消下一代AI资料中心产品Falcon Shores的上市计划,改将重心移到研发AI资料中心解决方案Jaguar Shores。