DeepSpeed ZeRO++: A leap in speed for LLM and chat model training with 4X less communication
1:18
DeepSpeed ZeRO++: A leap in speed for LLM and chat model trai…
2023年6月22日
MicrosoftBrenda Potts
2026年公认最好的【LLM大模型】教程！从Transformer到deepseek架构解析，手把手带你玩转预训练、微调、部署全流程，一套全解决！
1:49:52
2026年公认最好的【LLM大模型】教程！从Transformer到deepseek架构 …
已浏览 609 次1 个月前
bilibili李宏毅transformer-
This scene shows Megatron deep, tragic love for Cybertron in Dark of the Moon
0:28
This scene shows Megatron deep, tragic love for Cybertron in Dark o…
已浏览 2.7万 次1 个月前
YouTubeRandom Shortvideo PH
bytes.sphere on Instagram: "No Copyright intended. Please DM for credits/removal. Chinese researchers have achieved a major engineering breakthrough by accelerating a ton-class test vehicle to 700 km/h in just two seconds. The experiment was carried out on a 400-meter maglev track using a superconducting electromagnetic propulsion system, officially setting a new world record for acceleration. This achievement demonstrates unprecedented control over high-speed electromagnetic propulsion and coul
0:11
bytes.sphere on Instagram: "No Copyright intended. Please DM fo…
已浏览 1.1万 次2 个月之前
Instagrambytes.sphere
Efficient large-scale language model training on GPU clusters using megatron-LM | Proceedings of the International Conference for High Performance Computing, Networking, Storage and Analysis
Efficient large-scale language model training on GPU clusters using me…
2021年10月30日
acm.org
0-210 km/h : Honda S2000 (Motorsport)
0-210 km/h : Honda S2000 (Motorsport)
已浏览 110.4万 次2012年5月20日
YouTubeMotorsport Magazine
How To Remove Cluster / Speedometer On A Mercedes Benz
How To Remove Cluster / Speedometer On A Mercedes Benz
已浏览 9.8万 次2011年6月23日
YouTubeStarPowerMPK
56:07
Megatron LM 论文精读【论文精读】
已浏览 4240 次2022年6月9日
YouTube跟李沐学AI
19:33
Megatron-LM 流水并行PP代码解析 #大模型 #分布式并行 #分布式训练
已浏览 377 次2024年6月3日
YouTubeZOMI酱
20:04
分布式训练框架Megatron-LM代码概览 #大模型 #分布式并行 #训练
已浏览 426 次2024年5月11日
zhihu.comZOMI酱
22:32
【LLM】DeepSeek最新论文：R2发布前的关键技术突破（MLA/MTP/FP…
已浏览 4.8万 次10 个月之前
bilibiliKrillinAI小林
1:28
【清华大学】终于把大模型讲清楚了，B站最全最易学的大模型课程，LL…
已浏览 248 次2025年2月28日
bilibili人工智能Li
9:17
【2025版】这绝对是B站讲的最好的AI大模型全套教程（Deepseek+R…
已浏览 7229 次11 个月之前
bilibiliAI官方课堂
10:31
[LLM训练] Megatron-LM里的张量并行：Attention、FFN和Embedding全 …
已浏览 1618 次11 个月之前
bilibili我是小小升
10:24
LLM Cookbook 第十六期 多显卡训练与DeepSpeed
已浏览 974 次11 个月之前
bilibiliAI匠
57:36
Jeff Dean的演讲，回顾LLM发展史，Transformer、蒸馏、MoE、思维 …
已浏览 4089 次6 个月之前
bilibiliAI深度研究员
1:05:51
Megatron Core MoE in 2025- 架构、特性、性能优化以及在DeepseekV…
已浏览 3369 次9 个月之前
bilibiliNVIDIA英伟达
45:08
探索长序列并行：Megatron-Core 的 Context Parallelism 解析
已浏览 3569 次2024年7月19日
bilibiliNVIDIA英伟达
1:33:54
LLM智能应用开发 L14：大语言模型进阶 Megatron并行化技术介绍 [202…
已浏览 2632 次2024年12月17日
bilibiliPar4g0N
1:22:58
Ultimate Guide To Scaling ML Models Megatron-LM | ZeRO | Dee…
已浏览 535 次2022年8月25日
bilibili人工智能基地2
1:47:46
【LLM101】3.3 LLM预训练之分布式训练：数据并行、模型并行、混合精 …
已浏览 5889 次2025年1月20日
bilibili一万篇论文笔记
1:34:03
大语言模型基础之从零到一实现之路 L15：LLM进阶之分布式并行(基于Me…
已浏览 2122 次3 个月之前
bilibiliPar4g0N
10:17
Research Track 7：多模态大模型最新的一些论文
已浏览 661 次2024年11月3日
bilibili以往的月
34:18
Megatron-Core MoE in 2025：大规模 MoE 模型训练框架的前沿进展与最 …
已浏览 4031 次4 个月之前
bilibiliNVIDIA英伟达
21:07
字节万级GPU集群LLM训练
已浏览 2499 次2024年7月3日
bilibili竹言见智
2:20
Giant Blackheads - Part II-
已浏览 2171.2万 次2016年6月22日
YouTubeJosefa M. REINA
1:18:57
【OpenLLM Talk 013】【本期提要】：LLM作为优化器；人大LLM综述-9 …
已浏览 471 次2023年9月18日
bilibiliOpenLLMAI
0:49
DeepSeek联合清华，携强化学习（RL）与大语言模型（LLM）强势 …
已浏览 243 次11 个月之前
bilibiliAI前沿速递
12:47
BIG BLACKHEAD REMOVAL Part- 1
已浏览 875.3万 次2017年7月14日
YouTubeDr. Lalit Kasana - Skin Treatment
4:45
Steam Speed
已浏览 8907.5万 次2014年2月3日
YouTubeDigital Light Studio
观看更多视频
静态缩略图占位符