全球开发者数量激增，GenAI 项目呈爆炸式增长趋势，推动编程语言的应用格局也发生了巨大变化，最新的 GitHub Octoverse 报告来了！ Python 首次超越 JavaScript，成为 GitHub 平台最顶级编程语言 不同于流传“AI 即将取代程序员”的种种言论，GitHub 在最新发布的 2024 ...

在代码大模型（Code LLMs）的预训练中，行业内长期存在一种惯性思维，即把所有编程语言的代码都视为同质化的文本数据，主要关注数据总量的堆叠。然而，现代软件开发本质上是多语言混合的，不同语言的语法特性、语料规模和应用场景差异巨大。如果忽略这些差异，笼统地应用通用的 Scaling Laws，往往会导致性能预测偏差和算力浪费。