🍊 The Latent Field
Search
搜索
暗色模式
亮色模式
学习
探索
标签: pretraining
阅读模式
Hide sidebars
Show sidebars
此标签下有12条笔记。
2026年9月08日
Scaling Domain Data Repetition in LLM Pretraining
source
paper
pretraining
data-mix
data-engineering
scaling
data-repetition
2026年8月31日
Scaling Laws for Neural Language Models
source
paper
scaling-law
compute
pretraining
2026年8月31日
DeepSeek-V3 Technical Report
source
paper
deepseek
moe
mla
fp8
multi-token-prediction
pretraining
2026年8月28日
Training Compute-Optimal Large Language Models
source
paper
chinchilla
compute-optimal
scaling-law
pretraining
2026年6月30日
APTBench: Benchmarking Agentic Potential of Base LLMs During Pre-Training
source
paper
agent
benchmark
evaluation
pretraining
2026年5月28日
RLP: Reinforcement as a Pretraining Objective
source
paper
pretraining
reinforcement-learning
reasoning
chain-of-thought
2026年5月28日
Reinforcement Pretraining
pretraining
reinforcement-learning
reasoning
2026年2月22日
Compute Optimal
pretraining
scaling
2026年2月22日
Data Mix
pretraining
data
2026年2月22日
Training Objective
pretraining
objective
2026年2月22日
Tokenizer
pretraining
tokenizer
2026年2月21日
Pretraining
training
pretraining