跳到正文
原文
Andrej Karpathy· @karpathy · X·· 2025-05-11AI 评分18
AI 导读

我们缺少(至少一个)LLM 学习的重要范式。不确定该怎么称呼它,也许它已经有名字——系统提示词学习? 预训练用于知识。 微调(SL/RL)用于习惯性行为。 这两者都涉及参数变化,但很多人类

标题与摘要由 AI 辅助生成,事实与观点以原文为准。

正文

We're missing (at least one) major paradigm for LLM learning. Not sure what to call it, possibly it has a name - system prompt learning?

Pretraining is for knowledge.
Finetuning (SL/RL) is for habitual behavior.

Both of these involve a change in parameters but a lot of human

来源:Andrej Karpathy · x.com

本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。