Предобучение LLM: данные, этапы, compute budget
🔒 Sign in to use this
Предварительное обучение LLM: данные, цели и расчет бюджета
Когда вы разговариваете с Клодом или GPT-4, вы взаимодействуете с моделью, которая прошла две отдельные фазы. Первый — и, безусловно, самый дорогой — это предварительное обучение: подвергание модели воздействию триллионов текстовых токенов и обучение ее одной простой задаче. Второй этап (выравнивание, о котором рассказывается в следующем уроке) превращает эту грубую способность в полезного помощника.
Content is available with subscription.
Get full access to all courses on the platform for one year with a single payment.
▼
▼
Unlike other platforms that charge per course, here you get everything for one price, and after one year of use there will be no automatic charge for the following year.
🔒 Sign in to use this