Ordlista
Context Window
Den mängd text, mätt i tokens, en språkmodell kan "se" och ta hänsyn till samtidigt i en given konversation eller uppgift.
Context window sätter en praktisk gräns för hur mycket information, till exempel tidigare konversation, dokument eller kod, en modell kan beakta åt gången utan att äldre information faller bort. Ett större context window gör det möjligt att arbeta med längre dokument eller mer komplexa uppgifter i ett sammanhang, men kräver också mer beräkningskraft. Storleken på context window varierar kraftigt mellan olika modeller och har vuxit betydligt de senaste åren.
Skrivet av
Simon TernRelaterade termer
LLM
Large language model, en stor AI-modell tränad på enorma mängder text för att förstå och generera språk.
Prompt
Den instruktion eller fråga en användare ger till en AI-modell för att få ett önskat svar eller resultat.
Transformer
En AI-modellarkitektur, introducerad 2017, som ligger till grund för de flesta moderna stora språkmodeller.
Fler frågor om context window?
Jag hjälper er reda ut vad som faktiskt spelar roll för er verksamhet.
Prata med Simon →