Fereastră de context
Cât text poate ține minte un model AI într-o singură conversație.
E memoria de lucru a modelului: tot ce i-ai scris, ce ți-a răspuns și documentele pe care i le-ai dat trebuie să încapă aici.
Când conversația devine prea lungă, începutul iese din fereastră și modelul îl „uită”. Se măsoară în tokeni.