Cache

Când trimiți unui model AI de mai multe ori același text lung, de pildă un document sau instrucțiunile unei aplicații, acesta poate fi păstrat în cache. La următoarea cerere, modelul îl citește de acolo, mai repede și mai ieftin.

E ca atunci când îți ții cheile mereu în același bol de lângă ușă: nu le mai cauți prin toată casa de fiecare dată când pleci.