Un sistem la care vezi ce intră și ce iese, dar nu înțelegi ce se întâmplă înăuntru. În AI, expresia descrie modelele care dau răspunsuri fără să poți urmări cum au ajuns la ele.
Multe modele AI funcționează ca o cutie neagră: le dai o întrebare și primești un răspuns, dar raționamentul din spate nu e vizibil. Nici măcar cei care le-au construit nu pot spune mereu exact de ce modelul a ales un anumit răspuns.
E ca un GPS care îți spune „fă la stânga”, fără să-ți arate harta. De cele mai multe ori ai încredere și merge. Dar dacă te trimite pe un drum închis, nu ai cum să afli de ce a greșit.
De aceea mulți cer sisteme AI mai transparente, care să lase urme ce pot fi verificate ulterior.
