Red teaming
Testarea unui sistem de către o echipă care joacă rolul atacatorului și încearcă intenționat să-l păcălească sau să-l facă să greșească.
Numele vine din exercițiile militare, unde „echipa roșie” juca rolul inamicului. În AI, specialiștii încearcă tot felul de trucuri ca să convingă un model să dea informații periculoase sau să ocolească regulile. Fiecare reușită arată o slăbiciune care trebuie reparată înainte de lansare.
Gândește-te la un lăcătuș pe care îl angajezi să încerce să-ți spargă ușa nouă. Dacă reușește, afli unde e punctul slab înainte să-l afle un hoț adevărat.