Un mod de a păcăli un model AI să facă lucruri pe care producătorul lui i le-a interzis, ocolindu-i regulile de siguranță.
Modelele AI au reguli care le spun ce să refuze: de exemplu, să nu creeze imagini explicite sau instrucțiuni periculoase. Un jailbreak este o cerere formulată atât de iscusit încât modelul nu mai recunoaște că i se cere ceva interzis.
E ca și cum ai convinge un paznic să te lase într-o zonă închisă spunându-i o poveste credibilă, în loc să forțezi ușa. Paznicul își face treaba, dar e păcălit de felul în care e pusă întrebarea.
Firmele de siguranță caută intenționat astfel de trucuri, ca producătorii să le poată bloca înainte să le descopere oameni rău intenționați.
