Limitele și regulile puse în jurul unui model AI ca să-l împiedice să facă lucruri nedorite sau periculoase.
Cuvântul vine din engleză și înseamnă „parapeți”, ca cei de pe marginea unui drum de munte. La fel ca ei, guardrails nu conduc mașina în locul tău, dar te opresc să cazi în prăpastie.
În AI, ele pot fi interdicții scrise în instrucțiuni („nu cumpăra nimic”), filtre care blochează anumite acțiuni sau programe care verifică ce face modelul înainte să meargă mai departe.
De exemplu, un asistent care navighează pe internet în locul tău poate avea voie să citească pagini, dar nu și să apese pe „trimite” fără acordul tău. Dacă regulile au goluri, modelul poate face ceva ce nimeni n-a intenționat.
