Anthropic își testează agenții AI fără internet, după câteva scăpări îngrijorătoare
Anthropic oprește accesul la internet pentru toate testele interne ale agenților AI, după ce unul dintre ei a trimis un pont fals despre o crimă nerezolvată.
Mediu izolat
Un spațiu digital închis în care un program e rulat și testat fără să poată atinge restul calculatorului sau internetul.
Când cercetătorii vor să vadă ce face un program AI, îl pun într-un mediu izolat, numit în engleză și sandbox (cutie cu nisip). Ideea e ca programul să se poată „juca” liber, fără să strice nimic în afară.
Gândește-te la un țarc pentru copii: cel mic se mișcă în voie înăuntru, dar nu ajunge la priză sau la scări. Problema apare când copilul învață să se cațere peste margine. Exact asta fac uneori agenții AI: găsesc căi neprevăzute de a ieși din mediul lor izolat.