Un experiment Anthropic arată că modelele AI mici învață să ruleze pe aparate ieftine din casă. Compania avertizează că ar putea apărea curând viruși bazați pe AI care se răspândesc singuri și sunt greu de oprit.
Anthropic, compania din spatele asistentului Claude, avertizează că modelele AI mici ar putea ajunge curând să se înmulțească singure pe aparatele inteligente din casă: frigidere, aspiratoare robot, cutii TV. Concluzia vine dintr-un experiment propriu. Același experiment arată însă că un astfel de scenariu nu e încă posibil.
Cercetătorii au rulat modele mici și deschise pe cutii Android TV ieftine, fără marcă, și pe alte aparate din Internetul lucrurilor, adică dispozitivele conectate la internet care nu sunt calculatoare sau telefoane. Ca să încapă pe un hardware atât de modest, modelele au fost comprimate prin cuantizare și împărțite în bucăți, fiecare rulând pe alt aparat. Metoda a funcționat: un model a pornit distribuit pe 15 astfel de cutii.
Următoarea întrebare a fost dacă un model ar putea deveni un vierme informatic, adică un program care sare singur de la un aparat la altul, fără intervenția cuiva. Față de viermii clasici, precum celebrul Mirai, un AI și-ar putea adapta atacul la fiecare aparat nou, chiar dacă nu l-a mai întâlnit. În plus, ar putea lăsa notițe pentru „urmași”, ca aceștia să nu repete încercările care au eșuat.
Anthropic spune că un astfel de vierme nu ar avea un punct central de unde să poată fi oprit, așa cum ai stinge un întrerupător general. În schimb, ar fi lent: numărul aparatelor infectate s-ar dubla în câteva zile, nu în câteva minute.
Niciunul dintre modelele mici testate nu a reușit tot ciclul: să găsească aparate noi, să intre în ele, să se instaleze și să o ia de la capăt. Procesul a fost și foarte lent: pregătirea unui singur model a durat de la peste o zi până la aproape o săptămână. Mai mult, răspândirea a fost coordonată de un model mare, nu de cele mici. Iar aparatele atacate aveau expusă, fără nicio autentificare, o funcție de depanare care nu ar trebui folosită pe aparatele aflate în uz obișnuit.
Compania estimează totuși că, dacă modelele mici continuă să progreseze în ritmul actual, ar putea face aceiași pași până la finalul anului. Viermii bazați pe AI ar putea apărea la scurt timp după aceea.
Cercetătorul Xiaohan Fu atrage atenția că studiul demonstrează o capacitate, nu și faptul că modelele ar alege singure să se răspândească. El spune că ar ajuta dacă instrucțiunile exacte date modelelor ar fi făcute publice, ca alți cercetători să poată înțelege și evalua rezultatele.
Pentru tine, ca utilizator, rămâne o observație utilă: experimentul a vizat tocmai cutii ieftine, fără marcă, cu o funcție de depanare accesibilă oricui. Contează ce aparate conectezi la rețeaua de acasă.
Detalii din experimentul Anthropic
Sursa: Ars Technica — AI
Cercetătorii de la White Circle au ocolit filtrele unor generatoare de imagini de la Google și OpenAI cu unelte gratuite. Spun că versiunile noi sunt chiar mai ușor de păcălit decât cele vechi.
Asistenții AI nu mai doar răspund la întrebări: pot cumpăra, trimite mesaje sau completa formulare. Află cum funcționează agenții, unde greșesc și cum îi ții în frâu.
American Express a lansat un sistem care îți înregistrează intenția de cumpărare înainte ca un agent AI să plătească în numele tău. Astfel poate bloca tranzacțiile care nu se potrivesc cu ce ai cerut.
Comentarii
Fii primul care spune ce crede.