Anthropic își testează agenții AI fără internet, după câteva scăpări îngrijorătoare
Anthropic oprește accesul la internet pentru toate testele interne ale agenților AI, după ce unul dintre ei a trimis un pont fals despre o crimă nerezolvată.
Google lansează un site unde verifici dacă o poză sau un clip a fost făcut cu AI
Google a deschis SynthID.com, unde oricine își poate verifica imaginile, clipurile și înregistrările audio. Detectorul recunoaște acum și marcajul invizibil folosit de parteneri precum OpenAI, Nvidia și Kakao.
Google a lansat SynthID.com, un site unde oricine poate verifica dacă o imagine, un videoclip sau o înregistrare audio poartă „semnătura” ascunsă lăsată de mai multe unelte AI populare. Noutatea importantă e că detectorul nu mai recunoaște doar conținutul făcut cu Gemini. Acum vede și materialele produse de partenerii Google, printre care OpenAI, compania din spatele ChatGPT.
Ce este SynthID
SynthID e un filigran digital invizibil. Gândește-te la el ca la o ștampilă pe care ochiul tău nu o vede, dar un program o poate citi. La imagini și video, semnalul e ascuns în pixeli, iar la audio, în unda sonoră. Tot ce generează modelele Gemini primește acest marcaj.
Până acum, dacă nu făceai parte dintr-un grup restrâns de testeri, aveai o singură cale de verificare: să-l întrebi pe Gemini. Răspunsurile lui erau uneori încâlcite, deși tu voiai doar un „da” sau un „nu”. În plus, vechiul detector vedea numai varianta Google a filigranului. O imagine din ChatGPT, deși marcată, trecea neobservată.
Cum funcționează site-ul
Intri pe SynthID.com, te autentifici cu un cont Google, OpenAI sau Apple și încarci fișierul. Primești un mesaj simplu, care îți spune dacă SynthID a fost folosit la crearea sau la editarea lui. Pe lângă OpenAI, sunt acoperite Nvidia și Kakao, iar Apple urmează să se alăture.
Există însă o limită: aproximativ 10 verificări pe zi. Inginerii Google au explicat pentru Ars Technica de ce e nevoie de ea. Fără limită, cineva ar putea folosi detectorul ca să construiască unelte care șterg filigranul. Dacă verifici multe imagini foarte asemănătoare, s-ar putea să fii blocat chiar mai devreme.
De ce un „nu” nu înseamnă că e real
Aceasta e partea pe care merită s-o reții. Dacă site-ul nu găsește SynthID, asta nu dovedește că poza e autentică. Unele companii, precum Meta, folosesc alt tip de marcaj, iar altele nu folosesc deloc. Mai sunt și modelele pe care oricine le poate rula pe propriul calculator. Ele produc imagini tot mai realiste, fără nicio etichetă. Chiar site-ul va afișa un avertisment în acest sens.
Nu e exclus nici ca cineva să găsească o metodă de a îndepărta SynthID. Ars Technica sugerează că, pe termen lung, soluția mai bună ar fi inversă: să fie marcat conținutul real chiar în momentul în care e creat, prin tehnologii precum C2PA. Telefoanele Pixel ale Google se numără printre puținele dispozitive care fac deja asta.
Ce înseamnă pentru tine
Când vezi o imagine suspectă pe Facebook sau pe WhatsApp, ai acum un loc unde o poți verifica rapid. Un „da” e un semnal clar că a fost implicată o unealtă AI. Un „nu” înseamnă doar că trebuie să rămâi în continuare atent.
Pentru curioși: detaliile tehnice
- Volum: potrivit Google, doar Gemini a aplicat SynthID pe peste 180 de miliarde de imagini și videoclipuri și pe echivalentul a 240.000 de ani de audio.
- Unde se ascunde marcajul: în pixelii imaginilor și ai cadrelor video, respectiv în forma de undă a fișierelor audio.
- Parteneri acceptați de detector: Google, OpenAI, Nvidia, Kakao și, în curând, Apple. Fiecare are propria variantă de filigran SynthID, iar detectorul le recunoaște pe toate.
- Autentificare: cont Google, OpenAI sau Apple.
- Limită: Google vorbește despre „o cotă zilnică de aproximativ 10 verificări de imagini, video și audio”. Sistemul te poate bloca mai devreme dacă trimiți fișiere foarte asemănătoare, un tipar care poate indica o încercare de a păcăli filigranul.
- Diferență față de unealta internă: versiunea folosită anterior de testeri evidenția zonele din imagine care conțineau pixeli SynthID. Site-ul public oferă doar un verdict: SynthID a fost sau nu a fost folosit la creare ori editare.
- Alternativa: C2PA este un standard criptografic care atestă proveniența conținutului real în momentul capturii. Telefoanele Google Pixel îl folosesc deja.
Acest text a fost scris cu ajutorul inteligenței artificiale și verificat automat față de sursă. Dacă observi o greșeală, lasă-ne un comentariu mai jos.
Sursa: Ars Technica — AI
Comentarii
Fii primul care spune ce crede.