Amex vrea să oprească agenții AI care cumpără altceva decât le-ai cerut

Agenții AI sunt asistenți care fac lucruri în locul tău, nu doar îți răspund la întrebări. Tot mai des, ei caută produse, compară prețuri și chiar plătesc. Problema e că uneori greșesc. American Express a anunțat un sistem care verifică dacă o cumpărătură făcută de agent se potrivește cu ce i-ai cerut, iar dacă nu, plata poate fi oprită.

Ce s-a întâmplat

Amex a lansat „Intent Intelligence Framework”, un set de unelte care îți înregistrează intenția de cumpărare înainte ca agentul să ajungă la plată. Compania speră ca sistemul să devină un standard pentru cumpărăturile făcute de AI. El face parte dintr-un pachet mai mare de unelte pentru programatori, numit ACE, lansat în aprilie.

De ce e nevoie de așa ceva

Modelele lingvistice, adică „creierul” din spatele agenților, nu răspund mereu la fel la aceeași cerere și uneori o iau pe arătură. Când scriu un text, o greșeală costă puțin. Când au acces la cardul tău, greșeala devine o cumpărătură nedorită.

Amex spune că nu a observat încă mai multe dispute din cauza agenților. Vrea totuși să fie pregătită, pentru că oamenii par dispuși să-i încerce. Într-un sondaj al companiei, aproximativ două treimi dintre americanii întrebați au spus că probabil vor folosi agenți ca să găsească cel mai bun preț.

Cum funcționează, pe scurt

1. Când îi ceri ceva agentului, sistemul îți notează cererea și limitele: magazinul, bugetul maxim, alte preferințe.
2. Îți confirmi identitatea și aprobi ce a înțeles agentul.
3. Se generează o „dovadă de intenție”. Pe baza ei, agentul primește date de plată digitale securizate, pe care le folosește în locul numărului real al cardului tău.

Hannah Bozian, vicepreședinte Amex pentru parteneriate în zona agenților, a dat un exemplu: ceri pantofi sport albi Nike, mărimea 9, iar agentul încearcă să cumpere o pereche Adidas. În acest caz, Amex poate bloca tranzacția înainte să se producă, pentru că agentul a greșit.

Ce înseamnă pentru tine

Mulți agenți îți cer azi acordul înainte să cumpere ceva. Amex se gândește însă la un viitor în care, în unele cazuri, le vei da mai multă libertate. De pildă, să comande singuri hârtie igienică sau prosoape de bucătărie, unde contează doar prețul și cantitatea, nu marca. Acolo, o verificare automată în plus poate prinde greșelile.

Un alt avantaj e jurnalul: rămâne scris ce s-a aprobat, pentru ce agent și când. Asta poate ajuta la lămurirea fraudelor și a disputelor. Amex este deja în discuții cu parteneri din domeniul plăților pentru implementare și spune că va continua să dezvolte pachetul.