Banke upozoravaju na rizike AI kupnje

Šest velikih banaka upozorilo je da AI agenti koji biraju proizvode i dovršavaju internetsku kupnju otvaraju nova pitanja prijevare, privatnosti i odgovornosti. NatWest, Bank of America, ING, Capital One, Commonwealth Bank of Australia i novozelandski ASB traže jasnija pravila prije nego što automatizirana kupnja postane uobičajen platni kanal.

Agentska kupnja razlikuje se od obične preporuke. Sustav može usporediti proizvode, unijeti adresu, odabrati karticu i potvrditi narudžbu prema općoj uputi korisnika. Time dobiva pristup podacima koji su dosad bili razdvojeni između tražilice, trgovca, banke i potrošača. Pogrešna odluka više nije samo loš prijedlog, nego stvarna financijska transakcija.

Britanski John Lewis bilježi rast udjela pretraga koje dolaze iz AI alata s 0,3 na 2,5 posto u godinu dana. To je više od osmerostrukog povećanja, ali još uvijek mali dio ukupnog prometa. Broj ne otkriva koliko je posjeta završilo kupnjom, kolika je prosječna košarica ni jesu li korisnici kasnije vratili robu, pa ne treba iz njega izvoditi vrijednost tržišta.

Banke strahuju da agent može biti naveden na lažnu trgovinu, prihvatiti izmijenjene podatke za plaćanje ili korisniku sakriti nepovoljniji izbor. Napadaču više nije nužno uvjeriti čovjeka dobro napisanim phishingom; dovoljno je oblikovati stranicu ili poruku koju automatizirani sustav protumači kao pouzdanu uputu. Obrana zato mora provjeravati i namjeru korisnika i izvor naredbe.

Drugi je problem raspodjela odgovornosti. Ako čovjek odobri opću naredbu „kupi najjeftinije“, a agent odabere nepoznatog trgovca i izgubi novac, nije jasno je li pogriješio pružatelj modela, platforma, banka ili korisnik. Postojeća pravila o neautoriziranim transakcijama polaze od prepoznatljive suglasnosti, dok autonomni agent djeluje unutar šireg ovlaštenja.

Banke predlažu obvezno označavanje kada AI sudjeluje u transakciji, bolju transparentnost odluke, jaču zaštitu podataka i očuvanje izbora načina plaćanja. Te mjere trebaju spriječiti da platforma favorizira karticu ili novčanik od kojeg prima veću naknadu. Objašnjenje mora biti dovoljno kratko za korisnika, ali dovoljno precizno da ga banka i regulator mogu naknadno provjeriti.

Privatnost je složenija jer agent spaja kupovne navike, financijsku sposobnost, lokaciju i sadržaj razgovora. Za pronalaženje lijeka, putovanja ili poklona može obraditi podatke iz kojih se zaključuje zdravlje, vjera ili obiteljski odnos. Pružatelj mora ograničiti svrhu, razdoblje čuvanja i pristup partnera, a korisniku omogućiti brisanje bez gubitka osnovne usluge.

Tehnički odgovor uključuje tokenizaciju kartice, ograničenje iznosa, potvrdu za rizične trgovce i kriptografski trag svakog koraka. Agent ne bi trebao dobiti broj kartice ako je dovoljan jednokratni platni token. Pravila mogu zahtijevati dodatnu potvrdu kada se promijene adresa, valuta, kategorija robe ili iznos izvan uobičajenog raspona.