Přijde vám zpráva od „kurýra“ nebo „banky“ a telefon vás sám varuje, že jde nejspíš o podvod. Na takovém systému pracuje Google DeepMind. Ten 14. října popsal na svém blogu systém na odhalování podvodných zpráv, který vyvinul se singapurskou vládní technologickou agenturou GovTech. Hlavní myšlenka je jednoduchá: AI běží přímo v telefonu, takže zprávy nemusí nikam odcházet.
Proč právě Singapur
Podvody – například falešné investice a pracovní nabídky nebo vydávání se za úředníky – tvoří v Singapuru víc než polovinu všech nahlášených trestných činů. Od roku 2019 tam lidé přišli o víc než 4 miliardy singapurských dolarů. Až 80 % ztrát podle blogu připadá na sociální inženýrství, tedy podvody, kdy útočník oběť nejdřív přesvědčivým rozhovorem zmanipuluje a teprve pak chce peníze.
Jak systém funguje
- Malý model v zařízení. Základem je model Gemma od Googlu, doladěný na rozpoznávání podvodů. Gemma patří mezi takzvané otevřené modely, které můžete provozovat ve vlastním zařízení (vysvětlujeme v článku Otevřené AI modely).
- Dva stupně kvůli baterii. Příchozí zprávy nejdřív prověří malý a úsporný klasifikátor. Teprve podezřelé případy posoudí doladěná Gemma na delším úseku konverzace a hrozbu buď potvrdí, nebo planý poplach zahodí.
- Varování v reálném čase. Když model pozná manipulaci, telefon uživatele vyzve, ať se zastaví dřív, než pošle peníze nebo citlivé údaje.
- Soukromí. Podle autorů obsah chatů nemůže číst Google ani singapurská vláda.
- Bez osobních údajů. K tréninku se podle blogu nepoužily soukromé ani osobní údaje, jen anonymizovaná data z hlášení o podvodech.
Kdy to bude k dispozici
Zatím v žádné aplikaci. Systém má přicházet postupně a jen se souhlasem uživatelů. Jeho přesnost autoři zatím nezveřejnili, takže nevíme, jak často se trefí a jak často se splete. O spolupráci informovala i singapurská stanice CNA. Google podle blogu zkoumá podobné projekty i v dalších zemích, neuvádí ale, ve kterých.
Co to znamená pro Česko
Podvody přes SMS, WhatsApp nebo falešné telefonáty z „banky“ jsou i u nás velmi rozšířené. Systém, který varuje přímo v telefonu a nesdílí obsah zpráv, by se mohl hodit i tady. Zatím ale nevíme, jestli a kdy se dostane do Evropy, ani jak by si poradil s češtinou.
Do té doby platí osvědčená pravidla:
- Banka po vás nikdy nebude chtít převést peníze na „bezpečný účet“.
- Odkazy z neočekávaných SMS neotevírejte, do aplikace banky jděte sami.
- Když na vás někdo tlačí a spěchá, hovor ukončete a zavolejte na oficiální číslo.
Náš pohled
Projekt je zajímavý hlavně přístupem: zprávy se neposílají do cloudu, hlídá je malý model přímo v telefonu. Dokud ale autoři nezveřejní přesnost, je předčasné ho chválit. Uvidíme, jak se osvědčí v praxi. O tom, kam putují data z AI chatbotů, píšeme v článku Soukromí v AI chatbotech.
Článek vznikl s pomocí AI a před publikací ho zkontrolovala redakce Promptovna.cz.
Načítám počet…
