Naglabas ng babala ang Meta noong Miyerkules, hinihimok ang mga internet user na maging maingat sa mga online na kakilala na nangangako ng romansa ngunit sa huli ay humihingi ng pinansyal na tulong. Ipinakita ng kumpanya kung paano ginagamit ng mga scammer ang deep fake technology upang linlangin ang mga naghahanap ng pag-ibig.

"Ito ay isang bagong kasangkapan sa toolkit ng mga scammer," ayon kay David Agranovich, global threat disruption policy director ng Meta, sa isang briefing. "Ang mga scammer na ito ay patuloy na umuunlad; kailangan din nating umunlad upang mapanatili ang seguridad."

Ayon kay Agranovich, ang mga detection system sa iba't ibang platform ng Meta, kabilang ang Instagram at WhatsApp, ay higit na umaasa sa mga pattern ng pag-uugali at teknikal na signal kaysa sa mga larawan. Sa kabila ng sopistikadong panlilinlang gamit ang AI, nakakatulong ang ganitong pamamaraan upang matukoy at labanan ang mga scam.

"Ginagawa nitong mas matatag ang aming detection at enforcement laban sa generative AI," paliwanag ni Agranovich.

Pagdami ng AI Voice Scams

Binanggit ng Meta ang isang scam operation na kamakailan nilang nasugpo na tila nagmula sa Cambodia at target ang mga nagsasalita ng Chinese at Japanese. Napag-alaman ng mga mananaliksik mula sa OpenAI na ang "scam compound" ay gumagamit ng artificial intelligence tools upang makabuo at maisalin ang nilalaman.

Si Rachel Tobac, chief executive ng SocialProof Security at isang "ethical hacker," ay nagpahayag na ang paggamit ng generative AI ng mga scammer ay lumakas nang husto sa mga nakaraang buwan. Ang mga libreng AI tools mula sa malalaking kumpanya ay nagpapahintulot sa mga manloloko na baguhin ang kanilang mukha at boses sa real-time video calls, nagpapanggap bilang lehitimong tao.

"Maaari rin nilang gamitin ang mga deep fake bots upang bumuo ng isang persona o gumawa ng mga tawag gamit ang voice clone, at hindi na kailangang may totoong tao na sangkot," paliwanag ni Tobac. "Tinatawag nila itong agents, ngunit hindi ito ginagamit para sa customer support—ginagamit ito para sa automated na panloloko."

Pinayuhan ni Tobac ang mga tao na maging "magalang ngunit mapanuri" kapag ang isang online acquaintance ay mabilis na nagpapaigting ng romantikong ugnayan, lalo na kung humihingi ito ng pera para sa isang emerhensiya o oportunidad sa negosyo.

Target ng Mga Scammer ang Panahon ng Pag-iisa

Kadalasang inaabuso ng mga scammer ang kalungkutan na maaaring dala ng taglamig at Araw ng mga Puso. "Nakikita naming dumarami ang mga scammer na nagsasamantala sa kalungkutan sa gitna ng taglamig," ayon kay Tobac.

Ang pangunahing layunin ng mga scam na ito ay pera. Babala ni Tobac, ang mga manloloko ay mabilis na bumubuo ng tiwala bago mag-imbento ng dahilan upang humingi ng pera o personal na impormasyon na maaaring magamit upang makakuha ng access sa financial accounts.

Noong nakaraang taon, tinanggal ng Meta ang higit sa 408,000 scam accounts mula sa West Africa. Ang mga account na ito ay ginamit upang magpanggap bilang mga sundalo o negosyante upang dayain ang mga tao sa Australia, Britain, Europa, Estados Unidos, at iba pang lugar.

Upang labanan ang mga mapanlinlang na aktibidad na ito, hindi lamang tinatanggal ng Meta ang mga scam network kundi sinusubukan din ang facial recognition technology upang i-verify ang mga potensyal na impostor na naiulat ng mga user o natukoy ng kanilang sistema.

Larawan: Canva