詐騙犯罪分子越來(lái)越多地使用生成式人工智能技術(shù)來(lái)實(shí)施詐騙計(jì)劃，人們?cè)絹?lái)越擔(dān)心這可能會(huì)加劇咋騙打流行。在2020年，詐騙犯利用生成式人工智能技術(shù)模仿了一位公司董事的聲音，成功欺騙了香港一家銀行經(jīng)理，使其授權(quán)轉(zhuǎn)賬3,500萬(wàn)港元。自那以后，這項(xiàng)技術(shù)變得更加令人信服，使詐騙犯能夠在幾秒鐘內(nèi)生成類似人類的文本，繞過(guò)了長(zhǎng)期以來(lái)與詐騙信息同義的拼寫和語(yǔ)法錯(cuò)誤。

2023年，ChatGPT令人印象深刻的能力，可以在各種提示下生成高度逼真和連貫的回答，從創(chuàng)意寫作到技術(shù)支持，激發(fā)了公眾的想象力。不幸的是，詐騙犯也看到了潛力，并開(kāi)始探索使用AI聊天機(jī)器人生成惡意軟件的方法。ChatGPT出色地模仿特定組織和機(jī)構(gòu)的語(yǔ)言風(fēng)格的能力使詐騙犯能夠創(chuàng)建高度詳細(xì)和逼真的副本，他們可以用來(lái)制作詐騙信息或虛假網(wǎng)站。這使得生成詐騙信息成為一項(xiàng)低投入、高回報(bào)的工作，導(dǎo)致對(duì)釣魚和冒充詐騙的檢測(cè)和辨別更加困難。

生成式人工智能技術(shù)的興起似乎加強(qiáng)了詐騙犯已經(jīng)使用的有效工具。在新加坡，2022年報(bào)告的詐騙案件數(shù)量比2021年增加了32.6％，損失總額達(dá)到了6.6億新加坡元。根據(jù)澳大利亞競(jìng)爭(zhēng)與消費(fèi)者委員會(huì)（ACCC）的數(shù)據(jù)，澳大利亞消費(fèi)者在過(guò)去一年中失去了超過(guò)31億澳元的資金，這比前一年增加了80％以上。雖然并非所有詐騙都直接與AI技術(shù)相關(guān)，但詐騙案件的增加頻率令人擔(dān)憂。詐騙犯現(xiàn)在擁有了更全面的AI技術(shù)使用權(quán)限，這引發(fā)了公眾對(duì)詐騙的脆弱性的擔(dān)憂。

銀行和金融機(jī)構(gòu)必須與技術(shù)的步伐保持一致，并不斷發(fā)展用于消費(fèi)者保護(hù)的工具集，以有效應(yīng)對(duì)使用ChatGPT等精密工具自動(dòng)化進(jìn)行的欺詐和詐騙行為。通過(guò)利用人工智能和機(jī)器學(xué)習(xí)技術(shù)，例如復(fù)雜的行為分析和相應(yīng)的欺詐和詐騙檢測(cè)評(píng)分，銀行可以顯著提高檢測(cè)準(zhǔn)確性，并實(shí)時(shí)應(yīng)對(duì)由犯罪分子利用ChatGPT引發(fā)的欺詐和詐騙案件數(shù)量的增加。

盡管ChatGPT對(duì)于希望生成惡意內(nèi)容的用戶有一些限制，但這些限制可以輕易被狡猾的詐騙犯繞過(guò)。新加坡警方已開(kāi)始監(jiān)控與ChatGPT相關(guān)的犯罪活動(dòng)。上個(gè)月，執(zhí)法組織歐洲刑警組織（Europol）發(fā)布了一份有關(guān)ChatGPT和其他“大型語(yǔ)言模型”潛在犯罪用途的國(guó)際警示。類似地，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）一直在分享其對(duì)生成式人工智能能力欺騙公眾的擔(dān)憂。

這應(yīng)該不會(huì)令人驚訝，因?yàn)榉缸锓肿硬粩鄬ふ倚碌姆椒ê凸ぞ邅?lái)實(shí)施詐騙計(jì)劃，并已經(jīng)開(kāi)始探索如何利用AI聊天機(jī)器人生成惡意軟件。

對(duì)于該地區(qū)的銀行和金融機(jī)構(gòu)來(lái)說(shuō)，這應(yīng)該敲響警鐘，特別是在數(shù)字銀行服務(wù)在該地區(qū)的受歡迎程度不斷增長(zhǎng)，消費(fèi)者成為實(shí)時(shí)支付的熱衷用戶。在詐騙犯或騙子發(fā)送無(wú)意義信息的情況下，顧客發(fā)現(xiàn)這些信息的可能性只會(huì)變得更小，而依靠行為分析來(lái)檢測(cè)財(cái)務(wù)支付的變化將變得更加重要，因?yàn)榱淤|(zhì)生成的詐騙信息與精心生成的信息之間的界限變得模糊。

銀行可以通過(guò)充分利用人工智能、機(jī)器學(xué)習(xí)和教育來(lái)更好地防止基于人工智能的欺詐和詐騙，并保護(hù)客戶免受賬戶劫持和冒名頂替等金融威脅。