數發部運用AI技術防AI詐騙 次長林宜敬:台灣應發展主權AI讓繁體中文能力更好

數發部運用AI技術防AI詐騙 次長林宜敬:台灣應發展主權AI讓繁體中文能力更好

2024/07/19 17:29

文章

【記者蕭文康/台北報導】數位發展部林宜敬次長今(19)日表示,面對AI技術帶來的新型詐騙威脅與資安挑戰,數發部運用先進科技手段多管齊下,以AI技術防制AI詐騙,快速識別詐騙訊息,提前預測並防範潛在的詐騙行為,遏制AI網路詐騙的蔓延與擴散。數發部並透過資安技術研發與攻防演練,提升國家整體數位安全防護能力。同時,台灣必須以自身資料發展主權AI,包括新聞媒體及網路文章,用以訓練台灣的AI模型,讓繁體中文能力更好,也較接近台灣的需要和觀點。

數發部次長林宜敬(中)。數發部提供

林宜敬:從源頭打擊AI詐騙

林宜敬今天出席國家資通安全研究院在台南市歸仁區舉辦的AI打詐技術發表會,針對有關如何源頭打擊AI詐騙議題,他進一步表示,末端清掃的策略只能對詐騙廣告下架,但也要夠快夠自動化才能處理每天數千則,不太可能每天去處理大約160萬的機器人帳號。源頭打擊的策略須在粉專帳號投放廣告時,由廣告代理商進行第二層的粉專帳號或真實帳號驗證機制,不能只是平台業者對廣告代理商做第一層的驗證。剛通過的打詐專法已經賦予上述策略的法律工具。

推估詐騙帳號背後有160萬個

數發部轄下國家資通安全研究院指出,生成式AI使得詐騙文本的生成變成自動化,機器人帳號大量投放詐騙廣告並留言與按讚,營造文章受到群眾踴躍支持的假象,並於社團、群組發文,增加機器人帳號的活動範圍和影響力。為了躲避相關單位追查,機器人帳號亦會修改用戶資訊,頻繁更換個人檔案、照片和活動模式,以掩飾其真實身份。

資安院副院長林盈達分析,我們得用AI對抗AI,根據AI偵測的結果,目前有投放過詐騙廣告的粉專帳號大約有1.6萬個,我們隨機取其中1千個來比對可發現特徵類似、但尚未投放過詐騙廣告的粉專帳號,大約有10萬個,所以可以推估在1.6萬個出面投放過詐騙廣告帳號背後還有160萬個帳號可以發派使用,稱之為百萬機器人大軍一點也不誇張。它們每天投放5千到1萬則只存活1到2天的詐騙廣告,並營造群眾多樣性與熱度,還會利用同溫層免費傳播。

數發部研發系列打詐技術

資安院數位訊息組經理江禹賢說,數發部亦委託資安院研發「詐騙關鍵字提取、資料探勘深化、訊息溯源」等系列打詐技術,透過結合大數據分析、人工智慧和機器學習等各項前瞻技術,能有效協助相關單位快速識別和分析潛在詐騙威脅。AI技術能偽造文字、影音和圖像,亦能提供強大的檢測和過濾工具,有效識別和清除機器人帳號。面對不斷推陳出新的詐騙手法,需要技術、法規和國際等多方努力,才能有效遏制詐騙行為。

數發部表示,除了當前國人相當關心的推動打詐工作,為整體提升我國數位環境資訊安全及韌性,也責成資安院定期進行政府系統的網路攻防演練,以確保機關可以事前針對網路攻防演練所發現的常見弱點,如認證及驗證機制失效、注入攻擊、無效的存取控管、不安全的組態設定及加密機制失效等進行修補,使系統在發生資安事件時,具備緊急應變、系統復原及協調管控等能力。

另外,關鍵基礎設施及產業的資安亦是數發部重點工作,數發部表示,數產署沙崙資安服務基地展示「智慧物聯網」、「關鍵基礎設施」、「智慧製造」等資安情境主題,其中「智慧物聯網」展示通過資安檢測的門禁系統,預防駭客以重送通行碼方式破解門禁;「關鍵基礎設施」模擬駭客進行中間人攻擊,並展示工控場域資安健檢解決方案,協助工控業者找出存在於廠區內部的可疑網路行為;「智慧製造」則呈現小型智慧生產線導入白名單資安解決方案,以預防員工誤用夾帶惡意程式的可攜式裝置導致產線遭駭,期望應用真實資安事件攻防腳本,推動產業資安意識,協助廠商優化產品及服務功能,提升台灣資安實戰防護能量。

文章來源:https://www.knews.com.tw/news/C60E88D11A0FE14AE076F94DB9B04BA3

【其他文章推薦】
如何利用一般常見的「L型資料夾」達到廣告宣傳效果?
(全省)堆高機租賃保養一覽表
示波器探測執行效能最佳化的8大秘訣
全自動SMD零件計數機,方便點料,發料作業手動包裝機

點膠組裝加工專家:精準、高效、可靠的解決方案!