Chỉ một cuộc gọi Zoom giả, nạn nhân mất 4,9 triệu USD vì Deepfake

Trong bối cảnh công nghệ trí tuệ nhân tạo phát triển nhanh chóng, các hình thức lừa đảo cũng ngày càng tinh vi hơn. Tại Singapore, cảnh sát vừa phát đi cảnh báo về một vụ việc nghiêm trọng liên quan đến công nghệ deepfake, trong đó hình ảnh và giọng nói của các quan chức chính phủ bị giả mạo nhằm tạo lòng tin với nạn nhân.

Theo thông báo ngày 14/5 từ cảnh sát Singapore, một người đã mất ít nhất 4,9 triệu USD sau khi tham gia một cuộc gọi hội nghị trực tuyến Zoom tưởng như có sự xuất hiện của nhiều quan chức cấp cao khác trong và ngoài nước. Điều đáng chú ý là toàn bộ hình ảnh của các lãnh đạo xuất hiện trong cuộc họp đều được tạo ra bằng công nghệ AI deepfake.

Deepfake giả mạo để dựng “cuộc họp cấp cao”

Deepfake là công nghệ sử dụng trí tuệ nhân tạo để tạo ra hình ảnh, video hoặc giọng nói giả nhưng có độ chân thực rất cao. AI có thể học từ dữ liệu hình ảnh và âm thanh thật để mô phỏng khuôn mặt, biểu cảm, khẩu hình và giọng nói của một người gần như giống thật.

Ban đầu, deepfake được xem là công nghệ phục vụ giải trí hoặc sản xuất nội dung số. Tuy nhiên, trong vài năm gần đây, công nghệ này ngày càng bị lợi dụng trong các vụ lừa đảo tài chính, giả mạo doanh nhân, người nổi tiếng hoặc quan chức cấp cao nhằm thao túng tâm lý nạn nhân.

Theo điều tra ban đầu, những kẻ lừa đảo dường như nhắm vào các chuyên gia kinh doanh từng có giao dịch hoặc liên hệ với quan chức chính phủ Singapore. Kịch bản lừa đảo được xây dựng khá bài bản. Đầu tiên, nạn nhân nhận được tin nhắn WhatsApp với ảnh đại diện là ông Wong Hong Kuan, Thư ký Nội các Singapore, yêu cầu tham gia một cuộc họp trực tuyến với Thủ tướng Lawrence Wong.

Tội phạm mạng đang lợi dụng uy tín của các lãnh đạo chính phủ để lừa đảo thông qua công cụ Deepfake

Sau đó, nạn nhân tiếp tục nhận email từ địa chỉ [email protected], được cho là do ông Wong Hong Kuan gửi. Nội dung email đề cập đến việc cần hỗ trợ tài chính khẩn cấp liên quan đến tình hình ở eo biển Hormuz. Email còn đính kèm một văn bản trông giống thư bảo lãnh chính thức của chính phủ Singapore, có chữ ký của Thủ tướng Wong. 

Trong tài liệu này, phía “chính phủ” cam kết sẽ hoàn trả số tiền trong vòng 15 ngày làm việc. Để tăng tính thuyết phục, những kẻ lừa đảo yêu cầu nạn nhân ký thỏa thuận bảo mật thông tin (NDA) và cung cấp bản sao giấy tờ tùy thân. Nạn nhân đã thực hiện đầy đủ các yêu cầu này. Tiếp theo, người này được mời tham gia cuộc gọi Zoom có sự xuất hiện của Thủ tướng Wong cùng nhiều quan chức khác. 

Theo cảnh sát Singapore, toàn bộ hình ảnh trong cuộc gọi đều được dựng bằng công nghệ deepfake. Sau cuộc họp trực tuyến, nạn nhân tiếp tục được liên lạc qua WhatsApp và được yêu cầu chuyển tiền thông qua nhiều giao dịch khác nhau vào các tài khoản ngân hàng doanh nghiệp do nhóm lừa đảo cung cấp. Chỉ đến khi cảm thấy có điều bất thường và chủ động liên hệ với ông Wong Hong Kuan, nạn nhân mới phát hiện mình đã bị lừa.

Cảnh sát cảnh báo AI đang khiến các vụ lừa đảo trở nên nguy hiểm hơn

Cảnh sát Singapore cho biết đây không phải lần đầu xuất hiện các vụ lừa đảo sử dụng thủ đoạn tương tự. Trong những vụ việc trước đó, ba người đã bị bắt giữ và bị buộc tội hôm 9/5 vì nghi ngờ liên quan đến các hành vi phạm tội liên quan đến thẻ SIM. Giới chức Singapore nhấn mạnh rằng các đối tượng lừa đảo đang ngày càng tận dụng AI để tạo dựng những tình huống có độ tin cậy rất cao. 

Người dân cần cảnh giác hơn với các công cụ lừa đảo qua mạng 

Không chỉ email, giấy tờ hay tài khoản nhắn tin bị làm giả, giờ đây cả video trực tiếp và cuộc họp trực tuyến cũng có thể bị thao túng bằng công nghệ. Sự phát triển của AI tạo sinh khiến việc tạo deepfake trở nên dễ dàng và rẻ hơn rất nhiều so với trước đây. Chỉ với một số đoạn video hoặc ghi âm công khai trên Internet, các công cụ AI hiện nay đã có thể tái tạo khuôn mặt và giọng nói với độ chính xác đáng kinh ngạc.

Đây là lý do các chuyên gia an ninh mạng liên tục cảnh báo rằng người dùng không nên tin tưởng tuyệt đối vào hình ảnh hoặc video trong các cuộc gọi trực tuyến, đặc biệt khi liên quan đến yêu cầu chuyển tiền hoặc chia sẻ thông tin cá nhân. Cảnh sát Singapore khẳng định các quan chức chính phủ sẽ không bao giờ yêu cầu người dân chuyển tiền, tiết lộ thông tin đăng nhập ngân hàng. Hoặc cài đặt ứng dụng từ các kho ứng dụng không chính thức hoặc chuyển cuộc gọi sang cho cảnh sát hay các quan chức khác.

Người dân cũng được khuyến cáo tuyệt đối không cung cấp giấy tờ tùy thân cho người lạ hoặc những cá nhân chưa được xác minh danh tính. Trong trường hợp nghi ngờ, người dân nên xác minh thông tin thông qua các kênh chính thức thay vì tiếp tục trao đổi qua WhatsApp hoặc email cá nhân. 

Chính quyền Singapore cũng khuyến khích người dân liên hệ Đường dây trợ giúp ScamShield theo số 1799 để được hỗ trợ khi phát hiện dấu hiệu lừa đảo. Vụ việc cho thấy deepfake không còn là mối đe dọa mang tính giả định mà đã trở thành công cụ lừa đảo thực tế với thiệt hại tài chính rất lớn. Khi AI ngày càng phổ biến, ranh giới giữa thật và giả trong môi trường số đang trở nên mong manh hơn bao giờ hết.

*Nguồn bài viết: The Straits Times