AI đã đến để hỗ trợ, cho dù bạn đang soạn thư điện tử, tạo nghệ thuật khái niệm, hay chạy một vụ lừa đảo trên những người yếu đuối bằng cách khiến họ nghĩ rằng bạn là một người thân hoặc bạn. AI rất linh hoạt! Nhưng vì một số người có thể không muốn bị lừa đảo, hãy bàn luận một chút về những điều cần chú ý.

Mấy năm gần đây đã chứng kiến sự gia tăng đáng kể không chỉ về chất lượng của phương tiện tạo ra, từ văn bản đến âm thanh đến hình ảnh và video, mà còn về cách mà phương tiện đó có thể được tạo ra một cách rẻ tiền và dễ dàng. Cùng loại công cụ có thể giúp một nghệ sĩ khái niệm tạo ra một số con quái vật hoặc tàu vũ trụ, hoặc giúp một người không phải người bản xứ cải thiện tiếng Anh kinh doanh của họ, cũng có thể được sử dụng một cách xấu xa.

Đây không phải là một danh sách hoàn chỉnh, chỉ là một số thủ đoạn rõ ràng nhất mà AI có thể tăng cường. Chúng tôi sẽ chắc chắn thêm những thủ đoạn mới khi chúng xuất hiện trong tự nhiên, hoặc bất kỳ bước phải bổ sung nào bạn có thể thực hiện để bảo vệ bản thân.

Sao chép giọng nói của gia đình và bạn bè

Giọng tổng hợp đã tồn tại từ nhiều thập kỷ trước, nhưng chỉ trong vài năm trở lại đây công nghệ đã tiến bộ đã cho phép tạo ra một giọng nói mới từ chỉ vài giây âm thanh. Điều đó có nghĩa là bất kỳ ai giọng nói của họ đã từng được phát sóng công cộng - ví dụ trong một bản tin tin tức, video YouTube hoặc trên mạng xã hội - có thể dễ dàng bị lấy cắp giọng nói của họ.

Những kẻ lừa đảo có thể và đã sử dụng công nghệ này để tạo ra phiên bản giả mạo thuyết phục của người thân yêu hoặc bạn bè. Chúng có thể được làm để nói bất cứ điều gì, tuy nhiên, trong công cụ của một vụ lừa đảo, họ thường nhắc nhở một khúc giọng nói yêu cầu giúp đỡ.

Ví dụ, một bậc phụ huynh có thể nhận được một thư thoại từ một số không quen biết mà nghe có vẻ giống con trai của họ, nói về việc họ bị mất đồ khi đi du lịch, cá nhân đã cho họ mượn điện thoại, và mẹ hoặc cha có thể gửi một số tiền vào địa chỉ này, người nhận Venmo, doanh nghiệp vv One có thể dễ dàng tưởng tượng các biến thể khác với sự cố về xe hơi (\"họ sẽ không trả cấp xe của tôi cho đến khi có người trả tiền cho họ\"), vấn đề y tế (\"điều này không được bảo hiểm đâu\"), và vân vân.

Loại lừa đảo này đã được thực hiện sử dụng giọng nói của Tổng thống Biden! Họ đã bắt được những người phía sau điều đó, nhưng những kẻ lừa đảo trong tương lai sẽ cẩn thận hơn.

Làm thế nào bạn có thể chống lại sao chép giọng nói?

Đầu tiên, đừng thử phân biệt giọng nói giả mạo. Họ ngày càng tốt hơn mỗi ngày, và có rất nhiều cách để che giấu bất kỳ vấn đề chất lượng nào. Thậm chí các chuyên gia cũng bị lừa!

Bất kỳ thông tin nào từ một số không quen biết, địa chỉ email hoặc tài khoản đều nên được coi là đáng ngờ. Nếu ai đó nói họ là bạn hoặc người thân yêu, hãy tiếp tục liên hệ với người đó như cách bạn thường làm. Họ có thể nói với bạn rằng họ khỏe và rằng đó (như bạn suy đoán) là một vụ lừa đảo.

Các kẻ lừa đảo thường không theo dõi nếu họ bị bỏ qua - trong khi một thành viên trong gia đình có thể là. Bạn có thể thoải mái để lại một tin nhắn đáng ngờ và đọc khi bạn xem xét.

Lừa đảo và thư rác cá nhân thông qua email và tin nhắn

Chúng ta tất cả đều nhận thư rác từ lúc này tới lúc khác, nhưng AI tạo văn bản đang làm cho việc gửi email hàng loạt được tùy chỉnh cho từng cá nhân trở nên có thể. Với các vụ rò rỉ dữ liệu xảy ra thường xuyên, rất nhiều dữ liệu cá nhân của bạn đã xuất hiện khắp nơi.

Việc nhận một trong những thư email lừa đảo \"Nhấp vào đây để xem hoá đơn của bạn!\" với đính kèm rõ ràng đáng sợ dường như rất ít nỗ lực. Nhưng với thậm chí một chút bối cảnh, chúng đột nhiên trở nên rất đáng tin cậy, sử dụng các vị trí gần đây, mua hàng và thói quen để tạo cảm giác như một người thật hoặc một vấn đề thực sự. Với một số sự thật cá nhân, một mô hình ngôn ngữ có thể tùy chỉnh một trong những email thông thường này cho hàng nghìn người nhận chỉ trong vài giây.

Vì vậy, điều mà trước kia là \"Kính thưa Khách hàng, vui lòng xem hoá đơn của bạn đính kèm\" trở thành \"Xin chào Doris! Tôi là với đội tư vấn của Etsy. Một món hàng bạn đã xem gần đây giảm giá 50%! Và vận chuyển đến địa chỉ của bạn tại Bellingham là miễn phí nếu bạn sử dụng liên kết này để yêu cầu giảm giá.\" Một ví dụ đơn giản, nhưng vẫn. Với một cái tên thật, thói quen mua sắm (dễ dàng tìm hiểu), vị trí tổng thể (cũng vậy) và vân vân, bất kỳ tin nhắn nào đột nhiên trở nên ít hiển nhiên.

Cuối cùng, đây vẫn chỉ là thư rác. Nhưng thể loại thư rác được tùy chỉnh này trước kia phải được thực hiện bởi những người được trả lương rẻ tại các trang trại nội dung ở các quốc gia nước ngoài. Bây giờ nó có thể được thực hiện tỷ lệ với một LLM có kỹ năng văn chương tốt hơn nhiều nhà văn chuyên nghiệp!

Làm thế nào bạn có thể chống lại thư rác qua email?

Giống như với thư rác truyền thống, sự thận trọng chính là vũ khí tốt nhất của bạn. Nhưng đừng mong có thể phân biệt được văn bản được tạo ra từ con người và văn bản được tạo ra từ AI trong tự nhiên. Có rất ít người có thể, và chắc chắn không phải (mặc dù có những tuyên bố của một số công ty và dịch vụ) một mô hình AI khác.

Dù văn bản cải thiện được, loại lừa đảo này vẫn đối diện với thách thức cơ bản là khiến bạn mở tài liệu hoặc liên kết đáng ngờ. Như mọi khi, nếu bạn không chắc chắn 100% về sự xác thực và danh tính của người gửi, đừng nhấp hoặc mở bất cứ điều gì. Nếu bạn chỉ một chút không chắc chắn - và đây là một cảm giác tốt để nuôi dưỡng - đừng nhấp, và nếu bạn có ai đó có kiến thức để chuyển tiếp cho họ xem thêm, hãy làm điều đó.

Giả mạo và lừa đảo xác thực \"bạn giả\"

Vì số lượng vụ rò rỉ dữ liệu trong vài năm qua (cảm ơn, Equifax!), nên chúng ta có thể nói rằng hầu như tất cả chúng ta đều có một lượng lớn dữ liệu cá nhân lạc vòng trên web đen. Nếu bạn tuân thủ các thực hành bảo mật trực tuyến tốt, nhiều nguy cơ đã được giảm bớt vì bạn đã thay đổi mật khẩu, kích hoạt xác nhận đa yếu tố và cetera. Nhưng AI tổng hợp có thể tạo ra một mối đe doạ mới và nghiêm trọng trong lĩnh vực này.

Với rất nhiều dữ liệu về một người có sẵn trực tuyến và đối với nhiều người, thậm chí một hoặc hai đoạn giọng nói của họ, ngày càng dễ dàng tạo ra một cá nhân AI nghe giống một đối tượng và có quyền truy cập vào nhiều thông tin dùng để xác nhận danh tính.

Hãy suy nghĩ về điều này như sau. Nếu bạn gặp vấn đề khi đăng nhập, không thể cấu hình ứng dụng xác thực của bạn đúng cách, hoặc đánh mất điện thoại, bạn sẽ làm gì? Gọi tổng đài khách hàng, có lẽ - và họ sẽ \"xác nhận\" danh tính của bạn bằng một số sự thật gần như không có ý nghĩa như ngày tháng sinh của bạn, số điện thoại hoặc số an sinh xã hội. Thậm chí các phương pháp tiên tiến hơn như \"chụp ảnh tự\" cũng dễ dàng bị hack.

Nhân viên dịch vụ khách hàng - có thể còn là một AI! - có thể dễ dàng đồng ý với con người giả mạo này và trao tất cả đặc quyền mà bạn sẽ có nếu bạn thật sự gọi điện. Những gì họ có thể thực hiện từ vị trí đó thay đổi rộng lớn, nhưng không cái nào là tốt!

Giống như các vấn đề khác trong danh sách này, nguy cơ không phải là cách mà người giả mạo này sẽ giống bạn thật ra thế nào, mà là nó dễ dàng cho những kẻ lừa đảo thực hiện vụ tấn công này rộng rãi và lặp đi lặp lại. Không lâu trước đây, loại tấn công giả mạo này tốn kém và tốn thời gian, và do đó sẽ giới hạn ở những mục tiêu có giá trị cao như người giàu có và CEO. Ngày nay, bạn có thể xây dựng một quy trình làm việc tạo ra hàng nghìn đại lý giả mạo với sự giám sát tối thiểu, và những đại lý này có thể tự động gọi số dịch vụ khách hàng ở tất cả các tài khoản đã biết của một người - hoặc thậm chí tạo ra những tài khoản mới! Chỉ một số ít cần phải thành công để xứng đáng với chi phí của cuộc tấn công.

Làm thế nào bạn có thể chống lại lừa đảo về danh tính?

Giống như trước khi AI đến tăng cường nỗ lực của các kẻ lừa đảo, \"An ninh mạng 101\" là lựa chọn tốt nhất của bạn. Dữ liệu của bạn đã rò rỉ rồi; bạn không thể đưa sữa đánh răng lại trong ống. Nhưng bạn có thể đảm bảo rằng tài khoản của bạn được bảo vệ đủ chống lại những cuộc tấn công đơn giản nhất.