McAfee giới thiệu công cụ AI phát hiện deepfake audio

Deepfake là một trong những công nghệ gây tranh cãi nhất trong lĩnh vực IT kể từ khi xuất hiện đến nay. Nếu như deepfake video từng khiến nhiều người nổi tiếng, trong đó có cựu Tổng thống Mỹ Barack Obama và CEO Facebook Mark Zuckerberg, bẽ mặt khi lợi dụng khuôn mặt họ để tung tin sai sự thật, thì sự phổ biến gần đây của deepfake audio bắt đầu làm bùng lên những quan ngại mới, đặc biệt trong bối cảnh AI đang phát triển như vũ bão.

Vậy làm thế nào để ngăn chặn deepfake audio? Trong bài viết này, hãy cùng Tenten tìm hiểu về deepfake audio, cũng như công cụ mới mà hãng bảo mật McAfee vừa tung ra tại CES 2024 nhằm đối phó với nó.

Deepfake audio là gì?

Deepfake audio là một loại công nghệ sử dụng trí tuệ nhân tạo (AI) để tạo ra hoặc chỉnh sửa âm thanh sao cho giống như do một người cụ thể nào đó phát ra. Cụ thể, deepfake audio sử dụng các mô hình học máy như mạng nơ-ron sâu (deep neural networks) để học cách mô phỏng giọng nói của một người từ một lượng lớn dữ liệu âm thanh.

Công nghệ này có thể tạo ra các đoạn hội thoại giả mạo rất thuyết phục, khiến người nghe tin rằng họ đang nghe giọng nói thật của một người nào đó. Điều này có thể tạo ra nhiều vấn đề về an ninh và quyền riêng tư, bởi vì nó có thể được sử dụng để lừa dối người khác, tạo ra thông tin giả mạo, hoặc thậm chí làm giả các cuộc gọi điện thoại hoặc tin nhắn thoại.

Tuy nhiên, deepfake audio cũng có những ứng dụng hợp pháp và hữu ích. Ví dụ, nó có thể được sử dụng để tạo ra giọng nói cho các nhân vật trong phim hoạt hình, tạo ra các cuộc đàm thoại giả tưởng trong các trò chơi video, hoặc giúp người không thể nói có thể “nói” bằng giọng nói tự nhiên. Dẫu vậy, do những nguy cơ tiềm ẩn, việc sử dụng và phát triển công nghệ deepfake (bao gồm cả deepfake audio) đang được quan tâm và quản lý chặt chẽ bởi nhiều tổ chức và chính phủ trên toàn thế giới.

Có thể phát hiện deepfake audio không?

Theo khảo sát về deepfake được hãng bảo mật McAfee thực hiện vào tháng 12/2023:

– 84% người Mỹ quan ngại về sự phổ biến rộng rãi của deepfake vào năm 2024

– 68% quan ngại hơn nhiều so với một năm trước đó

– 33% đã từng bị, hoặc chứng kiến, một vụ scam bằng deepfake

May thay, việc phát hiện deepfake audio là khả thi, nhưng không phải lúc nào cũng dễ dàng. Các nhà nghiên cứu và công ty công nghệ đã phát triển nhiều phương pháp để phát hiện deepfake audio, dựa trên các kỹ thuật học máy và trí tuệ nhân tạo. Một số phương pháp phát hiện deepfake audio bao gồm:

– Phân tích đặc trưng âm thanh: Một số hệ thống phát hiện deepfake sử dụng các thuật toán để phân tích các đặc trưng của âm thanh, như tần số, độ nhấn, và những yếu tố khác. Nếu những đặc trưng này không khớp với những gì mà hệ thống dự kiến từ giọng nói thật của một người, hệ thống có thể xác định rằng đó là một deepfake.

– Phân loại học máy: Các mô hình học máy có thể được huấn luyện để phân biệt giữa giọng nói thật và giọng nói deepfake. Điều này thường đòi hỏi một lượng lớn dữ liệu huấn luyện, bao gồm cả giọng nói thật và giọng nói deepfake.

– Phân tích nhận dạng ngôn ngữ: Một số hệ thống cố gắng phát hiện deepfake bằng cách phân tích cách mà ngôn ngữ được sử dụng. Ví dụ, nếu một đoạn hội thoại có vẻ không tự nhiên hoặc không khớp với cách mà một người thường nói, đó có thể là một dấu hiệu của deepfake.

Tuy nhiên, cần lưu ý rằng không có phương pháp nào là hoàn hảo, và việc phát hiện deepfake audio vẫn còn là một lĩnh vực nghiên cứu đang phát triển. Các deepfake ngày càng trở nên tinh vi hơn, và điều này đòi hỏi các phương pháp phát hiện cũng phải tiếp tục cải tiến để theo kịp.

Công cụ AI phát hiện deepfake audio của McAfee

Tại CES 2024, McAfee đã giới thiệu công nghệ phát hiện deepfake audio bằng AI, mang tên Project Mockingbird. Công nghệ độc quyền này hướng đến mục tiêu bảo vệ người tiêu dùng trước vấn nạn tội phạm mạng lợi dụng deepfake audio để lừa đảo, bắt nạt trên mạng, và bêu xấu hình ảnh của cá nhân trước công chúng.

Các công cụ AI tạo sinh thời gian qua được xem là “thiên đường” đối với tội phạm mạng, bởi chúng biến những kế hoạch lừa đảo trở nên thuyết phục hơn bao giờ hết, bao gồm nhân bản giọng nói để giả dạng các thành viên trong gia đình nhằm “mượn” tiền nạn nhan, hoặc chỉnh sửa, làm giả video khiến mọi người khó lòng phân biệt thông tin thật – giả.

Để đối phó với vấn đề này, McAfee Labs đã phát triển một mô hình AI cực kỳ tiên tiến, một phần của công nghệ Project Mockingbird, nhằm phát hiện audio deepfake. Công nghệ này tận dụng các mô hình phát hiện bối cảnh, hành vi, và danh mục, từ đó cho tỷ lệ phát hiện lên đến 90%.

Steve Grobman, CTO của McAfee, nói rằng: “Giống như xem bản tin dự báo thời tiết, trong đó nói rằng tỷ lệ mưa là 70%, giúp bạn lên kế hoạch trong ngày, công nghệ của chúng tôi trang bị cho bạn những thông tin cần thiết để xác định liệu nội dung bạn đang nghe có thật sự đúng như bạn nghĩ hay không”.

Project Mockingbird hứa hẹn là một công nghệ đa ứng dụng, từ chống các vụ lợi dụng AI để lừa đảo, cho đến dẹp bỏ vấn nạn tin giả. Bằng cách hỗ trợ người tiêu dùng phân biệt nội dung chính thống và giả mạo, McAfee hướng đến bảo vệ người dùng để họ không trở thành nạn nhân tiếp theo của những kế hoạch lừa đảo thâm sâu, đảm bảo trải nghiệm trong không gian số an toàn và bảo mật hơn.

Bài liên quan

Suki Assistant là gì? Tìm hiểu về AI y tế tốt nhất hiện nay

Ailtra.ai là gì? 6 đặc tính ưu việt của bot AI trong giao dịch tiền điện tử

Mẹo tích hợp ChatGPT Voice vào nút hành động trên iPhone

Mô hình ngôn ngữ lớn của Amazon sẽ có kích thước gấp đôi GPT-4

Mẹo vượt các công cụ kiểm tra nội dung do AI viết