Mới đây, tỉ phú công nghệ Elon Musk đã chia sẻ một video chỉnh sửa về chiến dịch tranh cử của Phó Tổng thống Mỹ Kamala Harris trên trang cá nhân và hứng chịu làn sóng chỉ trích vô cùng mạnh mẽ từ phía người dùng mạng xã hội X. 

Tràn lan video giả mạo

Trong video nói trên, YouTuber Mr. Reagan đã thay đổi giọng nói của bà Harris bằng giọng do trí tuệ nhân tạo (AI) tạo ra. Nội dung gồm những lời bà chưa từng nói trước công chúng, trong đó có những lời được cho là thiếu lịch sự, thiếu tôn trọng người khác.

Khi đăng trên X, Reagan đã gắn nhãn video này là "bản nhại" (parody) nhưng Elon Musk không làm điều tương tự trên trang cá nhân của mình. Thay vào đó, tỉ phú công nghệ chú thích video với nội dung: "Thật là tuyệt vời" và thu hút được 130 triệu lượt xem, hơn 900.000 lượt thích chỉ sau 1 ngày.

Trước đó, cũng chính Elon Musk đăng tải đoạn video tạo bằng AI dài hơn 1 phút về một show diễn thời trang. Trong đó, nhiều nhà lãnh đạo, nguyên thủ quốc gia hoặc tổng giám đốc các công ty công nghệ nổi tiếng xuất hiện với hình ảnh đang sải bước trên sàn diễn thời trang, khoác trang phục rực rỡ, lạ mắt. Nhiều người xem bày tỏ sự thích thú song không ít người lo sợ trước sức mạnh của AI.

Theo ghi nhận của phóng viên, trên nền tảng mạng xã hội TikTok, các video giả mạo khuôn mặt và nhại giọng của ca sĩ, người nổi tiếng cũng được đăng tải tràn lan. Nhiều video giả mạo được đăng tải bởi các tài khoản có từ 50.000 - 100.000 lượt theo dõi, thu hút hàng triệu người xem.

Công an TP HCM mới đây cho biết liên tiếp nhận được thông tin trình báo của nhiều nạn nhân cầu cứu về việc bị đối tượng xấu ghép, giả mạo video, hình ảnh nhạy cảm, rồi tống tiền. 

Theo các nạn nhân, đối tượng lừa đảo thường ẩn danh trên mạng xã hội, theo dõi trong thời gian dài rồi kết bạn làm quen. Từ đó, kẻ gian tìm cách chiếm đoạt tài khoản Facebook, Zalo... của nạn nhân, copy hình ảnh cá nhân và sử dụng công nghệ deepfake AI để ghép thành các video có nội dung nhạy cảm, không đúng sự thật.

Gần đây nhất, anh N.H. đến cơ quan công an trình báo về việc bị các đối tượng trên mạng xã hội sao chép các hình ảnh cá nhân để ghép video và tống tiền với số tiền 150 triệu đồng. Trước đó, anh H. nhận được tin nhắn từ tài khoản Facebook có tên Lê T Uyên và đồng ý kết bạn. 

Làm công việc là quản lý với số lượng lớn nhân viên ở nhiều tỉnh, thành, anh H. thường xuyên giao tiếp, trao đổi qua các kênh mạng xã hội, nên không đề phòng trước đối tượng Lê T Uyên. "Tài khoản Facebook Lê T Uyên chia sẻ nhiều câu chuyện đau lòng về gia đình, cách hỏi chuyện rất chân thành khiến tôi mất cảnh giác" - anh H. nói.

Công nghệ deepfake đang được nhiều người dùng mạng xã hội lạm dụng, trong đó có cả người dùng là KOL, người nổi tiếng...Ảnh: QUANG LIÊM

Nâng cao cảnh giác

Ông Huỳnh Quang Minh, nhà sáng lập House of Deera và cũng là người có sức ảnh hưởng trên mạng xã hội (KOL) với hơn 2 triệu lượt theo dõi, thừa nhận dù hoạt động trong lĩnh vực AI, truyền thông nhiều năm nhưng khi xem một số video giả mạo bằng công nghệ deepfake thì vẫn khó nhận ra là người thật hay AI.

Trường hợp KOL dùng sử dụng deepfake để chỉnh sửa hình ảnh, video hoặc lan truyền video deepfake có sự xuất hiện của người nổi tiếng khác sẽ dễ dẫn đến truyền tải thông tin sai lệch, gây hậu quả khôn lường. Mặt khác, bản thân KOL phát tán thông tin giả mạo, nếu đang trong thời gian hợp tác với các nhãn hàng, hoàn toàn có thể bị chấm dứt hợp đồng quảng cáo và đền tiền ở mức lên đến 10 lần giá trị hợp đồng. 

"So với 2 - 3 năm trước, sức mạnh của deepfake đã tăng gấp 5 - 10 lần và dự báo sẽ còn tăng tiếp. Tình trạng tin giả, tin xấu độc tràn ngập khiến người dùng mạng xã hội dễ mắc bẫy. Cách ứng phó duy nhất là truyền thông liên tục để người dân nâng cao cảnh giác" - ông Minh lưu ý.

Theo ông Nguyễn Thanh Lâm, Trưởng Phòng An toàn thông tin Trung tâm Viễn thông Khu Công viên Phần mềm Quang Trung, tốc độ phát triển của công nghệ deepfake đang tăng theo cấp số nhân và đạt mức giống thật đến 95%-97%. Deepfake có thể tạo cử động trên khuôn mặt như nháy mắt, nhép môi, nhăn mặt... một cách hoàn toàn tự nhiên. 

"Sắp tới, khi Open AI ra mắt mô hình ChatGPT-5 và công nghệ AI, deepfake càng phát triển mạnh mẽ, tôi không chắc lúc đó người dùng còn có khả năng phát hiện hình ảnh thật - giả hay không" - ông Lâm lo lắng.

Ông Tạ Công Sơn, Trưởng Phòng Phát triển AI - Dự án chống lừa đảo, nhìn nhận bản chất của deepfake không hoàn toàn xấu nếu như dùng đúng mục đích. Chẳng hạn, công nghệ này có thể hỗ trợ quay quảng cáo, tạo video có tính giải trí cao... 

Tuy nhiên, nếu sử dụng deepfake nhắm đến người có sức ảnh hưởng hoặc vì mục đích xấu sẽ khiến cộng đồng và xã hội mất niềm tin rất lớn vào sự phát triển của công nghệ. Do đó, các cơ quan chức năng cần xây dựng quy định cụ thể và cần thiết hình sự hóa các hành vi lợi dụng deepfake vì mục đích xấu. 

Theo NLĐ

https://nld.com.vn/an-hoa-khon-luong-tu-deepfake-196240803193605716.htm