Deepfake – mặt tối khó kiểm soát của Internet

  • 27/07/2020
  • 2:17 Chiều

Cho đến thời điểm này, vấn nạn Deepfake không còn là nguy cơ mà đã trở nên hiện hữu trên không gian mạng, ảnh hưởng trực tiếp đến cá nhân, tập thể, xã hội, thậm chí mang màu sắc chính trị. Thực tế cho thấy, bất cứ ai cũng có thể trở thành nạn nhân của vấn nạn Deepfake, đặc biệt là phụ nữ, người nổi tiếng và chính trị gia – nhóm đối tượng dễ bị lợi dụng. Vậy Deepfake là gì? Nó tác động như thế nào đến đời sống con người? Cần làm gì để ngăn chặn vấn nạn này?

Deepfake là gì?

Peter Eckersley – chuyên gia khoa học máy tính của tổ chức Electronic Frontier Foundation (EFF), tác giả của tài liệu mang tên “Làn sóng video giả mạo sẽ được sử dụng cho mục đích chính trị và cách để bảo vệ nền dân chủ trước những rủi ro” đã đưa ra giải thích: thuật ngữ Deepfake là sự kết hợp giữa Deep Learning (học sâu) và Fake (giả mạo).

Deepfake - mặt tối khó kiểm soát của Internet

Deep Learning thực tế không phải là công nghệ mới, nó đã xuất hiện từ thập niên 80 của thế kỷ 20. Mục đích ban đầu của giới khoa học là mong muốn giả lập suy nghĩ và bắt chước bộ não con người. Não bộ người hình thành từ hàng trăm tỷ neuron, ghi nhận thông tin hàng ngày, hình thành ra sáng tạo. Đó là cách vận hành của bộ não. Bằng việc ứng dụng công nghệ, các nhà khoa học cũng muốn tạo ra một bộ não như thế cho máy móc.

Khi năng lực tính toán của máy móc ngày càng nâng cao, công nghệ ngày càng phát triển mạnh mẽ đã cho phép “bộ não máy tính” ngày càng trở nên thông minh hơn. Năm 2010, tỷ lệ không chính xác khi sử dụng Deep Learning lên tới 30%. Tuy nhiên, công nghệ này đã có sự phát triển đột phá khi tỷ lệ sai sót chỉ còn 15% trong năm 2012. Từ thời điểm này, nhiều doanh nghiệp đã bắt đầu nhận thấy tiềm năng ứng dụng của Deep Learning. Theo các nhà khoa học, hiện nay, tỷ lệ chính xác của Deep Learning có thể lên đến 98%.

Về bản chất, công nghệ Deepfake được xây dựng trên nền tảng công nghệ học máy (Machine Learning) mã nguồn mở của hãng công nghệ Google. Sau khi quét các video và ảnh chân dung của một người cụ thể, Deepfake sẽ hợp nhất hình ảnh với video riêng biệt nhờ công nghệ trí tuệ nhân tạo (Artificial Intelligence – AI) và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói giống như thật. Càng có nhiều video và hình ảnh gốc, thì AI càng hoạt động chính xác và video giả mạo có độ chân thực cao.

Deepfake được biết đến rộng rãi sau khi một thành viên vô danh trên diễn đàn mở Reddit phát hành một chương trình có tên Deepfakesapp, giúp hoán đổi gương mặt vào video gốc. Sau đó, một thành viên khác của diễn đàn này đã phát triển phiên bản cải tiến với cái tên FakeApp và đã trở nên phổ biến.

Những tác động của Deepfake đến đời sống của con người

Hiện nay, Deepfake đã trở thành vấn nạn trên thế giới, khiến nhiều người bị lâm vào tình cảnh khó khăn sau khi bị phát tán những những đoạn video giả mạo trên mạng. Tuy nhiên, tại Việt Nam, không ít người vẫn vô tư chia sẻ những bức ảnh cá nhân, với khuôn mặt rõ nét lên mạng xã hội ở chế độ công khai (public). Bởi lối suy nghĩ chủ quan cho rằng, Deepfake là chuyện xa vời, xảy ra ở đâu đó chứ không ảnh hưởng tới mình, vì họ không phải người nổi tiếng hay là chính trị gia.

Sẽ ra sao khi các phần mềm Deepfake lan tràn trên mạng, một ai đó có thể tạo video khiêu dâm về bạn rồi đăng lên Facebook? Dù chỉ là một hành động trêu đùa với mục đích trêu chọc, tuy nhiên khi đã xuất hiện trên mạng, không có cách gì để kiểm soát sự phát tán đoạn video này và những hệ lụy sau đó. Trong nhiều trường hợp, mục đích sử dụng Deepfake không còn là trò đùa nữa, mà nhằm làm mất uy tín, sỉ nhục, quấy rối hoặc chơi xấu và dùng vào mục đích tống tiền người khác.

Theo tờ Washington Post của Mỹ đưa tin, trong năm 2019, một người phụ nữ Mỹ khoảng 40 tuổi đã vô tình tìm thấy một video với gương mặt của mình bị ghép vào cơ thể một nữ diễn viên khiêu dâm trẻ. Các hình ảnh cắt ghép được thực hiện liền mạch, tạo ra cảm giác chân thật. Người này lo lắng đồng nghiệp, gia đình hoặc bạn bè trông thấy và sẽ thay đổi cách nhìn về mình, bởi rất khó thuyết phục họ tin nó không có thật. Qua điều tra cho thấy, đoạn video này được tạo ra từ 491 hình ảnh được lấy chính trên trang Facebook cá nhân của cô, với thời gian sản xuất video chỉ trong khoảng hai ngày.

Trên các diễn đàn thảo luận về AI hay machine learning, một người dùng ẩn danh có thể dễ dàng thuê người khác làm video giả với nhân vật chính là đồng nghiệp hay bạn bè của họ với chi phí chỉ 20 USD. Ban đầu, các video có nhiều nhược điểm về chất lượng hình ảnh và dễ dàng nhận ra. Nhưng càng ngày công nghệ xử lý càng được cải thiện, dần tiến tới xóa bỏ ranh giới thật, giả.

Chia sẻ tại diễn đàn Tech Talks diễn ra vào đầu tháng 01/2020 tại TP. HCM, ông Nguyễn Tử Quảng, Chủ tịch HĐQT kiêm Tổng giám đốc Công ty cổ phần BKAV khẳng định, Deepfake không chỉ là mối đe dọa với người nổi tiếng, mà có thể làm đảo lộn cuộc sống của bất cứ ai, đồng thời làm thay đổi thói quen chia sẻ ảnh cá nhân trên mạng xã hội. Với tôi, Deepfake chính là “bom hạt nhân”. Chỉ trong hai năm xuất hiện, Deepfake đã có thể tạo ra một cuộc đảo chính. Nếu một doanh nghiệp lớn trên sàn chứng khoán gặp khủng hoảng thông tin, xuất hiện video giả mạo về chủ doanh nghiệp, thì thiệt hại gây ra là cực kỳ lớn.

Quay trở lại thời điểm 30 năm trước, khi Photoshop xuất hiện và làm thay đổi hoàn toàn cách con người tiếp nhận tin tức. Những hình ảnh hoàn toàn có thể là sản phẩm của một quá trình cắt ghép kỳ công. Khi đó, người dùng Internet bắt đầu hoài nghi vào độ chính xác của hình ảnh. Họ đặt niềm tin nhiều hơn vào video, ghi âm vì đây là những thứ gần như không thể giả mạo. Nhưng Deepfake xuất hiện và “đâm thủng” thành trì tiếp theo của thế giới Internet. “Bạn có thể đưa bất kỳ chính khách nào tới đâu, làm bất cứ điều gì. Kể cả khi video đó là giả mạo, khi được xuất bản nó sẽ hủy hoại ai đó”, đại diện giấu tên của Deepfake Society – một website thuần giải trí về Deepfake cho biết.

Theo thống kê của Deeptrace – Công ty có trụ sở tại Amsterdam (Hà Lan) chuyên nghiên cứu về những nội dung được tạo ra bởi AI, 96% video Deepfake có nội dung đồi trụy. Hầu hết nạn nhân là ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm. “Chúng tôi phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăng tải các video Deepfake có tổng lượt xem lên tới 134 triệu”, CEO Deeptrace – ông Giorgio Patrini nói. Lượng người truy cập vào các trang web ngày càng lớn đã gióng lên hồi chuông đáng báo động về nhu cầu của người dùng Internet với công nghệ này.

Deepfake - mặt tối khó kiểm soát của Internet

Không dừng lại ở những video khiêu dâm giả, Deepfake đang trở thành “bóng ma” trong thế giới Internet, khiến mọi người phải khiếp sợ. Hãy tưởng tượng vào những ngày đầu tháng 11/2020, khi cuộc bầu cử Tổng thống Mỹ đang đến giai đoạn nước rút. Một ứng viên Tổng thống xuất hiện trên mạng xã hội với những lời lẽ cực đoan về phân biệt chủng tộc hoặc giới tính khiến cử tri phẫn nộ. Mặc dù video là giả mạo, nhưng nó sẽ ngay lập tức hạ bệ bất kỳ chính trị gia nào. Ông chủ của mạng xã hội Facebook – Mark Zuckerberg, CEO của Công ty Tesla – Elon Musk, Tổng thống Mỹ Donald Trump hay cựu Tổng thống Barack Obama đã từng là những nạn nhân của công nghệ này.

Trong lĩnh vực tài chính, Deepfake còn được dùng để lừa đảo tiền, thao túng thị trường. Tháng 3/2019, một nhóm tội phạm đã dùng AI để nhái giọng CEO một công ty có trụ sở Đức để gọi điện cho Giám đốc chi nhánh ở Anh, đề nghị người này chuyển khoản một số tiền lớn cho nhà cung ứng ở Hungary trong vòng một giờ, sau đó tiền sẽ sớm được hoàn lại. Người này nhận ra giọng nói quen thuộc của “sếp” nên không hề nghi ngờ và số tiền đã được chuyển đi và không quay trở lại. Tháng 7/2019, Tổ chức điều hành Không gian mạng quốc gia Israel đã cảnh báo về “một loại tấn công mạng mới”, dùng AI đóng vai lãnh đạo cấp cao trong doanh nghiệp để ra lệnh cho nhân viên thực hiện nhiều hành động gây hại cho nội bộ, như: chuyển tiền, gửi tài liệu mật…

Vấn nạn Deepfake đang trở nên rất đáng lo ngại và nằm ngoài tầm kiểm soát, khi tội phạm mạng có thể sử dụng Deepfake làm vũ khí tấn công người dùng trực tuyến. Tháng 12/2019, Facebook cho biết đã gỡ nhiều tài khoản sử dụng khuôn mặt do AI tạo ra. Những tài khoản này là một phần của mạng lưới tin giả dùng để ủng hộ Tổng thống Donald Trump và chống lại chính phủ Trung Quốc. Cũng trong năm 2019, trong báo cáo “Đánh giá mối đe dọa toàn cầu”, tình báo Mỹ cũng cảnh báo các đối thủ có thể đang cố gắng ứng dụng công nghệ để tạo nên các tập tin hình ảnh, âm thanh và video giả mạo nhằm tăng cường các chiến dịch chống lại Mỹ và đồng minh trên Internet.

Mặc dù tới nay chưa có một video Deepfake nào được chế tạo kỹ lưỡng và mang tới những hậu quả chính trị lớn ở Mỹ, song điều đó không có nghĩa là sẽ không bao giờ xảy ra. Thực tế cho thấy, vào tháng 5/2019, một video bị thao túng đã làm sai lệch hình ảnh Chủ tịch Hạ viện Nancy Pelosi, khi làm chậm lại bài phát biểu của bà, tạo ra hình ảnh nữ Chủ tịch Hạ viện Mỹ như đang trong tình trạng sức khỏe không ổn định. Sau sự kiện video Pelosi bị phát tán, hình ảnh Giám đốc điều hành của Facebook – Mark Zuckerberg đã xuất hiện trong một video giả mạo trên Instagram, trong đó ông nói rằng bất cứ ai kiểm soát dữ liệu, sẽ kiểm soát tương lai. Rất lâu sau đó, Facebook – công ty sở hữu Instagram mới tiến hành gỡ bỏ video giả mạo này.

Cần phải sớm ngăn chặn Deepfake

Sự phát triển của công nghệ bên cạnh những mặt tích cực đem lại thì mặt khác cũng nảy sinh nhiều mặt trái, trong đó là xu hướng Deepfake. Đây là bài toán khó đối với tất cả các công ty công nghệ, trong đó có cả các hãng công nghệ lớn như Google, Facebook, Microsoft. Điều đáng mừng là đã bắt đầu có sự tham gia chung tay của các tổ chức, doanh nghiệp nhằm ngăn chặn vấn nạn Deepfake.

Ngày 5/9/2019, một số Công ty hoạt động trong lĩnh vực công nghệ và Viện công nghệ lớn trên thế giới đã công bố hợp tác để triển khai sáng kiến mang tên “Thách thức Deepfake” (Deepfake Challenge), nhằm nâng cấp các công cụ phát hiện video và các loại thông tin truyền thông bị bóp méo bởi AI. Sáng kiến với mục tiêu ngăn chặn “mối đe dọa lớn nhất” với tính nguyên vẹn của các thông tin trực tuyến. Cụ thể, mạng xã hội Facebook đã đóng góp 10 triệu USD cho sáng kiến này. Ngoài ra, Tập đoàn Microsoft, Tổ chức Đối tác AI (Partnership on AI) và một số cơ sở đào tạo (như Viện Công nghệ Massachusetts, Đại học Cornell, Đại học Oxford, Đại học California- Berkeley, Đại học Maryland và Đại học Albany) cùng tham gia vào sáng kiến này.

Một trong những nỗ lực của chính quyền nhằm ngăn chặn Deepfake là vào đầu tháng 10/2019, Thống đốc bang California, Mỹ đã thông qua đạo luật cấm sản xuất và chia sẻ Deepfake trên mạng. Tuy nhiên, điều này vẫn còn gây tranh cãi vì nó có thể ảnh hưởng đến quyền tự do ngôn luận.

Tháng 11/2019, mạng xã hội Twitter đã công bố kế hoạch xử lý các nội dung Deepfake và kêu gọi phản hồi từ công chúng. Đề xuất của Twitter cho biết, họ có thể đặt một thông báo bên cạnh các tweet chia sẻ “nội dung tổng hợp hoặc bị thao túng”, cảnh báo mọi người trước khi thích hoặc chia sẻ các tweet đó, hoặc thêm một liên kết đến một câu chuyện tin tức giải thích về Deepfake. Công ty này cũng cho biết, họ có thể xóa các tweet chứa nội dung Deepfake nếu chúng gây hiểu lầm và đe dọa sự an toàn của mọi người hoặc dẫn đến hậu quả nghiêm trọng khác.

Tháng 01/2020, Facebook ban hành chính sách cấm phát tán video Deepfake, cũng như tất cả hình ảnh và âm thanh giả mạo trên nền tảng mạng xã hội này. Facebook tuyên bố, giải pháp ngăn chặn nạn phát tán video Deepfake và nội dung giả mạo gồm điều tra hành vi lừa đảo trong video được tạo ra bởi AI và hợp tác với các tổ chức nghiên cứu, chính phủ để xác định các nội dung giả mạo. Theo thông báo của Facebook, các video được cho là Deepfake sẽ bị xóa khỏi nền tảng, gồm: nội dung tổng hợp hoặc chỉnh sửa không rõ ràng có thể khiến người dùng hiểu nhầm về chủ đề của video; sản phẩm được lồng ghép nội dung bởi AI hoặc công nghệ học máy khiến video có vẻ chân thực. Facebook cũng khẳng định thêm rằng, chính sách mới không ảnh hưởng đến các nội dung mang tính giải trí.

Deepfake - mặt tối khó kiểm soát của Internet

Hãng công nghệ Google cũng có những động thái tích cực trong việc chống lại Deepfake. Bằng việc hợp tác và trả tiền cho nhiều diễn viên, người nổi tiếng để ghi lại hàng các video, Google đã sử dụng các công cụ tái tạo hình ảnh Deepfake. Bộ dữ liệu của Google có tới 3.000 video giả mạo để hỗ trợ các nhà nghiên cứu tìm cách ngăn chặn vấn nạn chỉnh sửa hình ảnh nhờ AI.

Tại Việt Nam, với Luật An ninh mạng chính thức có hiệu lực thi hành từ đầu năm 2019 và nhiều văn bản quy định khác trong lĩnh vực bảo mật và an toàn thông tin đã được ban hành là cơ sở pháp lý quan trọng để chúng ta có thể xử lý vấn nạn Deepfake. Bên cạnh đó, nhiều tổ chức/doanh nghiệp cũng đã và đang nghiên cứu các mối nguy trên không gian mạng, phát triển các giải pháp để phát hiện video Deepfake trên Internet.

Ông Nguyễn Tử Quảng, Chủ tịch HĐQT kiêm Tổng giám đốc Công ty cổ phần BKAV cho rằng, để ngăn chặn Deepfake chỉ còn cách lấy độc trị độc. Người thật có những đặc trưng mà Deepfake có thể học. Ngược lại, chúng ta cũng có thể dùng chính Deepfake để học đặc trưng của video giả. Bằng mắt thường, chúng ta có thể không nhận ra, nhưng bằng Deepfake, thì Deepfake có thể nhận diện Deepfake. BKAV đã nghiên cứu trong suốt 20 năm qua, sử dụng công nghệ cao để ngăn chặn, chống lại rủi ro công nghệ cao. Những kẻ tạo ra video Deepfake cũng sẽ tương tự như tin tặc. Đó là cuộc chiến liên tục giữa người với người trên không gian mạng. Nhưng trong tương lai, đó sẽ là cuộc chiến giữa máy với máy.

Đối với cá nhân, mỗi người dùng cần có ý thức tự bảo vệ thông tin cá nhân của mình. Bởi mỗi hình ảnh, video đăng tải lên không gian mạng sẽ là cơ sở dữ liệu quý báu để Deepfake đánh cắp và giả mạo. Với các doanh nghiệp, quy trình ứng phó rủi ro do Deepfake tạo ra cũng nên được chuẩn bị sẵn sàng. Đặc biệt, các cơ quan quản lý nhà nước cần sớm ban hành những chính sách kịp thời, đủ sức răn đe để ngăn chặn tình trạng phát tán các sản phẩm của Deepfake trên không gian mạng.

Lorem ipsum dolor sit amet, consectetur adipiscing elit. Ut elit tellus, luctus nec ullamcorper mattis, pulvinar dapibus leo.

  • Nguồn tin:
  • Mục danh sách #2