Một làn sóng các trang "tin giả NZ" đang làm tràn ngập mạng xã hội với những nội dung rác gây hiểu lầm, bao gồm cả việc sử dụng AI để tạo chuyển động cho các bức ảnh tĩnh của một nạn nhân trong vụ sạt lở đất tại Mount Maunganui.
Những trang Facebook không đáng tin cậy chuyên sản xuất hàng loạt hình ảnh và video do AI tạo ra hiện nay gần như không thể tránh khỏi trên nền tảng này và chúng vẫn đang đánh lừa một lượng lớn người xem.
Trong một cuộc điều tra mà tôi thực hiện cho hãng tin Australian Associated Press (AAP), một trang Facebook tự xưng là "NZ News Hub" - vốn không có bất kỳ mối liên hệ nào với Newshub đã ngừng hoạt động - đã đăng tải hàng chục bài viết mỗi tuần. Các bài này lấy thông tin báo chí chính thống từ các tổ chức tin tức bao gồm RNZ, New Zealand Herald, Stuff và các đơn vị khác, rồi thêm vào đó những hình ảnh hoặc video AI đầy lỗi.
Trong một trường hợp, một video đã được đăng tải với những chuyển động kỳ quái từ bức ảnh tĩnh của một nạn nhân 15 tuổi trong vụ sạt lở đất ở Mount Maunganui, khiến cô bé trông như đang nhảy múa.
Phần giới thiệu của trang tuyên bố "NZ News Hub mang đến cho bạn tin tức New Zealand mới nhất, các câu chuyện nóng hổi, chính trị, kinh doanh, thể thao và cập nhật cộng đồng", nhưng thực tế nó dường như không chứa bất kỳ báo cáo gốc nào.
Chẳng hạn, vào ngày Waitangi, trang này đã đăng một bài viết trông giống như video về Thủ tướng Christopher Luxon tại Waitangi, nhưng rõ ràng đó là sản phẩm do AI tạo ra.
Tuy nhiên, trang này (với gần 5000 người theo dõi) vẫn có hàng chục người "thích" và bình luận vào các bài viết như thể chúng là thật. Nhiều người theo dõi trong số đó dường như là các trang kinh doanh và thậm chí bao gồm cả một vài chính trị gia.
Những nỗ lực của AAP nhằm yêu cầu "NZ News Hub" đưa ra phản hồi đều không được trả lời.
Andrew Lensen, giảng viên cao cấp về AI và giám đốc chương trình tại Đại học Victoria Wellington, cho biết các hình ảnh trên trang "News Hub" rõ ràng là sản phẩm của AI.
"Các trang này muốn nhận được càng nhiều tương tác (cảm xúc, bình luận, chia sẻ) càng tốt, nhằm xây dựng lượng người theo dõi/độ phủ sóng và doanh thu quảng cáo tiềm năng," ông chia sẻ với tôi cho bài viết của AAP.
Sự sẵn có của các công cụ AI hiện nay đã giúp hầu như bất kỳ ai cũng có thể vận hành một "công xưởng tin giả", trong khi các tập đoàn công nghệ khổng lồ lại thiếu sự kiểm duyệt để ngăn chặn làn sóng này. Nhiều hình ảnh giả hiển thị hình mờ "SynthID" cho thấy công cụ AI của Google đã được sử dụng để tạo ra chúng - nhưng bạn phải biết cách thì mới tìm thấy hình mờ đó ngay từ đầu.
Thảm họa Mount Maunganui khiến sáu người thiệt mạng đã dẫn đến một loạt "rác AI" trên mạng, như RNZ đã đưa tin trước đó.
Nhiều hình ảnh lưu hành trên mạng xã hội hoàn toàn không giống với địa điểm thực tế, một cuộc điều tra khác của AAP đã phát hiện ra điều này.
Thông tin sai lệch về các nạn nhân cũng đang được lan truyền.
Một bức ảnh tĩnh do Cảnh sát New Zealand cung cấp cho giới truyền thông về nạn nhân Sharon Maccanico, 15 tuổi, đang nhảy múa đã được NZ News Hub tạo chuyển động trong một bài đăng để làm cho cô bé trông như đang thực hiện những động tác nhào lộn khó tin trên nền nhạc sôi động.
NZ News Hub đã lấy nhiều câu chuyện gần đây của RNZ và đăng lại phần lớn nội dung báo cáo trong khi thêm thắt các chi tiết AI gây hiểu lầm vào đó.
Một bài đăng đã lấy hình ảnh từ buổi họp báo gần đây của ông Luxon và Bộ trưởng Tài chính Nicola Willis (vốn là ảnh tĩnh do nhiếp ảnh gia của RNZ chụp) để tạo thành một video AI về việc họ nói về cuộc bầu cử tháng 11 sắp tới.
Một bài đăng gần đây khác đề cập đến các bài viết của phóng viên Tim Brown (RNZ) về việc cha mẹ ở Tauranga thương tiếc con gái tự tử, nhưng lại sử dụng AI để khiến hình ảnh của RNZ trông như cặp đôi đang mỉm cười với nhau. Brown xác nhận RNZ không hề quay video nào như vậy.
Nhiều hình ảnh mang những dấu hiệu đặc trưng của AI, nhưng những hình ảnh khác lại khó nhận biết hơn. Tuy nhiên, thường vẫn có những điểm sơ hở.
Một hình ảnh tuyên bố là cảnh sát đang ứng phó với các cuộc biểu tình chống nhập cư gần đây ở Auckland cho thấy các "cảnh sát" đều mặc sai sắc phục và khuôn mặt cực kỳ mờ ảo, biến dạng. Trong khi đó, một bức ảnh khác khẳng định là từ hoạt động của cảnh sát để tìm kiếm nạn nhân đuối nước trên sông Mahurangi tháng trước lại có chữ "POPFIL" viết trên lưng áo của những người gọi là cảnh sát - và con sông trong ảnh chẳng có nét gì giống với con sông thực tế.
Ngay cả loài chim kererū mang tính biểu tượng của New Zealand cũng không thoát khỏi sự can thiệp của AI. Một câu chuyện mà RNZ đăng tuần trước về mối nguy hiểm khi loài bồ câu gỗ bản địa này va vào cửa sổ đã bị lấy lại, nhưng hình ảnh đã bị thay thế một cách khó hiểu bằng một con chim do AI tạo ra, trông chẳng giống gì một con kererū.
Có khả năng một số hình ảnh AI đang được sử dụng để tránh các tranh chấp bản quyền thay vì lấy trộm ảnh từ các trang tin tức chính thống, Lensen cho biết.
"Niềm tin vào báo chí vốn đã là một mối lo ngại lớn, và bất kỳ nguồn nào giả danh tin tức sẽ chỉ làm tăng thêm sự mất lòng tin," Lensen nói với tôi.
Nhiều trang Facebook giả mạo cũng sản xuất hàng loạt câu chuyện về những người nổi tiếng với tiêu đề hấp dẫn hứa hẹn "sự thật ĐƯỢC TIẾT LỘ" và thông tin gây sốc, nhưng hiếm khi có nội dung thật trong bài viết. Những câu chuyện như vậy thường dẫn link đến các trang web bên ngoài chứa đầy quảng cáo pop-up nhằm tăng lưu lượng truy cập và lượt nhấp chuột để kiếm tiền.
Trang "NZ News Hub" này không hề đơn độc trong "vùng đất rác" này. Hầu như mọi sự kiện tin tức bạn có thể nghĩ tới, dù là vụ cá mập tấn công ở Úc, việc bắt giữ Tổng thống Venezuela Nicolas Maduro hay vụ ám sát Charlie Kirk, đều có các bài đăng và hình ảnh tin giả phủ kín mạng xã hội chỉ trong vòng vài phút sau khi sự kiện xảy ra.
Nhiều trang trong số này thực tế được điều hành từ các quốc gia không hề gần nơi tin tức xảy ra, chẳng hạn như Việt Nam hoặc Malaysia, thông tin minh bạch của trang Facebook cho thấy.
Ngay cả khi Facebook xử lý các trang cụ thể này, hàng chục trang sao chép khác có khả năng sẽ mọc lên ngay lập tức.
Hiện đã có nhiều trang chia sẻ hình ảnh tin tức AI giả mạo về New Zealand. Các hình ảnh và video giả mạo cũng có thể dễ dàng bắt gặp trên TikTok, Instagram, X và nhiều nền tảng khác nữa.
Đó là một phần của sự suy thoái chung trên các nền tảng mạng xã hội mà tác giả Cory Doctorow đã gọi là "sự tồi tệ hóa".
Lensen cho biết ông cảm thấy các trang như NZ News Hub cho thấy các phương tiện truyền thông truyền thống nên rất thận trọng khi sử dụng AI trong báo cáo của mình.
"Khi rác AI ngày càng lan rộng trên mạng, mọi người có thể quay lại với các nền tảng lâu đời như một nguồn tin đáng tin cậy. Nhưng nếu các nền tảng lâu đời cũng sử dụng AI, thì chúng ta sẽ đi đâu để tìm kiếm sự thật?"
RNZ có một bộ nguyên tắc về AI được công khai trực tuyến và nhìn chung sẽ không xuất bản, phát sóng hoặc cố ý phổ biến các tác phẩm được tạo ra bởi AI tạo sinh.
Nhiều bài đăng của "NZ News Hub" đã được báo cáo cho Meta, chủ sở hữu của Facebook, nhưng tính đến thời điểm viết bài, chúng vẫn còn tồn tại.
Theo nzherald.co.nz premium - Hani Dang