Nhận định, soi kèo Akron vs FC Rostov, 22h30 ngày 31/3: Cửa trên đáng tin

Sự trỗi dậy của “rác” trùng hợp với sự thay đổi chiến lược của Facebook trong vài năm qua. Công ty cố gắng giảm nội dung chính trị trước những cáo buộc thao túng bầu cử hay kích động bạo lực. Cảm thấy “nhiệt” từ TikTok, Facebook thiết kế lại bảng tin của người dùng theo cơ chế khám phá với hi vọng mọi người sẽ tương tác với nội dung từ người lạ. Song, điều này cũng dẫn đến một thuật toán thường xuyên đẩy nội dung gây hiểu lầm.

Thay đổi này có tác dụng với Facebook. “Ảnh chế” hay ảnh do AI tạo ra xuất hiện trong danh sách nội dung được xem nhiều nhất hằng quý của mạng xã hội. Những bài viết kèm hình ảnh AI và chú thích khó hiểu đôi khi lại nhận được hàng nghìn lượt thích và hàng trăm bình luận, chia sẻ.

Đầu năm nay, các nhà nghiên cứu từ Stanford và Georgetown đã theo dõi 120 trang Facebook thường xuyên đăng ảnh AI và phát hiện chúng thu hút “hàng trăm triệu lượt tương tác và tiếp xúc”, theo một nghiên cứu đăng hồi tháng 3. Nhóm nghi ngờ thuật toán xếp hạng của Facebook thăng hạng cho các nội dung có xu hướng kéo tương tác.

Theo Ben Decker, CEO hãng phân tích nguy cơ mạng Memetica, về lâu dài, nội dung rác là một điều đáng lo ngại. Về phần mình, Meta – công ty mẹ Facebook – cho biết, đang nỗ lực gỡ bỏ và giảm thiểu phát tán nội dung rác nhằm bảo đảm trải nghiệm tích cực cho người dùng.

Các chuyên gia theo dõi loại hành vi này chỉ ra một số động cơ đứng sau. Vài người đơn giản chỉ muốn kiếm tiền, chẳng hạn thông qua các khoản thưởng mà Facebook trả cho nhà sáng tạo để đăng nội dung. Có hàng chục video YouTube hướng dẫn cách kiếm tiền bằng cách đăng nội dung AI trên Facebook.

Mặt khác, những kẻ lừa đảo lại dùng mục bình luận làm nơi bán hàng giả, hàng nhái hay thu thập thông tin cá nhân người dùng.

David Evan Harris, nhà nghiên cứu AI từng làm việc cho Meta, chia sẻ còn có một thị trường mua bán tài khoản Facebook “có tuổi”, vì chúng hấp dẫn với người dùng và thoát khỏi các bộ lọc rác của nền tảng. Về cơ bản, nó giống như chợ đen nơi bạn bán cho ai đó khoảng 1.000 tài khoản được mở cách đây 5 năm hoặc hơn rồi họ biến chúng thành một phần của đường dây lừa đảo, thao túng. Chẳng hạn, ai đó lập một trang Facebook để đăng ảnh chế nhưng sau khoảng 2 năm, bỗng một ngày trang đổi tên thành “hãy bầu cho…”.

Nhờ có các công cụ AI, kẻ xấu không cần nhiều người để nhanh chóng sản xuất nội dung giả mạo. Để Facebook xác định được tất cả ảnh AI tải lên mỗi ngày mà không xảy ra sai sót là một thách thức, đặc biệt tại thời điểm công nghệ đang tiến bộ rất nhanh. Ngoài ra, cũng không thể cấm tất cả nội dung AI vì còn liên quan đến chính sách.

Meta cũng bị cản trở vì chỉ có một nhóm nhỏ chuyên xử lý nội dung giả mạo sau khi hãng tinh gọn đội ngũ nhân viên phụ trách tin cậy và an toàn, đồng nghĩa phải dựa nhiều hơn vào hệ thống kiểm duyệt tự động.

Theo Harris, cộng đồng mạng thành thạo công nghệ luôn đi trước 1,5 bước so với các nỗ lực tin cậy và an toàn của tất cả các nền tảng. “Nó gần như trò chơi mèo đuổi chuột không có hồi kết”,ông nhận xét.

(Theo CNN, Prdaily)