Meta, công ty mẹ của Facebook và Instagram, gặp khó khăn với chính thuật toán của mình khi kích hoạt đề xuất nội dung ấu dâm. Hôm qua (1-12), EU đã yêu cầu Meta trình bày trước ngày 22-12 về biện pháp chống lạm dụng tình dục trẻ em.
Meta, công ty mẹ của Facebook và Instagram, đang đứng trước thách thức về kiểm soát nội dung ấu dâm trên các nền tảng mạng xã hội này - Ảnh: GETTY IMAGES
Theo báo Wall Street Journal (WSJ), Công ty Meta đã thành lập một "đội đặc nhiệm" về an toàn cho trẻ em trên mạng xã hội vào tháng 6-2023, sau khi các nhà nghiên cứu tại Đại học Stanford và Đại học Massachusetts Amherst (Mỹ) chỉ ra thuật toán của Instagram đang giúp kết nối các tài khoản "giúp tạo, mua và giao dịch các nội dung tình dục trẻ vị thành niên".
Nhưng hồi đầu tuần này, WSJ dẫn báo cáo của Trung tâm Bảo vệ trẻ em Canada cho thấy đến nay các thuật toán của Meta vẫn đề xuất các nội dung ấu dâm.
Một mạng lưới các tài khoản Instagram có tới 10 triệu người theo dõi đã phát trực tiếp (livestream) các nội dung lạm dụng tình dục trẻ em trong nhiều tháng, dù Meta đã được báo cáo về trường hợp này.
Điều tương tự cũng xảy ra trên Facebook - mạng xã hội với 3 tỉ người dùng hằng tháng.
WSJ nói khi họ báo cáo một nhóm cộng đồng có tên "Loạn luân" (Incest), nhưng Facebook đã phản hồi rằng nhóm đó "không đi ngược với tiêu chuẩn cộng đồng" của mạng xã hội này. Nhóm chỉ bị xóa sau khi WSJ báo cáo vụ việc tới bộ phận quan hệ công chúng của Meta.
Người phát ngôn của Meta khẳng định họ vẫn đang tích cực thực hiện các thay đổi được xác định bởi "đội đặc nhiệm" về an toàn cho trẻ em.
Với hơn 100 nhân viên, nhóm này đã ngăn chặn hàng ngàn thẻ hashtag (bắt đầu với ký hiệu #) được sử dụng bởi những kẻ ấu dâm, cũng như cải tiến công nghệ để xác định nội dung khỏa thân và hoạt động tình dục trong các video được phát sóng trực tiếp.
Facebook cũng vô hiệu hóa hàng ngàn tài khoản, ẩn 190.000 nhóm trong kết quả tìm kiếm và đầu tư vào các công cụ phần mềm nhằm giải quyết vấn đề hiệu quả hơn.
Hệ thống đề xuất nội dung cá nhân hóa và tập trung vào trải nghiệm người dùng đã giúp Meta trở thành công ty mạng xã hội lớn nhất thế giới. Dù vậy, họ đã phải "miễn cưỡng hạn chế đáng kể" hệ thống này.
Người phát ngôn của Meta khẳng định hệ thống của họ đã giúp kết nối hàng triệu người và các nhóm thú vị, tích cực với nhau, ví dụ như các nhóm hỗ trợ về ung thư hay tìm kiếm việc làm.
"Việc hạn chế hoặc loại bỏ hoàn toàn các tính năng kết nối người dùng với nội dung có thể chấp nhận được, không phải là cách tiếp cận hợp lý để ngăn chặn các đề xuất nội dung không phù hợp. Công ty Meta đầu tư vào sự an toàn để giữ cho nền tảng luôn lành mạnh", người này nói.
EU chất vấn Meta về nội dung lạm dụng tình dục trẻ em
Theo Hãng tin Reuters ngày 1-12, các cơ quan quản lý công nghệ của Liên minh châu Âu (EU) đã yêu cầu Công ty Meta báo cáo chi tiết về các biện pháp giải quyết vấn đề lạm dụng tình dục trẻ em trên mạng xã hội Instagram.
Ủy ban châu Âu cũng cho biết đã yêu cầu Meta cung cấp thông tin về hệ thống đề xuất nội dung của Instagram và việc khuếch đại nội dung gây hại trên nền tảng này.
Hạn chót cho Meta là trước ngày 22-12, nếu không sẽ phải đối diện với cuộc điều tra chính thức theo quy định về Đạo luật dịch vụ kỹ thuật số (DSA) của EU.
Nguồn: Báo Tuổi trẻ Online
