• Chia sẻ bài viết Facebook, YouTube có thể chặn video bạo lực nhờ công nghệ này lên Linkhay
  • Giúp ictnews sửa lỗi

Facebook, YouTube có thể chặn video bạo lực nhờ công nghệ này

ictnews
Để ngăn chặn phát tán video bạo lực như vụ xả súng tại New Zealand, Facebook và YouTube có thể sử dụng công nghệ có tên digital hashing.

 

Gần 18 tiếng sau vụ tấn công giết chết 49 người tại New Zealand, video quay lại cảnh tàn sát vẫn xuất hiện trên YouTube và Facebook. Một số chuyên gia cho rằng các hãng nên ứng dụng rộng rãi công nghệ mà họ đang sử dụng trong việc chống lại khiêu dâm trẻ em và vi phạm bản quyền để ngăn chặn phát tán các video bạo lực.

Video livestream dài 17 phút do kẻ thủ ác quay và đăng trên Facebook. Facebook cho biết đã gỡ video nhanh chóng nhưng nhiều giờ sau, các bản đăng lại vẫn tồn tại. Twitter đã chặn tài khoản đăng video và xóa các phiên bản khác trên nền tảng. YouTube sử dụng cả nguồn lực con người lẫn công nghệ để gỡ nội dung vi phạm chính sách.

Theo các chuyên gia, công nghệ “băm điện tử” (digital hashing) nên được sử dụng tốt hơn để chặn việc đăng lại các video dù không thể tóm gọn video quay trực tiếp. YouTube nói rằng họ dùng công nghệ băm để ngăn chặn việc tải lên video xả súng tại New Zealand nhưng với các video có chứa một phần trong clip gốc, họ phải dựa vào hệ thống báo cáo của người dùng.

Trong một tuyên bố, Facebook nói đã bổ sung mỗi video tìm được vào cơ sở dữ liệu nội bộ để phát hiện và tự động xóa các bản sao của video. Facebook xóa video khỏi Facebook Live và băm nó để tự động xóa video có hình ảnh tương tự ra khỏi Facebook và Instagram. Dù vậy, công ty không bình luận vì sao vài phần của video gốc vẫn còn trên nền tảng vài giờ sau.

Theo Hany Farid, giáo sư khoa học máy tính của trường cao đẳng Dartmouth, người đang dùng công nghệ hash để đối phó với khiêu dâm trẻ em, nếu Facebook sử dụng hàm băm mạnh hơn, công ty có thể tìm thấy phần lớn các bài đăng lại. Ngoài ra, bất kỳ phiên bản nào lọt lưới sau đó có thể bị băm và bổ sung vào chung cơ sở dữ liệu để ngăn chặn việc tải lên sau này.

Các mạng xã hội như Facebook đang phụ thuộc ngày càng lớn vào trí tuệ nhân tạo (AI) để báo cáo nội dung bạo lực. Tuy nhiên, quy trình không ổn định do nhiều yêu tố, chẳng hạn số lượng nội dung được tải lên hàng ngày hay AI không thể hiểu được bối cảnh mà sự việc diễn ra. Facebook, Google và Twitter dùng công nghệ băm để chống lại nội dung bất hợp pháp như khiêu dâm trẻ em, vi phạm bản quyền và video đi ngược với điều khoản dịch vụ.

Công nghệ hashing hoạt động như thế nào?

Công nghệ hashing sẽ chia video thành nhiều khung hình và gán cho mỗi khung hình một chữ ký số độc nhất (hay hash). Hash này được tổng hợp vào trong cơ sở dữ liệu trung tâm, nơi mọi bức ảnh, video đăng trên nền tảng sẽ được đối chiếu với bộ dữ liệu ấy. Hệ thống đòi hỏi một cơ sở dữ liệu hình ảnh, không sử dụng trí tuệ nhân tạo để xác định cái nào là ảnh mà chỉ phát hiện sự tương đồng giữa ảnh và video.

Hash có lợi thế ở quy mô. Năm 2008, Farid hợp tác với Microsoft tạo ra PhotoDNA, một hệ thống có thể nhanh chóng phát hiện khiêu dâm trẻ em ở quy mô lớn. PhotoDNA đang được dùng bởi nhiều nền tảng công nghệ lớn. Tốc độ xử lý của nó rất nhanh, cho phép xử lý hàng tỷ lượt tải mỗi ngày.

Theo Farid, mỗi ảnh mà người dùng tải lên Facebook trong 10 năm qua đều được quét qua cơ sở dữ liệu nội dung lạm dụng tình dục trẻ em. Các nền tảng cũng dùng công nghệ hash để kiểm soát các video xâm phạm bản quyền. Nếu muốn đăng một tập phim Avengers lên YouTube, bạn không thể làm điều đó nhờ công nghệ hash.

Trong các năm qua, các hãng công nghệ quan tâm nhiều hơn đến công nghệ hash trong việc ngăn chặn video khủng bố. Sau nhiều năm gặp khó khăn, Facebook, YouTube, Twitter và Microsoft đã cùng nhau tạo ra Diễn đàn Internet chống khủng bố toàn cầu, duy trì cơ sở dữ liệu nội dung về chủ nghĩa khủng bố.

Giáo sư Farid cho rằng công nghệ hash đã thể hiện tính hiệu quả trong chống lại lạm dụng trẻ em, vi phạm bản quyền, khủng bố, vì vậy nó cũng có thể ứng dụng trong các video bạo lực. Quyết định có ứng dụng nó hay không là câu hỏi về ý chí và chính sách chứ không phải về công nghệ.

Du Lam (Theo CNN)

Tương tác trực tiếp với ICTnews trên Facebook

Vụ xả súng New Zealand: Facebook đã xóa 1,5 triệu video trên nền tảng
ICTnews - Facebook cho biết đã xóa 1,5 triệu video về vụ xả súng tại New Zealand trong vòng 24 giờ đầu tiên sau vụ tấn công.
Vì sao YouTube không thể tự động chặn video xả súng ở New Zealand?
ICTnews - YouTube có thể ngay lập tức xác định video vi phạm bản quyền nhưng lại không thể chặn đứng các video bạo lực như vụ xả súng ở New Zealand,...
Chặn truy cập website phát tán video xả súng ở New Zealand
ICTnews - Các nhà cung cấp dịch vụ Internet (ISP) tại New Zealand đang hợp lực để chặn các website từ chối xóa video xả súng ở Christchurch.

Video đang được xem nhiều

  • Chia sẻ bài viết Facebook, YouTube có thể chặn video bạo lực nhờ công nghệ này lên Linkhay
  • Giúp ictnews sửa lỗi

Bài viết chưa có bình luận nào.

lên đầu trang