Thuật toán AI được Facebook thử nghiệm có thể phát hiện các tranh chấp trong nhóm sau đó báo cáo với quản trị viên để có biện pháp can thiệp kịp thời. Theo CNN, Facebook vừa ra mắt một số phần mềm hỗ trợ hơn 70 triệu người quản lý nhóm trên nền tảng của mình. Đặc biệt, hệ thống AI mới do Facebook phát triển có thể phát hiện những xung đột, cãi vã trong nhóm. Một công cụ “cảnh báo xung đột” do trí tuệ nhân tạo điều khiển sẽ thông báo cho quản trị viên nhóm về nội dung “gây tranh cãi” hoặc “không công bằng”. Mạng xã hội này có 2,85 tỷ người dùng hàng tháng và khoảng 1,8 tỷ người dùng đang hoạt động trong hàng chục triệu nhóm khác nhau.
Công nghệ AI mới của Facebook bắt đầu kiểm duyệt nội dung
Trước khi AI (trí tuệ nhân tạo) mới được triển khai, hàng đợi chủ yếu được sắp xếp theo thứ tự thời gian các bài đăng được báo cáo. Điều này có thể làm chậm thời gian phản hồi của công ty. Đối với các trường hợp khẩn cấp hơn trong khi người kiểm duyệt. Đang tìm cách thông qua các bài đăng trước đó. Với phương pháp mới, hệ thống sẽ sử dụng một số thuật toán máy học. Để ưu tiên nội dung bị gắn cờ dựa trên “mức độ lan truyền; mức độ nghiêm trọng và khả năng chúng vi phạm quy tắc”.
Trước đó, Facebook tuyên bố họ đã thực hiện hành động chống lại 9,6 triệu mẩu nội dung. Trong quý đầu tiên của năm 2020 – tăng đáng kể so với con số 5,7 triệu trong quý trước đó. Mặc dù một số bài đăng đó đủ rõ ràng để dẫn đến việc tự động chặn hoặc xóa. Phần còn lại được đưa vào hàng đợi để người kiểm duyệt đánh giá. Quá trình kiểm duyệt xác định xem nội dung có hại có thể dẫn đến các vấn đề sức khỏe tâm thần hay không. Công ty cũng hứa sẽ cập nhật phần mềm kiểm duyệt nội dung của mình. Tắt âm thanh theo mặc định và hiển thị video đen trắng.
Với việc Facebook tiếp tục là diễn đàn mà nhiều người trên thế giới giao tiếp với bạn bè và gia đình, khả năng phản ứng với nội dung giả mạo và thù địch là quan trọng để giữ an toàn cho nền tảng của họ.
Công cụ AI cho phép quản trị viên phát hiện nhanh các cuộc tranh cãi sắp nổ ra trong nhóm và hạn chế thời gian bình luận của các thành viên
Trong nhiều năm, các nền tảng như Facebook và Twitter ngày càng dựa vào AI. Để xác định phần lớn những gì người dùng trực tuyến chia sẻ bằng các công cụ. Phát hiện câu chữ có tính chất gây thù hận trên dòng thời gian. Điều này có thể hỗ trợ các nhà quản lý hội nhóm dễ dàng hơn trong việc kiểm duyệt; cũng như can thiệp kịp thời để tránh các xung đột không đáng có.
Tuy nhiên, đôi lúc AI vẫn khá lúng túng trong việc hiểu được sự tinh tế; của ngôn ngữ trong những ngữ cảnh khác nhau. Hơn nữa, hệ thống kiểm duyệt bí mật của AI. Cũng có thể khiến người dùng cảm thấy bị tổn thương. Phát ngôn viên của Facebook cho biết AI của công ty sẽ sử dụng một số tín hiệu. Từ các cuộc trò chuyện để xác định thời điểm gửi cảnh báo xung đột. Bao gồm thời gian trả lời bình luận và lượng bình luận trên một bài đăng. Ông cho biết một số quản trị viên đã thiết lập cảnh báo từ khóa; có thể phát hiện các chủ đề có thể dẫn đến tranh luận.
Quản trị viên nhận được cảnh báo xung đột từ công nghệ AI của FaceBook
Nếu một quản trị viên nhận được cảnh báo xung đột, họ có thể thực hiện các hành động. Làm chậm các cuộc trò chuyện với hi vọng làm dịu người dùng. Những động thái này có thể bao gồm hạn chế tạm thời tần suất đăng bài bình luận của một số thành viên trong nhóm; và xác định tốc độ nhận xét có thể được thực hiện trên các bài đăng cá nhân.
Trong một cuộc tranh cãi giả mà Facebook thực hiện, một người dùng đã nóng giận với những từ ngữ tranh cãi khó nghe. Như “những con chó của người khác”, “im đi, thật ngu ngốc”, “nếu điều vô nghĩa này xảy ra; tôi sẽ rời khỏi nhóm”… Một thông báo sẽ được gửi đến quản trị viên với thanh tiêu đề: “Cảnh báo kiểm duyệt”. Bên dưới là những từ khoá có liên quan đến vấn đề đang được tranh cãi. Tiếp đến là một khung cho phép quản trị viên cài đặt thời gian hạn chế bình luận với các tài khoản. Ngoài ra công cụ này còn cho phép hạn chế bình luận của một thành viên theo các chủ đề trong khoảng thời gian tính bằng ngày hoặc thậm chí nhiều năm.ÂI
Công cụ này vẫn đang trong giai đoạn thử nghiệm, Facebook chưa tuyên bố thời gian phát hành chính thức cho người dùng toàn cầu.
