BlueSky chứng kiến ​​sự gia tăng người dùng mới và nội dung có hại

BlueSky, nền tảng truyền thông xã hội đang phát triển nhanh chóng , đã báo cáo sự gia tăng đáng kể nội dung có hại cùng với sự gia tăng số lượng người dùng mới.

Để đáp lại, nền tảng này đã công bố một nỗ lực kiểm duyệt rộng rãi nhằm mục đích xóa bỏhình ảnh không phù hợp từ mạng lưới của nó.

Tài khoản An toàn của BlueSky đã đăng:

“Chúng tôi đang chứng kiến ​​một lượng lớn người dùng đổ xô đến và cùng với đó là sự gia tăng có thể dự đoán được về nội dung có hại được đăng lên mạng. Do đó, đối với một số lĩnh vực chính sách có mức độ nghiêm trọng rất cao như an toàn cho trẻ em, gần đây chúng tôi đã đưa ra một số lựa chọn kiểm duyệt ngắn hạn để ưu tiên việc thu hồi hơn là độ chính xác.”

Người dùng đã từ bỏ X cho BlueSky

Sau chiến thắng gần đây của Tổng thống đắc cử Donald Trump, hàng triệu người dùng đã từ bỏX (trước đây gọi là Twitter) , đang tìm kiếm nền tảng thay thế.

Cuộc di cư này đã dẫn đến sự tăng trưởng đáng kể cho các đối thủ cạnh tranh, với Meta's Threads đạt được 35 triệu người dùng mới vàBlueSky, nền tảng phi tập trung được thành lập bởi cựu CEO của Twitter, Jack Dorsey, thu hút 20 triệu người chỉ trong ba tuần.

Sự gia tăng này đã được thêm vào hơnmột triệu người Brazil đã tham gia BlueSky sau khi tòa án Brazil cấm X vào tháng 9.

BlueSky chứng kiến ​​sự gia tăng đột biến vào tháng 10 sau khi chủ sở hữu X là Elon Musk tuyên bố rằng các tweet có thể được sử dụng để đào tạo Grok AI, qua đó thu hút thêm người dùng đến với nền tảng này.

BlueSky nỗ lực kiểm duyệt giữa các báo cáo về nội dung có hại

Trong bối cảnh tăng trưởng nhanh chóng, BlueSky đã phải đối mặt với sự gia tăng đáng lo ngại về nội dung có hại, bao gồm thư rác, lừa đảo và troll, cùng với sự gia tăng đáng báo độngtài liệu về lạm dụng tình dục trẻ em.

Theo trang công nghệ Platformer , nền tảng này đã xác nhận hai trường hợp có nội dung khiêu dâm dành cho trẻ em vào năm 2023, nhưng đến đầu tháng 12, con số này đã tăng lên tám.

BlueSky đã xác nhận:

“Trong 24 giờ qua, chúng tôi đã nhận được hơn 42.000 báo cáo (mức cao nhất mọi thời đại trong một ngày). Chúng tôi đang nhận được khoảng 3.000 báo cáo/giờ. Để đưa ra bối cảnh, trong cả năm 2023, chúng tôi đã nhận được 360.000 báo cáo.”

Đáp lại, BlueSky thừa nhận rằng những nỗ lực kiểm duyệt tích cực của họ có thể đã dẫn đến những trường hợp "thực thi quá mức", dẫn đến việc đình chỉ tài khoản một cách sai trái.

Một số tài khoản đã được khôi phục, trong khi những tài khoản khác vẫn đang được xem xét để kháng cáo.

Công ty bày tỏ:

“Chúng tôi đang mở rộng nhóm kiểm duyệt của mình khi chúng tôi phát triển để cải thiện cả tính kịp thời và tính chính xác của các hành động kiểm duyệt.”

Để giải quyết những thách thức này, BlueSky đã hợp tác với Thorn, một tổ chức phi lợi nhuận có trụ sở tại Los Angeles, vào tháng 1 để chống lạiNội dung giả mạo do AI tạo ra và các nội dung có hại khác.

Công nghệ Safer do AI điều khiển của Thorn, giúp phát hiện nội dung lạm dụng tình dục trẻ em (CSAM) trên nhiều nền tảng, đã được tích hợp vào hệ thống kiểm duyệt của BlueSky.

Công nghệ này có thể xác định không chỉnội dung rõ ràng mà còn là tài liệu dạng văn bản có thể chỉ ra mối đe dọa tiềm ẩn đối với trẻ em. X, cho phép nội dung dành cho người lớn, cũng đã áp dụng công nghệ của Thorn trong nỗ lực giảm CSAM trên nền tảng của mình.

Phó chủ tịch khoa học dữ liệu của Thorn, Rebecca Portnoff cho biết:

“Chúng tôi đã học được rất nhiều từ quá trình thử nghiệm beta. Mặc dù chúng tôi biết rằng lạm dụng tình dục trẻ em biểu hiện ở mọi loại nội dung, bao gồm cả văn bản, nhưng chúng tôi đã thấy rõ ràng trong quá trình thử nghiệm beta này rằng máy học/AI cho văn bản có thể có tác động thực tế ở quy mô lớn như thế nào.”

Ủy ban Châu Âu nhắm mục tiêu vào BlueSky vì vi phạm các quy định của EU

BlueSky, nền tảng truyền thông xã hội phát triển nhanh chóng đã thu hút được sự chú ý sau cuộc di cư hàng loạt khỏi X của Elon Musk , hiện đang bị Ủy ban Châu Âu giám sát chặt chẽ vì không tiết lộ các chi tiết hoạt động cần thiết.

Người phát ngôn của Ủy ban Thomas Regnier giải thích:

“Tất cả các nền tảng trong EU .  .  .  phải có một trang chuyên dụng trên trang web của họ, trong đó nêu rõ số lượng người dùng họ có trong EU và nơi họ được thành lập hợp pháp. Bluesky hiện không làm như vậy. Điều này không được tuân thủ.”

Sự vi phạm quy định của EU này xảy ra khi hàng nghìn người, bao gồm cả Chủ tịch Ủy ban Ursula von der Leyen, gần đây đã tham gia nền tảng này.

Sự trỗi dậy của BlueSky một phần được thúc đẩy bởi sự chứng thực của MuskTổng thống đắc cử Hoa Kỳ Donald Trump và quyết định nới lỏng chính sách kiểm duyệt nội dung của ông—những động thái dường như đã thu hút một số lượng lớn học giả, nhà báo và chính trị gia cánh tả đến với nền tảng này.

Ủy ban Châu Âu đã viết thư cho các quốc gia thành viên EU để điều tra sự hiện diện của nền tảng này trong khu vực, bao gồm cả nỗ lực xác định xem có văn phòng nào có trụ sở tại EU hay không.

Tuy nhiên, nó vẫn chưa liên lạc trực tiếpBlueSky.

Sự can thiệp này là một phần của xu hướng rộng hơn, khi các cơ quan quản lý tăng cường tập trung vào các hành vi vi phạm tiềm ẩn Đạo luật Dịch vụ Kỹ thuật số của EU, đặc biệt là khi Musk X đang bị điều tra vì không tuân thủ liên quan đến việc phát tán nội dung bất hợp pháp và thông tin sai lệch.

Mặc dù bầu trời xanh hiện không đáp ứng ngưỡng 45 triệu người dùng hàng tháng theo yêu cầu để được phân loại là "nền tảng trực tuyến rất lớn" theo quy định của EU, Ủy ban đã tuyên bố rằng nếu xác định được văn phòng đại diện, Ủy ban sẽ có hành động tiếp theo.