Facebook và Instagram sắp trở nên nhân tạo hơn nhiều với hàng triệu nhân vật AI để tăng cường sự tương tác

Facebook và Instagram sẽ tràn ngập các nhân vật do AI tạo ra

Meta vừa công bố một kế hoạch đầy tham vọng nhằm giới thiệu hàng triệu nhân vật do AI tạo ra để xuất hiện trên nền tảng Facebook và Instagram vào cuối năm 2025.

Sự thay đổi này hướng tới các nhân vật được hỗ trợ bởi AI nhằm mục đích tăng cường sự tương tác của người dùng, định hình lại cách mọi người tương tác trên mạng xã hội.

Thông qua AI Studio, người dùng sẽ có thể tạo và tương tác với các nhân vật ảo, xóa nhòa ranh giới giữa tương tác giữa con người và nhân tạo.

Tầm nhìn của Meta là những nhân vật này sẽ có tiểu sử, ảnh đại diện và khả năng tạo và chia sẻ nội dung giống như bất kỳ người dùng nào.

Theo Phó chủ tịch sản phẩm của Meta về AI tạo sinh, Connor Hayes,

“Chúng tôi kỳ vọng các AI này sẽ thực sự tồn tại trên nền tảng của chúng tôi theo thời gian, tương tự như cách các tài khoản hoạt động.”

Nhân vật do AI tạo ra đang gia tăng

Việc giới thiệu các nhân vật do AI tạo ra không chỉ là một khái niệm mang tính tương lai mà còn là hiện thực đang phát triển nhanh chóng.

Meta đã chứng kiến ​​thành công của AI Studio, được ra mắt vào năm 2024 và cho phép người dùng Instagram ở Hoa Kỳ tạo ra những người bạn đồng hành ảo.

Hàng trăm nghìn người dùng đã đổ xô đến nền tảng này, tạo ra bạn trai, bạn gái AI và nhiều hơn thế nữa.

Khi mạng xã hội ngày càng ưu tiên các tương tác do AI điều khiển, động thái của Meta có thể báo hiệu sự khởi đầu của một sự chuyển đổi lớn về cách mọi người trải nghiệm các kết nối trực tuyến.

Sự thay đổi này phản ánh xu hướng chung của ngành.

Các ứng dụng như Replika,Nhân vật.AI và Friend đã chứng minh rằng những người bạn đồng hành AI có sức hấp dẫn lớn.

Người dùng đổ xô đến các nền tảng này để giao lưu với những người ảo và tham vọng của Meta là tích hợp trải nghiệm này vào hệ sinh thái Facebook và Instagram.

Tuy nhiên, sự phát triển này đặt ra những câu hỏi quan trọng về tương lai của mạng xã hội.

Chuyện gì có thể xảy ra sai?

Mặc dù có khả năng tăng cường sự tương tác, việc chuyển sang hồ sơ do AI tạo ra vẫn đặt ra những rủi ro đáng kể.

Mối quan ngại chính là khả năng xuất hiện thông tin sai lệch và nội dung có hại.

Các tài khoản do AI điều khiển, đặc biệt là nếu không được quản lý đầy đủ, có thể góp phần lan truyền những thông tin sai lệch.

Kế hoạch của Meta cho phép những nhân vật AI này chia sẻ nội dung có thể khuếch đại thông tin sai lệch, với khả năng bot có thể tạo và phát tán nội dung mà không có sự giám sát rõ ràng.

Ngoài ra, Meta phải giải quyết các rủi ro về an toàn liên quan đến những nhân vật này.

Như đã thấy với các nền tảng khác nhưNhân vật.AI , các chatbot AI không được quản lý đã dẫn đến nội dung không phù hợp, đặc biệt liên quan đến người dùng dễ bị tổn thương, chẳng hạn như trẻ vị thành niên.

Vấn đề này trở nên trầm trọng hơn do khó khăn trong việc kiểm soát hiệu quả các tương tác AI, đặc biệt là khi bot phá vỡ rào cản và khiến người dùng tiếp xúc với nội dung có hại.

Becky Owen, cựu giám đốc nhóm đổi mới sáng tạo của Meta, nêu bật những lo ngại về mặt đạo đức xung quanh các nhân vật do AI tạo ra, tuyên bố rằng,

“Không giống như những người sáng tạo là con người, những nhân vật AI này không có trải nghiệm sống, cảm xúc hoặc khả năng liên hệ tương tự.”

Việc thiếu bối cảnh thực tế trong nội dung do AI điều khiển có thể làm giảm tính xác thực của các tương tác trên nền tảng, làm giảm giá trị của nội dung do con người tạo ra.

Tác động của AI đến sức khỏe tâm thần của bạn đồng hành

Tác động đến sức khỏe tâm thần cũng là một mối quan tâm quan trọng khác.

Nghiên cứu đã chỉ ra rằng việc tương tác kéo dài với bạn đồng hành AI có thể gây ra những tác động bất lợi cho những cá nhân dễ bị tổn thương.

Sự xuất hiện của các rối loạn như chứng erotomania, liên quan đến sự ám ảnh với các nhân vật ảo, đã làm dấy lên hồi chuông cảnh báo trong giới chuyên gia.

Hơn nữa, việc một số người dùng không thể phân biệt được giữa AI và người thật có thể làm trầm trọng thêm cảm giác cô đơn và bối rối.

Trong một số trường hợp đáng tiếc, có báo cáo về người dùng, đặc biệt là trẻ vị thành niên, đã trải qua tình trạng đau khổ về mặt cảm xúc nghiêm trọng sau khi phát triển mối quan hệ lâu dài với bạn đồng hành AI.

Trong khi các cuộc điều tra về vai trò của chatbot trong những sự cố này vẫn đang được tiến hành, hậu quả lâu dài của tương tác AI đối với cả trẻ em và người lớn đang là vấn đề đáng quan tâm ngày càng tăng.

AI có thể thay đổi bản chất của cộng đồng trực tuyến

Quyết định của Meta về việc đưa các nhân vật AI vào Facebook và Instagram có thể biến các nền tảng này thành thứ gì đó gần giống với Character.AI, nơi người dùng tương tác với các nhân vật hư cấu thay vì người thật.

Mặc dù điều này có thể tạo ra những cách hoàn toàn mới để tương tác trực tuyến, nhưng nó cũng có nguy cơ chuyển phương tiện truyền thông xã hội từ không gian kết nối thực sự giữa con người sang bối cảnh do nội dung do AI tạo ra thống trị.

Ý tưởng khai thác những nhân vật hư cấu không phải là hoàn toàn mới.

Các cộng đồng trực tuyến từ lâu đã được hình thành bởi những cá nhân xây dựng và thể hiện tính cách.

Tuy nhiên, nỗ lực của Meta trong việc kết hợp các hồ sơ do AI tạo ra trên quy mô lớn đã tạo ra một cấp độ nhân tạo mới.

Đối với người dùng, điều này có nghĩa là tương tác với các nhân vật ngày càng thực tế nhưng cuối cùng là hư cấu — một trải nghiệm hoàn toàn khác xa với tính xác thực từng gắn liền với mạng xã hội.

Hồ sơ AI hay nhà sáng tạo thực sự?

Về mặt kinh doanh, chiến lược của Meta có thể có ý nghĩa sâu sắc đối với những người sáng tạo nội dung.

Những người chỉ trích cho rằng sự gia tăng nội dung do AI tạo ra có thể làm xói mòn giá trị của những người sáng tạo.

Với khả năng tạo ra nội dung ở quy mô lớn của AI, người ta thực sự lo ngại rằng sự sáng tạo đích thực do con người thúc đẩy có thể bị lu mờ.

Theo COAI, nội dung do AI tạo ra có nguy cơ làm giảm tác động của tác phẩm do con người sáng tạo.

Họ lập luận:

“Sự gia tăng của nội dung AI chất lượng thấp có khả năng làm suy yếu những nỗ lực sáng tạo hợp pháp.”

Trong khi động thái của Meta có thể được coi là cách thúc đẩy nhiều sự tương tác hơn trên nền tảng của mình, nó cũng đe dọa phá vỡ hệ sinh thái sáng tạo vốn thường hỗ trợ người dùng thực.

Thế giới phân chia của AI và thực tế

Khi cuộc tranh luận xung quanh các nhân vật do AI tạo ra ngày càng gay gắt, một số chuyên gia lo ngại về sự chia rẽ tiềm ẩn giữa những người tương tác với AI và những người tham gia vào thế giới thực.

Marc Andreessen, một nhà đầu tư mạo hiểm, đã giới thiệu khái niệm “đặc quyền thực tế”, nhấn mạnh sự phân chia giữa những cá nhân trải nghiệm sự phong phú của thế giới vật chất và những người chủ yếu sống thông qua tương tác trực tuyến.

Sự phụ thuộc ngày càng tăng vào nội dung và kết nối do AI thúc đẩy có thể làm trầm trọng thêm bất bình đẳng xã hội.

Những người có khả năng tiếp cận hạn chế với trải nghiệm thực tế có thể thấy mình ngày càng phụ thuộc vào không gian ảo, nơi AI có thể đóng vai trò trung tâm.

Trong trường hợp như vậy, mạng xã hội có thể trở thành nơi mà hư cấu và thực tế đan xen, dẫn đến sự tách biệt hơn nữa khỏi thế giới vật chất.