OpenAI bị chỉ trích vì rò rỉ AI Sora Text-to-Video gây lo ngại trong ngành công nghiệp sáng tạo

Rò rỉ tiết lộ công cụ tạo video Sora gây tranh cãi của OpenAI

Vụ rò rỉ gần đây về công cụ AI tạo video Sora của OpenAI đã gây ra tranh cãi và gióng lên hồi chuông cảnh báo trong các ngành công nghiệp sáng tạo.

Công cụ cho phép người dùng chuyển đổi văn bản thành video này đã vô tình được các nghệ sĩ thử nghiệm mô hình mới cung cấp.

Sự cố này đã gây ra một cuộc tranh luận gay gắt trong ngành công nghiệp sáng tạo, đặc biệt là giữa các nghệ sĩ thị giác, nhà thiết kế và nhà làm phim vì lo ngại Sora có thể làm gián đoạn sinh kế của họ.

Rò rỉ hình ảnh khuôn mặt ôm khiến các nghệ sĩ tức giận

Vào ngày 26 tháng 11 năm 2024, một dự án liên kết với API của OpenAI dành cho Sora đã xuất hiện trên Hugging Face, một nền tảng thường được các nhà phát triển sử dụng để chia sẻ và thử nghiệm các mô hình AI.

Điều này vô tình giúp công cụ tạo video được nhiều người biết đến hơn.

Chỉ trong vòng vài giờ, các nghệ sĩ đã bắt đầu thử nghiệm với AI, tạo video và khám phá khả năng của nó.

Nhưng sự phấn khích nhanh chóng chuyển thành thất vọng khi một số người thử nghiệm nêu lên mối lo ngại về việc không được đền bù cho những nỗ lực của họ.

Một lá thư đã được công bố trên nền tảng này, cáo buộc OpenAI đã khai thác "hàng trăm nghệ sĩ cung cấp lao động không công" thông qua việc kiểm tra lỗi và phản hồi về mô hình.

Một trong những khía cạnh nổi bật của bức thư là việc sử dụng thuật ngữ “redteaming” — một hoạt động thường được sử dụng để thử nghiệm các công nghệ mới bằng cách đưa chúng vào các tình huống thực tế để xác định lỗi.

Các nghệ sĩ cho rằng sự tham gia của họ vào quá trình phát triển Sora được coi là cơ hội để họ sáng tạo, nhưng thực chất lại giống một chiêu trò quảng cáo hơn.

Bức thư cũng nêu rõ rằng:

“Chúng tôi không phản đối việc sử dụng công nghệ AI như một công cụ cho nghệ thuật (nếu chúng tôi phản đối, có lẽ chúng tôi đã không được mời tham gia chương trình này). Điều chúng tôi không đồng ý là cách chương trình nghệ sĩ này được triển khai và cách công cụ này đang định hình trước khi có thể phát hành công khai. Chúng tôi chia sẻ điều này với thế giới với hy vọng rằng OpenAl sẽ trở nên cởi mở hơn, thân thiện hơn với nghệ sĩ và hỗ trợ nghệ thuật ngoài các chiêu trò PR.”

Những người ký tên, tự nhận là "PR Puppets", tiếp tục cáo buộc OpenAI về hành vi "tẩy trắng nghệ thuật", một thuật ngữ dùng để mô tả quá trình sử dụng nghệ thuật để khiến một công ty có vẻ có trách nhiệm hơn với xã hội mà không có sự thay đổi đáng kể.

Quyền truy cập hạn chế và mức bồi thường tối thiểu cho người kiểm tra

Quyền truy cập vào Sora đã được kiểm soát chặt chẽ kể từ khi ra mắt vào đầu năm nay.

OpenAI chỉ cấp quyền truy cập cho một nhóm nhỏ các nghệ sĩ, nhà thiết kế và nhà làm phim được chọn để thu thập phản hồi về tác động tiềm năng của nó.

Trong khi công ty khẳng định việc tham gia là tự nguyện, nhiều nghệ sĩ cảm thấy các điều khoản là không công bằng.

Những người thử nghiệm ban đầu báo cáo rằng khoản bồi thường cho sự tham gia của họ là rất ít, một số chỉ được trao cơ hội cạnh tranh để có cơ hội công chiếu những bộ phim được tạo ra bằng Sora.

Nhóm nghệ sĩ bày tỏ sự bất bình về những gì họ cho là nỗ lực của OpenAI nhằm sử dụng tác phẩm sáng tạo của họ như một công cụ để tự quảng bá, thay vì phát triển mô hình AI thực sự.

OpenAI Đối Mặt Với ​​Phản Ứng Dữ Dội Ngày Càng Tăng Từ Cộng Đồng Sáng Tạo

Sự cố này đã gây nên mối lo ngại lớn hơn trong cộng đồng sáng tạo.

Hơn 11.000 chuyên gia — bao gồm những nhân vật nổi tiếng như diễn viên Julianne Moore và Kevin Bacon, cùng với các nhạc sĩ như Thom Yorke của Radiohead — đã ký một bức thư ngỏ vào tháng 10 năm 2024 lên án AI tạo ra là "mối đe dọa lớn và bất công" đối với sinh kế của họ.

Áp lực ngày càng tăng đối với OpenAI còn lớn hơn khi có báo cáo cho rằng Sora cuối cùng có thể thay thế con người trong các lĩnh vực như sản xuất phim, làm gia tăng thêm nỗi lo về tình trạng mất việc làm trên diện rộng.

Trong khi OpenAI đã cố gắng trấn an ngành sáng tạo bằng cách hợp tác với các giám đốc điều hành Hollywood, công ty vẫn chưa thể hoàn toàn dập tắt nỗi lo rằng nội dung do AI tạo ra sẽ khiến những người sáng tạo trở nên lỗi thời.

Tổng giám đốc điều hành Sam Altman và nhóm của ông đã quảng bá Sora tới ngành giải trí, nhấn mạnh tiềm năng của nó như một công cụ dành cho các chuyên gia sáng tạo.

Tuy nhiên, vụ việc bị rò rỉ và phản ứng dữ dội sau đó cho thấy các nghệ sĩ không tin vào lời đảm bảo của công ty.

OpenAI tạm dừng Early Access giữa những lời chỉ trích

Sau vụ rò rỉ và sự phản đối ngày càng tăng của các nghệ sĩ, OpenAI đã nhanh chóng dừng quyền truy cập vào Sora vào ngày 26 tháng 11 năm 2024.

Một thông báo được đăng trên trang Hugging Face đã xác nhận rằng quyền truy cập sớm đã bị đình chỉ, với lý do công ty cần giải quyết những lo ngại về tính an toàn của công cụ này và những rủi ro tiềm ẩn rộng hơn của nó.

Công ty tuyên bố rằng Sora vẫn đang ở "chế độ xem trước" và đang nỗ lực "cân bằng giữa tính sáng tạo với các biện pháp an toàn mạnh mẽ để sử dụng rộng rãi hơn".

Trong một tuyên bố, OpenAI nhấn mạnh rằng việc tham gia vào quá trình thử nghiệm là tự nguyện và không có nghĩa vụ phải cung cấp phản hồi.

Các nghệ sĩ tham gia thử nghiệm cũng được yêu cầu giữ bí mật về các chi tiết của mô hình trong quá trình phát triển.

Mặc dù vậy, việc thiếu sự đền bù thỏa đáng và minh bạch liên quan đến chương trình đã khiến nhiều người cảm thấy bị bóc lột.

Bản phát hành của Sora bị trì hoãn khi OpenAI nỗ lực giải quyết các mối lo ngại về an toàn

Trong khi cuộc tranh cãi về Sora vẫn tiếp diễn, OpenAI vẫn tập trung vào việc cải thiện mô hình.

Kevin Weil, giám đốc sản phẩm của OpenAI, đã giải thích trong một cuộc thảo luận gần đây trên Reddit rằng công ty đã trì hoãn việc phát hành rộng rãi Sora để hoàn thiện mô hình, đặc biệt là liên quan đến các vấn đề về an toàn và khả năng mở rộng sức mạnh tính toán của nó.

Những nỗ lực cải thiện Sora của công ty diễn ra trong bối cảnh các ngành công nghiệp sáng tạo ngày càng cảnh giác hơn với mối đe dọa mà AI gây ra cho việc làm, với nhiều người lo ngại rằng các công cụ tạo ra như Sora cuối cùng có thể thay thế nhân công trong ngành công nghiệp điện ảnh và nhiều ngành khác.

Sự căng thẳng giữa OpenAI và cộng đồng nghệ thuật khó có thể sớm tan biến, khi nhiều người sáng tạo cảm thấy rằng tác phẩm của họ chỉ được sử dụng như một công cụ thử nghiệm cho một công cụ có thể thay thế họ.

Hiện tại, OpenAI vẫn đang tiếp tục phát triển Sora với mục tiêu phát hành trên diện rộng hơn, nhưng vẫn chưa biết liệu nó có cân bằng được lợi ích của nghệ sĩ và ngành công nghiệp nói chung hay không.