OpenAI đang ngừng cung cấp trợ lý giọng nói AI sau những chỉ trích và giám sát gần đây về việc nó giống giọng nói của Scarlett Johansson một cách đáng kinh ngạc.
Công ty tuyên bố:
“Chúng tôi đã nhận được câu hỏi về cách chúng tôi chọn giọng nói trong ChatGPT, đặc biệt là Sky. Chúng tôi đang nỗ lực tạm dừng việc sử dụng Sky trong khi giải quyết chúng."
OpenAI khẳng định tiếng nói của AI không nên bắt chước người nổi tiếng
Tuần trước, OpenAI đã ra mắt GPT-4o, một mẫu AI mới có nhiều giọng nói âm thanh khác nhau cho ChatGPT.
Công ty đã thử giọng hơn 400 diễn viên lồng tiếng, cuối cùng chọn ra năm người để tạo ra giọng nói có tên Breeze, Cove, Ember, Juniper và Sky.
Để bảo vệ quyền riêng tư, danh tính của các diễn viên lồng tiếng không được tiết lộ.
Người dùng mạng xã hội nhanh chóng nhận thấy rằng 'Sky' giọng gần giống giọng của Scarlett Johansson trong phim.
trong mộtbài viết trên blog vào thứ Hai, OpenAI tuyên bố rằng giọng nói của AI “không nên cố tình bắt chước giọng nói đặc biệt của người nổi tiếng”.
Công ty giải thích:
“Giọng của Sky không phải là bắt chước của Scarlett Johansson mà thuộc về một nữ diễn viên chuyên nghiệp khác sử dụng giọng nói tự nhiên của chính cô ấy.”
Tuyên bố này đã gây được tiếng vang với những bình luận trước đó của OpenAI CTO Mira Murati, người đã làm rõ rằng Sky không được thiết kế có chủ ý để bắt chước Johansson.
Joanne Jang, người đứng đầu hành vi người mẫu của công ty, đã thêm vào hôm thứ Hai rằng OpenAI đang "trò chuyện với nhóm của ScarJo". để giải quyết "sự nhầm lẫn."
Những người nghe thấy nó trong lúc công bố đã chế nhạo nó
OpenAI nhằm mục đích tạo ra những tiếng nói "dễ tiếp cận và đáng tin cậy"; với "giọng điệu phong phú"; đó là "tự nhiên và dễ nghe."
Giọng nói Sky cho ChatGPT vẫn chưa được phát hành rộng rãi, nhưng các đoạn clip từ thông báo sản phẩm và đoạn giới thiệu về các nhân viên OpenAI sử dụng nó đã lan truyền trực tuyến vào tuần trước.
Một số nhà phê bình cho rằng giọng của Sky có lẽ quá dễ nghe.
Cuộc tranh cãi thậm chí còn truyền cảm hứng cho một phân đoạn trên The Daily Show, nơi phóng viên cấp cao Desi Lydic đã mô tả Sky là "giọng em bé robot sừng sỏ".
Lydic nói:
“Cái này rõ ràng được lập trình để cho các anh chàng ăn… cái tôi. Bạn thực sự có thể nói rằng một người đàn ông đã tạo ra công nghệ này.”
Johansson kể chi tiết sự từ chối của cô ấy
Scarlett Johansson bày tỏ sự "sốc, tức giận và hoài nghi" của mình. về cách giọng nói demo của Sky "giống giọng tôi một cách kỳ lạ đến nỗi ngay cả những người bạn thân nhất của tôi và các cơ quan báo chí cũng không thể nhận ra sự khác biệt" trong một tuyên bố dài dòng.
Nữ diễn viên, nổi tiếng với việc lồng tiếng cho robot AI trong bộ phim lãng mạn khoa học viễn tưởng Her, tiết lộ rằng người sáng lập OpenAI, Sam Altman đã tiếp cận cô 8 tháng trước, đề nghị cô cho một trong những trợ lý của ChatGPT mượn giọng nói của mình.
Cô chia sẻ:
“Anh ấy nói với tôi rằng anh ấy cảm thấy rằng bằng cách lên tiếng cho hệ thống, tôi có thể thu hẹp khoảng cách giữa các công ty công nghệ và nhà sáng tạo, đồng thời giúp người tiêu dùng cảm thấy thoải mái với sự thay đổi địa chấn liên quan đến con người và AI. Anh ấy nói anh ấy cảm thấy giọng nói của tôi sẽ an ủi mọi người.”
Sau khi xem xét lời đề nghị, cô đã từ chối.
Tuy nhiên, khoảng chín ngày trước, Altman lại liên hệ và yêu cầu cô xem xét lại.
Trước khi cô kịp phản hồi, OpenAI đã phát hành bản demo GPT-4o, trong đó có giọng nói của Sky.
Johansson nói rằng "bạn bè, gia đình và công chúng" của cô; lập tức nhận ra sự giống nhau.
Cô ấy đề cập thêm rằng Altman dường như thừa nhận sự giống nhau bằng cách tweet từ "cô ấy"; trong quá trình triển khai bản cập nhật, cho thấy sự giống nhau này là có chủ ý.
Trong tuyên bố của mình, Johansson tiết lộ rằng cô đã bị "buộc phải thuê cố vấn pháp lý"; người sau đó đã gửi hai bức thư cho ông Altman và OpenAI.
Các bức thư nêu rõ hành động của công ty và yêu cầu giải thích chi tiết về quy trình được sử dụng để tạo ra 'Sky' tiếng nói.
Cô cho rằng quyết định loại bỏ Sky trực tiếp của công ty là do áp lực pháp lý của cô.
Johansson, người từng hai lần được đề cử giải Oscar, cũng nhấn mạnh những lo ngại lớn hơn về thông tin sai lệch và việc thiếu các biện pháp bảo vệ pháp lý và quy định xung quanh trí tuệ nhân tạo (AI).
Cô lặp lại:
“Trong thời điểm tất cả chúng ta đang vật lộn với deepfake và việc bảo vệ chân dung, công việc, danh tính của chính mình, tôi tin rằng đây là những câu hỏi cần được làm rõ tuyệt đối. Tôi mong muốn có giải pháp dưới hình thức minh bạch và thông qua luật pháp phù hợp để giúp đảm bảo rằng các quyền cá nhân được bảo vệ.”
Phản đối việc khai thác AI
Vào tháng 11 năm ngoái, Johansson đã đưa ra lời đe dọa pháp lý đối với một công ty bị cáo buộc sử dụng hình ảnh của cô trong một quảng cáo.
Video được cho là có những hình ảnh do Lisa AI tạo ra, mặc dù công ty đã bác bỏ những tuyên bố này.
Gần đây hơn, mộtbản kiến nghị của tổ chức phi lợi nhuận Artists Rights Alliance đã thu hút được chữ ký của 200 nghệ sĩ.
Bản kiến nghị kêu gọi các công ty AI hạn chế khai thác nghệ sĩ; giọng nói và sự giống nhau.
Chữ ký bao gồm những tên tuổi lớn như Billie Eilish, Aerosmith, Camila Cabello, Katy Perry, Kate Hudson, Jon Bon Jovi, Imagine Dragons, Nicki Minaj, Sheryl Crow, v.v.
Việc sử dụng trái phép AI có thể dẫn đến thiệt hại thảm khốc
Trong bối cảnh lo ngại ngày càng tăng về tác động tiềm tàng của AI đối với các ngành công nghiệp khác nhau, bao gồm cả Hollywood, phản ứng của Johansson và lời giải thích của OpenAI đã làm sáng tỏ những mối lo ngại rộng lớn hơn.
Những tháng gần đây đã chứng kiến các công ty như OpenAI phải đối mặt với những thách thức pháp lý từ những người sáng tạo nội dung, nghệ sĩ và các tổ chức truyền thông, những người cáo buộc việc sử dụng trái phép tài liệu của họ để đào tạo các mô hình AI.
Vấn đề này đã trở thành tâm điểm của SAG-AFTRA, đặc biệt là trong các cuộc đình công gần đây của Hollywood.
Hợp đồng kết quả giữa các diễn viên công đoàn và hãng phim bao gồm các điều khoản nhằm hạn chế việc sử dụng AI trong phim ảnh và truyền hình, từ lồng tiếng đến quét toàn thân.
Việc sử dụng trái phép AI, đặc biệt là không có sự đồng ý của người sáng tạo, nghệ sĩ, tác giả và công ty truyền thông, gây ra những lo ngại đáng kể về mặt đạo đức và pháp lý.
Khi các mô hình AI được đào tạo bằng cách sử dụng tài liệu có bản quyền mà không được phép, điều đó sẽ đặt ra vấn đề vi phạm quyền sở hữu trí tuệ.
Điều này không chỉ làm suy yếu quyền của người sáng tạo nội dung mà còn phá vỡ các khuôn khổ đã được thiết lập để đền bù cho công việc của họ.
Ngoài ra, việc sử dụng AI trái phép có thể dẫn đến việc trình bày sai hoặc thao túng nội dung, có khả năng dẫn đến thiệt hại về danh tiếng hoặc thông tin sai lệch.
Hơn nữa, nó làm xói mòn niềm tin giữa các nhà phát triển AI và cộng đồng sáng tạo rộng lớn hơn, cản trở sự hợp tác và đổi mới trong lĩnh vực này.
Nhìn chung, việc lạm dụng AI mà không có sự đồng ý không chỉ vi phạm các nguyên tắc pháp lý mà còn làm suy yếu tính toàn vẹn và công bằng của các ngành công nghiệp sáng tạo, nêu bật sự cần thiết phải có các quy định mạnh mẽ và hướng dẫn đạo đức để quản lý việc phát triển và triển khai AI.
JinseFinance
Miyuki
Hui Xin
Beincrypto