Mối nguy hiểm ở Amazon: Hãy cẩn thận với những cuốn sách do AI tạo ra đưa ra những lời khuyên chết người

Sự gia tăng các sách hướng dẫn do trí tuệ nhân tạo (AI) tạo ra có sẵn để mua trên Amazon đã thu hút sự chú ý của các chuyên gia đang cảnh báo về những hậu quả nghiêm trọng tiềm ẩn. Với việc cung cấp từ sách dạy nấu ăn cho đến sách hướng dẫn du lịch, các tác giả con người đang đưa ra lời kêu gọi rõ ràng tới độc giả, nhấn mạnh những nguy cơ tiềm ẩn của việc phụ thuộc vĩnh viễn vào AI.

Hiệp hội nấm học New York đã đưa raX (trước đây gọi là Twitter) để đưa ra lời cảnh báo vang dội về những mối nguy hiểm gắn liền với những cuốn sách tìm kiếm đáng ngờ bị nghi ngờ là kết quả của các công cụ AI sáng tạo, chẳng hạn như ChatGPT.

Chủ tịch Hiệp hội nấm học New York Sigrid Jakob đã chỉ ra rằng: “Có hàng trăm loại nấm độc ở Bắc Mỹ và một số loại gây chết người”. Chúng có thể trông giống với các loài ăn được phổ biến. Một mô tả kém trong sách có thể khiến người ta lầm tưởng rằng họ ăn phải một loại nấm độc.”

Một cuộc khám phá trên Amazon đã làm sáng tỏ rất nhiều đầu sách đáng ngờ, bao gồm các ví dụ như "Sách hướng dẫn thực tế về nấm tối thượng của miền Tây Nam" và "Sách dạy nấu ăn nấm rừng cho người mới bắt đầu" [sic] - cả hai đều đã bị xóa.

Những tựa sách cụ thể này, rất có thể được viết bởi những nhân vật không tồn tại, nhấn mạnhsự xuất hiện của nội dung do AI tạo ra . Những cái gọi là ấn phẩm này tuân theo những khuôn mẫu quen thuộc, bắt đầu bằng những giai thoại hư cấu ngắn gọn về những người đam mê nghiệp dư cho là không xác thực.

Bản thân việc kiểm tra sâu nội dung cho thấy một mê cung chứa nhiều thông tin không chính xác và bố cục văn bản bắt chước các mẫu đặc biệt thường được cho là văn bản do AI tạo ra, trái ngược với việc xuất phát từ kiến ​​thức chuyên môn về nấm thực sự.

Tuy nhiên, điều đáng lo ngại là những cuốn sách này được dành cho những cá nhân mạo hiểm tìm kiếm thức ăn với kinh nghiệm hạn chế, khiến họ không thể phân biệt đượccố vấn điều khiển AI không đáng tin cậy từ những nguồn thông tin thực tế và đáng tin cậy.

Sigrid nói thêm rằng, “Sách do con người viết có thể mất nhiều năm để nghiên cứu và viết”.

Nó có thể nguy hiểm đến mức nào?

Không thể phóng đại tầm quan trọng của việc thực hiện sự thận trọng khi chúng ta phụ thuộc vào AI, vì nó có khả năng phổ biến thông tin sai lệch hoặc thậm chí đưa ra lời khuyên nguy hiểm khi không có sự giám sát thận trọng.Những phát hiện gần đây nhấn mạnh một xu hướng đáng lo ngại: Mọi người có xu hướng chấp nhận những thông tin sai lệch do AI truyền bá hơn là những thông tin bịa đặt có nguồn gốc từ con người.

Hiện tượng này vượt ra ngoài lĩnh vực hướng dẫn tìm kiếm thức ăn đáng nghi vấn. Gần đây đã xuất hiện một trường hợp liên quan đến một ứng dụng AI đưa ra các khuyến nghị về công thức nấu ăn nguy hiểm cho người dùng.

Tại New Zealand, chuỗi siêu thị Pak ‘n’ Save đã giới thiệu "Savey Meal-Bot" một ứng dụng lập kế hoạch bữa ăn được hỗ trợ bởi AI được thiết kế để đề xuất các công thức nấu ăn phù hợp với nhu cầu của người dùng. thành phần đầu vào. Tuy nhiên, như một trò đùa, người dùng đã cho ứng dụng này sử dụng những đồ gia dụng nguy hiểm, chỉ để nhận được đề xuất về cách pha chế độc hại như "Hỗn hợp nước thơm" và "Hạnh phúc của Metanol."

Mặc dù ứng dụng đã trải qua các sửa đổi để ngăn chặn các đề xuất không an toàn, nhưng nó nhấn mạnh những mối nguy hiểm cố hữu xuất hiện khi AI bị khai thác mà không được triển khai có trách nhiệm.

Nói như vậy, chúng ta sẽ không mất cảnh giác trước lỗ hổng thông tin sai lệch do AI tạo ra. Các mô hình ngôn ngữ như mô hình ngôn ngữ lớn (LLM) được thiết kế để xây dựng nội dung dựa trên các kết quả mạch lạc và có thể xảy ra nhất, một kỳ tích đạt được nhờ đào tạo chuyên sâu trên các tập dữ liệu khổng lồ.

Năng lực này có thể khiến con người tin tưởng vào AI, vì kết quả đầu ra của nó phản ánh chặt chẽ những kết quả mà chúng ta cho là thuận lợi. Mặc dù các thuật toán đổi mới chắc chắn có thể nâng cao khả năng của con người trên nhiều lĩnh vực khác nhau, việc giao phó khả năng sáng suốt của chúng ta chỉ cho máy móc chứng tỏ một đề xuất bấp bênh đối với xã hội nói chung.

Sống trong thời đại công nghệ không ngừng phát triển hiện nay, chúng ta cần nhận thức được những cạm bẫy tiềm ẩn phát sinh khi chúng ta giao phó vai trò ra quyết định cho AI.