Công ty AI Anthropic phát triển mô hình ngôn ngữ được tinh chỉnh để đưa ra các đánh giá về giá trị

Theo Cointelegraph, công ty trí tuệ nhân tạo (AI) Anthropic đã phát triển một mô hình ngôn ngữ lớn (LLM) đã được tinh chỉnh để cộng đồng người dùng có thể đánh giá giá trị. Sự phát triển này nhằm mục đích làm cho AI trở nên dân chủ hơn và cho phép người dùng quyết định sự liên kết giá trị cho các mô hình AI. Phối hợp với Polis và Dự án Trí tuệ Tập thể, Anthropic đã tiến hành một thử nghiệm có tên "AI lập hiến tập thể" với sự tham gia của 1.000 người dùng thuộc nhiều nhóm nhân khẩu học khác nhau. Họ đã trả lời một loạt câu hỏi thông qua bỏ phiếu. Thử thách của thử nghiệm này là cho phép người dùng của cơ quan xác định đâu là phù hợp mà không khiến họ gặp phải những kết quả đầu ra không phù hợp. Anthropic sử dụng một phương pháp gọi là "AI hiến pháp" để hướng nỗ lực của mình vào việc điều chỉnh LLM để đảm bảo an toàn và hữu ích. Điều này liên quan đến việc cung cấp cho mô hình một danh sách các quy tắc mà nó phải tuân theo và sau đó đào tạo nó để thực hiện các quy tắc đó trong suốt quá trình của nó, tương tự như cách hiến pháp đóng vai trò là tài liệu cốt lõi cho quản trị ở nhiều quốc gia. Trong thử nghiệm AI Hiến pháp Tập thể, Anthropic đã cố gắng để tích hợp phản hồi dựa trên nhóm vào cấu trúc của mô hình. Theo một bài đăng trên blog từ Anthropic, kết quả này dường như là một thành công về mặt khoa học ở chỗ nó làm sáng tỏ những thách thức tiếp theo trong việc đạt được mục tiêu cho phép người dùng sản phẩm LLM xác định các giá trị chung của họ. Một trong những khó khăn mà nhóm phải vượt qua là tìm ra một phương pháp mới cho quy trình đo điểm chuẩn, vì không có thử nghiệm nào được thiết lập để so sánh các mô hình cơ sở với các mô hình được điều chỉnh bằng các giá trị có nguồn gốc từ cộng đồng. Mô hình triển khai dữ liệu thu được từ phản hồi thăm dò ý kiến ​​của người dùng vượt trội hơn mô hình cơ sở một chút về mặt kết quả đầu ra sai lệch.