Giúp xây dựng mô hình cho hàng trăm quốc gia - Tham vọng của CEO gây tranh cãi của Stability.AI

Nguồn: Empower Labs

Vào ngày 23 tháng 3, Emad Mostaque, CEO của Stability AI gây tranh cãi đã tuyên bố từ chức và sẽ cống hiến toàn bộ sức lực cho ngành công nghiệp AI phi tập trung trong tương lai. Thông tin này đã gây chấn động khá lớn trên thị trường.

Một mặt, Stability AI từng tự mình mang ngọn cờ AI nguồn mở và có những đóng góp quan trọng cho AI nguồn mở, mặt khác lại liên tục bị cáo buộc lấy đi kết quả; của các nhóm nghiên cứu khác vào tay cấp trên của mình. Việc lộ trình độ học vấn giả mạo và những lời nói dối thường xuyên của CEO Emad trên mạng xã hội càng làm tổn hại đến danh tiếng của ông. Từng tự hào về sự hỗ trợ tuyệt vời của các nhà đầu tư và nguồn tài trợ khổng lồ, Stability.AI từ lâu đã gặp khó khăn sâu sắc về tài chính và cuộc sống của nó đang bị treo lơ lửng.

Sau khi từ chức, Emad tiết lộ ông vẫn nắm giữ phần lớn cổ phần của Stability.AI, đủ để kiểm soát ban giám đốc. Ông không bị buộc phải từ chức nhưng tin rằngtrong lĩnh vực AI, sự tập trung quyền lực cao sẽ có hại cho mọi người nên ông quyết định từ chức để thúc đẩy những thay đổi trong Stability.AI. Với lịch sử khoe khoang mờ ám của Emad, hầu hết mọi người đều cho rằng có nhiều điều hơn thế. Tuy nhiên, thay vì Stability.AI, tôi muốn thảo luận về AI phi tập trung mà Emad sẽ tham gia.

Vài tuần trước, tôi đã tham gia một cuộc thảo luận về AI phi tập trung với Emad. Sau đó, tôi đã biên soạn nhiều bài phát biểu trước đây của anh ấy về vấn đề này và sắp xếp đại khái quan điểm của anh ấy.

Ai điều khiển mô hình sẽ điều khiển tâm trí

Nếu hành động của con người được điều khiển bởi hệ điều hành, AI sẽ nhanh chóng trở thành một thành phần cốt lõi bên ngoài của hệ điều hành này. Bởi vì con người đã dần thích nghi với việc giao gánh nặng suy nghĩ cho AI, nên công nghệ này trở thành một phần trong cách chúng ta suy nghĩ. Tuy nhiên, sự tiện lợi và trao quyền mà AI mang lại cũng đi kèm với những rủi ro đáng kể - ai kiểm soát được mô hình AI sẽ kiểm soát được tư duy của thế giới ở một mức độ nhất định.

Nếu thiếu nhận thức về cách thức hoạt động của các công cụ thông minh này cũng như cài đặt mặc định của chúng, các quyết định và ý kiến ​​của chúng ta có thể bị ảnh hưởng âm thầm. Bộ điều khiển của mô hình AI có thể hướng dẫn một cách tinh tế các lựa chọn, quan điểm và hành vi của mọi người bằng cách đặt ra các tùy chọn mặc định cụ thể. Với tư cách là cơ sở hạ tầng của thời đại tiếp theo, nếu AI chỉ được kiểm soát bởi một số nhóm kinh doanh thì hậu quả có thể rất thảm khốc. Đây là điều Emad nhấn mạnh, tầm quan trọng và tính cấp bách của AI phi tập trung.

Mỗi quốc gia cần có mô hình riêng

Khi OpenAI đầu tư nỗ lực rất lớn vào siêu liên kết (Super Alignment), ai sẽ chịu trách nhiệm về sự liên kết giữa OpenAI với mọi quốc gia, mọi ngành và mọi nền văn hóa trên thế giới?

Không có ai cả.

Siêu liên kết của OpenAI đã có những nỗ lực rất lớn trong vấn đề an ninh cơ bản và đạo đức chung cho nhân loại, nhưng trước sự đa dạng của các quốc gia và nền văn hóa khác nhau, liệu những nỗ lực đó có đủ không? Các quốc tịch khác nhau Con người và các nền văn hóa thường có những giá trị rất khác so với những giá trị của giới thượng lưu ở Thung lũng Silicon. Liệu những giá trị đa dạng này có thể được phản ánh một cách công bằng trong các mô hình AI không? Khi các quốc gia như Kenya bắt đầu sử dụng AI tại Thung lũng Silicon để học tập trên quy mô lớn cho thế hệ học sinh tiếp theo của họ, liệu những đặc điểm văn hóa dân tộc độc đáo của họ có dần biến mất?

Câu trả lời không mấy lạc quan. Vì vậy, Emad tin rằngmọi quốc gia, mọi ngành và mọi nền văn hóa đều nên có một mô hình AI thể hiện những đặc điểm riêng của mình. Những mô hình này phải bám rễ sâu vào khu vực địa phương, tiếp thu và phản ánh đầy đủ trí tuệ tập thể của đất nước, ngành công nghiệp và văn hóa. Khái niệm này chắc hẳn đã quen thuộc với mọi người, bởi vì NVIDIA cũng đã nói về khái niệm AI có chủ quyền trong nhiều dịp khác nhau cách đây hai tháng, về cơ bản là giống nhau. Tuy nhiên, Emad đã bắt đầu nói về điều này nhiều lần từ một hoặc hai năm trước, sớm hơn nhiều so với Nvidia.

Đơn giản là hầu hết các quốc gia trên thế giới không có khả năng tạo ra mô hình AI của riêng mình và đây chính xác là thị trường mà Emad đang hướng tới. Anh ấy hy vọng sẽ tạo ra một nền tảng cơ bản để hỗ trợ các mô hình AI được tạo ra bởi mọi quốc gia, quốc gia và ngành. Về mặt ngăn xếp, chúng tôi hy vọng có thể sử dụng sự hợp tác tập thể phi tập trung để đạt được sự phát triển mô hình.

Emad đã nói rằng họ có thể thành lập/ươm tạo một loạt công ty, mỗi công ty sẽ có các chuyên gia khác nhau tập trung vào các lĩnh vực then chốt khác nhau, chẳng hạn như giáo dục, chăm sóc y tế, tài chính và tất nhiên, nhắm mục tiêu đến các quốc gia khác nhau. Mô hình AI. Là một hoạt động của AI phi tập trung, các công ty này đóng vai trò là người khởi xướng nhiều hơn. Bằng cách cung cấp các mô hình cơ bản và khuôn khổ tiêu chuẩn hóa, chúng tôi có thể giới thiệu các tài năng của cộng đồng tham gia và đóng góp. Nếu có thể thu hút được một lượng lớn nhân tài xuất sắc của một quốc gia đến đóng góp thì trí tuệ tập thể này cuối cùng sẽ hội tụ thành một hình mẫu quốc gia xuất sắc.

Cốt lõi là dữ liệu

Sử dụng một phép ẩn dụ đơn giản, công thức của mô hình AI chính là thuật toán và dữ liệu, sau đó sử dụng một số phép tính Buộc khuấy trộn chúng lại với nhau. Càng có nhiều dữ liệu thì khả năng tính toán cần thiết để khuấy trộn dữ liệu càng lớn. Hiện tại, hầu hết các nhóm trên thị trường đang theo đuổi các thuật toán mô hình tốt hơn, thu thập nhiều dữ liệu hơn và sau đó kết hợp chúng với sức mạnh tính toán lớn hơn. Nhưng thực tế đã chứng minh rằng nếu chất lượng dữ liệu cao thì có thể đạt được kết quả xuất sắc với ít dữ liệu hơn. Nói cách khác, mọi người đang xóa sạch dữ liệu chất lượng thấp bằng cách tăng sức mạnh tính toán.

Điều này tạo nên lợi thế của hệ thống AI phi tập trung do Emad ủng hộ. Ông tin rằng nếu có thể thiết lập một cơ cấu để hướng dẫn những tài năng giỏi nhất trong một quốc gia cùng nhau tham gia thì các bộ dữ liệu quốc gia chất lượng cao có thể được tập hợp có thể được xác minh, có quyền sở hữu rõ ràng và có thể đến từ này, hãy thiết kế một mô hình khuyến khích xung quanh dữ liệu.

Bằng cách này, chúng tôi có thể thu thập những dữ liệu mà trước đây chúng tôi không thể tiếp cận được. Những dữ liệu này không chỉ có chất lượng cao hơn mà còn có thể thể hiện một cách trung thực và công bằng hơn tiếng nói và nhu cầu của công chúng.

Cụm mô hình nhỏ so với mô hình lớn đơn lẻ

Trong lĩnh vực AI, Luật mở rộng quy mô gần như đã trở thành luật sắt , bất kể chúng ta Không có cách nào để tránh nó dù bạn có chọn theo đuổi nó hay không.

Rõ ràng, việc sử dụng cách tiếp cận phi tập trung để tổ chức các nguồn lực và sau đó sử dụng Luật Scalling để đạt được trí tuệ nhân tạo nói chung (AGI) là không thực tế trong thời gian ngắn. Trong một thời gian khá lâu, các mô hình AI hướng tới cộng đồng cũng phải chật vật cạnh tranh với những gã khổng lồ như OpenAI để giành vương miện là mô hình mạnh nhất.

Tuy nhiên, theo đuổi AGI và tạo ra AI có thể áp dụng rộng rãi là hai việc khác nhau. Khi công nghệ tiếp tục phát triển, các mô hình vừa và nhỏ hướng đến cộng đồng đang tăng cường năng lực nhanh chóng. Dự kiến ​​trong vòng một hoặc hai năm, các mẫu xe cỡ vừa và nhỏ sẽ đủ đáp ứng hầu hết các công việc hàng ngày. Có thể nó không phải là mạnh nhất nhưng nó đủ thiết thực và đủ chi phí thấp để mở ra nhiều tình huống ứng dụng. Giống như hầu hết các giao dịch mua hàng trực tuyến của chúng tôi không yêu cầu SF Express để giao hàng vào ngày hôm sau, việc sử dụng kết hợp các mô hình sẽ dần trở thành xu hướng chủ đạo trong tương lai.

Điều này mang đến một sự thay đổi rất quan trọng. Khi các mô hình do trí tuệ tập thể điều khiển được sử dụng rộng rãi, những rủi ro tiềm ẩn do một mô hình lớn duy nhất do một tổ chức duy nhất kiểm soát sẽ giảm đi đáng kể. Nếu dữ liệu của một mô hình lớn bị ô nhiễm, những mô hình dựa trên trí tuệ tập thể này có thể dễ dàng đóng vai trò là người hiệu chỉnh và thực hiện các chỉnh sửa cần thiết. Đây không chỉ là tính thực tế, tiết kiệm chi phí mà còn là trò chơi giữa trí tuệ tập thể và AI God.

Từ góc độ kỹ thuật, mô hình nhỏ không hoàn toàn là nhược điểm. Kích thước nhỏ giúp họ dễ dàng thực hiện các khóa đào tạo bổ sung cụ thể theo ngành dọc. Trong những lĩnh vực này, chúng hoạt động tốt như các công cụ cấp chuyên gia, mặc dù khả năng tổng thể của chúng có thể không toàn diện như các mô hình lớn hơn. Một cụm mô hình nhỏ bao gồm nhiều mô hình chuyên gia sẽ không nhất thiết thua cuộc khi cạnh tranh với một mô hình lớn duy nhất.

Quan trọng hơn, một mô hình nhỏ có thể thúc đẩy phân cấp triển khai một cách hiệu quả. Khi nói về phân quyền, chúng ta không chỉ đề cập đến việc phân cấp xây dựng mô hình và nguồn dữ liệu mà còn đề cập đến phân cấp quản trị và phân cấp triển khai. Nếu các mô hình nguồn mở có thể dễ dàng triển khai trên máy tính xách tay cá nhân hoặc thậm chí cả điện thoại di động, điều này sẽ tạo nên sự bình đẳng về AI. Ngay cả khi nhà cung cấp dịch vụ tập trung tắt dịch vụ, người dùng vẫn có thể dựa vào AI cục bộ để tiếp tục hoạt động. Cho phép mọi người sử dụng AI một cách rộng rãi mà không bị hạn chế cũng là một mục tiêu quan trọng của AI phi tập trung.

AI + Web3 – Kẻ nói dối hay tương lai

Không còn nghi ngờ gì nữa, kế hoạch AI phi tập trung mà Emad đang tích cực thúc đẩy có liên quan chặt chẽ với Công nghệ mã hóa có liên quan chặt chẽ. Anh ấy đã tuyên bố rằng anh ấy muốn thiết kế một giao thức Web3 để tích hợp và triển khai những ý tưởng này. Điều này là do một số yếu tố chính hiện đang thiếu trong lĩnh vực AI -khả năng xác minh dữ liệu, quyền sở hữu dữ liệu, cơ chế khuyến khích và điều phối quy mô lớn cũng như khả năng quản trị tập thể - chính xác là những gì công nghệ Web3 làm tốt.

Ở đây tôi muốn tập trung vào vấn đề quản trị. Bởi vì chưa bao giờ có một công nghệ nào mạnh mẽ như trí tuệ nhân tạo ngày nay và nó sẽ ảnh hưởng đến mọi ngóc ngách trên thế giới một cách sâu rộng và sâu sắc. Ai nên quyết định hướng đi tương lai của công nghệ này? Ai có thể kiểm soát nó một cách hiệu quả? Việc quản lý trí tuệ nhân tạo của ban giám đốc một số công ty như OpenAI chắc chắn không phải là giải pháp hiệu quả nhất. Việc các cơ quan quản lý chỉ đơn giản đặt ra một số hạn chế cứng rắn đối với các mô hình AI có thể không nhất thiết giải quyết được các thách thức một cách hiệu quả. Quản trị tập thể có thể là giải pháp thực sự.

Trong lĩnh vực Web3, các thử nghiệm về quản trị tập thể đang phát triển mạnh mẽ, bao gồm nhiều cấp độ như quản trị dữ liệu, quản trị ứng dụng, quản trị mạng và quản trị tổ chức. Mặc dù hầu hết các nỗ lực vẫn đang trong giai đoạn thăm dò và trải qua nhiều thất bại nhưng đây là bước đi đầu trong phát triển quản trị con người.

Trong 5 năm qua, trong lĩnh vực mã hóa, đặc biệt là xung quanh các tổ chức tự trị phi tập trung (DAO), người ta đã thử hầu hết mọi mô hình quản trị trong lịch sử loài người. Cấu trúc đổi mới được OpenAI áp dụng, trong đó một tổ chức phi lợi nhuận kiểm soát một công ty có lợi nhuận, đã được áp dụng rộng rãi trong DAO. Đối với tôi, có vẻ như mọi người trong thế giới Web3 đã chơi trò quản trị tăng tốc trong vài năm qua. Chỉ trong vài năm, con người đã diễn giải lại nền cai trị hàng ngàn năm của con người.

Một trong những lời chỉ trích phổ biến nhất là hầu hết hoạt động quản trị Web3 chỉ là bản sao của mô hình quản trị mà con người đã có trong quá khứ và sau đó bổ sung thêm tính năng bỏ phiếu trực tuyến. Tuy nhiên, lịch sử đã cho chúng ta biết rằng khi có tốc độ tăng trưởng nhanh và mật độ nhân tài cao như vậy thì những thứ hoàn toàn mới sẽ sớm phát triển.

Một ví dụ ít thích hợp hơn là quảng cáo trên Internet. Tôi nhớ những năm Internet mới xuất hiện. Khi bạn mở một trang web tin tức, một quảng cáo toàn màn hình khổng lồ sẽ đột nhiên xuất hiện rồi từ từ mờ đi, và trang web sẽ tràn ngập các khối quảng cáo dày đặc. Điều này đã trở thành một biểu tượng. ký ức về Internet thời kỳ đầu. Bởi vì vào thời điểm đó mọi người không biết cách quảng cáo trên Internet hiệu quả hơn nên họ chỉ đơn giản là chuyển các phương thức quảng cáo trên phương tiện truyền thông truyền thống sang Internet. Tuy nhiên, khi bối cảnh phát triển và mọi người hiểu sâu hơn về công nghệ và văn hóa Internet, một mô hình quảng bá hiệu quả chưa từng có trong lịch sử loài người đã sớm phát triển và quảng cáo truyền thống nhanh chóng bị loại bỏ trên Internet.

Theo tôi, quản trị công nghệ cũng sẽ đi theo con đường tương tự như quảng cáo trên Internet. Công nghệ chuỗi khối mang lại khả năng điều phối và quản trị được nâng cao đáng kể và tôi hoàn toàn tin tưởng rằng các giải pháp quản trị tập thể chưa từng có trong lịch sử loài người sẽ phát triển từ nó.

Viết ở phần cuối

Thật khó để dự đoán tương lai của kỷ nguyên AI và xem xét toàn bộ khái niệm của Emad ở thời điểm hiện tại. Rõ ràng, kế hoạch của ông phải đối mặt với những thách thức lớn ở nhiều cấp độ. Ngoài ra, Emad trước đây thường xuyên phóng đại, không dễ để phân biệt lời nói nào của anh ấy có thể được coi trọng và lời nói nào chỉ là nhận xét bình thường.

Tuy nhiên, thảo luận về cơ cấu quyền lực của AI là một vấn đề sớm, cực kỳ phức tạp và quan trọng. Emad và các đồng nghiệp khác đang theo đuổi AI phi tập trung, suy nghĩ và nỗ lực của họ, mặc dù có thể chưa tiến gần đến câu trả lời cuối cùng, nhưng xứng đáng được tôn trọng và quan tâm. Mặc dù những cuộc khám phá này rất khó khăn nhưng chúng là những nỗ lực dũng cảm để tạo dựng tương lai. Những nỗ lực này, dù kết quả có ra sao, cũng sẽ trở thành một chương trong sử thi lịch sử.

Có thể một ngày nào đó, thế giới sẽ cảm ơn Emads.