Sáng tác: Advait Jayant, Matthew Sheldon, Sungjung Kim và Swastik Shrivastava
Biên soạn: BeWater p>
Với sự ra mắt gần đây của các mô hình tham số Llama 1B và 3B nhẹ của Meta được tối ưu hóa cho các kịch bản ứng dụng phía thiết bị, Apple Intelligence cũng sẽ phát hành các sản phẩm mới của mình vào cuối tháng 10. Chúng tôi tin rằng Edge AI và AI phía thiết bị sẽ trở thành chủ đề lớn nhất vào năm 2025.
Peri Labs và BeWater đã cộng tác để phát hành một báo cáo dài khoảng 250 trang bao gồm:
Sự cần thiết của AI biên
Lĩnh vực Đổi mới lõi AI biên
Tại sao Edge AI cần công nghệ mã hóa
Hiểu khung cốt lõi của Edge AI
Hiện trạng của Edge AI và công nghệ mã hóa
li >
BeWater đã dịch báo cáo này sang tiếng Trung Quốc và tóm tắt như sau:
Sự trỗi dậy của Edge AI
Edge AI đang cách mạng hóa lĩnh vực trí tuệ nhân tạo bằng cách chuyển hoạt động xử lý dữ liệu trực tiếp từ máy chủ đám mây tập trung sang các thiết bị cục bộ. Cách tiếp cận này giải quyết các hạn chế của việc triển khai AI truyền thống, chẳng hạn như độ trễ cao, vấn đề về quyền riêng tư và giới hạn băng thông. Bằng cách cho phép xử lý dữ liệu theo thời gian thực trên các thiết bị như điện thoại thông minh, thiết bị đeo và cảm biến IoT, AI biên sẽ giảm thời gian phản hồi và giữ thông tin nhạy cảm một cách an toàn trong chính thiết bị.
Những tiến bộ công nghệ về phần cứng và phần mềm đã giúp chạy các mô hình AI phức tạp trên các thiết bị có nguồn lực hạn chế. Những cải tiến như bộ xử lý biên chuyên dụng và công nghệ tối ưu hóa mô hình giúp tính toán trên thiết bị hiệu quả hơn mà không ảnh hưởng đáng kể đến hiệu suất.
Điểm mấu chốt 1: Sự phát triển nhanh chóng của AI đã vượt qua Định luật Moore.
Định luật Moore phát biểu rằng số lượng bóng bán dẫn trên một vi mạch sẽ tăng gấp đôi khoảng hai năm một lần. Tuy nhiên, sự phát triển của các mô hình AI đã vượt xa những cải tiến về phần cứng, dẫn đến khoảng cách ngày càng lớn giữa cung và cầu điện toán. Khoảng cách này làm cho việc đồng thiết kế phần cứng và phần mềm trở nên cần thiết.
Điểm 2: Những gã khổng lồ trong ngành đang tăng cường đầu tư vào AI biên và áp dụng các chiến lược khác nhau.
Những gã khổng lồ trong ngành đang đầu tư mạnh vào AI biên, nhận ra khả năng cách mạng hóa các lĩnh vực như chăm sóc sức khỏe, lái xe tự động, robot và trợ lý ảo của nó lĩnh vực ., bằng cách cung cấp trải nghiệm AI tức thì, được cá nhân hóa và đáng tin cậy. Ví dụ: Meta gần đây đã phát hành các mẫu được tối ưu hóa cho các thiết bị biên và Apple Intelligence sẽ phát hành công nghệ AI biên của mình vào cuối tháng 10.
Sự giao thoa giữa AI biên và công nghệ mã hóa
Điểm 3: Blockchain cung cấp cơ chế tin cậy phi tập trung, an toàn cho các mạng AI biên
Blockchain đảm bảo tính toàn vẹn của dữ liệu và khả năng chống giả mạo thông qua sổ cái chống giả mạo, điều này đặc biệt quan trọng trong mạng phi tập trung bao gồm các thiết bị biên. Bằng cách ghi lại các giao dịch và trao đổi dữ liệu trên blockchain, các thiết bị biên có thể thực hiện các hoạt động xác thực và ủy quyền một cách an toàn mà không cần dựa vào cơ quan tập trung.
Điểm 4: Cơ chế khuyến khích kinh tế tiền điện tử thúc đẩy chia sẻ tài nguyên và chi tiêu vốn
Việc triển khai và duy trì mạng biên đòi hỏi nguồn lực đáng kể. Các mô hình kinh tế tiền điện tử hoặc ưu đãi mã thông báo có thể hỗ trợ việc xây dựng và vận hành mạng bằng cách cung cấp phần thưởng mã thông báo để khuyến khích các cá nhân và tổ chức đóng góp sức mạnh tính toán, dữ liệu và các tài nguyên khác.
Điểm 5: Mô hình DeFi thúc đẩy phân bổ tài nguyên hiệu quả
Bằng cách giới thiệu các khái niệm như đặt cược, cho vay và nhóm thanh khoản trong DeFi, các mạng AI biên có thể thiết lập một thị trường cho tài nguyên máy tính. Người tham gia có thể cung cấp sức mạnh tính toán bằng cách đặt cọc mã thông báo, cho vay tài nguyên dư thừa hoặc đóng góp vào nhóm chung để nhận được phần thưởng tương ứng. Hợp đồng thông minh tự động hóa các quy trình này, đảm bảo tài nguyên được phân bổ công bằng và hiệu quả dựa trên cung và cầu, đồng thời triển khai cơ chế định giá linh hoạt trong mạng.
Điểm 6: Phân cấp niềm tin
In In a mạng thiết bị biên phi tập trung, làm thế nào để thiết lập niềm tin mà không cần sự giám sát tập trung là một thách thức. Trong các mạng được mã hóa, sự tin cậy đạt được thông qua các phương tiện toán học; sự tin cậy về mặt tính toán và toán học này là chìa khóa để cho phép các tương tác không cần tin cậy, một tính năng hiện không có trong AI.
Tầm nhìn tương lai
Nhìn về tương lai, vẫn còn rất nhiều cơ hội đổi mới trong lĩnh vực AI biên. Chúng ta sẽ thấy AI biên trở thành một phần không thể thiếu trong cuộc sống của chúng ta trong nhiều tình huống ứng dụng, chẳng hạn như trợ lý học tập siêu cá nhân hóa, bản sao kỹ thuật số, xe tự lái, mạng trí tuệ tập thể và những người bạn đồng hành AI đầy cảm xúc. Chúng tôi đang mong chờ tương lai!