1.Nhấp để theo dõi và khám phá thêm các doanh nhân AI
1. strong> Ba công nghệ AI sẽ thay đổi tương lai
Người điều hành: Bạn thấy sự phát triển của AI trong thời gian ngắn như thế nào? Định nghĩa ngắn hạn của bạn phải là một hoặc hai năm tới, phải không?
Eric Schmidt: Mọi thứ đang diễn ra quá nhanh. Có cảm giác như cứ sáu tháng một lần, tôi lại phải làm tất cả. một lần nữa. Một bài phát biểu về tương lai. Ở đây có chuyên ngành khoa học máy tính nào không? Có ai có thể giải thích cho mọi người được không, cửa sổ ngữ cảnh triệu token là gì?
Khán giả: Ý nghĩa cơ bản là lời nhắc câu hỏi có thể sử dụng một triệu mã thông báo hoặc một triệu từ hoặc thứ gì đó tương tự khác.
Eric Schmidt : Vì vậy, một triệu thẻ có nghĩa là bạn có thể đặt một câu hỏi dài một triệu từ.
Khán giả: Vâng, tôi biết đây là hướng đi chung của Song Tử vào lúc này.
Giới thiệu trang web chính thức của Gemini (Bản dịch tiếng Trung là hiệu ứng plug-in, cảm ơn bạn vì bản dịch chân thực)
Eric Schmidt: Không, mục tiêu của họ là đạt đến một nghìn Mười nghìn. Nhân loại đã đạt tới 200.000 và tiếp tục phát triển. Mục tiêu là một triệu trở lên và người ta có thể tưởng tượng OpenAI có những mục tiêu tương tự. Tiếp theo, có ai có thể cho chúng tôi định nghĩa kỹ thuật và giải thích Tác nhân AI là gì không?
Đối tượng: Nhân viên AI thực hiện các nhiệm vụ trực tuyến, mua hàng thay mặt bạn và thực hiện nhiều hoạt động tương tự khác nhau.
Eric Schmidt: Vậy tác nhân là vật thực hiện một nhiệm vụ nhất định. Một định nghĩa khác là mô hình ngôn ngữ lớn có chức năng ghi nhớ. Một câu hỏi khác dành cho sinh viên khoa học máy tính, có ai có thể giải thích Chuyển văn bản thành hành động là gì không?
Trình nghe: Mở rộng văn bản thành nhiều văn bản hơn, nhập văn bản và sau đó AI sẽ kích hoạt các thao tác dựa trên văn bản.
Eric Schmidt: Một định nghĩa khác là chuyển đổi ngôn ngữsang Python - một kiểu lập trình mà tôi chưa bao giờ mong đợi sẽ tồn tại được trong ngôn ngữ . Nhưng bây giờ mọi thứ trong AI đều được thực hiện bằng Python. Gần đây có một ngôn ngữ mới vừa được phát hành có tên Mojo, dường như cuối cùng đã giải quyết được vấn đề lập trình AI, nhưng chúng ta phải xem liệu nó có thể tồn tại trong hoàn cảnh do Python thống trị hay không.
Một câu hỏi kỹ thuật khác, tại sao Nvidia lại trị giá hai nghìn tỷ đô la trong khi các công ty khác đang gặp khó khăn?
Khán giả: Lý do kỹ thuật. Tôi nghĩ điều này chủ yếu liên quan đến việc tối ưu hóa cách chạy mã. Hầu hết mã ngày nay cần chạy trong môi trường được tối ưu hóa và hiện tại chỉ GPU của Nvidia mới có thể làm được điều đó. Thực tế là các công ty khác có khả năng phát triển nhiều công nghệ khác nhau và có thể có kinh nghiệm phát triển phần mềm lên tới hàng chục năm, nhưng họ không có đội ngũ được tối ưu hóa đặc biệt cho machine learning.
Eric Schmidt: Tôi thích coi CUDA là ngôn ngữ C cho GPU. Đây là cách tôi muốn hiểu nó. Nó ra đời vào năm 2008 và tôi luôn nghĩ nó là một ngôn ngữ khủng khiếp, nhưng nó đã trở thành xu hướng chủ đạo. Hiện tại có cả bộ thư viện nguồn mở được tối ưu hóa cao cho CUDA. Mọi người xây dựng các ngăn xếp công nghệ này đều thiếu điểm này. Chúng tôi gọi nó là công nghệ vlm, cùng với các thư viện mã nguồn mở tương tự khác được tối ưu hóa cho CUDA. Điều này rất khó để các đối thủ cạnh tranh có thể bắt chước.
Câu trên có nghĩa là gì?
Trong năm tới, bạn sẽ thấy các cửa sổ ngữ cảnh, Tác nhân và khả năng Chuyển văn bản thành hành động lớn hơn. Khi chúng được sử dụng trên quy mô lớn, tác động sẽ còn lớn hơn tác động to lớn mà chúng ta đang thấy từ mạng xã hội hiện nay, ít nhất là theo quan điểm của tôi. Trong cửa sổ ngữ cảnh, bạn có thể sử dụng nó như một bộ nhớ ngắn hạn. Thật đáng ngạc nhiên khi quy mô có thể lớn đến vậy. Về mặt kỹ thuật, các dịch vụ và phép tính rất phức tạp.
Điều thú vị về trí nhớ ngắn hạn là bạn cho nó đọc 20 cuốn sách, nhập nội dung của những cuốn sách này làm một câu truy vấn và để nó cho bạn biết nội dung của cuốn sách. Bộ não con người quên đi phần giữa. Hiện tại có một số người đang xây dựng Đại lý LLM cơ bản. Ví dụ, cách họ làm việc là đọc nội dung hóa học, khám phá các nguyên lý hóa học, sau đó thử nghiệm và bổ sung kết quả vào sự hiểu biết của họ. Điều này rất mạnh mẽ.
Điểm thứ ba là chuyển văn bản thành hành động mà tôi đã đề cập. Ví dụ, chính phủ hiện đang xem xét cấm TikTok. Chúng tôi không biết liệu nó có thực sự xảy ra hay không. Nếu TikTok bị cấm, tôi khuyên bạn nên nói với LLM của mình: sao chép TikTok, thu hút tất cả người dùng, tải tất cả nhạc, thêm tùy chọn của tôi, tạo và xuất bản trong vòng 30 giây. Nếu không có lửa trong vòng một giờ thì chuyển sang cách tiếp cận tương tự, đây là mệnh lệnh. Bang bang bang, xong ngay thôi.
Bạn có hiểu không? Nếu bạn có thể tạo các lệnh số tùy ý trực tiếp từ bất kỳ ngôn ngữ nào, thì về cơ bản đó là những gì Python thực hiện trong trường hợp này. Hãy tưởng tượng rằng thay vì có những lập trình viên làm việc cho tôi và không làm những gì tôi muốn, mọi người đều có một lập trình viên làm những gì bạn muốn. (Cười) Các lập trình viên biết tôi đang nói về điều gì. Hãy tưởng tượng một lập trình viên không kiêu ngạo và thực sự làm những gì bạn yêu cầu và không phải trả nhiều tiền như vậy. Và có nguồn cung cấp không giới hạn các lập trình viên này. Và những điều này...
Người điều hành: Tất cả chúng sẽ được hiện thực hóa trong một hoặc hai năm tới.
Eric Schmidt: Sẽ sớm thôi. Tôi rất tin tưởng chúng sẽ xảy ra trong làn sóng công nghệ tiếp theo.
Đối tượng: Bạn đã đề cập rằng sự kết hợp giữa cửa sổ ngữ cảnh mở rộng, đại biểu và Chuyển văn bản thành hành động sẽ có tác động đáng kinh ngạc. Đầu tiên, tại sao những sự kết hợp này lại quan trọng? Thứ hai, tôi biết bạn không thể đoán trước được tương lai, nhưng tại sao bạn lại nghĩ điều này sẽ nằm ngoài sức tưởng tượng hiện tại của chúng ta?
Eric Schmidt: Tôi nghĩ nguyên nhân chủ yếu là do việc mở rộng cửa sổ ngữ cảnh có thể giải quyết được vấn đề về tính kịp thời. Các mô hình AI hiện tại mất khoảng một năm để đào tạo, bao gồm 6 tháng chuẩn bị, 6 tháng đào tạo và 6 tháng để tinh chỉnh, vì vậy chúng luôn bị chậm một chút. Nhưng cửa sổ ngữ cảnh mở rộng cho phép bạn nhập thông tin mới nhất. Ngữ cảnh như vậy rất mạnh mẽ và có thể được cập nhật theo thời gian thực như Google.
Về mô hình Đại lý, hãy để tôi cho bạn một ví dụ. Tôi đã thành lập một quỹ và tài trợ cho một tổ chức phi lợi nhuận, và họ bắt đầu một dự án với một công cụ tên là Chemcrow, một hệ thống dựa trên các mô hình ngôn ngữ lớn để học kiến thức hóa học. Họ sử dụng hệ thống để tạo ra các giả thuyết hóa học về protein, sau đó thử nghiệm trong phòng thí nghiệm vào ban đêm trong khi hệ thống tiếp tục học hỏi. Điều này đã thúc đẩy đáng kể tiến độ nghiên cứu trong lĩnh vực hóa học và khoa học vật liệu.
Tôi nghĩ "Text-to-Action" có thể hiểu là hiệu ứng của một số lượng lớn lập trình viên giá rẻ. Nhưng tôi nghĩ chúng ta chưa thực sự hiểu điều gì sẽ xảy ra khi mọi người đều có lập trình viên riêng và họ làm những việc thuộc chuyên môn của bạn chứ không chỉ bật và tắt đèn.
Bạn có thể tưởng tượng ra một tình huống mà bạn không thích Google. Chỉ cần nói, hãy giúp tôi xây dựng đối thủ cạnh tranh của Google, tìm kiếm trên web, xây dựng giao diện, thêm AI tổng quát và thực hiện trong 30 giây. Hãy xem hiệu quả. Những công ty lâu đời này, chẳng hạn như Google, có thể gặp rủi ro trước kiểu tấn công này, chúng ta sẽ phải chờ xem.
2."Tôi không còn là nhân viên Google nữa"
Người điều hành / strong>: Bạn đã làm việc tại Google nhiều năm. Họ đã phát minh ra kiến trúc Transformer và Peter (Peter Norvig, cựu giám đốc kỹ thuật của Google Research) là một trong những người lãnh đạo. Cảm ơn những người thông minh như Peter và Jeff Dean. Nhưng hiện tại, Google dường như đã mất thế chủ động và OpenAI đã đuổi kịp. Bảng xếp hạng mới nhất tôi thấy có Claude của Anthropic đứng đầu. Tôi đã hỏi Sundar (Sundar Pichai) và anh ấy không cho tôi câu trả lời rõ ràng. Có thể bạn có lời giải thích rõ ràng hơn hoặc khách quan hơn về những gì thực sự đang diễn ra ở đó.
Eric Schmidt: Tôi không còn là nhân viên của Google nữa. Thành thật mà nói, Google chú ý nhiều hơn đến việc cân bằng giữa công việc và cuộc sống. Việc nghỉ làm sớm và làm việc tại nhà dường như quan trọng hơn việc giành chiến thắng trong cuộc chiến. Bí quyết thành công của một công ty khởi nghiệp là nhân viên của công ty đó làm việc chăm chỉ. Tôi rất tiếc phải nói thẳng thừng như vậy, nhưng nó là như vậy. Nếu bạn thành lập công ty sau khi tốt nghiệp, bạn sẽ không có nhân viên chỉ đến công ty một ngày một tuần và làm việc ở nhà hầu hết thời gian. Nếu bạn muốn cạnh tranh với các công ty khởi nghiệp khác, điều này sẽ không hiệu quả.
Người điều hành: Tình hình ban đầu của Google rất giống với tình hình của Microsoft...
Eric Schmidt: Đúng.
Trong ngành của chúng tôi có một hiện tượng phổ biến:Một số công ty giành được thị trường bằng những cách rất sáng tạo và thống trị hoàn toàn một lĩnh vực, nhưng họ không thể Chuyển tiếp suôn sẻ lên cấp độ tiếp theo.
Có rất nhiều tình huống như vậy. Tôi nghĩ người sáng lập rất quan trọng, đó là một vấn đề rất quan trọng, họ điều hành công ty. Mặc dù những người sáng lập thường khó làm việc cùng và đòi hỏi khắt khe đối với nhân viên của mình nhưng họ cũng thúc đẩy công ty phát triển.
Mặc dù chúng ta có thể không thích một số hành động cá nhân của Elon, nhưng hãy nhìn vào những gì anh ấy làm trong công việc. Hôm tôi ăn tối với anh ấy, anh ấy đã bay đi bay lại. Tôi đang ở Montana, và anh ấy phải bay đi lúc 10 giờ tối hôm đó để có cuộc gặp vào sáng sớm với xAI.
Khi đến Đài Loan, tôi cảm thấy những nơi khác nhau có nền văn hóa khác nhau. Điều khiến tôi ấn tượng sâu sắc là TSMC có quy định nhân viên mới phải có bằng Tiến sĩ. trong vật lý bắt đầu bằng việc làm việc trong tầng hầm của một nhà máy. Bạn có thể tưởng tượng việc yêu cầu một tiến sĩ người Mỹ làm công việc này không? Hầu như không thể.
Kết quả của công việc là khác nhau. Lý do tại sao tôi lại chỉ trích các vấn đề ở nơi làm việc là vì có những hiệu ứng mạng trong các hệ thống này. Thời gian là điều cốt yếu và trong hầu hết các ngành, thời gian không quan trọng lắm và họ có đủ thời gian. Coca-Cola và Pepsi-Cola sẽ luôn tồn tại và sự cạnh tranh giữa chúng sẽ tiếp tục, thay đổi từ từ như một dòng sông băng.
Khi tôi làm việc với các công ty viễn thông, hợp đồng viễn thông thông thường phải mất 18 tháng để ký. Tôi không nghĩ cần phải mất nhiều thời gian như vậy và mọi việc nên được thực hiện càng nhanh càng tốt. Hiện chúng tôi đang ở đỉnh cao của sự tăng trưởng và thu nhập, và đó là lúc cần đến một số ý tưởng điên rồ.
Ví dụ, khi Microsoft quyết định hợp tác với OpenAI, tôi đã nghĩ đó là một trong những ý tưởng ngu ngốc nhất vào thời điểm đó. Microsoft đang chuyển giao quyền lãnh đạo AI cho nhóm OpenAI và Sam, một điều thật khó tin. Tuy nhiên, ngày nay, họ đang trên đường trở thành một trong những công ty có giá trị nhất, cạnh tranh với Apple. Apple không có giải pháp tốt khi nói đến AI và có vẻ như chiến lược của Microsoft đang phát huy tác dụng.
3.Khoảng cách giữa các mô hình ngày càng lớn
Eric Schmidt: Bạn vừa hỏi, điều gì sẽ xảy ra tiếp theo, và cứ sáu tháng một lần, tâm trí tôi lại dao động một chút. Bây giờ chúng ta đang ở trong một chu kỳ dao động chẵn-lẻ. Hiện tại, khoảng cách giữa các mẫu máy tiên tiến nhất — hiện chỉ có ba mẫu — và khoảng cách giữa các mẫu máy khác dường như ngày càng lớn. Sáu tháng trước, tôi nghĩ khoảng cách đang thu hẹp lại nên tôi đã đầu tư rất nhiều tiền vào một số công ty nhỏ, nhưng bây giờ tôi không chắc lắm.
Tôi bắt đầu nói chuyện với các công ty lớn và các công ty lớn nói với tôi rằng họ cần 10 tỷ, 20 tỷ, 50 tỷ hoặc thậm chí 100 tỷ quỹ.
Người điều hành: Mục tiêu là 100 tỷ phải không?
Eric Schmidt: Vâng, nó rất khó. Sam Altman và tôi là bạn tốt, và anh ấy nghĩ có thể phải mất 300 tỷ, có thể hơn. Tôi nói với anh ấy rằng tôi đã tính toán công suất cần thiết. Tôi đã đến Nhà Trắng vào thứ Sáu tuần trước và thẳng thắn nói với ông ấy rằng chúng ta cần có mối quan hệ tốt với Canada vì Canada không chỉ là một dân tộc tốt mà còn giúp phát minh ra AI và có nhiều nước và điện. Và nước ta không có đủ điện để hỗ trợ sự phát triển này.
Một lựa chọn khác là các nước Ả Rập đóng góp. Cá nhân tôi yêu Ả Rập và đã dành rất nhiều thời gian ở đó. Nhưng họ sẽ không tuân thủ các quy tắc an ninh quốc gia của chúng ta và Canada và Hoa Kỳ có thể hợp tác cùng nhau.
Người điều hành: Đúng vậy. Vì vậy, 100 tỷ, 300 tỷ trung tâm dữ liệuđiện năng này sẽ trở thành nguồn tài nguyên khan hiếm.
Eric Schmidt: Đúng. Theo dòng suy nghĩ này, nếu 300 tỷ USD được đầu tư vào Nvidia, bạn biết nên mua cổ phiếu nào, đúng không? (Cười) Tất nhiên, tôi không khuyến nghị cổ phiếu.
Người điều hành: Đúng vậy. Chúng ta sẽ cần nhiều chip hơn, và Intel đang nhận được rất nhiều tiền từ chính phủ Mỹ, còn AMD, cả hai đều đang cố gắng xây dựng các nhà máy sản xuất chip.
Eric Schmidt: Nếu bạn có bất kỳ thiết bị nào sử dụng chip Intel, vui lòng giơ tay (giơ tay ở khán giả). Sự độc quyền của nó dường như đã kết thúc.
Người điều hành: Intel thực sự là nhà độc quyền. Và bây giờ nó là sự độc quyền của Nvidia. Vậy với rào cản kỹ thuật như CUDA thì có hãng nào làm được không? Hôm nọ, tôi đã nói chuyện với một doanh nhân khác, người chuyển đổi giữa chip TPU và Nvidia tùy thuộc vào tài nguyên mà anh ta có quyền truy cập.
Eric Schmidt: Bởi vì anh ấy không còn lựa chọn nào khác. Nếu có nguồn vốn không giới hạn, anh ấy chắc chắn sẽ chọn kiến trúc B200 của Nvidia ngày nay vì nó nhanh hơn. Tôi không ám chỉ điều gì cả, cạnh tranh chắc chắn là một điều tốt. Tôi đã thảo luận chi tiết vấn đề này với Lisa Sue của AMD, người đã phát triển một hệ thống chuyển đổi kiến trúc CUDA thành kiến trúc của riêng họ, được gọi là Rocm. Nó chưa hoạt động đầy đủ và chúng vẫn đang được cải thiện.
4.Chúng ta sẽ có một bong bóng lớn,và sau đó thị trường sẽ tự điều chỉnh
Khán giả: Bạn rất lạc quan về triển vọng của AI. Bạn nghĩ điều gì thúc đẩy sự tiến bộ này? Có thêm kinh phí không? Hoặc nhiều dữ liệu hơn? Hay đó là một bước đột phá về công nghệ?
Eric Schmidt: Về cơ bản, tôi bỏ phiếu cho bất kỳ dự án nào vì tôi không thể biết dự án nào sẽ thành công. Và bây giờ tôi có rất nhiều tiền. Tôi nghĩ một phần lý do là vì các khoản đầu tư ban đầu đã kiếm được tiền. Ngày nay, những nhà đầu tư lớn đó, mặc dù không biết nhiều về AI, nhưng cảm thấy rằng mọi dự án đều phải bổ sung một số yếu tố AI, vì vậy hiện nay hầu như tất cả các khoản đầu tư đều đã trở thành. Đầu tư AI. Họ không thể phân biệt được giữa tốt và xấu. Điều tôi hiểu về AI là loại hệ thống thực sự có thể học hỏi và tôi nghĩ đó mới là điều quan trọng.
Ngoài ra, hiện nay có một số thuật toán mới rất tiên tiến, không còn giới hạn ở kiến trúc Transformer nữa. Tôi có một người bạn cũng là đối tác lâu dài của tôi. Anh ấy đã tạo ra một kiến trúc mới không phải Transformer. Một nhóm mà tôi tài trợ ở Paris cũng nói rằng họ có nhiều cải tiến tương tự ở Stanford.
Cuối cùng, thị trường có niềm tin chung rằng việc phát triển công nghệ thông minh sẽ mang lại lợi nhuận khổng lồ. Ví dụ: nếu bạn đầu tư 50 tỷ USD vào một công ty, bạn chắc chắn hy vọng kiếm được nhiều tiền thông qua công nghệ thông minh. Vì vậy, chúng ta có thể có một bong bóng đầu tư khổng lồ và sau đó thị trường sẽ tự điều chỉnh. Điều này luôn luôn là như vậy và bây giờ có lẽ cũng không ngoại lệ.
Người điều hành: Bạn đã đề cập trước đó rằng các công ty hàng đầu hiện đang giữ khoảng cách xa hơn.
Eric Schmidt: Đúng vậy, hiện tại thực sự là như vậy. Có một công ty ở Pháp tên là Mistral, họ đang hoạt động rất tốt và tôi đã đầu tư vào họ. Họ đã tung ra phiên bản thứ hai của mẫu xe này nhưng phiên bản thứ ba có thể sẽ bị đóng cửa vì giá thành quá cao. Họ cần doanh thu và không thể tặng mô hình miễn phí được nữa.
Cuộc tranh luận giữa nguồn mở và nguồn đóng đang diễn ra gay gắt trong ngành của chúng tôi. Toàn bộ sự nghiệp của tôi đã được xây dựng dựa trên sự sẵn lòng chia sẻ phần mềm nguồn mở của mọi người. Công việc kỹ thuật tôi làm đều là nguồn mở và nhiều công nghệ cốt lõi của Google cũng là nguồn mở. Nhưng bây giờ có thểdo chi phí vốn quá cao nên cách phát triển phần mềm về cơ bản có thể thay đổi.
Cá nhân tôi nghĩ rằng năng suất của các lập trình viên phần mềm ít nhất sẽ tăng gấp đôi. Hiện có ba hoặc bốn công ty phần mềm đang nỗ lực làm việc để đạt được mục tiêu này và tôi đã đầu tư vào những công ty này. Mục tiêu của họ là làm cho các lập trình viên phần mềm hoạt động hiệu quả hơn. Một công ty thú vị mà tôi thấy gần đây có tên là Augment. Tôi luôn nghĩ về từng lập trình viên, nhưng mục tiêu của họ thực sự là các nhóm phần mềm lớn, có thể có hàng triệu dòng mã, nhưng không ai có thể tìm ra chi tiết về cách tất cả các mã chạy. Vấn đề này lý tưởng nhất có thể được giải quyết bằng AI. Họ có thể kiếm tiền không? Tôi hy vọng như vậy.
Người điều hành: Vì vậy, vẫn còn nhiều vấn đề cần thảo luận.
Khán giả: Về kiến trúc non-Transformer, tôi nghĩ những kiến trúc như mô hình trạng thái không được thảo luận nhiều, nhưng bây giờ chúng có nhiều Tiến bộ hơn, những bước phát triển mới nào bạn có thấy ở khu vực này không?
Eric Schmidt: Tôi chưa biết đủ về toán học. Toán học ở đây rất phức tạp. Nhưng về cơ bản, chúng chỉ là những cách khác nhau để thực hiện phép nhân ma trận và giảm độ dốc, nhanh hơn và tốt hơn. Máy biến áp là một cách có hệ thống để thực hiện các phép tính nhân đồng thời, hoặc tôi hiểu như vậy. Nó tương tự như thế này, nhưng phép toán thì khác.
Khán giả: Bạn là một kỹ sư. Xem xét khả năng mà những mô hình này có thể có trong tương lai, chúng ta có còn cần dành thời gian học lập trình không?
Eric Schmidt: Giống như nếu bạn đã nói được tiếng Anh rồi thì tại sao bạn lại tiếp tục học tiếng Anh? Học tập luôn đưa con người lên một tầm cao mới. Bạn phải hiểu các hệ thống này hoạt động như thế nào.
5.Điện toán phân tán không thể giải quyết Vấn đề mạnh mẽ về sức mạnh tính toán của AI >
Khán giả: Hai câu hỏi đơn giản: Một là liệu tác động kinh tế của các mô hình ngôn ngữ lớn có chậm hơn tác động thị trường mà bạn mong đợi ban đầu không? Thứ hai, bạn có nghĩ giới học thuật nên nhận trợ cấp về AI không? Hay nên hợp tác với các công ty lớn?
Eric Schmidt: Tôi đã nỗ lực hết sức để xây dựng trung tâm dữ liệu cho các trường đại học. Nếu tôi là giáo sư khoa khoa học máy tính ở đây, tôi sẽ rất bất bình vì không thể phát triển những thuật toán đó cùng với các sinh viên cao học và buộc phải hợp tác với những công ty lớn đó. Theo tôi, các công ty này chưa làm đủ về mặt này. Tôi đã nói chuyện với một số giáo sư và nhiều người trong số họ dành rất nhiều thời gian để chờ hạn mức sử dụng Google Cloud. Đây là một lĩnh vực đang bùng nổ và điều đúng đắn cần làm là cung cấp nguồn lực cho các trường đại học và tôi đang nỗ lực để thúc đẩy điều đó.
Về tác động đối với thị trường lao động mà bạn đã đề cập, về cơ bản tôi tin rằng giáo dục đại học tay nghề cao và các công việc liên quan sẽ ổn vì mọi người sẽ làm việc với những hệ thống này . Tôi nghĩ những hệ thống này không khác gì những làn sóng công nghệ trước đây, ở chỗ những công việc nguy hiểm và những công việc đòi hỏi ít sự phán xét của con người cuối cùng sẽ bị thay thế.
Khán giả: Bạn đã bao giờ nghiên cứu về môi trường phân tán chưa? Tôi hỏi điều này vì việc thiết lập một cụm lớn rất khó, nhưng MacBook khá mạnh. Có rất nhiều máy nhỏ trên khắp thế giới. Bạn có nghĩ những ý tưởng như Folding@home có thể được sử dụng cho việc đào tạo không?
Lưu ý: "Folding@home" là dự án sử dụng tài nguyên máy tính phân tán trên toàn cầu, sử dụng tài nguyên máy tính nhàn rỗi của những người tham gia toàn cầu để thực hiện phân tích protein Tính toán gấp.
Eric Schmidt: Môi trường phân tán thực sự là một thách thức. Quả thực, việc xây dựng một cụm lớn không phải là điều dễ dàng, nhưng mỗi chiếc MacBook đều có sức mạnh tính toán riêng. Có rất nhiều máy móc nhỏ trên khắp thế giới và ý tưởng hợp nhất chúng thực sự có tiềm năng. Điều này có thể được sử dụng cho mục đích đào tạo, nhưng có rất nhiều chi tiết kỹ thuật cần được giải quyết.
Chúng tôi đã nghiên cứu chuyên sâu vấn đề này và đây là cách các thuật toán này hoạt động: Bạn có một ma trận rất lớn và về cơ bản bạn thực hiện phép nhân. Bạn có thể tưởng tượng quá trình này diễn ra lặp đi lặp lại. Hiệu suất của các hệ thống này phụ thuộc hoàn toàn vào tốc độ truyền dữ liệu từ bộ nhớ sang CPU hoặc GPU. Trên thực tế, các chip thế hệ tiếp theo của Nvidia đã tích hợp các chức năng này vào một con chip và những con chip này hiện nay rất lớn và các chức năng đều được tích hợp với nhau. Hơn nữa, quy trình đóng gói rất tinh tế, chip và bao bì được hoàn thiện trong phòng sạch sẽ. Vì vậy hiện nay, sự kết nối giữa siêu máy tính và đường truyền tốc độ ánh sáng, đặc biệt là bộ nhớ là yếu tố then chốt. Vì vậy, tôi nghĩ điều này khó có thể xảy ra trong thời gian ngắn.
Người điều hành: Có thể tách các mô hình ngôn ngữ lớn không?
Eric Schmidt: Để làm được điều này, bạn phải có hàng triệu mô hình như vậy. Và cách bạn đặt câu hỏi trở nên rất chậm.
6.Chúng ta có thể không hiểu về AI trong tương lai, nhưng chúng ta cần biết ranh giới của họ< /strong>
Người điều hành: Tôi muốn thay đổi chủ đề và nói về điều gì đó mang tính triết học. Năm ngoái bạn và Henry Kissinger (Kissinger), Daniel Huttenlocher (Daniel Huttenlocher) Chúng ta đã cùng nhau viết một bài báo a>khám phá bản chất của kiến thức và sự phát triển của nó. Gần đây tôi đã nói chuyện về chủ đề này với một người nào đó. Trong phần lớn lịch sử, sự hiểu biết của con người về vũ trụ là điều bí ẩn, cho đến khi xảy ra Cách mạng Khoa học và Khai sáng. Bài viết của bạn nói rằng các mô hình ngày nay ngày càng trở nên phức tạp và khó hiểu, đến mức chúng ta không còn hiểu rõ về cơ chế bên trong của chúng.
Feynman từng nói, "Những gì tôi không thể tạo ra thì tôi không thể hiểu được." Câu này gần đây tôi chợt nghĩ đến. trước đây, nhưng hiện tại có vẻ như mọi người đang tạo ra những thứ mà họ thậm chí không hiểu được. Phải chăng điều này có nghĩa là sự hiểu biết của chúng ta về kiến thức đang thay đổi? Chúng ta có cần bắt đầu chấp nhận kết luận của những mô hình này ngay cả khi chúng không đưa ra lời giải thích rõ ràng không?
Eric Schmidt: Hãy để tôi dùng một phép so sánh, nó giống như những người trẻ tuổi. Nếu bạn có thanh thiếu niên ở nhà, bạn biết họ là con người, nhưng không phải lúc nào bạn cũng biết họ nghĩ gì. Tuy nhiên, xã hội của chúng ta đã học cách thích nghi với sự hiện diện của họ, biết rằng cuối cùng họ sẽ trưởng thành. Vì vậy, chúng ta có thể có những hệ thống kiến thứcmà chúng ta không thể hiểu hết nhưng chúng ta có thể hiểu được ranh giới của chúng. Chúng tôi biết họ có thể và không thể làm gì. Đây có lẽ là điều tốt nhất chúng ta có thể hy vọng.
Người điều hành: Bạn có nghĩ chúng tôi có thể nắm bắt được những hạn chế này không?
Eric Schmidt: Tôi nghĩ chúng ta có thể giải quyết được. Nhóm nhỏ mà chúng tôi thảo luận hàng tuần cảm thấy rằng chúng tôi có thể cần sử dụng loại công nghệ AI đối nghịch đó trong tương lai. Hãy tưởng tượng trong tương lai sẽ có những công ty chuyên về lĩnh vực này, bạn đưa tiền cho họ, họ sẽ giúp bạn thử nghiệm hệ thống AI và tìm ra sơ hở, giống như “đội đỏ” hiện tại nhưng lần này sử dụng AI. Toàn bộ ngành sẽ tham gia vào loại AI này so với AI, đặc biệt là những phần mà chúng ta vẫn chưa hiểu rõ. Tôi nghĩ điều này khá đáng tin cậy. Stanford cũng có thể xem xét hướng đi này. Nếu có những sinh viên tốt nghiệp quan tâm đến cách bẻ khóa những mô hình lớn này và nghiên cứu cách chúng hoạt động thì đây là một điểm kỹ năng tốt cho họ. Vì vậy tôi nghĩ hai điều đó sẽ tiến triển cùng nhau.
Khán giả: Vừa rồi bạn đề cập đến những bình luận liên quan đến AI đối nghịch. Ngoài sự cải thiện rõ rệt của các mô hình hiệu suất AI, chúng ta còn có những vấn đề gì khác? Cần phải được giải quyết? Những thách thức chính trong việc khiến AI thực sự làm được những gì chúng ta muốn là gì?
Eric Schmidt: Thực sự cần thiết phải cải thiện các mô hình hiệu suất cao hơn. Bạn phải giả định rằng khi công nghệ tiến bộ, ảo tưởng về AI sẽ giảm đi phần nào, mặc dù tôi không nói rằng nó sẽ biến mất hoàn toàn. Bạn cũng phải cho rằng có nhiều cách để xác minh hiệu quả, vì vậy chúng tôi cần biết liệu kết quả có như mong đợi hay không.
Ví dụ như đối thủ cạnh tranh TikTok mà tôi vừa đề cập. Nhân tiện, tôi không có ý khuyên bạn ăn cắp nhạc của mọi người một cách bất hợp pháp. Nếu bạn là một doanh nhân ở Thung lũng Silicon—và tôi hy vọng tất cả các bạn cũng sẽ là những doanh nhân như vậy—nếu sản phẩm của bạn thành công, bạn sẽ thuê rất nhiều luật sư để giúp bạn giải quyết vấn đề nhưng nếu không có ai sử dụng sản phẩm của bạn; , thì việc bạn ăn cắp mọi thứ cũng không thành vấn đề. Nhưng đừng coi trọng lời nói của tôi.
Thung lũng Silicon sẽ tiến hành những thử nghiệm này và giải quyết những vấn đề này. Đây là cách chúng ta thường xử lý nó. Vì vậy, tôi tin rằng trong tương lai chúng ta sẽ thấy ngày càng nhiều hệ thống hiệu suất cao và việc thử nghiệm sẽ ngày càng phức tạp hơn và cuối cùng sẽ có thử nghiệm đối nghịch để đảm bảo rằng AI nằm trong tầm kiểm soát. Về mặt kỹ thuật, chúng tôi gọi đó là "lý luận tư duy theo chuỗi". Người ta hy vọng rằng trong vài năm tới, bạn sẽ có thể tạo ra lý luận chuỗi 1.000 bước, giống như làm theo một công thức. Bạn có thể làm theo từng bước công thức và xác minh rằng kết quả cuối cùng là chính xác. Đó là cách hệ thống hoạt động. Tất nhiên trừ khi bạn đang chơi một trò chơi.
7.Thông tin sai lệch dường như không thể giải quyết được trong thời gian ngắn
Khán giả: Làm thế nào để ngăn AI tạo ra thông tin sai lệch trong dư luận, đặc biệt là trong cuộc bầu cử sắp tới? Có giải pháp nào trong ngắn hạn và dài hạn không?
Eric Schmidt: Trong cuộc bầu cử sắp tới và thậm chí trên toàn cầu, hầu hết thông tin sai lệch sẽ được lan truyền thông qua việc phổ biến trên mạng xã hội, và hiện tại các công ty truyền thông xã hội chưa đủ mạnh để quản lý những thông tin này. Nếu bạn nhìn vào TikTok, TikTok đã bị chỉ trích vì ưu tiên một loại thông tin sai lệch này hơn một loại thông tin khác. Tôi nghĩ ở đây chúng ta đang gặp rắc rối và chúng ta cần học cách suy nghĩ chín chắn. Đây có thể là một thử thách khó khăn, nhưng chỉ vì ai đó nói với bạn điều gì đó không có nghĩa là điều đó đúng.
Khán giả: Liệu mọi chuyện có đi sang một hướng cực đoan khác không? Có ai tin sự thật nữa không? Một số người tóm tắt hiện tượng này là một “cuộc khủng hoảng nhận thức luận”.
Eric Schmidt: Tôi nghĩ hiện tại chúng ta đang gặp khủng hoảng về niềm tin. Tôi nghĩ mối đe dọa lớn nhất đối với xã hội là thông tin sai lệch vì chúng ta đang ngày càng tạo ra nó tốt hơn. Khi tôi quản lý YouTube, vấn đề lớn nhất mà tôi gặp phải là mọi người tải lên video giả mạo và thậm chí có người sẽ chết vì điều đó vào thời điểm đó. Chúng tôi có "chính sách không chết", điều này nghe thật sốc.
Lưu ý: YouTube không cho phép bất kỳ nội dung nào khuyến khích các hoạt động nguy hiểm hoặc bất hợp pháp có thể dẫn đến thương tích nghiêm trọng hoặc tử vong.
Thật sự rất khó khăn khi cố gắng giải quyết những vấn đề này và vào thời điểm đó chưa có AI có tính sáng tạo. Vì vậy, thành thật mà nói, tôi không có giải pháp đặc biệt tốt.
Người điều hành: Phương tiện kỹ thuật không phải là giải pháp phổ quát, nhưng có một phương pháp dường như có thể giảm bớt vấn đề này, đó là là chứng nhận khóa công khai. Ví dụ: khi Biden lên sân khấu phát biểu, tại sao anh ấy không thể ký điện tử những gì mình nói như SSL? Hoặc khi những người nổi tiếng hoặc nhân vật của công chúng phát biểu, liệu họ có thể có khóa công khai của riêng mình không? Giống như khi tôi cung cấp thông tin thẻ tín dụng của mình cho Amazon, tôi biết người nhận thực sự là Amazon.
Eric Schmidt: Đây thực sự là một phương pháp xác thực khóa công khai, kết hợp với các phương pháp xác minh khác, để đảm bảo rằng chúng tôi biết thông tin nguồn.
Tôi đồng viết một bài báo ủng hộ lập luận mà bạn vừa đưa ra. Thật không may, bài báo này không có tác dụng gì cả. Vậy có thể hệ thống chưa được tổ chức để xử lý việc này như bạn nói.
Nói chung, mục tiêu của các CEO là tối đa hóa doanh thu và để làm được điều này, họ phải theo đuổi mức độ tương tác tối đa của người dùng. Tối đa hóa mức độ tương tác có nghĩa là khơi dậy nhiều sự phẫn nộ hơn. Thuật toán ưu tiên nội dung phản cảm vì nó tạo ra nhiều doanh thu hơn. Vì vậy, nhìn chung có xu hướng hướng tới nội dung cực đoan và không phân biệt giữa các phe phái. Đây là một vấn đề cần được giải quyết trong xã hội chúng ta.
Trước đây, chúng tôi đã nói chuyện riêng về giải pháp của TikTok. Khi tôi còn nhỏ, có một quy tắc gọi là "quy tắc thời gian bằng nhau". Bởi vì TikTok thực sự không phải là một mạng xã hội, nó giống truyền hình hơn, với các lập trình viên kiểm soát nội dung. Thống kê cho thấy người dùng TikTok ở Mỹ dành trung bình 90 phút để xem 200 video mỗi ngày, một con số khá nhiều. Chính phủ có thể không đặt ra các quy định về thời gian bằng nhau, nhưng cần có một số hình thức cân bằng.
8.Mô hình lớn là cuộc thi mà chỉ một số quốc gia đủ điều kiện tham gia
Khán giả: Xét về mặt an ninh hoặc lợi ích quốc gia, bạn nghĩ AI sẽ đóng vai trò gì trong cuộc cạnh tranh với Trung Quốc?
Eric Schmidt: Tôi đã chủ trì ủy ban AI nghiên cứu chi tiết vấn đề này. Báo cáo dài 752 trang và bạn có thể kiểm tra nó. Hãy để tôi tóm tắt một cách đơn giản: Hiện tại chúng ta đang dẫn đầu, chúng ta cần tiếp tục dẫn đầu và cần rất nhiều tiền để làm được điều đó.
Tình hình chung là nếu các mô hình AI tiên tiến tiếp tục phát triển và một số ít mô hình nguồn mở cũng tham gia thì chỉ một số quốc gia đủ điều kiện để tham gia. Các quốc gia có nhiều tiền, hệ thống giáo dục mạnh mẽ và ý chí chiến thắng. Hoa Kỳ là một trong số đó, và Trung Quốc cũng vậy. Có lẽ có những nước khác. Nhưng điều chắc chắn là cuộc cạnh tranh trí tuệ giữa Hoa Kỳ và Trung Quốc sẽ là cuộc đối đầu lớn nhất trong cuộc đời các bạn.
Chính phủ Hoa Kỳ về cơ bản đã cấm xuất khẩu chip Nvidia sang Trung Quốc và mặc dù họ không được phép nói điều này nhưng họ vẫn làm như vậy. Chúng ta đi trước Trung Quốc khoảng 10 năm về công nghệ chip. Chúng tôi cũng đi trước khoảng 10 năm về công nghệ máy in thạch bản. Tôi đoán chúng ta vẫn có thể đi trước vài năm nữa trong tương lai. Dự luật CHIP là quyết định của chính quyền Trump và được chính quyền Biden thông qua.
Người điều hành: Bạn có nghĩ rằng chính phủ và Quốc hội hiện tại sẽ lắng nghe những đề xuất của bạn không? Bạn có nghĩ họ sẽ đầu tư lớn như vậy không? Ngoài hóa đơn chip, liệu việc xây dựng hệ thống AI quy mô lớn có tiếp tục?
Eric Schmidt: Như bạn đã biết, tôi lãnh đạo một nhóm không chính thức, không chính thức. Nhóm này bao gồm tất cả những người chung. những người tham gia vào lĩnh vực AI. Khuyến nghị từ những người chơi này đã hình thành nền tảng cho các quyết định của chính quyền Biden về AI trong năm qua, trong điều có thể là chỉ thị dài nhất của tổng thống trong lịch sử.
Lưu ý: Vào ngày 9 tháng 8 năm ngoái, Tổng thống Hoa Kỳ Biden đã ban hành Sắc lệnh "Giải quyết các vấn đề về đầu tư của Hoa Kỳ vào một số công nghệ và sản phẩm an ninh quốc gia ở các quốc gia cụ thể". Lệnh giải quyết các khoản đầu tư của Hoa Kỳ vào một số công nghệ và sản phẩm an ninh quốc gia ở các quốc gia quan ngại
Người điều hành: Bạn đang thúc đẩy một nghiên cứu cạnh tranh đặc biệt dự án.
Eric Schmidt: Đây là dự luật điều hành thực sự của văn phòng điều hành. Họ đang bận rộn nghiên cứu các chi tiết và cho đến nay họ đang làm rất tốt. Ví dụ, năm ngoái chúng ta đã thảo luận về một vấn đề: làm thế nào để phát hiện những mối nguy hiểm tiềm ẩn trong hệ thống. Một hệ thống như vậy có thể đã học được điều gì đó nguy hiểm nhưng bạn không biết phải hỏi gì. Nói cách khác, đây là câu hỏi cốt lõi. Hệ thống đã học được điều gì đó không tốt, nhưng nó sẽ không cho bạn biết nó đã học được điều gì và bạn không biết cách hỏi. Có rất nhiều mối đe dọa ở đây, chẳng hạn như nó có thể học các phương pháp trộn hóa chất mà bạn không hiểu. Vì vậy hiện nay có rất nhiều người đang cố gắng giải quyết vấn đề này.
Cuối cùng, chúng tôi đặt ra một ngưỡng trong bản ghi nhớ gọi là 10^26 phép toán dấu phẩy động, là thước đo sức mạnh tính toán. Trên ngưỡng này, bạn phải báo cáo hành vi của mình với chính phủ. Đó là một phần của quy luật, ngưỡng do EU đặt ra là 10 mũ 25, nhưng cũng không khác biệt nhiều. Tôi nghĩ những khác biệt về mặt kỹ thuật này cuối cùng sẽ biến mất và công nghệ hiện tại có thể thực hiện "đào tạo liên kết", nghĩa là các bộ phận khác nhau có thể được kết hợp để đào tạo. Vì vậy, chúng ta có thể không tránh được hoàn toàn những mối đe dọa do những công nghệ mới này gây ra.
Moderator : Tôi nghe nói OpenAI đã phải làm việc này, một phần vì điện năng tiêu thụ quá cao và không có nơi Có thể một mình gánh chịu mọi tính toán.
9.AI là trò chơi dành cho người giàu, người giàu càng giàu hơn strong> strong>
Khán giả: The New York Times đã kiện OpenAI vì sử dụng công trình của họ để đào tạo người mẫu. Bạn nghĩ điều này có ý nghĩa gì đối với việc sử dụng dữ liệu?
Eric Schmidt: Tôi có nhiều kinh nghiệm về bản quyền âm nhạc. Vào những năm 1960, đã có một loạt vụ kiện và cuối cùng một thỏa thuận được đưa ra là mỗi khi bài hát của bạn được phát, dù người nghe có biết bạn là ai hay không, bạn sẽ nhận được một khoản tiền bản quyền nhất định và số tiền đó sẽ được gửi vào tài khoản ngân hàng của bạn. . Tôi đoán rằng nó sẽ tương tự trong tương lai, với rất nhiều vụ kiện tụng và cuối cùng là một loại thỏa thuận nào đó yêu cầu phải trả một tỷ lệ phần trăm doanh thu nhất định khi những tác phẩm này được sử dụng. Bạn có thể xem các ví dụ về ASCAP (Hiệp hội các nhà soạn nhạc, tác giả và nhà xuất bản Hoa Kỳ) và BMI (Broadcast Music, Inc., một tổ chức bảo vệ quyền biểu diễn của Hoa Kỳ) và mặc dù điều đó có vẻ hơi lỗi thời nhưng tôi nghĩ đó cuối cùng sẽ là những gì sẽ xảy ra. cứ như vậy đi.
Khán giả: Có vẻ như có một số công ty đang thống trị và sẽ tiếp tục thống trị không gian AI, và những công ty này dường như là những vấn đề mà tất cả các luật chống độc quyền đều tập trung vào. Bạn nghĩ gì về hai xu hướng này? Bạn có nghĩ rằng cơ quan quản lý sẽ chia tay các công ty này? Điều này sẽ có tác động gì đến ngành?
Eric Schmidt: Trong sự nghiệp của mình, tôi đã cố gắng chia tay Microsoft, nhưng nó không bị chia tách. Tôi cũng đã cố gắng hết sức để giữ cho Google không bị tan rã và nó cũng không bị tan rã. Vì vậy, theo tôi, miễn là các công ty này tránh trở thành những gã khổng lồ độc quyền như John D. Rockefeller (người sáng lập Standard Oil) thì xu hướng sẽ không tan rã. Đây là nơi luật chống độc quyền ra đời.
Tôi không nghĩ chính phủ sẽ hành động. Lý do bạn thấy những công ty lớn này thống trị thị trường là vì họ là những công ty duy nhất có đủ vốn để xây dựng những trung tâm dữ liệu này. Vì vậy, những người bạn của tôi là Reed Hastings (đồng sáng lập và CEO của Netflix) và Elon Musk đang làm điều đó.
Vì thế người giàu càng giàu hơn, còn người nghèo chỉ có thể cố gắng hết sức. Đó là sự thật, đây là trò chơi của một nước giàu và đòi hỏi số vốn khổng lồ, nhiều tài năng kỹ thuật và sự hỗ trợ mạnh mẽ của chính phủ. Có nhiều quốc gia khác gặp nhiều vấn đề khác nhau và họ không có những nguồn lực đó nên họ phải làm việc với các quốc gia khác.
Khán giả: Bạn dành nhiều thời gian để giúp những người trẻ tạo ra sự giàu có và bạn rất đam mê vấn đề này. Bạn có lời khuyên nào dành cho các sinh viên ở đây trong giai đoạn này của sự nghiệp và trong tương lai không?
Eric Schmidt: Tôi rất ấn tượng với khả năng trình bày ý tưởng mới một cách nhanh chóng của bạn. Trong một hackathon mà tôi tham gia, đội chiến thắng được giao nhiệm vụ lái máy bay không người lái giữa hai tòa tháp. Họ đã hoàn thành nhiệm vụ này trong một không gian máy bay không người lái ảo, làm cho máy bay không người lái hiểu ý nghĩa của từ "giữa", viết mã bằng Python và khiến máy bay không người lái đi qua tháp trong trình mô phỏng thành công. Nếu một lập trình viên chuyên nghiệp làm việc này thì có thể mất một hoặc hai tuần.
Tôi muốn nói rằng khả năng tạo nguyên mẫu nhanh chóng thực sự quan trọng. Một trong những vấn đề khi trở thành doanh nhân là mọi thứ diễn ra rất nhanh. Bây giờ, nếu bạn không thể tạo nguyên mẫu trong một ngày bằng nhiều công cụ khác nhau, bạn phải suy nghĩ lại, vì đối thủ cạnh tranh của bạn có thể làm điều đó.
Vì vậy, gợi ý của tôi là khi bạn bắt đầu nghĩ đến việc khởi nghiệp, việc viết một kế hoạch kinh doanh là điều tốt. Bạn nên để máy tính giúp bạn viết kế hoạch kinh doanh. kế hoạch, việc sử dụng những Công cụ này để nhanh chóng biến ý tưởng của bạn thành nguyên mẫu là rất quan trọng. Bởi vì chắc chắn rằng có ai đó đang làm điều tương tự ở một công ty khác, ở một trường đại học khác hoặc một nơi nào đó mà bạn chưa từng đến.