Tiếp lửa cho AI bằng cách tập trung hóa

Tính năng được tài trợ Một dòng đều đặn các công nghệ và khám phá mang tính cách mạng - lửa, nông nghiệp, bánh xe, báo in và internet, trừ một số ít - đã định hình sâu sắc sự phát triển và nền văn minh của loài người. Và chu kỳ đổi mới đó đang tiếp tục với Trí tuệ nhân tạo (AI). 

Công ty nghiên cứu IDC đã đi xa đến mức kết luận rằng AI thực sự là câu trả lời cho “mọi thứ”. Rasmus Andsbjerg, phó chủ tịch phụ trách dữ liệu và phân tích tại IDC cho biết: “Thực tế là AI cung cấp giải pháp cho mọi thứ chúng ta đang đối mặt vào lúc này. Trí tuệ nhân tạo có thể là một nguồn giúp đẩy nhanh hành trình chuyển đổi kỹ thuật số, cho phép tiết kiệm chi phí trong thời kỳ tỷ lệ lạm phát cao ngất ngưởng và hỗ trợ các nỗ lực tự động hóa trong thời kỳ thiếu lao động.”

Chắc chắn, và trên tất cả các ngành và chức năng, các tổ chức người dùng cuối đang bắt đầu khám phá những lợi ích của AI, khi các thuật toán và cơ sở hạ tầng cơ bản ngày càng mạnh mẽ xuất hiện để cho phép đưa ra quyết định tốt hơn và năng suất cao hơn. 

Doanh thu trên toàn thế giới cho thị trường trí tuệ nhân tạo (AI), bao gồm phần mềm, phần cứng và dịch vụ liên quan cho cả ứng dụng lấy AI làm trung tâm và không dùng làm trung tâm, đạt tổng cộng 383.3 tỷ USD vào năm 2021. Con số này tăng 20.7% so với năm trước, theo báo cáo gần đây International Data Corporation (IDC) Công cụ theo dõi trí tuệ nhân tạo nửa năm một lần trên toàn thế giới.

Tương tự, việc triển khai phần mềm AI lên đám mây tiếp tục cho thấy sự tăng trưởng ổn định. IDC kỳ vọng các phiên bản đám mây của phần mềm AI mới mua sẽ vượt qua các phiên bản triển khai tại chỗ vào năm 2022.

Bầu trời là giới hạn cho AI

Tiến sĩ Ronen Dar, giám đốc công nghệ của chuyên gia AI Run:ai, công ty đã tạo ra một nền tảng quản lý điện toán cho AI, tin rằng bầu trời là giới hạn đối với lĩnh vực AI doanh nghiệp non trẻ. 

“AI là một thị trường mà chúng tôi thấy đang phát triển rất nhanh. Và về mặt doanh nghiệp, chúng tôi nhận thấy nhu cầu và việc áp dụng máy học và AI. Và tôi nghĩ ngay bây giờ có một công nghệ mới ở đây đang mang lại những khả năng mới sẽ thay đổi thế giới; điều đó sẽ cách mạng hóa các doanh nghiệp,” Dar lưu ý. 

Cũng có sự hiểu biết ngày càng rõ ràng về nhu cầu bắt đầu khám phá và thử nghiệm AI cũng như hiểu cách tích hợp AI vào các mô hình kinh doanh.

Dar tin rằng AI có thể mang lại “những lợi ích đáng kinh ngạc” để cải thiện các quy trình kinh doanh hiện tại của doanh nghiệp: “Về mặt tối ưu hóa và chứng minh hoạt động kinh doanh hiện tại, chúng tôi thấy rất nhiều trường hợp sử dụng xung quanh AI và máy học đang cải thiện hoạt động và cách đưa ra quyết định xung quanh cung và cầu.”

Ông chỉ ra rằng các mô hình học sâu mới dựa trên mạng thần kinh có thể cải thiện các quy trình, quá trình ra quyết định và độ chính xác của các quy trình kinh doanh quan trọng như phát hiện gian lận trong ngành dịch vụ tài chính. Chăm sóc sức khỏe là một lĩnh vực khác mà tiềm năng của AI là “rất lớn”, đặc biệt là về mặt giúp các bác sĩ đưa ra các quyết định lâm sàng tốt hơn cũng như giúp khám phá và phát triển các loại thuốc mới. 

Và, nhìn xa hơn về phía trước, Dar dự đoán rằng công nghệ AI sẽ giúp mang lại những cơ hội thương mại hoàn toàn mới hiện chưa có trong các lĩnh vực như xe tự lái và trò chơi nhập vai. 

Rào cản cơ sở hạ tầng để vượt qua

Bất chấp tiềm năng rõ ràng của AI và máy học trong doanh nghiệp, Dar thừa nhận rằng việc triển khai thương mại AI đang bị cản trở bởi các vấn đề xung quanh việc cung cấp cơ sở hạ tầng. Ông khuyên rằng các công ty cần xem xét cách thức mà AI thâm nhập vào một tổ chức ngay từ đầu.

Thông thường, điều này liên quan đến một quy trình không có sự phối hợp giữa các bộ phận trong đó các nhóm khác nhau cung cấp công nghệ và tài nguyên một cách độc lập, dẫn đến việc triển khai bị gián đoạn. CNTT không thể kiểm soát hiệu quả các dự án đặc biệt này và không có tầm nhìn về những gì đang diễn ra. Và điều này gây khó khăn nếu không muốn nói là không thể tính toán ROI trên chi tiêu cho cơ sở hạ tầng AI. 

Dar nói: “Đó là một vấn đề cổ điển: trước đây nó là CNTT bóng tối và bây giờ là AI bóng tối. 

Ngoài ra, cơ sở hạ tầng hiện đại cần thiết cho AI/ML là một khoản đầu tư vì các doanh nghiệp cần phần cứng điện toán mạnh mẽ được GPU tăng tốc để xử lý dữ liệu rất phức tạp và đào tạo các mô hình. 

Dar cho biết: “Các nhóm AI cần rất nhiều sức mạnh tính toán để đào tạo các mô hình, thường sử dụng GPU, đây là tài nguyên trung tâm dữ liệu cao cấp có thể bị tắt và không được sử dụng hiệu quả. Chắc chắn nó có thể dẫn đến rất nhiều tiền bị lãng phí. 

Chẳng hạn, cơ sở hạ tầng bị cô lập đó có thể dẫn đến mức sử dụng dưới 10%.

Theo cuộc thăm dò Run:ai, Khảo sát về tình trạng cơ sở hạ tầng AI năm 2021, được xuất bản vào tháng 2021 năm 87, 12% số người được hỏi cho biết họ gặp phải một số vấn đề về phân bổ tài nguyên điện toán/GPU, trong đó 83% cho biết điều này xảy ra thường xuyên. Do đó, 61% các công ty được khảo sát cho biết họ không sử dụng hết phần cứng GPU và AI của mình. Trên thực tế, gần hai phần ba (XNUMX%) cho biết phần cứng GPU và AI của họ chủ yếu ở mức sử dụng “vừa phải”.

Sự tập trung của AI

Để giải quyết những vấn đề này, Dar ủng hộ việc tập trung cung cấp tài nguyên AI. Run:AI đã phát triển một nền tảng quản lý điện toán dành cho AI để thực hiện việc này, tập trung và ảo hóa tài nguyên điện toán GPU. Bằng cách gộp các GPU vào một lớp ảo duy nhất và tự động lập lịch khối lượng công việc để sử dụng 100 phần trăm, phương pháp này mang lại lợi thế so với các hệ thống đơn lẻ ở cấp bộ phận. 

Tập trung hóa cơ sở hạ tầng mang lại khả năng kiểm soát và khả năng hiển thị, đồng thời giải phóng các nhà khoa học dữ liệu khỏi chi phí quản lý cơ sở hạ tầng. Các nhóm AI chia sẻ tài nguyên điện toán AI phổ quát có thể được quay số lên và xuống một cách linh hoạt khi nhu cầu tăng hoặc giảm, loại bỏ các tắc nghẽn nhu cầu và thời gian sử dụng kém. 

Dar lập luận rằng cách tiếp cận này có thể giúp các tổ chức tận dụng tối đa phần cứng của họ và giải phóng các nhà khoa học dữ liệu khỏi những hạn chế về giới hạn tài nguyên cơ bản. Tất cả điều đó có nghĩa là họ có thể chạy nhiều công việc hơn và đưa nhiều mô hình AI hơn vào sản xuất. 

Một ví dụ được cung cấp từ Trung tâm Hình ảnh Y tế & Trí tuệ Nhân tạo Luân Đôn về Chăm sóc sức khỏe Dựa trên Giá trị, do King's College London đứng đầu và có trụ sở tại Bệnh viện St. Thomas'. Nó sử dụng hình ảnh y tế và dữ liệu chăm sóc sức khỏe điện tử để đào tạo các thuật toán học sâu phức tạp cho thị giác máy tính và xử lý ngôn ngữ tự nhiên. Các thuật toán này được sử dụng để tạo ra các công cụ mới nhằm sàng lọc hiệu quả, chẩn đoán nhanh hơn và các liệu pháp cá nhân hóa.

Trung tâm nhận ra rằng cơ sở hạ tầng AI kế thừa của họ đang gặp vấn đề về hiệu quả: tổng mức sử dụng GPU dưới 30 phần trăm với thời gian nhàn rỗi “đáng kể” đối với một số thành phần. Sau khi chuyển sang giải quyết những vấn đề này bằng cách áp dụng mô hình cung cấp điện toán AI tập trung dựa trên nền tảng của Run:ai, mức sử dụng GPU của nó đã tăng 110%, song song với những cải tiến về tốc độ thử nghiệm và hiệu quả nghiên cứu tổng thể.

Tiến sĩ M. Jorge Cardoso, phó giáo sư và giảng viên cao cấp về AI tại Đại học King's College London và CTO của Trung tâm AI cho biết: “Các thử nghiệm của chúng tôi có thể mất vài ngày hoặc vài phút, sử dụng một lượng nhỏ sức mạnh tính toán hoặc toàn bộ cụm. “Việc giảm thời gian đưa ra kết quả đảm bảo chúng tôi có thể hỏi và trả lời những câu hỏi quan trọng hơn về sức khỏe và cuộc sống của mọi người,” 

Tập trung tài nguyên GPU AI cũng mang lại lợi ích thương mại có giá trị cho Wayve, một công ty có trụ sở tại London chuyên phát triển phần mềm AI cho ô tô tự lái. Công nghệ của nó được thiết kế để không phụ thuộc vào cảm biến mà thay vào đó tập trung vào trí thông minh cao hơn, để lái xe tự động tốt hơn trong các khu vực đô thị dày đặc.

Wayve's Fleet Learning Loop liên quan đến một chu kỳ liên tục thu thập dữ liệu, quản lý, đào tạo mô hình, mô phỏng lại và cấp phép cho các mô hình trước khi triển khai vào nhóm. Mức tiêu thụ điện toán GPU chính của công ty đến từ khóa đào tạo sản xuất Vòng lặp Học tập Hạm đội. Nó đào tạo cơ sở sản phẩm với tập dữ liệu đầy đủ và liên tục đào tạo lại để thu thập dữ liệu mới thông qua các lần lặp lại vòng lặp học tập nhóm.

Công ty bắt đầu nhận ra rằng họ đang gặp phải tình trạng “khủng khiếp” khi lập lịch GPU: mặc dù gần 100% tài nguyên GPU sẵn có của họ được phân bổ cho các nhà nghiên cứu, nhưng chưa đến 45% được sử dụng khi thử nghiệm ban đầu được thực hiện. 

Wayve lưu ý: “Vì GPU được gán tĩnh cho các nhà nghiên cứu, nên khi các nhà nghiên cứu không sử dụng GPU được chỉ định của họ, những người khác không thể truy cập chúng, tạo ra ảo tưởng rằng GPU dành cho đào tạo mô hình vẫn hoạt động hết công suất ngay cả khi nhiều GPU không hoạt động”. 

Làm việc với Run:ai đã giải quyết vấn đề này bằng cách loại bỏ silo và loại bỏ phân bổ tài nguyên tĩnh. Các nhóm GPU được chia sẻ đã được tạo cho phép các nhóm truy cập nhiều GPU hơn và chạy nhiều khối lượng công việc hơn, giúp cải thiện 35% hiệu suất sử dụng của họ. 

Gương cải tiến hiệu suất CPU

Phản ánh cách thức mà VMware đã mang lại những cải tiến đáng kể về hiệu quả đối với cách sử dụng CPU máy chủ với công suất tối đa trong những năm gần đây, những cải tiến mới hiện đang được tung ra thị trường để tối ưu hóa hiệu quả sử dụng GPU cho khối lượng công việc tính toán AI. 

Dar giải thích: “Nếu bạn nghĩ về ngăn xếp phần mềm chạy trên CPU, thì nó được xây dựng với rất nhiều VMware và ảo hóa. “GPU tương đối mới trong trung tâm dữ liệu và phần mềm cho AI và ảo hóa – chẳng hạn như Doanh nghiệp AI của NVIDIA – cũng là một sự phát triển gần đây.” 

“Chúng tôi mang đến công nghệ tiên tiến trong lĩnh vực đó với các khả năng như GPU phân đoạn, hoán đổi công việc và. cho phép khối lượng công việc chia sẻ GPU một cách hiệu quả,” Dar nói, đồng thời cho biết thêm rằng các cải tiến tiếp theo đang được lên kế hoạch.

Run:ai hợp tác chặt chẽ với NVIDIA để cải thiện và đơn giản hóa việc sử dụng GPU trong doanh nghiệp. Sự hợp tác gần đây nhất bao gồm việc kích hoạt tính linh hoạt của GPU đa đám mây cho các công ty sử dụng GPU trên đám mây và tích hợp với Máy chủ suy luận NVIDIA Triton phần mềm đơn giản hóa quy trình triển khai mô hình trong sản xuất.

Theo cách mà những đổi mới lớn trong suốt lịch sử đã có tác động sâu sắc đến loài người và thế giới, Dar lưu ý rằng sức mạnh của AI sẽ cần được khai thác một cách thận trọng để tối đa hóa lợi ích tiềm năng của nó, đồng thời quản lý những nhược điểm tiềm tàng. Anh ấy so sánh AI với sự đổi mới nguyên thủy nhất: lửa. 

“Nó giống như ngọn lửa đã mang lại rất nhiều điều tuyệt vời và thay đổi cuộc sống của con người. Lửa cũng mang đến nguy hiểm. Vì vậy, con người đã hiểu cách sống chung với lửa,” Dar nói. “Tôi nghĩ điều này cũng có ở đây trong AI ngày nay.” 

Được tài trợ bởi Run:ai.