Nvidia hôm thứ Tư đã công bố việc mua lại nhà cung cấp điều phối Kubernetes tập trung vào AI Run: ai trong nỗ lực giúp nâng cao hiệu quả của các cụm máy tính được xây dựng trên GPU.
Các chi tiết của thỏa thuận không được tiết lộ nhưng báo cáo thỏa thuận có thể được định giá khoảng 700 triệu USD. Công ty khởi nghiệp có trụ sở tại Tel Aviv đã dường như đã huy động được 118 triệu USD qua bốn vòng cấp vốn kể từ khi thành lập vào năm 2018.
Nền tảng của Run:ai cung cấp giao diện người dùng trung tâm và mặt phẳng điều khiển để làm việc với nhiều biến thể Kubernetes phổ biến. Điều này làm cho nó hơi giống OpenShift của RedHat hoặc Rancher của SUSE và nó có nhiều công cụ tương tự để quản lý những thứ như không gian tên, hồ sơ người dùng và phân bổ tài nguyên.
Điểm khác biệt chính là Run:ai's được thiết kế để tích hợp với các công cụ và khung AI của bên thứ ba, đồng thời xử lý các môi trường vùng chứa được tăng tốc GPU. Danh mục phần mềm của nó bao gồm các yếu tố như lập lịch khối lượng công việc và phân vùng tăng tốc, tính năng sau cho phép trải rộng nhiều khối lượng công việc trên một GPU.
Theo Nvidia, nền tảng của Run:ai đã hỗ trợ các nền tảng tính toán DGX, bao gồm cấu hình Superpod, hệ thống quản lý cụm Base Command, thư viện bộ chứa NGC và bộ AI Enterprise.
Liên quan đến AI, Kubernetes khẳng định có một số lợi thế so với việc triển khai kim loại trần, vì môi trường có thể được cấu hình để xử lý việc mở rộng quy mô trên nhiều tài nguyên, có khả năng phân bổ theo địa lý.
Hiện tại, khách hàng hiện tại của Run:ai không cần lo lắng về việc Nvidia áp đặt những thay đổi lớn lên nền tảng. trong một phát hành, Nvidia cho biết họ sẽ tiếp tục cung cấp các sản phẩm của Run: ai theo cùng một mô hình kinh doanh trước mắt - bất kể điều đó có nghĩa là gì.
Trong khi đó, những người đã đăng ký DGX Cloud của Nvidia sẽ có quyền truy cập vào bộ tính năng của Run:ai cho khối lượng công việc AI của họ, bao gồm cả việc triển khai mô hình ngôn ngữ lớn (LLM).
Thông báo được đưa ra chỉ hơn một tháng sau khi gã khổng lồ GPU Tiết lộ một nền tảng container mới để xây dựng các mô hình AI có tên là Nvidia Inference Microservices (NIM).
NIMS về cơ bản là các hình ảnh vùng chứa được cấu hình sẵn và tối ưu hóa chứa mô hình, cho dù đó là phiên bản nguồn mở hay phiên bản độc quyền, với tất cả các phụ thuộc cần thiết để chạy mô hình.
Giống như hầu hết các container, NIM có thể được triển khai trên nhiều thời gian chạy khác nhau, bao gồm cả các nút Kubernetes được tăng tốc CUDA.
Ý tưởng đằng sau việc biến LLM và các mô hình AI khác thành microservice là chúng có thể được nối mạng với nhau và được sử dụng để xây dựng các mô hình AI phức tạp và giàu tính năng hơn mức có thể nếu không tự mình đào tạo một mô hình chuyên dụng, hoặc ít nhất đó là cách Nvidia hình dung mọi người sử dụng họ.
Với việc mua lại Run:ai, Nvidia hiện có lớp điều phối Kubernetes để quản lý việc triển khai các NIM này trên cơ sở hạ tầng GPU của mình. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2024/04/24/runai_acquisition_nvidia/
- : có
- :là
- 2018
- a
- Giới thiệu
- tăng tốc
- gia tốc
- truy cập
- mua lại
- ngang qua
- lợi thế
- Sau
- AI
- Mô hình AI
- Mục tiêu
- Tất cả
- sự phân bổ
- cho phép
- Đã
- an
- và
- công bố
- Thông báo
- LÀ
- AS
- At
- cơ sở
- BE
- sau
- Một chút
- tăng cường
- xây dựng
- Xây dựng
- xây dựng
- kinh doanh
- mô hình kinh doanh
- nhưng
- gọi là
- CAN
- trung tâm
- Những thay đổi
- tuyên bố
- đám mây
- cụm
- CO
- đến
- lệnh
- phức tạp
- Tính
- máy tính
- cấu hình
- Container
- Container
- tiếp tục
- điều khiển
- có thể
- CrunchBase
- khách hàng
- nhiều
- dành riêng
- phụ thuộc
- triển khai
- triển khai
- triển khai
- thiết kế
- chi tiết
- sự khác biệt
- phân phối
- hiệu quả
- nỗ lực
- các yếu tố
- Doanh nghiệp
- Môi trường
- môi trường
- hình dung
- chủ yếu
- hiện tại
- Đặc tính
- Tính năng
- Trong
- Thành lập
- 4
- khung
- tài trợ
- vòng tài trợ
- tương lai
- về mặt địa lý
- được
- khổng lồ
- GPU
- xử lý
- giúp đỡ
- Độ đáng tin của
- HTTPS
- ý tưởng
- hình ảnh
- lập tức
- áp đặt
- in
- bao gồm
- Bao gồm
- Cơ sở hạ tầng
- tích hợp
- Giao thức
- trong
- IT
- ITS
- jpg
- chỉ
- Key
- Ngôn ngữ
- lớn
- lớp
- ít nhất
- Thư viện
- Lượt thích
- LLM
- chính
- LÀM CHO
- quản lý
- quản lý
- quản lý
- nhiều
- Có thể..
- nghĩa là
- kim loại
- microservices
- triệu
- kiểu mẫu
- mô hình
- tháng
- chi tiết
- hầu hết
- nhiều
- cần thiết
- Mới
- ngc
- các nút
- tại
- con số
- Nvidia
- of
- cung cấp
- on
- mở
- mã nguồn mở
- tối ưu hóa
- or
- dàn nhạc
- Nền tảng khác
- nếu không thì
- kết thúc
- máy bay
- nền tảng
- Nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Phổ biến
- danh mục đầu tư
- có thể
- có khả năng
- Sản phẩm
- Profiles
- độc quyền
- nhà cung cấp dịch vụ
- cung cấp
- nâng lên
- coi
- tài nguyên
- Thông tin
- Giàu
- khoảng
- vòng
- chạy
- chạy
- s
- Nói
- tương tự
- mở rộng quy mô
- lập kế hoạch
- định
- kể từ khi
- duy nhất
- Phần mềm
- nguồn
- lan tràn
- khởi động
- bộ
- Hỗ trợ
- hệ thống
- Điện thoại
- hơn
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- Kia là
- họ
- điều
- của bên thứ ba
- điều này
- những
- đến
- bên nhau
- công cụ
- Hội thảo
- Quay
- Dưới
- đã sử dụng
- người sử dang
- Giao diện người dùng
- sử dụng
- giá trị
- nhiều
- phiên bản
- là
- Thứ Tư
- wasn
- bất cứ điều gì
- liệu
- cái nào
- sẽ
- với
- không có
- đang làm việc
- lo
- sẽ
- trên màn hình
- mình
- zephyrnet