SambaNova Systems cung cấp cho nền tảng phần cứng và phần mềm AI tích hợp của nó, một sự gia tăng hiệu suất đáng kể

0
SambaNova Systems cung cấp cho nền tảng phần cứng và phần mềm AI tích hợp của nó, một sự gia tăng hiệu suất đáng kể

Khởi động trí tuệ nhân tạo SambaNova Systems Inc. hôm nay đã công bố một phiên bản cải tiến của hệ thống DataScale hàng đầu của mình ngày hôm nay, với bộ vi xử lý thế hệ tiếp theo mà hãng cho biết sẽ tăng cường hiệu suất một cách đáng kể và cung cấp hỗ trợ cho các mô hình học máy lớn hơn nhiều so với trước đây.

SambaNova là một công ty khởi nghiệp được tài trợ cực kỳ tốt, đã thiết kế và xây dựng một nền tảng phần cứng và phần mềm tích hợp để chạy AI và khối lượng công việc học sâu từ trung tâm dữ liệu đến tận cùng. Công ty cho biết bằng cách tích hợp cả phần cứng và phần mềm được tối ưu hóa cho AI, nó tạo ra một kiến ​​trúc “luồng dữ liệu” có thể cấu hình lại cho phép các ứng dụng thúc đẩy các cấu hình phần cứng được tối ưu hóa. Nó có nghĩa là phần mềm cơ bản không bị ràng buộc bởi các giới hạn của phần cứng cố định.

Phiên bản đầu tiên của DataScale được ra mắt vào tháng 12 năm 2020, được cung cấp bởi các chip bảy nanomet tùy chỉnh. SambaNova cho biết họ hòa hợp với quá trình học máy và học sâu hơn là các đơn vị xử lý trung tâm có mục đích chung và đơn vị xử lý đồ họa cung cấp năng lượng cho hầu hết các khối lượng công việc AI.

Kiến trúc Dataflow có thể cấu hình lại chạy một ngăn xếp phần mềm nguồn mở được gọi là SambaFlow đảm bảo mỗi mô hình học máy chạy tối ưu trên hệ thống. Nó thực hiện điều này bằng cách giảm thiểu nhu cầu giao tiếp với bộ nhớ truy cập ngẫu nhiên động. Điều đó giúp loại bỏ một điểm nghẽn quan trọng trong AI, cụ thể là sự kết nối giữa bộ xử lý và bộ nhớ.

Nền tảng DataScale của SambaNova có sẵn để mua hoặc thuê thông qua Cung cấp DataFlow-as-a-service. Đối với những khách hàng chọn tùy chọn thứ hai, SambaNova sẽ cài đặt và duy trì hệ thống DataScale trong trung tâm dữ liệu tại chỗ của họ, với mức giá dựa trên việc sử dụng.

Phiên bản cải tiến của DataScale được công bố ngày hôm nay được cho là sẽ cung cấp một số cải tiến, bao gồm tốc độ đào tạo mô hình AI thậm chí còn nhanh hơn hệ thống DGX A100 được sử dụng rộng rãi của Nvidia Corp. Nó chứa bộ xử lý thế hệ tiếp theo của SambaNova, Bộ xử lý luồng dữ liệu có thể cấu hình lại Cardinal SN30 nâng cao. Nó cũng có thể hỗ trợ các mô hình AI lớn hơn nhiều so với trước đây, với dung lượng bộ nhớ gấp 12,8 lần so với DGX A100, SambaNova cho biết.

SambaNova cho biết hệ thống mới chỉ có sẵn trên cơ sở định giá đăng ký thông qua Dataflow-as-a-service. Công ty sẽ cài đặt và duy trì hệ thống DataScale trong trung tâm dữ liệu tại chỗ của khách hàng và tính phí dựa trên tần suất sử dụng hệ thống này.

“Hệ thống DataScale SN30 mới đạt được hiệu suất phá kỷ lục thế giới khi so sánh với hệ thống DGX A100 mới nhất,” Marshall Choy, Phó chủ tịch cấp cao về sản phẩm của SambaNova Systems cho biết. “Với bản phát hành này, SambaNova cũng cung cấp 100% giá đăng ký cho DataScale và Dataflow-as-a-Service, cho phép các tổ chức đạt được ROI nhanh hơn, giảm rủi ro và mở rộng quy mô hiệu quả hơn so với bất kỳ cơ sở hạ tầng AI nào khác.”

Công ty cho biết các doanh nghiệp đang ngày càng áp dụng AI để cung cấp năng lượng cho một loạt các ứng dụng kinh doanh. Do đó, họ tin rằng việc chuyển từ triển khai AI chiến thuật sang một giải pháp toàn doanh nghiệp có khả năng mở rộng hơn là rất hợp lý. Đó chính xác là những gì SambaNova tuyên bố sẽ cung cấp với DataScale, hợp nhất “sự lan tỏa của AI” thành các mô hình nền tảng có thể được đào tạo một lần và sử dụng lại trong toàn tổ chức.

SambaNova có phần độc đáo trong không gian AI với sự kết hợp của phần cứng, phần mềm và giải pháp, giải thích Andy Thurai, phó chủ tịch kiêm nhà phân tích chính của Constellation Research Inc. “Do giai đoạn thử nghiệm đã kết thúc, hầu hết các doanh nghiệp hiện đang tìm cách sản xuất các giải pháp AI toàn doanh nghiệp có thể mở rộng và có thể dễ dàng đào tạo”, ông nói. “Các chip Đơn vị dữ liệu có thể cấu hình lại của SambaNova hơi khác so với các CPU có mục đích chung và GPU dành riêng cho AI mà hầu hết các sáng kiến ​​AI dựa vào, vì vậy đây có thể là một điểm khác biệt lớn, với công ty tuyên bố rằng chúng tốt hơn nhiều lần so với hệ thống DGX A100 của Nvidia.”

Một lợi ích khác của tổ hợp phần cứng và phần mềm của SambaNova là nó cung cấp cho các doanh nghiệp khả năng xử lý dữ liệu và đào tạo mô hình hiệu suất cao với mức tiêu thụ điện năng thấp hơn so với các sản phẩm của đối thủ, nhà phân tích cho biết thêm. Ông giải thích rằng khối lượng công việc tính toán hiệu suất cao luôn là vấn đề đối với các doanh nghiệp, vì chúng nổi tiếng là tốn kém để đào tạo và vận hành.

Thurai nói: “Hầu hết các trường hợp, doanh nghiệp cần mua một bộ giải pháp toàn bộ để chạy khối lượng công việc của HPC. “Với việc cung cấp dựa trên đăng ký của SambaNova và tỷ lệ giá / hiệu suất tốt hơn, nó cung cấp một giải pháp thay thế cho Nvidia và các nhà cung cấp HPC chuyên nghiệp. Chỉ có thời gian mới trả lời được liệu nó có thể giành chiến thắng hay không ”.

SambaNova Systems chắc chắn đang cạnh tranh trong một ngành công nghiệp khó khăn, nhưng ít nhất nó cũng có nhiều khách hàng hài lòng, bao gồm Phòng thí nghiệm Quốc gia Lawrence Livermore.

Bronis de Supinski, giám đốc công nghệ của Livermore Computing tại LLNL cho biết: “Chúng tôi mong muốn triển khai một hệ thống đa tầng lớn hơn thuộc thế hệ tiếp theo của hệ thống DataScale của SambaNova. “Việc tích hợp giải pháp này với các cụm truyền thống trong toàn bộ trung tâm của chúng tôi sẽ cho phép công nghệ có tác động sâu hơn theo chương trình. Chúng tôi dự đoán hiệu suất sẽ tăng gấp hai đến sáu lần, vì hệ thống DataScale mới hứa hẹn sẽ cải thiện đáng kể tốc độ, hiệu suất và năng suất tổng thể. ”

Ảnh: SambaNova Systems

Hãy thể hiện sự ủng hộ của bạn đối với sứ mệnh của chúng tôi bằng cách tham gia Câu lạc bộ Cube và Cộng đồng sự kiện Cube gồm các chuyên gia. Tham gia cộng đồng bao gồm Amazon Web Services và Giám đốc điều hành Amazon.com Andy Jassy, ​​người sáng lập kiêm Giám đốc điều hành Dell Technologies, Michael Dell, Giám đốc điều hành Intel Pat Gelsinger và nhiều chuyên gia và nhân vật nổi tiếng khác.

bài viết tương tự

Leave a Reply