NVIDIA mới đây đã giới thiệu bộ công cụ phát triển Jetson Orin Nano Super, kế nhiệm cho bộ công cụ Jetson Orin Nano từ năm 2022. Siêu máy tính AI nhỏ gọn này có thể nằm gọn trong lòng bàn tay, gồm một module hệ thống 8GB Jetson Orin Nano và một bo mạch tham chiếu.
Về hiệu năng, Jetson Orin Nano Super đạt 68 nghìn tỷ phép tính mỗi giây (TOPS), tăng 70% so với thế hệ trước. NVIDIA cũng tuyên bố cải thiện hiệu năng suy luận AI tạo sinh lên 1,7 lần và tăng băng thông lên 50%, đạt 102GB mỗi giây. Tần số CPU giờ đạt 1,7GHz, tăng khiêm tốn so với 1,5GHz của thế hệ trước.
Clip ông Jensen Huang giới thiệu chiếc siêu máy tính AI mới
NVIDIA khẳng định Jetson Orin Nano Super mang lại lợi ích cho tất cả các mô hình AI tạo sinh phổ biến, bao gồm các mô hình ngôn ngữ lớn (LLMs), mô hình ngôn ngữ thị giác và bộ chuyển đổi thị giác. Các bản cập nhật phần mềm của Jetson Orin Nano Super cũng có thể nâng cấp hiệu năng của thế hệ trước, tin vui cho những ai đang sở hữu Jetson Orin Nano nguyên bản.
Với mức giá chỉ 249 USD, giảm từ 499 USD so với thế hệ trước, bộ công cụ phát triển Jetson Orin Nano Super hiện có sẵn từ các nhà bán lẻ được NVIDIA chấp thuận, trở thành sản phẩm giá rẻ nhất trong phân khúc.
Ngoài ra, NVIDIA cũng công bố phần mềm cập nhật mới sẽ tăng hiệu năng AI tạo sinh lên 1,7 lần cho các chủ sở hữu bộ Jetson Orin Nano Developer Kit hiện tại. Dù là nhà phát triển AI thương mại, người đam mê hay sinh viên, bộ công cụ mới đều mang lại những bước tiến về khả năng và hiệu suất AI tạo sinh.
Dù xây dựng chatbot LLM dựa trên tạo sinh tăng cường truy xuất, xây dựng một tác nhân AI thị giác, hay triển khai robot dựa trên AI, Jetson Orin Nano Super là giải pháp lý tưởng. Nó phù hợp với những ai muốn phát triển kỹ năng trong AI tạo sinh, robot hoặc thị giác máy tính.
Dù có giá rẻ hơn, nhưng hiệu năng của Jetson lại được cải thiện đáng kể so với thế hệ trước
Hiệu năng tăng cường của Jetson Orin Nano Super mang lại lợi ích cho tất cả các mô hình AI tạo sinh và thị giác máy tính dựa trên transformer phổ biến. Bộ công cụ phát triển bao gồm module hệ thống Jetson Orin Nano 8GB (SoM) và bo mạch tham chiếu, tạo nên nền tảng lý tưởng cho việc tạo mẫu ứng dụng AI biên.
Phòng thí nghiệm Jetson AI của NVIDIA cung cấp hỗ trợ ngay lập tức cho các mô hình tiên tiến từ cộng đồng nguồn mở và các hướng dẫn dễ sử dụng. Nhà phát triển cũng có thể nhận được hỗ trợ rộng rãi từ cộng đồng Jetson và cảm hứng từ các dự án do các nhà phát triển khác tạo ra.
Jetson chạy phần mềm AI của NVIDIA bao gồm NVIDIA Isaac cho robot, NVIDIA Metropolis cho AI thị giác và NVIDIA Holoscan cho xử lý cảm biến. Thời gian phát triển có thể được rút ngắn với NVIDIA Omniverse Replicator để tạo dữ liệu tổng hợp và NVIDIA TAO Toolkit để tinh chỉnh các mô hình AI được đào tạo trước từ catalog NGC.
Các đối tác hệ sinh thái Jetson cung cấp thêm phần mềm AI và hệ thống, công cụ phát triển và phát triển phần mềm tùy chỉnh. Họ cũng có thể hỗ trợ về camera và các cảm biến khác, cũng như bo mạch mang và dịch vụ thiết kế cho các giải pháp sản phẩm.
Với bộ công cụ phát triển Jetson Orin Nano Super, NVIDIA đang đem tới một siêu máy tính AI tạo sinh nhỏ gọn và rẻ nhất từ trước tới nay, hứa hẹn sẽ thúc đẩy sự phát triển và ứng dụng của trí tuệ nhân tạo trong tương lai gần.
Lấy link