Câu hỏi mua máy gì cho nhóm làm robot không có một đáp án, vì có ba loại tải tính toán rất khác nhau và chúng cần phần cứng khác nhau. Mua một cỗ máy mạnh cho tất cả thường lãng phí ở chỗ này và thiếu ở chỗ kia.
Tải một: huấn luyện mô hình
Đây là tải nặng nhất nhưng cũng linh hoạt nhất về thời gian. Nó chạy hàng giờ tới hàng ngày, không cần phản hồi tức thời, và có thể xếp hàng.
Yêu cầu: bộ nhớ đồ hoạ lớn để chứa mô hình và lô dữ liệu, băng thông đọc dữ liệu đủ nhanh để không bỏ đói bộ xử lý.
Vì tính chất xếp hàng được, đây là tải phù hợp nhất để dùng hạ tầng thuê ngoài. Nhiều nhóm nhỏ dùng máy thuê cho huấn luyện và chỉ mua máy cho hai loại tải còn lại.
Một lưu ý về dữ liệu: nếu tập dữ liệu lớn, chi phí và thời gian truyền lên hạ tầng thuê có thể lớn hơn dự tính, và điều này thường bị bỏ qua khi so sánh chi phí.
Tải hai: mô phỏng
Mô phỏng có đặc điểm riêng: nó cần cả năng lực tính toán vật lý lẫn kết xuất ảnh, và với các trình mô phỏng chạy song song trên bộ xử lý đồ hoạ, nó cần bộ nhớ đồ hoạ đủ cho nhiều môi trường cùng lúc.
Khác với huấn luyện, mô phỏng thường chạy cùng với vòng huấn luyện, nên hai tải này cạnh tranh tài nguyên trên cùng một máy.
Điều đáng đo trước khi mua: tỉ lệ thời gian dành cho mô phỏng và cho cập nhật mô hình. Nếu mô phỏng chiếm phần lớn, đầu tư vào máy chạy mô phỏng nhanh có giá trị hơn là mua bộ xử lý đồ hoạ mạnh nhất.
Tải ba: suy luận tại chỗ
Đây là tải nhẹ nhất về khối lượng nhưng khắt khe nhất về độ trễ, và nó chạy liên tục khi robot hoạt động.
Yêu cầu khác hẳn hai tải trên: độ trễ thấp và ổn định, tiêu thụ điện vừa phải, tản nhiệt phù hợp với môi trường lắp đặt, và độ tin cậy cao vì nó chạy suốt.
Máy tính nhúng chuyên dụng thường phù hợp hơn một máy trạm mạnh, vì kích thước, điện năng và độ bền quan trọng hơn hiệu năng tuyệt đối.
Nếu mô hình quá lớn cho máy nhúng, phương án là đặt một máy mạnh trong cùng mạng nội bộ. Điều tuyệt đối cần tránh là để đường suy luận đi qua kết nối ra ngoài, vì độ trễ dao động sẽ phá vỡ vòng điều khiển.
Lưu trữ và mạng
Hai hạng mục hay bị quên trong ngân sách nhưng thường thành nút thắt.
Lưu trữ. Dữ liệu thao tác có ảnh nhiều góc sinh ra dung lượng lớn nhanh chóng. Cần tính cho vài năm chứ không cho vài tháng, và cần phân tầng: ổ nhanh cho dữ liệu đang dùng, lưu trữ rẻ cho dữ liệu cũ.
Tốc độ đọc quan trọng không kém dung lượng: nếu huấn luyện bị chặn bởi tốc độ đọc dữ liệu, bộ xử lý đồ hoạ đắt tiền sẽ ngồi chờ.
Mạng nội bộ. Truyền dữ liệu từ trạm robot về máy chủ, và truyền dữ liệu huấn luyện từ lưu trữ tới máy tính. Mạng chậm biến mọi thao tác thành chờ đợi.
Phân bổ ngân sách cho nhóm nhỏ
Với một nhóm mới bắt đầu, thứ tự ưu tiên thực dụng như sau.
- Máy tính tại chỗ cho robot và thiết bị thu dữ liệu. Không có phần này thì không có gì để làm.
- Lưu trữ và sao lưu. Dữ liệu là tài sản không thu lại được.
- Một máy có bộ xử lý đồ hoạ cho phát triển và thử nghiệm nhanh, không cần cấu hình cao nhất.
- Huấn luyện quy mô lớn: thuê ngoài lúc đầu, mua khi đã biết rõ nhu cầu.
Sai lầm phổ biến là đảo ngược thứ tự này: mua máy huấn luyện mạnh trước, rồi phát hiện nút thắt thật nằm ở việc thu dữ liệu và ở lưu trữ.
Câu hỏi thường gặp
Nên thuê hay mua máy huấn luyện?
Giai đoạn đầu nên thuê, vì nhu cầu chưa rõ và công nghệ phần cứng thay đổi nhanh. Mua trở nên hợp lý khi tải huấn luyện đã đều đặn và khi chi phí truyền dữ liệu lên hạ tầng thuê trở thành gánh nặng.
Máy tính trên robot cần cấu hình thế nào?
Phụ thuộc vào kích thước mô hình chạy tại chỗ. Nguyên tắc là chọn theo yêu cầu độ trễ và điện năng chứ không theo hiệu năng tuyệt đối, và nên đo thời gian suy luận thực tế của mô hình dự kiến trước khi chốt.
Có nên dùng một máy chủ chung cho nhiều robot không?
Hợp lý nếu các robot không cùng lúc yêu cầu suy luận ở tần số cao và mạng nội bộ đủ ổn định. Cần tính tới trường hợp xấu nhất khi tất cả cùng gọi, vì đó là lúc độ trễ tăng đúng vào thời điểm hệ thống bận nhất.
Dung lượng lưu trữ nên dự trù bao nhiêu?
Nên ước lượng từ tốc độ sinh dữ liệu thực tế: dung lượng mỗi lần thu nhân với số lần thu dự kiến mỗi ngày, rồi nhân với số ngày. Cộng thêm biên cho các phiên bản đã xử lý và cho sao lưu, thường là gấp đôi con số thô.
Đọc thêm trong Thao tác vật thể và Robot hiện thân là gì.
