Mô hình thị giác – ngôn ngữ – hành động hoạt động thế nào

Tên gọi dài nhưng ý tưởng gọn: lấy một mô hình đã hiểu ảnh và chữ, dạy thêm cho nó cách sinh ra hành động, rồi đặt lên robot. Cách làm này đã đổi hẳn diện mạo của lĩnh vực trong vài năm gần đây.

Ba đầu vào

Thị giác. Một hoặc nhiều luồng ảnh: camera nhìn toàn cảnh và camera gắn ở cổ tay. Camera cổ tay đặc biệt quan trọng ở giai đoạn tiếp cận và tiếp xúc, khi vật bị chính tay kẹp che khuất trong khung nhìn toàn cảnh.

Ngôn ngữ. Câu mô tả việc cần làm. Đây là điều khiến kiến trúc này khác hẳn các chính sách chuyên biệt: cùng một mô hình làm được nhiều việc, tuỳ câu lệnh.

Trạng thái robot. Góc các khớp, trạng thái tay kẹp, đôi khi lực đo ở cổ tay. Thiếu phần này, mô hình phải đoán tư thế hiện tại từ ảnh, vốn kém tin cậy.

Đầu ra: hành động, không phải chữ

Điểm mấu chốt phân biệt với mô hình ngôn ngữ thông thường: đầu ra là lệnh chuyển động.

Thường là vị trí và hướng mong muốn của đầu công tác tại các thời điểm sắp tới, cộng trạng thái đóng mở của tay kẹp. Một số kiến trúc xuất ra góc khớp trực tiếp.

Đầu ra này được đưa xuống tầng điều khiển bên dưới, nơi các bộ điều chỉnh cổ điển lo phần bám theo và phản ứng nhanh với sai lệch. Mô hình quyết định đi đâu; tầng dưới lo đi thế nào cho mượt và an toàn.

Vì sao huấn luyện trước lại quan trọng đến vậy

Dữ liệu thao tác robot rất đắt: mỗi mẫu cần một lần thao tác vật lý trong thời gian thực. Không có cách nào thu được lượng dữ liệu ngang với ảnh và văn bản trên mạng.

Ý tưởng của kiến trúc này là không học lại thế giới từ đầu. Mô hình đã học từ ảnh và chữ vốn đã biết cốc là gì, biết cái nào là quả táo, biết chất lỏng thì đổ. Phần cần dạy thêm chỉ là ánh xạ từ hiểu biết đó sang chuyển động.

Đây là lý do các mô hình dạng này tổng quát hoá tốt hơn hẳn chính sách huấn luyện từ đầu: khi gặp một vật chưa từng thấy trong dữ liệu robot, chúng vẫn nhận ra nhờ tri thức nền.

Dữ liệu huấn luyện đến từ đâu

Ba nguồn, thường dùng kết hợp.

• Điều khiển từ xa: người thao tác robot làm mẫu, hệ thống ghi lại quan sát và hành động. Chất lượng cao nhưng chậm và tốn công.
• Mô phỏng: nhanh và rẻ, chạy song song được, nhưng có khoảng cách với thực tế.
• Tập dữ liệu dùng chung gộp từ nhiều phòng lab và nhiều loại robot. Hướng này đang được đẩy mạnh, với giả thiết rằng dữ liệu từ thân máy khác vẫn có ích.

Điểm đáng chú ý về mặt kỹ thuật: mỗi thân máy có cấu trúc hành động riêng, nên gộp dữ liệu nhiều loại robot đòi một cách biểu diễn hành động thống nhất. Đây là một trong những vấn đề mở của lĩnh vực.

Giới hạn hiện tại

Tần số suy luận. Mô hình lớn không chạy đủ nhanh cho vòng điều khiển, nên phải phân tầng hoặc dự đoán nhiều bước cùng lúc.

Thao tác cần lực tinh tế. Ảnh không cho biết lực. Không có phản hồi lực, các thao tác lắp khít vẫn khó.

Chuỗi dài. Nhiệm vụ nhiều bước nối tiếp dễ hỏng ở giữa, vì sai lệch tích luỹ và mô hình không có khả năng lập kế hoạch dài hạn tốt.

Đảm bảo an toàn. Không thể chứng minh mô hình sẽ không sinh ra một hành động nguy hiểm trong tình huống lạ, nên vẫn cần lớp bảo vệ độc lập bên ngoài.

Bốn giới hạn này đều đang là hướng nghiên cứu tích cực, và tiến bộ ở bất kỳ mục nào cũng đáng theo dõi.

Câu hỏi thường gặp

Đọc thêm trong Robot hiện thân là gì và Huấn luyện trong mô phỏng.