ByteDance mở mã nguồn mô hình đa phương thức 3B Lance được huấn luyện trên 128 GPU A100

Theo Beating, ByteDance Research đã mở mã nguồn Lance, một mô hình đa phương thức thống nhất với 3 tỷ tham số, được huấn luyện chỉ trên 128 GPU A100. Lance hỗ trợ hiểu biết, tạo sinh và chỉnh sửa hình ảnh cũng như video trong cùng một khung duy nhất, cho thấy rằng năng lực đa phương thức tiên tiến có thể đạt được với nguồn tài nguyên tính toán tối thiểu bằng cách sử dụng kiến trúc dual-stream mixture-of-experts và mã hóa vị trí xoay modal-aware.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận