Nvidia trong tuần này đã nêu chi tiết về mối quan hệ đối tác với Bưu điện Hoa Kỳ để chuyển đổi các hoạt động gửi thư của hãng này với AI. Theo Nvidia, các công cụ và tài nguyên máy học của họ cho phép Bưu điện xử lý hơn 20 terabyte hình ảnh mỗi ngày từ hơn 1.000 máy xử lý thư sử dụng 195 máy chủ biên.
Vào năm 2019, Bưu điện Hoa Kỳ có yêu cầu xác định và theo dõi các mục trong hơn 100 triệu mẩu thư hàng ngày của mình. Các nhà khoa học dữ liệu tại tổ chức này nghĩ rằng họ có thể mở rộng hệ thống phân tích hình ảnh được phát triển nội bộ thành một thứ gì đó rộng hơn, với các máy chủ AI tiên tiến được đặt ở vị trí chiến lược tại các trung tâm xử lý của Bưu điện. Hy vọng rằng hệ thống sẽ cho phép Bưu điện phân tích hàng tỷ hình ảnh của thư và chia sẻ thông tin chi tiết một cách nhanh chóng qua mạng.
Tuyển dụng nửa tá kiến trúc sư tại Nvidia và các công ty khác, Bưu điện đã đưa ra các mô hình học sâu mà họ cần sau ba tuần chạy nước rút.
Công trình này là nguồn gốc của Chương trình Cơ sở hạ tầng Điện toán Edge, một hệ thống AI biên phân tán đang chạy trên nền tảng NVIDIA EGX tại Bưu điện ngày nay.
Phần mềm mã nguồn mở của Nvidia, Triton Inference Server, hoạt động như một loại người gửi thư kỹ thuật số giữa các máy chủ biên, cung cấp các mô hình AI cần thiết theo yêu cầu. Theo phân tích của Bưu điện, nhiệm vụ thị giác máy tính có thể đòi hỏi hai tuần trên mạng máy chủ với 800 bộ xử lý hiện có thể được hoàn thành trong 20 phút trên bốn GPU NVIDIA V100 Tensor Core ở một trong những máy chủ biên, HPE Apollo 6500s .
Mô hình dự án
Triton tự động hóa việc phân phối các mô hình AI đến các hệ thống Bưu điện khác nhau có thể có cấu hình GPU và CPU độc đáo hỗ trợ các khuôn khổ học sâu. Một ứng dụng chỉ kiểm tra các mục thư yêu cầu phối hợp công việc của hơn nửa tá mô hình học sâu, mỗi mô hình kiểm tra các tính năng cụ thể.
Bạn có thể thích
Nvidia cho biết các phòng ban trong Bưu điện, từ phân tích doanh nghiệp đến tài chính và tiếp thị, đã nảy sinh ý tưởng cho 30 ứng dụng cho ECIP. Người ta sẽ xác định xem một gói hàng có vận chuyển bưu phí phù hợp với kích thước, trọng lượng và điểm đến của nó hay không. Một người khác sẽ giải mã mã vạch, ngay cả khi có hư hỏng.
Kế hoạch là đưa một số ứng dụng hỗ trợ AI mới ra đời và chạy trong năm nay. Nvidia và Bưu điện cho biết mô hình mã vạch có thể có trên ECIP ngay trong mùa hè này.
OCR thế hệ tiếp theo
Đang tìm kiếm những cải tiến hơn nữa cho đường ống xử lý thư của mình, Bưu điện đã đưa ra yêu cầu về những gì có thể là ứng dụng tiếp theo cho ECIP – một ứng dụng sử dụng nhận dạng ký tự quang học (OCR). Trước đây, cơ quan này sẽ phải mua phần cứng và phần mềm mới đắt tiền hoặc sử dụng dịch vụ đám mây công cộng, tốn nhiều băng thông và có chi phí đáng kể. Lần này, dựa trên chuyên môn của Nvidia, công ty đã triển khai hệ thống OCR dựa trên AI trong một vùng chứa trên ECIP do Kubernetes quản lý và Triton phục vụ.
Trong những tuần đầu của đại dịch, các nhà khai thác đã tung ra các thùng chứa để vận hành các hệ thống đầu tiên như những hệ thống khác đang được giao, cập nhật chúng khi mạng đầy đủ được cài đặt. Nvidia đã được trao hợp đồng vào tháng 9 năm 2019, bắt đầu triển khai hệ thống vào tháng 2 năm ngoái và hoàn thành hầu hết phần cứng vào tháng 8.
Các giải pháp mới có thể giúp Bưu điện cải thiện các tiêu chuẩn chuyển phát, vốn đã giảm trong năm qua. Vào giữa tháng 12, trong kỳ nghỉ lễ vừa qua, cơ quan này đã giao ít nhất 62% thư hạng nhất đúng hạn – mức thấp nhất trong nhiều năm. Tỷ lệ tăng trở lại lên 84% vào tuần 6 tháng 3 nhưng vẫn thấp hơn mục tiêu của cơ quan là khoảng 96%.
Dịch vụ Bưu điện đã cho rằng cho đại dịch và thời gian cao điểm kỷ lục là nguyên nhân dẫn đến phần lớn hiệu suất dịch vụ kém.
Todd Schimmel – người quản lý giám sát các hệ thống Dịch vụ Bưu điện, bao gồm cả ECIP – cho biết trong một thông cáo báo chí : “Các mô hình mà chúng tôi đã triển khai cho đến nay giúp quản lý thư và Dịch vụ Bưu chính – nó giúp chúng tôi duy trì sứ mệnh của mình, Trước đây, phải mất 8 hoặc 10 người trong vài ngày để truy tìm các mặt hàng, bây giờ phải mất một hoặc hai người trong vài giờ. Điều này có lợi cho chúng tôi và khách hàng của chúng tôi, cho chúng tôi biết một bưu kiện cụ thể đang ở đâu – đó không phải là viên đạn bạc, nhưng nó sẽ lấp đầy khoảng trống và tăng hiệu suất của chúng tôi… Chúng tôi đang bắt đầu hành trình với AI tiên tiến . ”
