Tìm hiểu quy trình triển khai AI nhúng trên các thiết bị nhúng khác nhau với AI và NLP
Với việc ngày càng có nhiều thiết bị thông minh được tung ra thị trường, chúng ta có thể chắc chắn rằng AI đã tìm thấy vị trí của mình trong các thiết bị nhúng. Ví dụ, một máy ảnh thông minh có khả năng phát hiện đối tượng nâng cao hoặc một thiết bị đeo thông minh có trợ lý thông minh tiên tiến, rất nhiều ví dụ. Khi các nhà sản xuất thiết bị và nhà cung cấp giải pháp thu được giá trị cao hơn so với việc chỉ cung cấp trải nghiệm người dùng và dịch vụ nâng cao, chẳng hạn như thúc đẩy các quyết định kinh doanh và giảm chi phí bằng cách cải thiện khả năng phục vụ giữa những người khác, nhiều ngành công nghiệp đang tham gia vào băng tần nhúng AI. Tuy nhiên, câu hỏi đặt ra là con đường phía trước là gì, và chúng ta có nên đặt niềm tin vào việc áp dụng xu hướng này không?
Sử dụng xử lý ngôn ngữ tự nhiên (NLP) và các công nghệ mới nổi như AI tổng hợp, biểu đồ tri thức và AI tổng hợp, các tổ chức đang ngày càng sử dụng các giải pháp AI để tạo ra sản phẩm mới, cải tiến sản phẩm hiện có và phát triển cơ sở khách hàng của họ. Theo chu kỳ cường điệu của Gartner cho AI, Edge AI đang ở mức đỉnh điểm của kỳ vọng bị lạm phát. Mặc dù những lợi thế như độ trễ giảm hoặc không đáng kể, không phụ thuộc vào kết nối và băng thông, giảm phụ thuộc vào trung tâm dữ liệu, tăng cường bảo mật và quyền riêng tư được đảm bảo, là rất cao, do các kịch bản thị trường, có một số thách thức trong việc áp dụng. Tuy nhiên, có một số ngành đang ở mức áp dụng rất tiên tiến, chẳng hạn như ADAS trong ô tô, an sinh xã hội (giám sát và sinh trắc học), bảo trì dự đoán, v.v.
Thách thức về tiêu chuẩn hóa với AI nhúng
Tất cả những gã khổng lồ công nghệ ngày nay, bao gồm Tesla, Google, Meta, và nhiều công ty khác, đang thúc đẩy các phương pháp tiếp cận, khuôn khổ và nền tảng độc lập liên quan đến Embedded AI. Hiện tại, kỳ vọng là nhà cung cấp Chất bán dẫn / hệ thống sẽ giải quyết các thách thức nền tảng và do đó mỗi nhà cung cấp Chất bán dẫn giải quyết theo những cách khác nhau. Điều này mang đến những thách thức đối với tiêu chuẩn hóa. Nếu chúng tôi thay đổi nền tảng, cơ hội sử dụng lại sẽ rất ít. AI là tất cả về đào tạo liên tục và sử dụng điều này để cải thiện suy luận, vì vậy chiến lược triển khai AI nhúng cần xem xét cách thu thập dữ liệu để đào tạo liên tục và cách mô hình cập nhật có thể được triển khai thường xuyên để có suy luận tốt hơn. Với việc phát triển các kiến trúc xử lý chuyên biệt, việc triển khai một khuôn khổ không mô-đun và cố định không được khuyến khích. Những triển khai này phải có khả năng cập nhật được mong đợi trong tương lai, không chỉ tối ưu hóa mô hình mà còn tự cập nhật mô hình.
Hầu hết các thuật toán này sẽ có các phép toán đại số tuyến tính, ma trận và dữ liệu vectơ mở rộng. Các kiến trúc CPU tiêu chuẩn / truyền thống không được xác định cho các khối lượng công việc như vậy hoặc được tối ưu hóa cho các khối lượng đó. Do đó, lĩnh vực này trải qua rất nhiều đổi mới tùy chỉnh trong việc xác định các kiến trúc được tối ưu hóa cho khối lượng công việc như vậy nhằm cân bằng các yêu cầu về kiến trúc mô hình (hiệu suất, kích thước, độ trễ, độ chính xác, kích thước, loại, v.v.) với chi phí, công suất và mô-đun / khả năng lập trình. Điều này cũng thúc đẩy các thiết kế SoC (Silicon trên chip) tùy chỉnh để giải quyết các yêu cầu cụ thể khó đạt được bằng cách sử dụng SoC tiêu chuẩn từ các công ty Bán dẫn.
Triển khai AI nhúng
Sau đây là một chu trình điển hình để triển khai mô hình AI trong một thiết bị nhúng. Như vậy, chúng ta có thể thấy rằng điều rất quan trọng là phải xem xét khả năng mô phỏng, hỗ trợ cho các mô hình đa dạng và các công cụ cho từng giai đoạn.
Với những thách thức hiện tại, để triển khai hiệu quả một mô hình trên hệ thống nhúng, nó cần được kiến trúc và thiết kế dựa trên sự nhúng trong tâm trí.
Dựa trên yếu tố Quan trọng để Thành công và các kịch bản triển khai, bạn sẽ phải đưa ra quyết định về việc bắt tay vào AI được nhúng chứ không chỉ là một tuyên bố kiểu cách. Ví dụ: nếu độ trễ, kết nối không phải là vấn đề, đừng thử dùng Edge AI ngay bây giờ vì nó sẽ làm giảm tính linh hoạt khi triển khai và học hỏi của bạn. Trong trường hợp trên, vẫn có thể đạt được quyền riêng tư của dữ liệu với một số mức độ xử lý trước dữ liệu (nhưng không cần phải xử lý riêng dữ liệu được chuyển trở lại vì nó phản trực giác của AI nơi dữ liệu thu thập không được sử dụng để đào tạo) . Thực tế là không thể triển khai bất kỳ mô hình nào, thuật toán ML / DL trên bất kỳ phần cứng nào và việc lựa chọn mô hình, thuật toán ML / DL cũng phụ thuộc vào nội tại của thuật toán, với những hạn chế nêu trên, cần phân tích cẩn thận trong việc lựa chọn thuật toán (suy nghĩ về AI được nhúng trong quá trình thiết kế), mô hình, nén và phần cứng / Bộ xử lý.
Way Ahead
Với các yêu cầu về quyền riêng tư, độ trễ và độ tin cậy ngày càng nghiêm ngặt, xử lý cạnh đang trở nên rất quan trọng đối với hoạt động kinh doanh và nó sẽ trở thành một yếu tố quan trọng trong tương lai. AI được nhúng sẽ là khối xây dựng cơ bản trong bảo trì dự đoán và phản ứng, độ trễ và xử lý nhạy cảm với quyền riêng tư và nhiều trường hợp sử dụng như vậy. Điều này sẽ có liên quan trong các ngành như chăm sóc sức khỏe ô tô, hàng không, Công nghệ cao, sản xuất, năng lượng và bán lẻ. Một số ví dụ là các trường hợp sử dụng AI Vision được nhúng trong các khu vực hạn chế kết nối như kiểm tra trực quan, Hệ thống điều khiển bằng cử chỉ, Robot thông minh cho gia đình và công nghiệp, Các trường hợp sử dụng y tế như hướng dẫn sức khỏe được cá nhân hóa, Phát hiện lỗi và hành động nhanh hơn trên sàn nhà máy, Lái xe tự động, Phòng chống gian lận trong Fintech.
Tác giả
Tinku Malayil Jose, lãnh đạo CoE (Kỹ thuật sản phẩm nhúng) tại QuEST Global
Source link : analyticsinsight.net (post by Automation bot)
