Công cụ Token hoá AI của Alibaba làm tăng mối quan tâm về bảo mật ở phương Tây

Alibaba đã phát hành một mô hình Token hoá AI mới có tên QWEN3-SODER, được xây dựng để xử lý các tác vụ phần mềm phức tạp bằng cách sử dụng mô hình nguồn mở lớn. Công cụ này là một phần của gia đình Qwen3 của Alibaba và đang được quảng bá là Agent Token hoá tiên tiến nhất của công ty cho đến nay.

Mô hình sử dụng hỗn hợp các chuyên gia (MOE), kích hoạt 35 tỷ tham số trong tổng số 480 tỷ và hỗ trợ tới 256.000 Token ngữ cảnh. Con số đó có thể được kéo dài đến 1 triệu bằng cách sử dụng các kỹ thuật ngoại suy đặc biệt. Công ty tuyên bố QWEN3-SODER đã vượt trội so với các mô hình mở khác trong các nhiệm vụ tác nhân, bao gồm các phiên bản từ Moonshot AI và Deepseek.

Nhưng không phải ai cũng coi đây là tin tốt. Jurgita Lapienyė, biên tập viên trưởng tại CyberNews, cảnh báo rằng QWEN3 SODER có thể không chỉ là một trợ lý Token hoá hữu ích, nó có thể gây rủi ro thực sự cho các hệ thống công nghệ toàn cầu nếu được các nhà phát triển phương Tây áp dụng rộng rãi.

Một con ngựa trojan trong quần áo nguồn mở?

Tin nhắn của Alibaba xung quanh QWEN3-SODER đã tập trung vào sức mạnh kỹ thuật của nó, so sánh nó với các công cụ hàng đầu từ Openai và Anthropic. Nhưng trong khi điểm số điểm chuẩn và tính năng thu hút sự chú ý, Lapienyė cho thấy họ cũng có thể đánh lạc hướng khỏi vấn đề thực sự: bảo mật.

Không phải là Trung Quốc đang bắt kịp AI, mà đã được biết đến. Mối quan tâm sâu sắc hơn là về các rủi ro ẩn của việc sử dụng phần mềm được tạo ra bởi các hệ thống AI rất khó kiểm tra hoặc hiểu đầy đủ.

Như Lapienyė đã nói, các nhà phát triển có thể đang ngủ mộng vào một người trong tương lai, nơi các hệ thống cốt lõi được xây dựng vô tình với mã dễ bị tổn thương. Các công cụ như QWEN3-SODER có thể làm cho cuộc sống dễ dàng hơn, nhưng chúng cũng có thể giới thiệu những điểm yếu tinh tế mà không được chú ý.

Rủi ro này không phải là giả thuyết. Các nhà nghiên cứu CyberNews Gần đây đã xem xét việc sử dụng AI trên các công ty lớn của Hoa Kỳ và thấy rằng 327 trong số S & P 500 hiện báo cáo công khai bằng các công cụ AI. Chỉ riêng trong các công ty đó, các nhà nghiên cứu đã xác định gần 1.000 lỗ hổng liên quan đến AI.

Thêm một mô hình AI khác, đặc biệt là một mô hình được phát triển theo luật an ninh quốc gia nghiêm ngặt của Trung Quốc, có thể thêm một lớp rủi ro khác, một loại khó kiểm soát hơn.

Khi mã trở thành cửa hậu

Các nhà phát triển ngày nay dựa rất nhiều vào các công cụ AI để viết mã, sửa lỗi và định hình cách xây dựng các ứng dụng. Các hệ thống này nhanh chóng, hữu ích và trở nên tốt hơn mỗi ngày.

Nhưng điều gì sẽ xảy ra nếu những hệ thống tương tự được đào tạo để tiêm lỗ hổng? Không phải là lỗi rõ ràng, nhưng các vấn đề nhỏ, khó có điểm sẽ không kích hoạt báo động. Một lỗ hổng trông giống như một quyết định thiết kế vô hại có thể không bị phát hiện trong nhiều năm.

Đó là cách các cuộc tấn công chuỗi cung ứng thường bắt đầu. Các ví dụ trong quá khứ, giống như sự cố năng lượng mặt trời, cho thấy sự xâm nhập dài hạn có thể được thực hiện trong bao lâu một cách lặng lẽ và kiên nhẫn. Với đủ quyền truy cập và bối cảnh, một mô hình AI có thể học cách thực hiện các vấn đề tương tự, đặc biệt là nếu nó tiếp xúc với hàng triệu cơ sở mã.

Nó không chỉ là một lý thuyết. Theo luật tình báo quốc gia của Trung Quốc, các công ty như Alibaba phải hợp tác với các yêu cầu của chính phủ, bao gồm cả những người liên quan đến dữ liệu và mô hình AI. Điều đó chuyển cuộc trò chuyện từ hiệu suất kỹ thuật sang an ninh quốc gia.

Điều gì xảy ra với mã của bạn?

Một vấn đề lớn khác là tiếp xúc với dữ liệu. Khi các nhà phát triển sử dụng các công cụ như QWEN3-Token hoá để viết hoặc gỡ lỗi mã, mọi phần của tương tác đó có thể tiết lộ thông tin nhạy cảm.

Điều đó có thể bao gồm các thuật toán độc quyền, logic bảo mật hoặc thiết kế cơ sở hạ tầng, đã tiết lộ các loại chi tiết có thể hữu ích cho một nhà nước nước ngoài.

Mặc dù mô hình là nguồn mở, nhưng vẫn có rất nhiều người dùng không thể nhìn thấy. Cơ sở hạ tầng phụ trợ, hệ thống từ xa và phương pháp theo dõi sử dụng có thể không minh bạch. Điều đó làm cho khó có thể biết dữ liệu đi đâu hoặc mô hình có thể nhớ theo thời gian.

Tự chủ mà không cần giám sát

Alibaba cũng đã tập trung vào các mô hình AI AI có thể hoạt động độc lập hơn các trợ lý tiêu chuẩn. Những công cụ này không chỉ gợi ý các dòng mã. Chúng có thể được chỉ định các nhiệm vụ đầy đủ, hoạt động với đầu vào tối thiểu và tự mình đưa ra quyết định.

Điều đó có vẻ hiệu quả, nhưng nó cũng giương cờ đỏ. Một tác nhân Token hoá hoàn toàn Tự vận hành có thể quét toàn bộ cơ sở mã và thực hiện các thay đổi có thể trở nên nguy hiểm trong tay sai.

Hãy tưởng tượng một Agent có thể hiểu phòng thủ hệ thống của một công ty và các cuộc tấn công phù hợp với thủ công để khai thác chúng. Các kỹ năng tương tự giúp các nhà phát triển di chuyển nhanh hơn có thể được các kẻ tấn công tái sử dụng để di chuyển nhanh hơn nữa.

Quy định vẫn chưa sẵn sàng

Mặc dù có những rủi ro này, các quy định hiện hành không giải quyết các công cụ như QWEN3-SODER một cách có ý nghĩa. Chính phủ Hoa Kỳ đã dành nhiều năm để tranh luận về các mối quan tâm về quyền riêng tư dữ liệu gắn liền với các ứng dụng như Tiktok, nhưng có rất ít sự giám sát công khai của các công cụ AI do nước ngoài phát triển.

Các nhóm như Ủy ban về đầu tư nước ngoài vào việc mua lại công ty đánh giá của Hoa Kỳ (CFIUS), nhưng không có quy trình tương tự nào tồn tại để xem xét các mô hình AI có thể gây ra rủi ro an ninh quốc gia.

Lệnh điều hành của Tổng thống Biden về AI tập trung chủ yếu vào các mô hình nhà và thực hành an toàn chung. Nhưng nó để lại lo ngại về các công cụ nhập khẩu có thể được nhúng trong môi trường nhạy cảm như chăm sóc sức khỏe, tài chính hoặc cơ sở hạ tầng quốc gia.

Các công cụ AI có khả năng viết hoặc thay đổi mã nên được xử lý với mức độ nghiêm trọng giống như các mối đe dọa chuỗi cung ứng phần mềm. Điều đó có nghĩa là thiết lập các hướng dẫn rõ ràng về nơi và cách chúng có thể được sử dụng.

Điều gì sẽ xảy ra tiếp theo?

Để giảm rủi ro, các tổ chức xử lý các hệ thống nhạy cảm nên tạm dừng trước khi tích hợp QWEN3-CODER, hoặc bất kỳ AI tác nhân nào do nước ngoài phát triển vào quy trình làm việc của họ. Nếu bạn không mời ai đó mà bạn không tin tưởng để xem mã nguồn của mình, tại sao lại để AI của họ viết lại nó?

Các công cụ bảo mật cũng cần bắt kịp. Phần mềm phân tích tĩnh có thể không phát hiện các hậu trường phức tạp hoặc các vấn đề logic tinh tế được chế tạo bởi AI. Ngành công nghiệp cần các công cụ mới được thiết kế đặc biệt để gắn cờ và kiểm tra mã do AI tạo ra cho các mẫu đáng ngờ.

Cuối cùng, các nhà phát triển, lãnh đạo công nghệ và cơ quan quản lý phải hiểu rằng AI tạo mã không phải là trung lập. Các hệ thống này có sức mạnh cả hai là công cụ hữu ích và các mối đe dọa tiềm năng. Các tính năng tương tự làm cho chúng hữu ích cũng có thể làm cho chúng nguy hiểm.

Lapienyė được gọi là Qwen3-Voder, một con ngựa Trojan tiềm năng, và phép ẩn dụ phù hợp. Nó không chỉ là về năng suất. Đó là về những người ở trong cổng.

Không phải ai cũng đồng ý về những gì quan trọng

Wang Jian, người sáng lập Alibaba Cloud, nhìn thấy mọi thứ khác nhau. Trong một cuộc phỏng vấn với Bloombergông nói rằng sự đổi mới không phải là về việc thuê những tài năng đắt giá nhất mà là chọn những người có thể xây dựng những người chưa biết. Ông chỉ trích cách tiếp cận của Silicon Valley đối với việc thuê AI, nơi những người khổng lồ công nghệ hiện cạnh tranh cho các nhà nghiên cứu hàng đầu như các đội thể thao đấu thầu các vận động viên.

Điều duy nhất bạn cần làm là có được đúng người, ông Wang Wang nói. “Không thực sự là người đắt tiền.”

Ông cũng tin rằng chủng tộc AI Trung Quốc khỏe mạnh, không thù địch. Theo Wang, các công ty thay phiên nhau kéo về phía trước, điều này giúp toàn bộ hệ sinh thái phát triển nhanh hơn.

Bạn có thể có sự lặp lại rất nhanh của công nghệ vì sự cạnh tranh này, ông nói. “Tôi không nghĩ nó tàn bạo, nhưng tôi nghĩ nó rất khỏe mạnh.”

Tuy nhiên, cạnh tranh nguồn mở không đảm bảo niềm tin. Các nhà phát triển phương Tây cần phải suy nghĩ cẩn thận về những công cụ họ sử dụng và người đã xây dựng chúng.

Điểm mấu chốt

Trình xử lý Qwen3 có thể cung cấp hiệu suất ấn tượng và truy cập mở, nhưng việc sử dụng nó đi kèm với các rủi ro vượt quá điểm chuẩn và tốc độ Token hoá. Trong một thời gian khi các công cụ AI đang định hình các hệ thống quan trọng được xây dựng như thế nào, điều đáng để hỏi không chỉ những công cụ này có thể làm gì mà còn là người có lợi khi chúng làm điều đó.

(Ảnh bởi Shahadat Rahman)

Xem thêm: Mô hình AI Lý do mới của Alibaba Lý do thiết lập các bản ghi nguồn mở

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Kiểm tra AI & Big Data Expo Diễn ra tại Amsterdam, California và London. Sự kiện toàn diện được cùng đặt với các sự kiện hàng đầu khác bao gồm cả Hội nghị tự động hóa thông minhThì BlockxThì Tuần Chuyển đổi sốVà An ninh mạng & Triển lãm Cloud.

Khám phá các sự kiện và hội thảo trên web về công nghệ doanh nghiệp sắp tới được cung cấp bởi TechForge đây.