Lo lắng đang gia tăng giữa các nhân viên bảo mật thông tin (CISO) trong các trung tâm hoạt động an ninh, đặc biệt là xung quanh AI khổng lồ của Trung Quốc Deepseek.
AI được coi là một bình minh mới cho hiệu quả và đổi mới kinh doanh, nhưng đối với những người ở chiến tuyến của phòng thủ công ty, nó đã tạo ra một số bóng tối rất dài và tối.
Bốn phần năm (81%) CISO của Vương quốc Anh tin rằng AI chatbot của Trung Quốc đòi hỏi phải có quy định khẩn cấp từ chính phủ. Họ sợ rằng nếu không có sự can thiệp nhanh chóng, công cụ này có thể trở thành chất xúc tác cho một cuộc khủng hoảng mạng quốc gia toàn diện.
Đây không phải là sự khó chịu đầu cơ; Đó là một phản ứng trực tiếp đối với một công nghệ có Thực hành xử lý dữ liệu Và tiềm năng sử dụng sai đang tăng chuông báo động ở cấp cao nhất của bảo mật doanh nghiệp.
Những phát hiện, được ủy quyền bởi Bảo mật tuyệt đối Đối với báo cáo Chỉ số rủi ro khả năng phục hồi của Vương quốc Anh, dựa trên cuộc thăm dò của 250 CISO tại các tổ chức lớn của Vương quốc Anh. Dữ liệu cho thấy mối đe dọa lý thuyết của AI hiện đã đặt vững chắc trên bàn của CISO và phản ứng của họ đã quyết định.
Trong những gì gần như không thể tưởng tượng được một vài năm trước đây, hơn một phần ba (34%) các nhà lãnh đạo bảo mật này đã thực hiện các lệnh cấm hoàn toàn trên các công cụ AI do các mối quan tâm về an ninh mạng. Một con số tương tự, 30 phần trăm, đã rút phích cắm vào các triển khai AI cụ thể trong các tổ chức của họ.
Khóa tu này không phải là một dấu hiệu của Luddism mà là một phản ứng thực dụng đối với một vấn đề leo thang. Các doanh nghiệp đã phải đối mặt với các mối đe dọa phức tạp và thù địch, bằng chứng là các sự cố cấp cao như gần đây Harrods vi phạm. Các CISO đang đấu tranh để theo kịp tốc độ, và việc bổ sung các công cụ AI tinh vi vào kho vũ khí của kẻ tấn công là một thách thức mà nhiều người cảm thấy không được trang bị không để xử lý.
Khoảng cách sẵn sàng bảo mật ngày càng tăng cho các nền tảng AI như Deepseek
Cốt lõi của vấn đề với các nền tảng như Deepseek nằm trong tiềm năng của họ để phơi bày dữ liệu của công ty nhạy cảm và được vũ khí hóa bởi tội phạm mạng.
Ba trong số năm (60%) CISO dự đoán sự gia tăng trực tiếp các cuộc tấn công mạng do sự tăng sinh của Deepseek. Một tỷ lệ giống hệt nhau báo cáo rằng công nghệ đã làm rối khung quyền riêng tư và quản trị của họ, khiến một công việc khó khăn gần như không thể.
Điều này đã thúc đẩy một sự thay đổi trong quan điểm. Sau khi được xem là Một viên đạn bạc tiềm năng Đối với an ninh mạng, AI hiện được xem bởi một số lượng lớn các chuyên gia là một phần của vấn đề. Cuộc khảo sát cho thấy 42 phần trăm CISO hiện coi AI là một mối đe dọa lớn hơn so với sự giúp đỡ cho những nỗ lực phòng thủ của họ.
Andy Ward, SVP International an ninh tuyệt đối, cho biết: Nghiên cứu của chúng tôi nhấn mạnh những rủi ro đáng kể do các công cụ AI mới nổi như Deepseek, đang nhanh chóng định hình lại bối cảnh đe dọa mạng.
Khi những lo ngại phát triển về tiềm năng của họ để đẩy nhanh các cuộc tấn công và thỏa hiệp dữ liệu nhạy cảm, các tổ chức phải hành động ngay bây giờ để tăng cường khả năng phục hồi mạng của họ và điều chỉnh các khung bảo mật để theo kịp các mối đe dọa điều khiển AI này.
Đó là lý do tại sao bốn trong năm CISO của Vương quốc Anh đang khẩn cấp kêu gọi quy định của chính phủ. Họ đã chứng kiến công nghệ này tiến triển nhanh như thế nào và nó có thể dễ dàng vượt qua các phòng thủ an ninh mạng hiện tại như thế nào.
Có lẽ đáng lo ngại nhất là sự thừa nhận của sự không chuẩn bị. Gần một nửa (46%) các nhà lãnh đạo an ninh cao cấp thú nhận rằng các nhóm của họ chưa sẵn sàng quản lý các mối đe dọa độc đáo đặt ra bởi các cuộc tấn công điều khiển AI. Họ đang chứng kiến sự phát triển của các công cụ như Deepseek vượt xa khả năng phòng thủ của họ trong thời gian thực, tạo ra một khoảng cách lỗ hổng nguy hiểm mà nhiều người tin rằng chỉ có thể bị đóng cửa bởi sự can thiệp của chính phủ cấp quốc gia.
Đây không phải là những rủi ro giả thuyết, Ward Ward tiếp tục. Thực tế là các tổ chức đã cấm các công cụ AI hoàn toàn và xem xét lại các chiến lược bảo mật của họ để đối phó với các rủi ro do LLMs gây ra như DeepSeek thể hiện sự khẩn cấp của tình huống.
Nếu không có khung pháp lý quốc gia – một trong đó đặt ra các hướng dẫn rõ ràng về cách các công cụ này được triển khai, chi phối và giám sát – chúng tôi có nguy cơ bị gián đoạn rộng rãi trên mọi lĩnh vực của nền kinh tế Anh.
Các doanh nghiệp đang đầu tư để ngăn chặn khủng hoảng với việc áp dụng AI của họ
Mặc dù tư thế phòng thủ này, các doanh nghiệp không lên kế hoạch rút lui đầy đủ từ AI. Phản hồi là một sự tạm dừng chiến lược hơn là một điểm dừng vĩnh viễn.
Các doanh nghiệp nhận ra tiềm năng to lớn của AI và đang tích cực đầu tư chấp nhận nó một cách an toàn. Trên thực tế, 84 phần trăm các tổ chức đang làm cho việc thuê các chuyên gia AI trở thành ưu tiên cho năm 2025.
Khoản đầu tư này mở rộng lên hàng đầu của thang công ty. 80 phần trăm các công ty đã cam kết đào tạo AI ở cấp độ C-suite. Chiến lược này dường như là một cách tiếp cận kép: Upskill lực lượng lao động để hiểu và quản lý công nghệ, và mang lại tài năng chuyên môn cần thiết để điều hướng sự phức tạp của nó.
Hy vọng – và đó là một hy vọng, nếu không phải là một lời cầu nguyện – đó là việc xây dựng một nền tảng nội bộ mạnh mẽ của chuyên môn AI có thể đóng vai trò là một đối trọng với các mối đe dọa bên ngoài leo thang.
Thông điệp từ lãnh đạo bảo mật của Vương quốc Anh là rõ ràng: họ không muốn chặn sự đổi mới của AI, nhưng để cho phép nó tiến hành an toàn. Để làm điều đó, họ đòi hỏi sự hợp tác mạnh mẽ hơn với chính phủ.
Con đường phía trước liên quan đến thiết lập các quy tắc rõ ràng về sự tham gia, giám sát của chính phủ, một đường ống của các chuyên gia AI lành nghề và chiến lược quốc gia mạch lạc để quản lý các rủi ro an ninh tiềm năng do Deepseek và thế hệ các công cụ AI mạnh mẽ tiếp theo chắc chắn sẽ tuân theo.
Thời gian để tranh luận đã kết thúc. Chúng tôi cần hành động, chính sách và giám sát ngay lập tức để đảm bảo AI vẫn là một lực lượng cho sự tiến bộ, chứ không phải là chất xúc tác cho khủng hoảng, ông Ward Ward kết luận.
Xem thêm: Học viện Alan Turing: Nhân văn là chìa khóa cho tương lai của AI
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Kiểm tra AI & Big Data Expo Diễn ra tại Amsterdam, California và London. Sự kiện toàn diện được cùng đặt với các sự kiện hàng đầu khác bao gồm cả Hội nghị tự động hóa thông minhThì BlockxThì Tuần Chuyển đổi sốVà An ninh mạng & Triển lãm đám mây.
Khám phá các sự kiện và hội thảo trên web về công nghệ doanh nghiệp sắp tới được cung cấp bởi TechForge đây.
