An ninh mạng đang ở giữa một cuộc đua vũ trang mới, và vũ khí mạnh mẽ được lựa chọn trong thời đại mới này là AI.
AI cung cấp một thanh kiếm hai lưỡi cổ điển: một lá chắn mạnh mẽ cho các hậu vệ và một công cụ mới mạnh mẽ cho những người có ý định độc hại. Điều hướng chiến trường phức tạp này đòi hỏi một bàn tay ổn định và sự hiểu biết sâu sắc về cả công nghệ và những người sẽ lạm dụng nó.
Để có được một cái nhìn từ tiền tuyến, AI News đã bắt kịp Rachel James, hiệu trưởng AI ML Kỹ sư tình báo đe dọa tại Công ty Khẩu sinh học toàn cầu Abbvie.
Ngoài việc tăng cường AI đã được cung cấp trong các công cụ hiện tại của chúng tôi, chúng tôi cũng sử dụng phân tích LLM về các phát hiện, quan sát, tương quan và các quy tắc liên quan của chúng tôi, James James giải thích.
James và nhóm của cô đang sử dụng các mô hình ngôn ngữ lớn để sàng lọc thông qua một núi cảnh báo an ninh, tìm kiếm các mẫu, phát hiện bản sao và tìm ra những khoảng trống nguy hiểm trong phòng thủ của họ trước khi kẻ tấn công có thể.
Chúng tôi sử dụng điều này để xác định sự tương đồng, sao chép và cung cấp phân tích khoảng cách, cô ấy nói thêm, lưu ý rằng bước tiếp theo là dệt nên nhiều dữ liệu đe dọa bên ngoài hơn. Chúng tôi đang tìm cách tăng cường điều này với sự tích hợp của trí thông minh đe dọa trong giai đoạn tiếp theo của chúng tôi.
Trọng tâm của hoạt động này là một nền tảng tình báo đe dọa chuyên dụng được gọi là Openctigiúp họ xây dựng một bức tranh thống nhất về các mối đe dọa từ một biển tiếng ồn kỹ thuật số.
AI là động cơ làm cho nỗ lực an ninh mạng này có thể, lấy một lượng lớn văn bản lộn xộn, không cấu trúc và tổ chức gọn gàng nó thành một định dạng tiêu chuẩn được gọi là Stix. Tầm nhìn lớn, James nói, là sử dụng các mô hình ngôn ngữ để kết nối trí thông minh cốt lõi này với tất cả các lĩnh vực khác trong hoạt động bảo mật của họ, từ quản lý lỗ hổng đến rủi ro của bên thứ ba.
Tận dụng sức mạnh này, tuy nhiên, đi kèm với một liều thuốc lành mạnh. Là một người đóng góp quan trọng cho một sáng kiến lớn của ngành, James nhận thức sâu sắc về những cạm bẫy.
“Tôi sẽ cảm thấy hối hận nếu tôi không đề cập đến công việc của một nhóm người tuyệt vời mà tôi là một phần của ‘Owasp Top 10 cho Genai’ Là một cách tìm hiểu các lỗ hổng mà Genai có thể giới thiệu, cô nói.
Ngoài các lỗ hổng cụ thể, James chỉ ra ba sự đánh đổi cơ bản mà các nhà lãnh đạo doanh nghiệp phải đối mặt:
- Chấp nhận rủi ro đi kèm với bản chất sáng tạo nhưng thường không thể đoán trước của AI tổng quát.
- Việc mất tính minh bạch trong cách AI đi đến kết luận, một vấn đề chỉ phát triển khi các mô hình trở nên phức tạp hơn.
- Nguy cơ của việc đánh giá kém lợi tức đầu tư thực sự cho bất kỳ dự án AI nào, nơi sự cường điệu có thể dễ dàng dẫn đến việc đánh giá quá cao lợi ích hoặc đánh giá thấp nỗ lực cần thiết trong một lĩnh vực di chuyển nhanh như vậy.
Để xây dựng một tư thế an ninh mạng tốt hơn trong kỷ nguyên AI, bạn phải hiểu kẻ tấn công của mình. Đây là nơi chuyên môn sâu của James phát huy tác dụng.
Đây thực sự là chuyên môn đặc biệt của tôi – Tôi có một nền tảng tình báo đe dọa mạng và đã thực hiện và ghi lại nghiên cứu sâu rộng về sự quan tâm, sử dụng và phát triển của AI, cô ấy lưu ý.
James tích cực theo dõi sự phát triển của kẻ thù và phát triển công cụ thông qua các kênh nguồn mở và các bộ sưu tập tự động của cô ấy từ Dark Web, chia sẻ những phát hiện của cô ấy về cô ấy Cybershujin GitHub. Công việc của cô cũng liên quan đến việc tự làm bẩn tay mình.
“Là người dẫn đầu cho việc tiêm thuốc nhanh chóng cho OWASP, và đồng tác giả của Hướng dẫn hợp tác màu đỏ GenaiTôi cũng dành thời gian phát triển các kỹ thuật đầu vào bất lợi và duy trì một mạng lưới các chuyên gia trong lĩnh vực này, ông James James cho biết thêm.
Vì vậy, tất cả điều này có ý nghĩa gì cho tương lai của ngành công nghiệp? Đối với James, con đường phía trước là rõ ràng. Cô ấy chỉ ra một sự song song hấp dẫn mà cô ấy đã phát hiện ra nhiều năm trước: Cuộc sống tình báo mối đe dọa mạng gần như giống hệt với vòng đời khoa học dữ liệu cho các hệ thống AI ML.
Sự liên kết này là một cơ hội lớn. Không còn nghi ngờ gì nữa, về mặt các bộ dữ liệu mà chúng ta có thể vận hành, các hậu vệ có cơ hội duy nhất để tận dụng sức mạnh của việc chia sẻ dữ liệu tình báo và AI, cô ấy khẳng định.
Thông điệp cuối cùng của cô đưa ra cả sự khích lệ và cảnh báo cho các đồng nghiệp của cô trong thế giới an ninh mạng: Khoa học dữ liệu và AI sẽ là một phần của cuộc sống của mọi chuyên gia an ninh mạng tiến về phía trước, nắm lấy nó.
Rachel James sẽ chia sẻ những hiểu biết của cô ấy tại năm nay AI & Big Data Expo Châu Âu tại Amsterdam vào ngày 24-25 tháng 9 năm 2025. Hãy chắc chắn xem bài thuyết trình ngày thứ hai của cô ấy về ‘từ nguyên tắc này đến thực tiễn-nhúng đạo đức AI ở quy mô’.
Xem thêm: Google Cloud tiết lộ AI Ally cho các nhóm bảo mật
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Kiểm tra AI & Big Data Expo Diễn ra tại Amsterdam, California và London. Sự kiện toàn diện được cùng đặt với các sự kiện hàng đầu khác bao gồm cả Hội nghị tự động hóa thông minhThì BlockxThì Tuần Chuyển đổi sốVà An ninh mạng & Triển lãm đám mây.
Khám phá các sự kiện và hội thảo trên web về công nghệ doanh nghiệp sắp tới được cung cấp bởi TechForge đây.
