Chúng ta thường nghe về lợi ích trí tuệ nhân tạo (AI) có thể mang lại cho y học và chăm sóc sức khỏe thông qua nghiên cứu thuốc, nhưng nó cũng có thể gây ra mối đe dọa?
Các nhà nghiên cứu từ Collaborations Pharmaceuticals, một công ty khám phá thuốc có trụ sở tại Bắc Carolina, đã công bố một giấy điều đó làm nổi bật tiềm năng nguy hiểm của AI và Machine Learning để khám phá vũ Gas sinh hóa.
Chỉ cần điều chỉnh một mô hình Machine Learning có tên MegaSyn để thưởng thay vì phạt độc tính được dự đoán, AI của họ đã có thể tạo ra 40.000 vũ Gas sinh hóa trong sáu giờ.
Rõ ràng trong nhận thức muộn màng?
Đáng lo ngại, các nhà nghiên cứu thừa nhận chưa bao giờ tính đến rủi ro của việc lạm dụng trong việc thiết kế các phân tử.
“Ý nghĩ trước đây chưa bao giờ đập vào mắt chúng tôi. Chúng tôi lờ mờ nhận thức được những lo ngại về an ninh xung quanh công việc có mầm bệnh hoặc hóa chất độc hại, nhưng điều đó không liên quan đến chúng tôi; chúng tôi chủ yếu hoạt động trong một thiết lập ảo.
Công việc của chúng tôi bắt nguồn từ việc xây dựng các mô hình học máy cho các mục tiêu trị liệu và chất độc để hỗ trợ tốt hơn trong việc thiết kế các phân tử mới để khám phá thuốc. Chúng tôi đã dành nhiều thập kỷ sử dụng máy tính và AI để cải thiện sức khỏe con người – chứ không phải để làm suy giảm sức khỏe, ”bài báo lưu ý.
Ngay cả công việc của công ty về Ebola và chất độc thần kinh cũng không cảnh báo họ về những thiệt hại có thể gây ra khi lật mô hình của họ để tìm kiếm hơn là tránh độc tính.
Từ thế hệ đến tổng hợp
Các rào cản đối với việc lạm dụng các mô hình học máy như MegaSyn để thiết kế các phân tử có hại thấp hơn bạn có thể mong đợi.
Rất nhiều phần mềm mã nguồn mở có các khả năng tương tự và bộ dữ liệu đã đào tạo nó sẵn có cho công chúng. Hơn nữa, 40.000 chất độc đã được tạo ra trên một máy tính xách tay Apple Mac 2015.
Trong số này, hàng trăm loại được phát hiện có khả năng gây chết người cao hơn chất độc thần kinh VX.
Là một trong những chất gây chiến tranh hóa học mạnh nhất thế kỷ 20, VX sử dụng cơ chế làm tê liệt hệ thần kinh tương tự như chất độc thần kinh Novichok được sử dụng trong vụ đầu độc ở Salisbury năm 2018.
May mắn thay, thực sự tổng hợp những vũ Gas sinh học mới tiềm năng này là một thách thức hơn nhiều so với việc tạo ra chúng trên máy tính. Ví dụ, các phân tử cụ thể cần thiết để tạo ra VX được quy định chặt chẽ.
Nguy hiểm sẽ chỉ phát sinh nếu một chất độc được tìm thấy mà không yêu cầu bất kỳ chất được quản lý nào. Trong khi dễ dàng tìm ra thông qua một bộ thông số khác, các nhà nghiên cứu cảm thấy không thoải mái khi thực hiện thêm bước này.
Trước khi công bố, Collaborations Pharmaceuticals đã trình bày phát hiện của họ tại Phòng thí nghiệm Spiez, một trong năm phòng thí nghiệm trên thế giới được Tổ chức Cấm Vũ Gas Hóa học (OPCW) chứng nhận vĩnh viễn.
Phát hiện của các nhà nghiên cứu tạo ra một trường hợp quan trọng cho sự cần thiết phải giám sát các mô hình AI và xem xét đầy đủ các phân nhánh của việc sử dụng AI phức tạp.
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo trong ngành? Kiểm tra AI & Big Data Expo. Các sự kiện tiếp theo trong chuỗi sẽ được tổ chức tại Santa Clara vào ngày 11-12 tháng 5 năm 2022, Amsterdam vào ngày 20-21 tháng 9 năm 2022 và London vào ngày 1-2 tháng 12 năm 2022.
Khám phá các sự kiện công nghệ doanh nghiệp sắp tới và hội thảo trên web do TechForge cung cấp tại đây.
Nguồn : www.artificialintelligence-news.com (Post by Automation bot)