Sự phát triển AI có thể đe dọa an toàn thông tin, quyền riêng tư và đạo đức

09:00 | 23/10/2019 | AN TOÀN THÔNG TIN
Theo hãng truyền thông O’Reilly, các vấn đề về an toàn thông tin, quyền riêng tư và đạo đức nghề nghiệp đang là những nội dụng cần được ưu tiên thấp đối với các nhà phát triển khi mô hình hóa các giải pháp học máy.

Trong đó vấn đề về an toàn thông tin là vấn đề nghiêm trọng nhất. Theo số liệu khảo sát của hãng công nghệ phần mềm Veritas (Mỹ), 73% số người được khảo sát cho biết, họ không kiểm tra các lỗ hổng bảo mật trong quá trình xây dựng mô hình học máy. 59% các tổ chức cũng không xem xét các vấn đề về công bằng hay đạo đức nghề nghiệp trong quá trình phát triển học máy. Ngoài ra các vấn đề về quyền riêng tư cũng bị bỏ qua, khi chỉ có 35% kiểm tra vấn đề này trong quá trình xây dựng và triển khai mô hình.

Thay vào đó, hầu hết các nguồn lực phát triển là tập trung vào việc đảm bảo các dự án AI sẽ chính xác và thành công. 55% các nhà phát triển cố gắng giảm thiểu việc cho ra các kết quả hoặc dự đoán bất thường, nhưng vẫn có số lượng đáng kể các nhà phát triển không thực hiện việc này.

Hơn nữa, 16% số người khảo sát không kiểm tra các rủi ro trong quá trình phát triển phần mềm. Sự thiếu cẩn thận này có thể là do nhiều thách thức và yếu tố bên trong, nhưng lý do lớn nhất là vì ý thức nghiệp vụ, (23% số người được khảo sát không hề nghĩ đến việc này).

Nghiên cứu cũng cho thấy 19% các tổ chức gặp khó khăn trong việc chuẩn bị cho triển khai và sử dụng AI do vấn đề về thiếu dữ liệu và chất lượng dữ liệu, cũng như không có các kỹ năng cần thiết để phát triển. Sự thiếu hụt kỹ năng nhất tập trung vào mô hình hóa học máy và khoa học dữ liệu với 57%. Để đạt được tiến bộ trong lĩnh vực an toàn thông tin, quyền riêng tư và đạo đức, các tổ chức cần khẩn trương giải quyết sự thiếu hụt kỹ năng này.

Ben Lorica, trưởng phòng khoa học dữ liệu tại O’Reilly cho biết, sự phát triển và triển khai AI đã tăng theo cấp số nhân từ năm 2018. Tuy nhiên, có những rào cản vẫn khiến nó chưa thể áp dụng được đáng kể.

Khi AI và học máy trở nên ngày càng giúp ích trong việc tự động hóa, thì các tổ chức lớn trong lĩnh vực này đã đầu tư thời gian và nguồn lực cần thiết để đảm bảo an toàn và đạo đức. Để làm được điều này, các doanh nghiệp cần có nguồn nhân lực và dữ liệu chất lượng. Việc giảm thiểu thiếu sót về kỹ năng và xem xét lại chất lượng dữ liệu phải là ưu tiên hàng đầu của các doanh nghiệp trong thời gian tới.

Những số liệu quan trọng khác

81% các tổ chức đã bắt đầu việc chuẩn bị cho triển khai và áp dụng AI. 54% các tổ chức đang trong giai đoạn đánh giá hoặc chứng minh khái niệm, trong khi đó 27% đã có các dự án AI mang lại doanh thu. Một số lượng nhỏ các công ty chưa bắt đầu bất kỳ dự án AI nào với 19%.

Học máy đã nổi lên như một hình thức AI phổ biến nhất được các doanh nghiệp áp dụng. 63% các tổ chức sử dụng các giải pháp học máy có giám sát, trong khi đó 55% đang sử dụng công nghệ học sâu. 48% số người khảo sát sử dụng các phương pháp dựa trên mô hình.

Phần lớn AI được sử dụng trong các bộ phận nghiên cứu và phát triển (R&D) (50%), dịch vụ khách hàng (34%) và CNTT (33%). Ngành pháp lý có ít ​​sự đổi mới nhất, chỉ với 5% sử dụng các công nghệ AI.

TensorFlow (55%) và scikit-learn (48%) là những công cụ AI phổ biến nhất đang được sử dụng hiện nay.

T.U

Theo Help Net Security

Tin cùng chuyên mục

Tin mới