Tin tứcChỉ trong một năm, số vụ việc rủi ro do AI gây ra đã tăng hơn 55%. Điều này cho thấy, khi trí tuệ nhân tạo ngày càng được ứng dụng sâu vào hoạt động của doanh nghiệp, yêu cầu quản trị rủi ro, bảo đảm đạo đức và trách nhiệm giải trình cũng trở nên cấp thiết.
Đây là một trong những nội dung được các chuyên gia trao đổi tại Hội thảo APEX về quản lý trí tuệ nhân tạo, với sự tham gia của các chuyên gia quốc tế về AI và quản trị AI có trách nhiệm.
Tại hội thảo, các chuyên gia đến từ nhiều quốc gia và tổ chức trên thế giới đã giới thiệu những tiêu chuẩn, khung hướng dẫn về quản trị dữ liệu, đánh giá tác động, quản trị rủi ro và xử lý sự cố trong quá trình phát triển, vận hành hệ thống AI. Trong đó có tiêu chuẩn ISO 42001 về hệ thống quản lý trí tuệ nhân tạo.
Theo ông Hồ Quốc Dũng, Trưởng bộ môn Khoa học dữ liệu và Trí tuệ nhân tạo, Đại học Huế, cùng với hiệu quả mang lại, việc sử dụng AI cũng đặt ra nguy cơ đối với dữ liệu của tổ chức, doanh nghiệp. “Ở phạm vi lớn hơn, AI cũng đặt ra một số rủi ro đối với Nhà nước. Trước hết là dữ liệu. Dữ liệu là tài sản của quốc gia, nhưng khi đưa vào các mô hình AI, nguy cơ rò rỉ dữ liệu rất lớn nếu không có cơ chế và hướng dẫn pháp lý phù hợp. Tương tự, đối với tri thức hay bí mật công nghiệp, việc đưa dữ liệu vào AI có thể giúp tăng năng suất, tạo ra những ý tưởng mới, nhưng đồng thời cũng làm phát sinh nguy cơ rò rỉ bí mật công nghiệp. Ngoài ra còn có những vấn đề về an ninh quốc gia, an ninh mạng, dữ liệu cá nhân và dữ liệu của tổ chức.”
Một nội dung đáng chú ý là doanh nghiệp cần nhận diện rủi ro ngay từ dữ liệu, quyền riêng tư đến trách nhiệm của người vận hành và cơ chế xử lý khi xảy ra sự cố. Việc tham khảo các tiêu chuẩn quốc tế cũng giúp doanh nghiệp xây dựng hồ sơ, cơ chế giám sát và khả năng giải trình một cách bài bản.
