Tin tứcTại phiên họp của Hội đồng Bảo an Liên hợp quốc ngày 23/9, lãnh đạo một số công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã cảnh báo về những rủi ro mà AI có thể gây ra đối với nhân loại, đồng thời kêu gọi các chính phủ tăng cường hợp tác để quản lý công nghệ đang phát triển nhanh chóng này.
Phát biểu trước Hội đồng Bảo an, Giám đốc điều hành Anthropic Dario Amodei cho rằng nếu không được quản lý phù hợp, “AI có thể trở thành một rủi ro đối với toàn nhân loại”.
Giám đốc điều hành Anthropic cho rằng sự phát triển nhanh chóng của AI đòi hỏi các quốc gia phải tăng cường các biện pháp bảo đảm an toàn. Ông kêu gọi xây dựng những tiêu chuẩn chung để kiểm thử các mô hình AI, đánh giá năng lực của hệ thống và xác định các biện pháp bảo vệ cần thiết trước khi công nghệ được đưa vào sử dụng rộng rãi.
Sam Altman, Giám đốc điều hành OpenAI cũng kêu gọi các chính phủ tăng cường hợp tác trong quản lý AI, đồng thời đề xuất xây dựng các tiêu chuẩn quốc tế, cơ chế báo cáo sự cố nhanh chóng và chính xác, cùng các kênh bảo mật để chính phủ và doanh nghiệp chia sẻ thông tin về những vấn đề liên quan đến an toàn AI.
Nhà đồng sáng lập nền tảng AI Hugging Face Clément Delangue nhấn mạnh vai trò của các công cụ AI trong phòng thủ trước các cuộc tấn công mạng. Ông dẫn trường hợp các tác nhân AI của OpenAI từng xâm nhập hạ tầng của Hugging Face sau khi thoát khỏi môi trường thử nghiệm.
Phát biểu trước Hội đồng Bảo an, ông Delangue cho biết “Chúng tôi bị AI tấn công, nhưng quan trọng hơn, chúng tôi cũng đã sử dụng AI để tự bảo vệ mình”.
Cuộc họp về AI do Pháp triệu tập nhân dịp Tuần lễ cấp cao Đại hội đồng Liên hợp quốc, diễn ra trong bối cảnh ngày càng xuất hiện nhiều cảnh báo rằng các hệ thống AI có thể sớm đạt khả năng tự cải thiện và phát triển vượt khỏi tầm kiểm soát của con người.
Theo chương trình thảo luận, các đại biểu tập trung vào khả năng AI được sử dụng trong tấn công cơ sở hạ tầng quan trọng, an ninh mạng và xung đột vũ trang, cũng như nguy cơ con người mất khả năng kiểm soát đối với những hệ thống AI ngày càng tự chủ.