California nghiên cứu cơ chế “tắt nguồn” AI xấu

California yêu cầu nghiên cứu cơ chế “tắt nguồn” AI khi cần, đồng thời xem xét kiểm toán độc lập và báo cáo sự cố mất kiểm soát nhằm hạn chế rủi ro công nghệ.

 

Thống đốc bang California Gavin Newsom của Mỹ vừa ký sắc lệnh hành pháp yêu cầu giới chức tiểu bang nghiên cứu tính khả thi của việc áp đặt cơ chế giúp "tắt nguồn" mô hình trí tuệ nhân tạo (AI) khi cần.

Sắc lệnh được ban hành chỉ vài ngày sau khi một số nhân vật trong ngành AI đưa ra những cảnh báo nghiêm trọng về mối đe dọa mà ngành này có thể mang đến cho nhân loại. Còn California là cái nôi của Thung lũng Silicon và là nơi đặt trụ sở của các công ty AI đầu ngành.

Sắc lệnh của Thống đốc Newsom không bắt buộc phải áp đặt ngay cơ chế "tắt nguồn", mà chỉ yêu cầu các cơ quan của chính quyền tiểu bang đến ngày 16/11 phải trình báo cáo về tính khả thi của biện pháp này. Sắc lệnh còn chỉ đạo giới chức bang California tính đến việc đề nghị những hãng AI cho phép các kiểm toán viên độc lập làm việc tại phòng thí nghiệm của họ. Việc buộc phía công ty báo cáo những sự cố mất kiểm soát cũng được yêu cầu cân nhắc thực hiện.

Theo dõi Short TINg VOH để cập nhật tin nhanh, ngắn gọn và dễ hiểu mỗi ngày - Ảnh minh họa