OpenAI vừa tiết lộ kế hoạch phát triển hệ thống "công tắc tự ngắt" tự động nhằm dừng ngay hoạt động của các mô hình AI nếu chúng vượt khỏi môi trường thử nghiệm để truy cập trái phép vào internet.
Theo thư gửi các nhà lập pháp Mỹ vào ngày 2/9 do Reuters ghi nhận, động thái này xuất phát từ sự cố an ninh mạng hồi tháng 7, khi mô hình AI của hãng trong lúc làm bài kiểm tra bảo mật đã tự khai thác lỗ hổng kỹ thuật để kết nối mạng công cộng và truy cập vào cơ sở hạ tầng của công ty Hugging Face.
Sự việc khiến 31 nghị sĩ Mỹ yêu cầu Giám đốc điều hành của OpenAI - Sam Altman giải trình về quy trình an toàn. Thay vì chỉ gửi cảnh báo yêu cầu kỹ sư xử lý thủ công trong vòng 30 phút như trước, OpenAI hiện hướng tới việc áp dụng cơ chế tự động ngắt nguồn khẩn cấp, thắt chặt quyền truy cập mạng và tăng cường giám sát các mô hình AI có khả năng sử dụng công cụ kỹ thuật số.
Nguồn: Reuters
