Hệ thống trí tuệ nhân tạo có rủi ro trung bình được quản lý thế nào?

Hệ thống trí tuệ nhân tạo có rủi ro trung bình được quản lý thế nào?

Theo khoản 1 Điều 15 Luật Trí tuệ nhân tạo 2025 thì Hệ thống trí tuệ nhân tạo có rủi ro trung bình được quản lý như sau:

(1) Nhà cung cấp và bên triển khai phải bảo đảm minh bạch theo quy định tại Điều 11 của Luật Trí tuệ nhân tạo 2025;

(2) Nhà cung cấp có trách nhiệm giải trình về mục đích sử dụng, nguyên lý hoạt động ở mức mô tả chức năng, dữ liệu đầu vào chủ yếu và biện pháp quản lý rủi ro, an toàn của hệ thống khi có yêu cầu của cơ quan nhà nước trong thanh tra, kiểm tra hoặc khi có dấu hiệu rủi ro hoặc sự cố; việc giải trình không yêu cầu tiết lộ mã nguồn, thuật toán chi tiết, bộ tham số hoặc bí mật kinh doanh, bí mật công nghệ;

(3) Bên triển khai có trách nhiệm giải trình về việc vận hành, kiểm soát rủi ro, xử lý sự cố và bảo vệ quyền, lợi ích hợp pháp của tổ chức, cá nhân khi có yêu cầu của cơ quan nhà nước có thẩm quyền trong quá trình thanh tra, kiểm tra hoặc xử lý sự cố;

(4) Người sử dụng có trách nhiệm tuân thủ quy định về thông báo, gắn nhãn hệ thống trí tuệ nhân tạo.

Hệ thống trí tuệ nhân tạo có rủi ro trung bình được quản lý thế nào? (Hình từ Internet)

Hệ thống trí tuệ nhân tạo có rủi ro trung bình là gì?

Căn cứ tại Điều 9 Luật Trí tuệ nhân tạo 2025 về phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo:

Điều 9. Phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo

1. Hệ thống trí tuệ nhân tạo được phân loại theo các mức độ rủi ro sau đây:

a) Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;

b) Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

c) Hệ thống trí tuệ nhân tạo có rủi ro thấp là hệ thống không thuộc trường hợp quy định tại điểm a và điểm b khoản này.

2. Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.

3. Chính phủ quy định chi tiết Điều này.

Theo đó, hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra.

Chính sách của Nhà nước đối với hoạt động trí tuệ nhân tạo như thế nào?

Chính sách của Nhà nước đối với hoạt động trí tuệ nhân tạo được quy định tại Điều 5 Luật Trí tuệ nhân tạo 2025, cụ thể:

- Có chính sách phát triển trí tuệ nhân tạo để trở thành động lực quan trọng cho tăng trưởng, đổi mới sáng tạo và phát triển bền vững đất nước.

- Khuyến khích thử nghiệm công nghệ có kiểm soát; áp dụng biện pháp quản lý tương xứng với mức độ rủi ro và khuyến khích cơ chế tự nguyện tuân thủ.

- Có chính sách bảo đảm quyền và tạo điều kiện tiếp cận, học tập và thụ hưởng lợi ích từ trí tuệ nhân tạo của tổ chức, cá nhân; khuyến khích phát triển và ứng dụng trí tuệ nhân tạo phục vụ an sinh xã hội, hỗ trợ người khuyết tật, người nghèo, người dân tộc thiểu số để thu hẹp khoảng cách số; bảo tồn, phát huy và giữ gìn bản sắc văn hóa dân tộc.

- Ưu tiên đầu tư và huy động nguồn lực xã hội để phát triển hạ tầng dữ liệu, hạ tầng tính toán, trí tuệ nhân tạo an toàn, nguồn nhân lực chất lượng cao và các nền tảng trí tuệ nhân tạo dùng chung mang tính chiến lược quốc gia.

- Ưu tiên ứng dụng trí tuệ nhân tạo trong hoạt động quản lý, điều hành, cung cấp dịch vụ công, hỗ trợ ra quyết định của cơ quan nhà nước nhằm nâng cao hiệu quả, tính minh bạch, chất lượng phục vụ người dân, doanh nghiệp; khuyến khích ứng dụng rộng rãi trong các ngành, lĩnh vực kinh tế - xã hội nhằm nâng cao năng suất, chất lượng dịch vụ và hiệu quả quản lý.

- Khuyến khích các tổ chức, mạng lưới và sáng kiến xã hội thúc đẩy an toàn, đạo đức, tin cậy và xây dựng niềm tin xã hội trong phát triển trí tuệ nhân tạo.

- Thúc đẩy ứng dụng trí tuệ nhân tạo trong hoạt động của doanh nghiệp và các lĩnh vực kinh tế - xã hội trọng điểm; phát triển hệ sinh thái khởi nghiệp, đổi mới sáng tạo; khuyến khích hợp tác công tư.

- Chủ động hội nhập, hợp tác quốc tế; tham gia xây dựng và định hình chuẩn mực, khung quản trị toàn cầu; bảo đảm lợi ích và chủ quyền quốc gia trong lĩnh vực trí tuệ nhân tạo.