Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/5/2026 quy định ra sao? Đánh giá sự phù hợp đối với hệ thống như thế nào?

Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/5/2026 quy định ra sao?

Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/5/2026 được hướng dẫn tại Điều 15 Nghị định 142/2026/NĐ-CP cụ thể như sau:

(1) Nhà cung cấp hệ thống trí tuệ nhân tạo có rủi ro cao phải thiết lập và duy trì hệ thống quản lý rủi ro đối với hệ thống do mình cung cấp phù hợp với mục đích sử dụng, phạm vi triển khai và mức độ rủi ro của hệ thống.

(2) Hệ thống quản lý rủi ro tại mục (1) bao gồm tối thiểu các nội dung sau đây:

- Xác định và đánh giá các rủi ro có thể phát sinh đối với quyền con người, an toàn, an ninh hoặc lợi ích công cộng trong quá trình thiết kế, phát triển và cung cấp hệ thống;

- Bảo đảm chất lượng, tính phù hợp và tính đại diện của dữ liệu huấn luyện, dữ liệu kiểm thử và dữ liệu đánh giá trong phạm vi cần thiết để hạn chế rủi ro phát sinh từ dữ liệu;

- Thiết kế và duy trì cơ chế giám sát và can thiệp của con người phù hợp với mức độ rủi ro của hệ thống;

- Áp dụng biện pháp kỹ thuật hoặc biện pháp quản lý nhằm phòng ngừa, hạn chế hoặc kiểm soát các rủi ro đã được xác định;

- Rà soát và cập nhật biện pháp quản lý rủi ro khi hệ thống có thay đổi đáng kể về mô hình, dữ liệu, phương thức vận hành hoặc mục đích sử dụng.

(3) Nhà cung cấp có trách nhiệm cung cấp cho bên triển khai các thông tin cần thiết về mục đích sử dụng của hệ thống, điều kiện vận hành an toàn, các rủi ro đã được xác định và biện pháp quản lý rủi ro tương ứng để bảo đảm việc triển khai và sử dụng hệ thống đúng mục đích.

(4) Bên triển khai hệ thống trí tuệ nhân tạo có rủi ro cao phải tổ chức quản lý rủi ro trong quá trình triển khai và vận hành hệ thống phù hợp với mục đích sử dụng, phạm vi triển khai, mức độ rủi ro của hệ thống và hướng dẫn kỹ thuật của nhà cung cấp.

(5) Trong quá trình triển khai và vận hành, bên triển khai thực hiện các biện pháp quản lý rủi ro sau đây:

- Vận hành hệ thống đúng mục đích sử dụng, điều kiện sử dụng và giới hạn sử dụng do nhà cung cấp xác định;

- Tổ chức giám sát hoạt động của hệ thống nhằm phát hiện sai lệch, rủi ro hoặc sự cố có thể phát sinh;

- Thiết lập và duy trì cơ chế giám sát và can thiệp của con người trong quá trình sử dụng hệ thống theo quy định của pháp luật;

- Áp dụng biện pháp hạn chế hoặc kiểm soát rủi ro trong phạm vi quyền kiểm soát của mình khi phát hiện hệ thống hoạt động không đúng mục đích sử dụng hoặc phát sinh rủi ro mới;

- Phối hợp với nhà cung cấp trong việc rà soát, cập nhật biện pháp quản lý rủi ro khi hệ thống có thay đổi đáng kể hoặc khi phát sinh sự cố.

(6) Trường hợp phát hiện hệ thống có nguy cơ gây thiệt hại nghiêm trọng đến tính mạng, sức khỏe con người, quyền con người, tài sản, an ninh mạng, trật tự, an toàn xã hội hoặc lợi ích công cộng, bên triển khai phải kịp thời áp dụng biện pháp hạn chế rủi ro trong phạm vi quyền kiểm soát của mình và thông báo cho nhà cung cấp và cơ quan nhà nước có thẩm quyền theo quy định của pháp luật.

Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/5/2026 quy định ra sao? Đánh giá sự phù hợp đối với hệ thống như thế nào? (Hình từ Internet)

Đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/5/2026 theo Nghị định 142 mới nhất ra sao?

Đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/5/2026 được hướng dẫn tại Điều 13 Nghị định 142/2026/NĐ-CP cụ thể như sau:

(1) Nhà cung cấp hệ thống trí tuệ nhân tạo có rủi ro cao phải thực hiện đánh giá sự phù hợp trước khi đưa hệ thống vào sử dụng theo quy định tại khoản 1 Điều 13 Luật Trí tuệ nhân tạo 2025.

Trong quá trình sử dụng, nhà cung cấp phải thực hiện đánh giá lại sự phù hợp khi có thay đổi đáng kể làm ảnh hưởng đến kết quả đánh giá sự phù hợp ban đầu, bao gồm một trong các trường hợp sau đây:

- Thay đổi chức năng chính, mục đích sử dụng hoặc phạm vi ứng dụng của hệ thống làm phát sinh rủi ro mới hoặc làm thay đổi mức độ rủi ro đã được đánh giá;

- Thay đổi kiến trúc hệ thống, mô hình trí tuệ nhân tạo hoặc cấu hình kỹ thuật chủ yếu có thể ảnh hưởng đến tính chính xác, độ tin cậy, mức độ an toàn hoặc khả năng kiểm soát của hệ thống;

- Thay đổi nguồn dữ liệu, loại dữ liệu đầu vào chủ yếu hoặc phương thức xử lý dữ liệu làm ảnh hưởng đáng kể đến kết quả vận hành hoặc mức độ rủi ro của hệ thống;

- Tích hợp hệ thống trí tuệ nhân tạo với hệ thống khác hoặc môi trường vận hành mới có thể làm phát sinh rủi ro mới hoặc làm thay đổi điều kiện vận hành đã được đánh giá;

- Các thay đổi khác làm ảnh hưởng đáng kể đến việc đáp ứng các yêu cầu quy định tại Điều 14 Luật Trí tuệ nhân tạo 2025.

- Các hoạt động cập nhật dữ liệu định kỳ, sửa lỗi kỹ thuật, tối ưu hiệu năng hoặc nâng cấp phiên bản không làm thay đổi việc đáp ứng các yêu cầu quy định tại Điều 14 Luật Trí tuệ nhân tạo 2025 của hệ thống không được coi là thay đổi đáng kể theo quy định tại khoản này.

(2) Nhà cung cấp phải thực hiện đánh giá sự phù hợp với yêu cầu của Điều 14 Luật Trí tuệ nhân tạo 2025 theo các phương thức sau đây:

- Đối với hệ thống trí tuệ nhân tạo có rủi ro cao thuộc Danh mục hệ thống trí tuệ nhân tạo phải chứng nhận sự phù hợp trước khi đưa vào sử dụng, nhà cung cấp phải thực hiện đánh giá sự phù hợp thông qua tổ chức đánh giá sự phù hợp quy định tại khoản 4 Điều này;

- Đối với hệ thống trí tuệ nhân tạo có rủi ro cao không thuộc trường hợp quy định tại điểm a khoản này, nhà cung cấp có quyền tự thực hiện đánh giá sự phù hợp hoặc sử dụng dịch vụ của tổ chức đánh giá sự phù hợp mêu tại mục (4). Trường hợp tự thực hiện đánh giá sự phù hợp, nhà cung cấp phải lập hồ sơ kỹ thuật và chịu trách nhiệm trước pháp luật về kết quả đánh giá.

(3) Trường hợp hệ thống trí tuệ nhân tạo có rủi ro cao thuộc phạm vi điều chỉnh của pháp luật chuyên ngành có quy định về tiêu chuẩn, quy chuẩn kỹ thuật hoặc đánh giá sự phù hợp, nhà cung cấp có quyền sử dụng kết quả đánh giá theo pháp luật chuyên ngành để chứng minh sự phù hợp đối với các yêu cầu tương ứng quy định tại Điều 14 của Luật Trí tuệ nhân tạo. Cơ quan nhà nước có thẩm quyền không được yêu cầu nhà cung cấp thực hiện đánh giá lại đối với các nội dung đã được chứng nhận đạt yêu cầu, bảo đảm không làm phát sinh thủ tục hành chính trùng lặp.

(4) Tổ chức đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao phải đáp ứng đồng thời các yêu cầu sau đây:

- Được thành lập và đã đăng ký hoạt động đánh giá sự phù hợp theo quy định của pháp luật về tiêu chuẩn và quy chuẩn kỹ thuật;

- Bảo đảm tính độc lập, khách quan trong hoạt động đánh giá sự phù hợp;

- Đáp ứng điều kiện hoạt động theo quy định của pháp luật về tiêu chuẩn và quy chuẩn kỹ thuật phù hợp với lĩnh vực đánh giá hệ thống trí tuệ nhân tạo;

- Có đội ngũ chuyên gia, nhân sự và phương tiện kỹ thuật đáp ứng yêu cầu chuyên môn về trí tuệ nhân tạo, an ninh mạng và quản trị dữ liệu phù hợp với tiêu chuẩn, quy chuẩn kỹ thuật hoặc hướng dẫn do Bộ Khoa học và Công nghệ ban hành;

- Chịu sự giám sát định kỳ của cơ quan nhà nước có thẩm quyền theo quy định của pháp luật.

(5) Cơ quan nhà nước có thẩm quyền thừa nhận kết quả đánh giá sự phù hợp do tổ chức đánh giá sự phù hợp của nước ngoài thực hiện theo quy định của pháp luật về tiêu chuẩn, quy chuẩn kỹ thuật và điều ước quốc tế mà nước Cộng hòa xã hội chủ nghĩa Việt Nam là thành viên.

* Nhà cung cấp được sử dụng kết quả đánh giá sự phù hợp đã được thừa nhận để chứng minh sự phù hợp đối với các nội dung tương ứng đã được đánh giá. Đối với các nội dung chưa được đánh giá hoặc chưa được thừa nhận, nhà cung cấp phải tiếp tục thực hiện việc đánh giá sự phù hợp theo quy định tại Điều này.

(6) Nhà cung cấp có hệ thống trí tuệ nhân tạo có rủi ro cao đã được đánh giá sự phù hợp phải duy trì sự phù hợp và công khai thông tin về kết quả đánh giá sự phù hợp trên Cổng thông tin điện tử một cửa về trí tuệ nhân tạo trước khi đưa hệ thống vào sử dụng và khi cập nhật kết quả đánh giá lại. Nội dung công khai bao gồm:

- Tên hệ thống trí tuệ nhân tạo, phiên bản hệ thống và mã định danh hệ thống trí tuệ nhân tạo, nếu có;

- Tên, địa chỉ và thông tin liên hệ của nhà cung cấp;

- Phương thức đánh giá sự phù hợp đã áp dụng;

- Tên tổ chức đánh giá sự phù hợp trong trường hợp nhà cung cấp thực hiện đánh giá sự phù hợp thông qua tổ chức đánh giá sự phù hợp;

- Kết luận về sự phù hợp của hệ thống trí tuệ nhân tạo;

- Thời điểm hoàn thành đánh giá sự phù hợp hoặc thời điểm kết quả đánh giá sự phù hợp được thừa nhận;

- Thời điểm cập nhật thông tin gần nhất.

Nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo mới nhất 2026 gồm những nguyên tắc gì?

Nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo được quy định tại Điều 4 Luật Trí tuệ nhân tạo 2025 cụ thể bao gồm:

- Lấy con người làm trung tâm; bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; tuân thủ Hiến pháp và pháp luật.

- Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống trí tuệ nhân tạo.

- Bảo đảm công bằng, minh bạch, không thiên lệch, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống trí tuệ nhân tạo.

- Thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.