Cơ chế thử nghiệm có kiểm soát đối với trí tuệ nhân tạo được quy định ra sao?

Cơ chế thử nghiệm có kiểm soát đối với trí tuệ nhân tạo được quy định ra sao?

Căn cứ Điều 21 Luật Trí tuệ nhân tạo 2025 (có hiệu lực thi hành từ 01/3/2026) quy định về cơ chế thử nghiệm có kiểm soát đối với trí tuệ nhân tạo được quy định như sau:

- Cơ chế thử nghiệm có kiểm soát đối với trí tuệ nhân tạo thực hiện theo quy định của pháp luật về khoa học, công nghệ và đổi mới sáng tạo và quy định tại các khoản 2, 3 và 4 Điều 21 Luật Trí tuệ nhân tạo 2025.

- Kết quả thử nghiệm có kiểm soát là căn cứ để cơ quan nhà nước có thẩm quyền xem xét:

+ Công nhận kết quả đánh giá sự phù hợp theo quy định của Luật Trí tuệ nhân tạo 2025;

+ Miễn, giảm hoặc điều chỉnh nghĩa vụ tuân thủ tương ứng của Luật Trí tuệ nhân tạo 2025.

- Cơ quan nhà nước có thẩm quyền chủ trì, phối hợp với cơ quan có liên quan tiếp nhận, thẩm định và xử lý hồ sơ theo quy trình thẩm định và phản hồi nhanh; giám sát quá trình thử nghiệm và quyết định tạm dừng hoặc chấm dứt thử nghiệm khi có rủi ro ảnh hưởng đến an toàn, an ninh hoặc quyền, lợi ích hợp pháp của tổ chức, cá nhân.

- Chính phủ quy định chi tiết Điều 21 Luật Trí tuệ nhân tạo 2025.

Cơ chế thử nghiệm có kiểm soát đối với trí tuệ nhân tạo được quy định ra sao? (Hình từ Internet)

Các hành vi nào bị nghiêm cấm đối với trí tuệ nhân tạo?

Căn cứ Điều 7 Luật Trí tuệ nhân tạo 2025 quy định về các hành vi bị nghiêm cấm như sau:

Điều 7. Các hành vi bị nghiêm cấm

1. Lợi dụng, chiếm đoạt hệ thống trí tuệ nhân tạo để thực hiện hành vi vi phạm pháp luật, xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

2. Phát triển, cung cấp, triển khai hoặc sử dụng các hệ thống trí tuệ nhân tạo nhằm mục đích sau đây:

a) Thực hiện các hành vi bị nghiêm cấm theo quy định của luật;

b) Sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người;

c) Lợi dụng điểm yếu của nhóm người dễ bị tổn thương, bao gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi để gây tổn hại cho chính họ hoặc người khác;

d) Tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

3. Thu thập, xử lý hoặc sử dụng dữ liệu để phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo trái với quy định của pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

4. Cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định của Luật này.

5. Che giấu thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; tẩy xóa, làm sai lệch các thông tin, nhãn, cảnh báo bắt buộc trong hoạt động trí tuệ nhân tạo.

6. Lợi dụng hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện hành vi trái quy định của luật.

Như vậy, các hành vi sau đây bị nghiêm cấm đối với trí tuệ nhân tạo:

- Lợi dụng, chiếm đoạt hệ thống trí tuệ nhân tạo để thực hiện hành vi vi phạm pháp luật, xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

- Phát triển, cung cấp, triển khai hoặc sử dụng các hệ thống trí tuệ nhân tạo nhằm mục đích sau đây:

+ Thực hiện các hành vi bị nghiêm cấm theo quy định của luật;

+ Sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người;

+ Lợi dụng điểm yếu của nhóm người dễ bị tổn thương, bao gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi để gây tổn hại cho chính họ hoặc người khác;

+ Tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

- Thu thập, xử lý hoặc sử dụng dữ liệu để phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo trái với quy định của pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

- Cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định của Luật Trí tuệ nhân tạo 2025.

- Che giấu thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; tẩy xóa, làm sai lệch các thông tin, nhãn, cảnh báo bắt buộc trong hoạt động trí tuệ nhân tạo.

- Lợi dụng hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện hành vi trái quy định của luật.

Trách nhiệm quản lý nhà nước về trí tuệ nhân tạo như thế nào?

Căn cứ khoản 2 Điều 30 Luật Trí tuệ nhân tạo 2025 quy định về nội dung và trách nhiệm quản lý nhà nước về trí tuệ nhân tạo như sau:

Điều 30. Nội dung và trách nhiệm quản lý nhà nước về trí tuệ nhân tạo

[...]

2. Trách nhiệm quản lý nhà nước về trí tuệ nhân tạo:

a) Chính phủ thống nhất quản lý nhà nước về trí tuệ nhân tạo;

b) Bộ Khoa học và Công nghệ là cơ quan đầu mối, chịu trách nhiệm trước Chính phủ thực hiện quản lý nhà nước về trí tuệ nhân tạo trên phạm vi cả nước;

c) Bộ, cơ quan ngang Bộ, trong phạm vi chức năng, nhiệm vụ, quyền hạn của mình, phối hợp với Bộ Khoa học và Công nghệ thực hiện quản lý nhà nước về trí tuệ nhân tạo;

d) Ủy ban nhân dân cấp tỉnh thực hiện quản lý nhà nước về trí tuệ nhân tạo tại địa phương.

Như vậy, trách nhiệm quản lý nhà nước về trí tuệ nhân tạo như sau:

- Chính phủ thống nhất quản lý nhà nước về trí tuệ nhân tạo;

- Bộ Khoa học và Công nghệ là cơ quan đầu mối, chịu trách nhiệm trước Chính phủ thực hiện quản lý nhà nước về trí tuệ nhân tạo trên phạm vi cả nước;

- Bộ, cơ quan ngang Bộ, trong phạm vi chức năng, nhiệm vụ, quyền hạn của mình, phối hợp với Bộ Khoa học và Công nghệ thực hiện quản lý nhà nước về trí tuệ nhân tạo;

- Ủy ban nhân dân cấp tỉnh thực hiện quản lý nhà nước về trí tuệ nhân tạo tại địa phương.