Dự thảo Luật Trí tuệ nhân tạo: AI có được áp dụng hoàn toàn trong lĩnh vực hành chính công không?

Dự thảo Luật Trí tuệ nhân tạo: AI có được áp dụng hoàn toàn trong lĩnh vực hành chính công không?

Căn cứ theo Điều 40 Dự thảo Luật Trí tuệ nhân tạo tại đây quy định như sau:

Điều 40. Trách nhiệm đạo đức khi ứng dụng trí tuệ nhân tạo trong khu vực nhà nước

1. Việc sử dụng hệ thống trí tuệ nhân tạo trong quản lý nhà nước, cung cấp dịch vụ công phải bảo đảm công khai, minh bạch mục đích, phạm vi và chịu trách nhiệm giải trình.

2. Người có thẩm quyền trong cơ quan nhà nước phải giữ quyền quyết định cuối cùng đối với các quyết định ảnh hưởng trực tiếp đến quyền, nghĩa vụ hoặc lợi ích hợp pháp của tổ chức, cá nhân, trừ trường hợp luật chuyên ngành có quy định khác.

3. Chỉ các hệ thống trí tuệ nhân tạo thuộc nhóm rủi ro cao hoặc có tác động đáng kể đến quyền con người, quyền riêng tư, công bằng xã hội mới phải thực hiện đánh giá tác động theo Điều 41 của Luật này.

4. Cơ quan nhà nước có trách nhiệm bảo đảm áp dụng quy trình giải quyết khiếu nại theo quy định của pháp luật về khiếu nại đối với các quyết định, hành vi có sự tham gia của hệ thống trí tuệ nhân tạo và công khai cơ chế tiếp nhận, xử lý.

Như vậy, theo dự thảo thì AI không được áp dụng hoàn toàn trong lĩnh vực hành chính công vì người có thẩm quyền trong cơ quan nhà nước phải chịu trách nhiệm cuối cùng về mọi quyết định ảnh hưởng trực tiếp đến quyền, nghĩa vụ hoặc lợi ích hợp pháp của tổ chức, cá nhân.

Lưu ý: Trước khi triển khai hệ thống trí tuệ nhân tạo có rủi ro cao hoặc có khả năng tác động đáng kể đến quyền con người, công bằng xã hội hoặc quyền riêng tư, cơ quan Nhà nước phải thực hiện đánh giá tác động.

Xem thêm thông tin Dự thảo Luật Trí tuệ nhân tạo tại đây.

Dự thảo Luật Trí tuệ nhân tạo: AI có được áp dụng hoàn toàn trong lĩnh vực hành chính công? (Hình từ Internet)

Cách thức đánh giá tác động của hệ thống trí tuệ nhân tạo trong khu vực nhà nước ra sao?

Theo Điều 41 Dự thảo Luật Trí tuệ nhân tạo tại đây quy định về cách thức đánh giá tác động của hệ thống trí tuệ nhân tạo trong khu vực nhà nước như sau:

- Trước khi đưa vào vận hành hệ thống trí tuệ nhân tạo thuộc nhóm rủi ro cao hoặc có tác động đáng kể đến quyền con người, công bằng xã hội hoặc quyền riêng tư, cơ quan nhà nước chủ trì phải lập báo cáo đánh giá tác động.

- Đánh giá tác động bao gồm tối thiểu các nội dung cụ thể sau:

+ Mục đích, phạm vi, bối cảnh và quy trình sử dụng hệ thống trí tuệ nhân tạo;

+ Mức độ rủi ro của hệ thống và biện pháp bảo đảm an toàn, an ninh, độ tin cậy của hệ thống;

+ Tác động tiềm tàng đối với quyền con người, quyền riêng tư, công bằng xã hội, quyền tiếp cận thông tin và dịch vụ công;

+ Nguy cơ về lộ lọt thông tin cá nhân, thiên lệch, phân biệt đối xử và các biện pháp phòng ngừa, khắc phục trong dữ liệu và trong thuật toán;

+ Tác động tới các nhóm dễ bị tổn thương và các biện pháp bảo vệ đặc thù;

+ Cơ chế giám sát, can thiệp của con người và quy trình xử lý khi xảy ra sự cố, sai sót hoặc hành vi vi phạm.

- Trường hợp hệ thống trí tuệ nhân tạo có xử lý dữ liệu cá nhân hoặc thuộc phạm vi điều chỉnh đồng thời của Luật này, Luật Bảo vệ dữ liệu cá nhân và Luật Dữ liệu, việc lập báo cáo đánh giá tác động được thực hiện theo quy định tại Điều 11 Dự thảo Luật Trí tuệ nhân tạo. Báo cáo hợp nhất có giá trị thay thế cho các báo cáo riêng lẻ nếu bảo đảm đầy đủ nội dung bắt buộc của từng lĩnh vực.

Lưu ý: Báo cáo do cơ quan triển khai tự lập và chịu trách nhiệm, đồng thời phải được công khai toàn bộ hoặc một phần trên Cổng thông tin điện tử của cơ quan và Cổng thông tin một cửa về trí tuệ nhân tạo, trừ phần thuộc bí mật nhà nước.

Dự thảo Luật Trí tuệ nhân tạo có đặt ra những nguyên tắc đạo đức dành cho trí tuệ nhân tạo không?

Những nguyên tắc đạo đức dành cho trí tuệ nhân tạo được đặt ra thông qua quy định tại Điều 38 Dự thảo Luật Trí tuệ nhân tạo tại đây như sau:

- Công bằng, không phân biệt đối xử, hạn chế sai lệch dữ liệu, mô hình và thuật toán;

- Minh bạch và có thể giải thích, bảo đảm kết quả và hành vi của hệ thống có thể được giải thích ở mức độ phù hợp;

- An toàn, an ninh và tin cậy, bảo đảm hệ thống hoạt động ổn định, có khả năng chống chịu và phục hồi khi có sự cố;

- Trách nhiệm giải trình, xác định rõ chủ thể chịu trách nhiệm trong từng giai đoạn của vòng đời hệ thống.

Lưu ý: Các nguyên tắc đạo đức trên là cơ sở để xây dựng, ban hành và áp dụng Khung đạo đức trí tuệ nhân tạo quốc gia.