Đề nghị cấm lạm dụng AI trong khu vực công

Lạm dụng AI làm giảm tính khả thi của pháp luật

Chiều 27.11, Quốc hội thảo luận về dự án Luật Trí tuệ nhân tạo.

Đại biểu Phạm Trọng Nghĩa (đoàn Lạng Sơn) cho rằng, cùng với cơ hội, phụ thuộc quá mức vào trí tuệ nhân tạo (AI) làm giảm năng lực tư duy và khả năng sáng tạo.

Theo đại biểu, đã có ý kiến khoa học lo ngại nếu không kiểm soát tốt thì sẽ dẫn đến nguy cơ “người sẽ biến thành máy trước khi máy biến thành người”.

Đối với khu vực công, lạm dụng AI làm giảm tính khả thi, tính nhân văn và hiệu quả của chính sách, pháp luật. Việc cung cấp các thông tin, dữ liệu nhạy cảm vào AI, nếu không được kiểm soát chặt, có thể dẫn đến rò rỉ dữ liệu, gây tổn hại đến an ninh quốc gia và trật tự an toàn xã hội với hệ lụy khó lường.

"AI không trung lập. AI là công cụ của người tạo ra nó. Có những việc mà người dùng không biết nhưng người phát triển hay người sở hữu công nghệ lại biết", đại biểu lưu ý.

Đại biểu chỉ rõ, việc lạm dụng AI có thể làm cho chính sách công bị “bẻ lái” phục vụ mục đích của người phát triển, người sở hữu công nghệ.

Do đó, đề nghị bổ sung vào dự thảo luật một điều quy định hành vi bị nghiêm cấm, trong đó có cấm lạm dụng AI trong khu vực công.

Đề nghị Chính phủ sớm ban hành quy định về trách nhiệm khi sử dụng AI trong công vụ và ban hành khung đạo đức AI; xây dựng cơ chế vượt trội để phát triển AI Việt.

Thiết kế “vòng kim cô” pháp lý và kỹ thuật cho AI

Đại biểu Trần Văn Lâm (đoàn Bắc Ninh) cho rằng, điều đáng lo nhất không phải là những gì AI làm theo lệnh con người, mà là những gì AI có thể làm khi ở ngoài vòng kiểm soát của con người.

Theo đại biểu, những câu chuyện viễn tưởng về AI thống trị con người không phải để hù dọa, mà để nhắc nhở chúng ta rằng mọi tiến bộ nhân tạo đều có thể phản bội mục tiêu ban đầu nếu không được thiết kế trên nền tảng giá trị đạo đức đúng đắn từ đầu.

Những nguy cơ này cho thấy sự cấp thiết của việc thiết lập một khung pháp lý đủ mạnh để AI phát triển đúng hướng và an toàn cho xã hội.

Tuy nhiên, để luật thực sự hoàn chỉnh và có tầm nhìn xa, đại biểu đề xuất một bổ sung then chốt: "Hãy coi AI như một con người mới sinh”.

Đại biểu kiến nghị Quốc hội bổ sung nguyên tắc pháp lý trong luật này là: Mọi phần mềm AI hoạt động tại Việt Nam, dù do tổ chức trong hay ngoài nước phát triển, đều phải được trang bị một “Cơ sở dữ liệu nền tảng làm người chuẩn mực”.

Cơ sở dữ liệu này phải chứa đựng đầy đủ thông tin để dạy AI hiểu về pháp luật Việt Nam; dạy AI chuẩn mực đạo đức, văn hóa, truyền thống tốt đẹp của dân tộc; dạy AI khả năng nhận diện đúng - sai, hợp chuẩn - trái chuẩn.

Các giới hạn hành vi không được vượt qua các quy tắc nhận diện rủi ro đối với con người và quan trọng nhất, bảo đảm kho dữ liệu nền tảng này phải luôn chiếm vị trí ưu tiên tuyệt đối trong việc chi phối hành vi của AI; không được phép bị ghi đè, thay thế hoặc bị vô hiệu hóa bởi bất kỳ thuật toán hoặc dữ liệu huấn luyện nào khác.

Đại biểu cho rằng đây chính là “vòng kim cô” pháp lý và kỹ thuật bảo đảm AI không đi chệch hướng.

Đọc bản gốc tại đây