Đại biểu đề nghị cấm sử dụng AI giả mạo khuôn mặt, giọng nói để xuyên tạc, xúc phạm

Chiều 7.11, Quốc hội thảo luận ở hội trường về dự án Luật An ninh mạng.

Đại biểu Lê Thị Thanh Lam (Đoàn Cần Thơ) cho rằng, hiện nay, sự phát triển mạnh mẽ của công nghệ số, đặc biệt là trí tuệ nhân tạo (AI), đã làm xuất hiện nhiều phương tiện và phương thức vi phạm mới như lừa đảo, giả mạo khuôn mặt, giọng nói.

Các thủ đoạn này rất khó nhận diện, gây ảnh hưởng lớn đến an ninh mạng và quyền lợi của người dân. Dự thảo đã bước đầu quan tâm đến bảo vệ trẻ em trên không gian mạng, nhưng thực tế cho thấy các nhóm yếu thế khác như người cao tuổi, người khuyết tật, người hạn chế năng lực hành vi cũng là đối tượng dễ bị tấn công.

Đại biểu dẫn lại vụ lừa đảo nhắm vào người cao tuổi, như vụ mạo danh cơ quan chức năng yêu cầu một cụ bà 75 tuổi ở Đà Nẵng chuyển toàn bộ số tiền tiết kiệm, hay vụ một nông dân ở Phú Thọ mang hết tiền bán trâu đi chuyển khoản. Các phương tiện thông tin đại chúng đã phản ánh nhiều về những trường hợp này.

Theo đại biểu, tội phạm công nghệ cao đang khai thác triệt để sự thiếu kỹ năng an toàn mạng của các nhóm đối tượng yếu thế.

Mặc dù một số vụ việc đã được lực lượng chức năng kịp thời ngăn chặn, nhưng xu hướng lạm dụng AI để cá nhân hóa hành vi lừa đảo đang gia tăng.

Do đó, đại biểu đề nghị trong phần các hành vi bị nghiêm cấm về an ninh mạng, cần bổ sung quy định cấm sử dụng AI để giả mạo khuôn mặt, giọng nói và các công nghệ giả mạo khác nhằm mạo danh tổ chức, cá nhân để lừa đảo, xuyên tạc hoặc gây nhầm lẫn, xâm hại quyền và lợi ích hợp pháp của người dân.

Đề nghị mở rộng nhóm đối tượng được bảo vệ, bên cạnh trẻ em, cần bổ sung người cao tuổi và các nhóm yếu thế khác để bảo đảm tính bao quát, phù hợp với tình hình tội phạm công nghệ cao hiện nay.

Đại biểu Tô Văn Tám (Đoàn Quảng Ngãi) quan tâm đến các hành vi nghiêm cấm trong dự thảo luật và đề nghị nghiên cứu bổ sung thêm hành vi "xuyên tạc đường lối, chính sách của Đảng, pháp luật của Nhà nước", "xúc phạm Đảng kỳ" vào danh mục các hành vi bị cấm.

Ông cho biết, hiện nay, trên không gian mạng, ngoài việc xúc phạm Quốc kỳ, Quốc ca, đã xuất hiện hiện tượng xúc phạm Đảng kỳ - biểu tượng thiêng liêng của Đảng và dân tộc, gắn liền với biết bao thế hệ cán bộ, đảng viên đã hy sinh, cống hiến.

Đại biểu cũng đề nghị bổ sung hành vi sử dụng AI để xuyên tạc, bôi nhọ, xúc phạm người khác.

"Công nghệ AI phát triển nhanh, mang lại nhiều lợi ích trong học tập, nghiên cứu, nhưng cũng đang bị lợi dụng để tạo ra hình ảnh, video giả mạo nhằm bôi nhọ, vu khống, xúc phạm danh dự, nhân phẩm của cá nhân, tổ chức.

Vì vậy, cần bổ sung quy định cấm sử dụng AI cho mục đích xuyên tạc, xúc phạm hoặc gây tổn hại uy tín, danh dự người khác", đại biểu Tô Văn Tám cho hay.

Đại biểu Lê Thị Ngọc Linh (Đoàn Cà Mau) đánh giá cao về việc bổ sung nghiêm cấm hành vi sử dụng AI để tạo dựng, chỉnh sửa, lan truyền clip, hình ảnh, âm thanh, văn bản có nội dung vu cáo, bôi nhọ, thông tin sai sự thật, giả mạo danh tính.

Đọc bản gốc tại đây