Theo đại biểu Thạch Phước Bình (Đoàn ĐBQH tỉnh Vĩnh Long), Deepfake, giả mạo tiếng nói, hình ảnh, video đã gây ra nhiều vụ việc ảnh hưởng nghiêm trọng đến an ninh thông tin và quyền riêng tư.

Điều 9 của dự thảo luật quy định gắn nhãn đầu ra AI, nhưng cần phải làm rõ một số điểm như: Những nội dung nào bắt buộc phải gắn nhãn? Mức độ gắn nhãn như thế nào để vừa bảo vệ người dùng, vừa không làm giảm trải nghiệm số?

Cùng với trách nhiệm của các nền tảng mạng xã hội trong phát hiện và gỡ bỏ nội dung giả mạo. Việc thiết kế cơ chế gắn nhãn chặt chẽ nhưng linh hoạt là yếu tố hết sức cần thiết.

Ông Bình đề nghị phải có ràng buộc chứng nhận đối với hệ thống rủi ro cao; cho phép tự đánh giá đối với các hệ thống rủi ro thấp và trung bình; đảm bảo quy trình đánh giá phải rõ ràng, minh bạch, tránh phát sinh cơ chế "xin-cho".

Tại Hội trường, đại biểu Dương Khắc Mai (Đoàn ĐBQH tỉnh Lâm Đồng) cho rằng dự thảo luật là một trong những quy định cần thiết đáp ứng đúng yêu cầu quản lý trong bối cảnh hiện nay, đặc biệt là bối cảnh công nghệ sử dụng trí tuệ nhân tạo để tạo lập, làm giả hình ảnh, giọng nói, video với mức độ chân thực cao, gây khó khăn cho việc nhận diện thật giả.

Thực tiễn thông tin giả đang gây nhiều hệ lụy cho xã hội. Tuy nhiên, đại biểu đề nghị bổ sung quy định trách nhiệm gắn nhãn, không chỉ dừng lại ở bên kê khai việc triển khai mà cần mở rộng sang trách nhiệm của các nền tảng trung gian phân phối nội dung.

Đồng thời cần nghiên cứu bổ sung chế tài đủ mạnh đối với hành vi cố tình che giấu, bóc gỡ nhãn AI để lừa dối công chúng.

Đại biểu Phạm Trọng Nghĩa (Đoàn ĐBQH tỉnh Lạng Sơn) cho rằng, cùng với cơ hội, phụ thuộc quá mức vào AI làm giảm năng lực tư duy và khả năng sáng tạo.

Việc lạm dụng AI tiềm ẩn nhiều bất ổn như: xâm phạm chủ quyền quốc gia, giảm hiệu lực của quản trị công và ảnh hưởng tiêu cực đến mỗi cá nhân, mỗi gia đình nhất là thế hệ trẻ.

"Đã có ý kiến khoa học lo ngại nếu không kiểm soát tốt thì sẽ dẫn đến nguy cơ "người sẽ biến thành máy trước khi máy biến thành người"", đại biểu nêu.

Theo ông Nghĩa, đối với khu vực công, lạm dụng AI làm giảm tính khả thi, tính nhân văn và hiệu quả của chính sách, pháp luật. Việc cung cấp các thông tin, dữ liệu nhạy cảm vào AI, nếu không được kiểm soát chặt, có thể dẫn đến rò rỉ dữ liệu, gây tổn hại đến an ninh quốc gia và trật tự an toàn xã hội với hệ lụy khó lường.

"AI không trung lập. AI là công cụ của người tạo ra nó. Có những việc mà người dùng không biết nhưng người phát triển hay người sở hữu công nghệ lại biết.

Lạm dụng AI có thể làm cho chính sách công bị "bẻ lái" phục vụ mục đích của người phát triển, người sở hữu công nghệ mà hiện thường ở nước ngoài", ông Nghĩa nói.

Do đó, ông đề nghị bổ sung vào Dự thảo Luật một điều quy định hành vi bị nghiêm cấm, trong đó, có cấm lạm dụng AI trong khu vực công.

Luật của Việt Nam kế thừa của EU, Hàn Quốc, Nhật Bản

Giải trình làm rõ ý kiến các ĐBQH nêu, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, về quản lý AI dựa trên mức độ rủi ro, cơ quan soạn thảo đã nghiên cứu tiếp thu ý kiến của đại biểu theo hướng có ba mức độ rủi ro: thấp, trung bình và cao, và bổ sung một điều về các hành vi bị cấm.

Về gắn nhãn, Bộ trưởng cho biết nội dung do AI tạo ra và cung cấp cho công chúng thì chỉ cần thông báo. Nhưng nội dung deepfake có tính chất giả, gây nhầm lẫn như thật thì phải được gắn nhãn bắt buộc.

Theo Bộ trưởng Bộ KH&CN Nguyễn Mạnh Hùng, trên thế giới, chưa nhiều nước ban hành Luật AI, Luật AI đầu tiên do EU ban hành cũng mới năm 2024, 3 nước đầu tiên có Luật AI là EU, Hàn Quốc và Nhật Bản.

Các nước khác mới có chiến lược, hướng dẫn, quy định hoặc đang soạn thảo luật nhưng vì AI là công nghệ cốt lõi nhất của cách mạng công nghiệp lần thứ 4 và quyết định sự phát triển của đất nước nên việc sớm có Luật AI là thực sự cần thiết để chúng ta phát triển AI một cách chủ động và có hệ thống để thu hút đầu tư, để phát triển đất nước nhanh và bền vững.

Theo ông Hùng, trong 3 nước có Luật AI thì EU quản lý chặt chẽ và chi tiết, luật dài tới 136 trang, thiên về an toàn, ví dụ mức phạt doanh nghiệp AI lên tới 7% doanh thu toàn cầu hoặc 35 triệu EURO tùy theo mức nào cao hơn. Nhật Bản là luật về thúc đẩy, chỉ tập trung cho phát triển. Hàn Quốc là luật AI ở mức cơ bản, đề cập cả an toàn và phát triển, nhưng phát triển được ưu tiên hơn. Phần an toàn là khá nhẹ, chỉ phạt đến mức 22.000 USD.

Cách tiếp cận của chúng ta là kế thừa có chọn lọc và kết hợp những điểm mạnh của cả 3 luật này phù hợp với thực tiễn của Việt Nam, an toàn thì cao hơn mức cơ bản của Hàn Quốc, nhưng nhẹ hơn và ít thủ tục hơn của EU, thúc đẩy phát triển thì mạnh mẽ như của Nhật Bản, hài hòa cả an toàn. Luật dành 5 trang cho phần này và phát triển dài 6,5 trang. Bộ Khoa học và Công nghệ đã cố gắng rất cao nhưng vẫn còn một số nội dung cần hoàn thiện.