Đề xuất cấm phát triển trí tuệ nhân tạo (AI) có khả năng giả mạo người

Tối 17/11, Bộ trưởng Bộ Khoa học và Công nghệ (KH&CN) Nguyễn Mạnh Hùng trình Ủy ban Thường vụ Quốc hội dự án Luật Trí tuệ nhân tạo.

Đề cập về sự cần thiết và mục đích của dự án Luật AI, Bộ trưởng Nguyễn Mạnh Hùng cho biết, dự án Luật gồm 08 Chương, 36 điều, nhằm thể chế hóa chủ trương của Đảng và Nhà nước, tạo hành lang pháp lý đột phá cho trí tuệ nhân tạo; kiến tạo môi trường pháp lý thuận lợi để thúc đẩy đổi mới sáng tạo, nâng cao năng lực cạnh tranh quốc gia; đồng thời quản lý rủi ro, bảo vệ lợi ích quốc gia, quyền con người và chủ quyền số.

Bộ trưởng Bộ KH&CN Nguyễn Mạnh Hùng báo cáo tại Phiên họp.

Dự luật cũng yêu cầu hệ thống AI phải không gây hại, không thiên lệch, tôn trọng giá trị nhân văn; có cơ chế giám sát, thanh tra, xử lý vi phạm nhằm bảo đảm răn đe và củng cố niềm tin xã hội. Chính phủ sẽ thúc đẩy hệ sinh thái đổi mới sáng tạo và phát triển nhân lực chất lượng cao thông qua cơ chế hỗ trợ nghiên cứu, đầu tư, đào tạo cho viện nghiên cứu, doanh nghiệp và cá nhân tham gia phát triển AI.

Dự thảo lần đầu xác lập khái niệm "hệ thống AI có rủi ro không chấp nhận được" - tức những hệ thống có thể gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự, an toàn xã hội hoặc được tạo ra để thực hiện hành vi bị pháp luật cấm. Các hệ thống thuộc nhóm này bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới mọi hình thức tại Việt Nam.

Những dấu hiệu nhận biết gồm: Hệ thống được thiết kế phục vụ hành vi bị cấm; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật nhằm lừa dối, thao túng nhận thức và hành vi có chủ đích, gây tổn hại nghiêm trọng đến quyền lợi người dùng; lợi dụng điểm yếu của nhóm dễ tổn thương; tạo hoặc lan truyền nội dung giả mạo có nguy cơ cao đối với an ninh quốc gia, trật tự, an toàn xã hội.

Theo tờ trình, AI phát triển quá nhanh kéo theo nhiều rủi ro mới về an ninh. Công nghệ deepfake có thể bị lợi dụng để tạo tin giả, bôi nhọ, lừa đảo, gây bất ổn xã hội. Các hệ thống vũ khí tự động cũng đặt ra nhiều vấn đề đạo đức và pháp lý quốc tế. Trong khi đó, tốc độ hoàn thiện pháp luật lại chậm hơn công nghệ, khiến khoảng trống quản lý ngày càng lớn. Vì vậy, Chính phủ cho rằng cần sớm xây dựng khung pháp lý để vừa kiểm soát rủi ro, vừa thúc đẩy nghiên cứu và ứng dụng AI tại Việt Nam.

Đặt nền móng Luật khung quản trị toàn diện

Ủy ban Khoa học - Công nghệ cơ bản đồng tình với chính sách của dự thảo, song đề nghị làm rõ tiêu chí định lượng hoặc định tính để phân loại AI theo mức độ rủi ro. Cơ quan thẩm tra đề xuất bổ sung hành vi cấm nhằm tăng tính răn đe và thống nhất trong áp dụng pháp luật, như cấm sử dụng AI tạo deepfake để lừa đảo, xúc phạm nhân phẩm, gây rối chính trị, thao túng bầu cử hoặc xâm phạm an ninh quốc gia.

Nêu quan điểm và chỉ đạo tại phiên họp, Chủ tịch Quốc hội Trần Thanh Mẫn cho biết, Quốc hội đã ban hành Luật Công nghiệp công nghệ số, trong đó bao gồm một chương về AI nhằm thiết lập nền tảng pháp lý ban đầu mang tính nguyên tắc cho việc phát triển và ứng dụng AI. Tuy nhiên, các quy định này chưa hình thành một hành lang pháp lý toàn diện, đủ thông thoáng và tạo thuận lợi cho việc nghiên cứu, phát triển, triển khai, sử dụng AI và hệ sinh thái toàn diện về AI.

Chủ tịch Quốc hội Trần Thanh Mẫn phát biểu chỉ đạo tại Phiên họp.

Khẳng định AI không chỉ là sự phát triển của KH&CN mà đang trở thành động lực cốt lõi để phát triển kinh tế - xã hội, an ninh quốc phòng và hội nhập quốc tế, Chủ tịch Quốc hội Trần Thanh Mẫn nhấn mạnh, việc ban hành Luật AI để Việt Nam phát triển, quản lý AI trong thời gian tới là cần thiết.

Bên cạnh những lợi ích do AI mang lại thì cũng có nhiều thách thức đặt ra như rủi ro an ninh mạng, vi phạm quyền riêng tư, phân biệt và đối xử, nguy cơ lạm dụng AI vào mục đích xấu... Nếu không có một khung pháp lý chặt chẽ, kịp thời về AI thì Việt Nam có thể đánh đổi sự phát triển bằng những hệ lụy là không thể kiểm soát. Vì vậy, Luật AI phải đảm bảo 04 trụ cột chính:

Một là, thúc đẩy đổi mới sáng tạo, tạo hành lang pháp lý thông thoáng cho nghiên cứu, ứng dụng, thương mại hóa AI.

Hai là, đảm bảo quyền con người, đảm bảo minh bạch, công bằng, trách nhiệm giải trình trong mọi hệ thống AI.

Ba là, quản lý rủi ro, cấp độ phân loại AI theo mức độ ảnh hưởng là thấp, trung bình, cao, không thể chấp nhận được và áp dụng các biện pháp tương ứng.

Bốn là, hợp tác quốc tế hài hòa và các tiêu chuẩn toàn cầu; đồng thời giữ vững chủ quyền dữ liệu quốc gia.

Theo Chủ tịch Quốc hội Trần Thanh Mẫn, dự án Luật cần bảo đảm nét riêng, lấy con người là trung tâm, bảo đảm an toàn an ninh mạng, tự chủ quốc gia và hội nhập quốc tế, phát triển bao trùm bền vững, quản trị cân bằng và hài hòa. Việc phân loại quản lý AI theo mức độ rủi ro là một điểm nhấn sáng tạo, giúp kiểm soát hiệu quả hệ thống AI có khả năng ảnh hưởng đến an ninh quốc gia, quyền con người và trật tự xã hội. Việt Nam cần vừa làm vừa rút kinh nghiệm, vừa làm vừa nâng cấp, vừa làm vừa học tập.

Ngoài ra, Chủ tịch Quốc hội Trần Thanh Mẫn cũng lưu ý, Cơ quan soạn thảo dự án Luật AI cần nghiên cứu kỹ lưỡng các nội dung được đề cập trong dự án Luật để đảm bảo tính khả thi, tránh chồng chéo với các luật chuyên ngành. Việc ban hành Luật chỉ là luật khung, những vấn đề hướng dẫn thực hiện chi tiết sẽ do Chính phủ chịu trách nhiệm.

Chính phủ sẽ trình Quốc hội dự án Luật Trí tuệ nhân tạo vào ngày 21/11, các đại biểu thảo luận tại hội trường ngày 27/11.