Đại học Chiết Giang đề xuất luật AI, đặt trọng tâm vào việc giao nhiệm vụ phù hợp với năng lực hệ thống

Đề xuất gồm 99 điều về việc AI nên được phép làm gì

Các nhà nghiên cứu Đại học Chiết Giang đã công bố đề xuất luật trí tuệ nhân tạo gồm tám chương và 99 điều, với ý tưởng cốt lõi: quyền hạn trao cho một hệ thống AI phải tương xứng với độ tin cậy và hệ quả của nhiệm vụ mà hệ thống thực hiện.

Đề xuất phiên bản 1.0 của Đại học Chiết Giang được trình bày tại sự kiện ra mắt ngày 24/9. Thông báo chính thức về sự kiện của trường cho biết chương trình diễn ra từ 14h đến 17h30 ngày 24/9/2026 tại cơ sở Tử Kim Cảng. Chương trình đặt nội dung phát triển ngành bên cạnh bảo vệ quyền và trách nhiệm giải trình, phản ánh hai yêu cầu mà đề xuất hướng tới giải quyết.

Đối với những người bị ảnh hưởng bởi AI, các mối lo ngại thực tế đã hiện hữu. Đơn vị vận hành mô hình có thể dùng tác phẩm của họa sĩ minh họa để huấn luyện mà không xin phép không? Ai chịu trách nhiệm khi mô hình ngôn ngữ đưa ra câu trả lời sai lệch, gây hại? Một người có thể lưu giữ bằng chứng và tìm cách khắc phục ra sao sau khi video sử dụng gương mặt họ trái phép lan truyền trên mạng?

Doanh nghiệp phải đối mặt với những vấn đề khác: các yêu cầu tuân thủ chồng chéo, thủ tục nặng nề trước khi sản phẩm được đưa vào sử dụng và chi phí mà các công ty nhỏ có thể khó đáp ứng. Các nhà nghiên cứu cho biết cách tiếp cận của họ nhằm bảo vệ quyền đồng thời ứng phó với những áp lực đó.

Đây là đề xuất học thuật để thảo luận và tiếp tục chỉnh sửa. Ý tưởng được phát triển rõ nhất trong văn bản là phương pháp đánh giá AI trong từng bối cảnh cụ thể, kết nối khả năng của hệ thống, mức độ vận hành đáng tin cậy và những gì có thể bị tác động đối với người liên quan.

Quá trình hình thành dự thảo

Nhóm soạn thảo dành gần sáu tháng xây dựng đề xuất và hoàn thành năm vòng chỉnh sửa tập trung. Bản dự thảo ban đầu gồm 174 điều được rút xuống còn 99 điều, giảm 75 điều, tương đương khoảng 43%. Điều này cho thấy văn bản đã được cô đọng đáng kể trong quá trình xây dựng, dù chỉ riêng số điều không phản ánh đầy đủ những yêu cầu mà từng quy định có thể đặt ra cho người dùng hoặc doanh nghiệp.

Các nhà nghiên cứu đã đến thăm hơn 20 doanh nghiệp AI tại Hàng Châu, cùng một số công ty internet hàng đầu. Công việc của họ cũng dựa trên các cuộc thảo luận tại diễn đàn lập pháp Chiết Giang, trao đổi với các bộ và ủy ban liên quan, cùng nhiều vòng tham vấn chuyên gia. Nghiên cứu được tiến hành song song với quá trình xây dựng hai dự thảo quy định địa phương về ngành AI của Hàng Châu và định hướng phát triển thành phố đổi mới sáng tạo.

Đơn vị tổ chức gồm Trường Luật Quang Hoa thuộc Đại học Chiết Giang, Viện Nghiên cứu Luật số và Quản trị của trường, Viện Nghiên cứu Lập pháp Chiết Giang và Viện Nghiên cứu Lập pháp Đại học Chiết Giang. Theo chương trình chính thức, Li Văn Long, nhà nghiên cứu tại Trường Luật Quang Hoa, phụ trách công bố và giới thiệu đề xuất.

Quá trình xây dựng và ra mắt diễn ra như sau:

• Trong gần sáu tháng, nhóm đã đến thăm doanh nghiệp, tham vấn và chỉnh sửa qua năm vòng.
• Ngày 24/9, đề xuất được trình bày tại Đại học Chiết Giang; thông báo chính thức ghi sự kiện diễn ra vào năm 2026.
• Sau cuộc họp, nhóm dự kiến tiếp thu ý kiến phản hồi và xây dựng các phiên bản tiếp theo.

Ba câu hỏi làm cơ sở cho các quy định được đề xuất

Tôn Hiểu Hà, giám đốc Viện Nghiên cứu Luật số và Quản trị thuộc Đại học Chiết Giang, mô tả khuôn khổ này qua ba yếu tố gắn kết với nhau: năng lực thực thi, mức độ trưởng thành về nhận thức, và bản chất cũng như tác động của nhiệm vụ. Nói đơn giản, các câu hỏi là hệ thống AI có thể làm gì, đáng tin cậy đến đâu và quyết định của nó có ý nghĩa lớn thế nào.

Tôn giải thích quan điểm của mình về nguồn gốc rủi ro AI bằng tiếng Trung:

Chúng tôi cho rằng rủi ro của trí tuệ nhân tạo không bắt nguồn từ việc máy móc mạnh đến đâu, mà từ sự không tương xứng giữa năng lực, nhận thức và nhiệm vụ.

Một hệ thống có thể thực hiện liên tiếp nhiều thao tác mà không cần con người can thiệp, nhưng lại khó nhận diện tình huống bất thường. Giao cho hệ thống đó nhiệm vụ liên quan đến an toàn cá nhân sẽ tạo ra khoảng cách nguy hiểm giữa quyền tự hành động và khả năng nhận biết khi có vấn đề.

Vì vậy, đề xuất không chỉ dựa vào một nhãn phân loại duy nhất gắn với công nghệ. Cơ quan quản lý sẽ xem xét phiên bản cụ thể của hệ thống, mục đích sử dụng và môi trường vận hành. Cùng một công nghệ nền tảng có thể cần các biện pháp kiểm soát khác nhau khi được dùng cho những nhiệm vụ khác nhau.

Năng lực và độ tin cậy sẽ được đánh giá riêng

Thang năng lực được đề xuất gồm bốn cấp: hỗ trợ, tự động hóa hạn chế, tự động hóa cao và thực thi tự chủ. Việc đánh giá sẽ xem xét mức độ hệ thống tự hành động, phạm vi ảnh hưởng của các quyết định, công cụ mà hệ thống có thể truy cập, thời gian vận hành liên tục và khả năng thay đổi môi trường số hoặc vật lý.

Quyền truy cập công cụ rất quan trọng, vì một hệ thống AI chỉ đưa ra gợi ý sẽ có phạm vi tác động khác với hệ thống được phép thực hiện hành động đó. Quyền vận hành phần mềm hoặc thiết bị khác có thể biến một câu trả lời sai thành chuỗi hành động thực tế.

Mức độ trưởng thành về nhận thức cũng sẽ có bốn cấp, được mô tả là cơ bản, phổ thông, cao và được kiểm soát chặt chẽ. Việc đánh giá sẽ xem xét độ chính xác, tính nhất quán, khả năng nhận biết dữ liệu đầu vào bất thường và sửa lỗi, an ninh mạng, khả năng truy xuất, cũng như điều kiện để con người giành quyền kiểm soát.

Một yếu tố khác là mức độ hiệu chỉnh độ tin cậy. Nói dễ hiểu, đó là kiểm tra xem mức độ tự tin mà hệ thống thể hiện có tương ứng với tần suất đưa ra câu trả lời đúng hay không. Một hệ thống thường xuyên sai nhưng lại tỏ ra chắc chắn có thể đặc biệt khó để người dùng giám sát.

Khuôn khổ cũng sẽ xem xét liệu các kết quả quan trọng có thể được giải thích hay không và hệ thống có thể hoạt động trong những giới hạn đã xác định hay không. Việc tách riêng năng lực và độ tin cậy giúp cơ quan quản lý nhận diện một hệ thống đủ mạnh để tự hành động nhưng chưa đủ đáng tin cậy để đảm nhận nhiệm vụ nhạy cảm.

Nhiệm vụ nào sẽ được xem xét kỹ hơn?

Đề xuất chia nhiệm vụ thành ba mức độ tác động: thấp, thông thường và cao. Việc đánh giá sẽ cân nhắc tầm quan trọng của các quyền bị ảnh hưởng, khả năng xảy ra và mức độ nghiêm trọng của thiệt hại, số người bị tác động, thời gian kéo dài của hệ quả, khả năng đảo ngược kết quả và việc người bị ảnh hưởng có thể được khắc phục hay không.

Mức độ dễ bị tổn thương cũng sẽ được tính đến. Một quyết định ảnh hưởng đến người có ít khả năng phản đối có thể cần được chú ý kỹ hơn so với quyết định tương tự tác động đến người dễ tiếp cận sự trợ giúp.

Các nhiệm vụ liên quan đến tính mạng và sức khỏe, tự do cá nhân, phẩm giá con người, cơ hội bình đẳng, lợi ích tài sản lớn, giáo dục, việc làm, an sinh xã hội, tư pháp, thực thi hành chính hoặc an toàn công cộng sẽ được mặc định là có tác động cao. Nhiệm vụ có khả năng ảnh hưởng đáng kể đến số lượng lớn người cũng sẽ được xếp vào diện này.

Đề xuất cũng nêu rõ không được phát triển, triển khai hoặc sử dụng các ứng dụng AI bị cấm, bất kể mức độ tác động của nhiệm vụ. Các nội dung mô tả được công bố cùng đề xuất không đưa ra danh sách chi tiết về những ứng dụng bị cấm, cũng không nêu câu trả lời pháp lý cụ thể cho từng tranh chấp bản quyền, nội dung sai lệch và video giả mạo gương mặt được đặt ra ở phần đầu.

Ví dụ y khoa lý giải nguyên tắc tương xứng

Tôn dùng ví dụ về chẩn đoán hình ảnh và phân tích bệnh lý để minh họa vì sao nhiệm vụ được giao cho hệ thống quan trọng ngang với năng lực kỹ thuật của nó. AI có thể xử lý nhanh khối lượng lớn hình ảnh và dữ liệu y tế, nhưng khả năng suy luận có thể vẫn hạn chế khi gặp những ca khó hoặc bất thường.

Nhiệm vụ phù hợp cần tính đến cả hai đặc điểm này. Giao toàn bộ trách nhiệm chẩn đoán một ca khó cho hệ thống, đồng thời quá tin tưởng vào phán đoán của nó, sẽ tạo ra sự không tương xứng mà khuôn khổ này muốn giải quyết.

Tôn mô tả mục tiêu bằng tiếng Trung:

Yêu cầu phải tương xứng khác với việc chỉ đơn thuần áp đặt hạn chế; mục tiêu là tìm ra sự tương xứng tối ưu giữa năng lực, nhận thức và nhiệm vụ.

Theo ông, một hệ thống hoạt động kém trong nhiệm vụ khó có thể được giao lại nhiệm vụ ít phức tạp hơn thay vì bị loại bỏ. Do đó, lựa chọn thực tế không chỉ là cho phép sử dụng không hạn chế hoặc cấm hoàn toàn. Cơ quan chức năng và đơn vị vận hành có thể điều chỉnh nhiệm vụ, quyền hạn của hệ thống hoặc mức độ tham gia của con người.

Với bệnh viện, cách tiếp cận này sẽ tập trung vào công việc cụ thể giao cho AI và các biện pháp bảo vệ đi kèm. Với bệnh nhân, mối quan tâm chính là vai trò của hệ thống có phù hợp với mức độ nghiêm trọng của quyết định hay không.

Phê duyệt cần thay đổi theo sự phát triển của AI

Quy trình quản trị được đề xuất bao gồm sáu giai đoạn: nghiên cứu và phát triển, thử nghiệm, triển khai, vận hành, cập nhật và rút khỏi sử dụng. Việc phân loại sẽ được thực hiện xuyên suốt các giai đoạn này, vì năng lực và hoàn cảnh sử dụng hệ thống có thể thay đổi sau khi đưa vào hoạt động.

Một bản cập nhật mô hình có thể mở rộng phạm vi hành động mà hệ thống thực hiện được. Việc mở rộng sang bối cảnh mới có thể khiến nhiều người hơn hoặc những lợi ích nhạy cảm hơn chịu ảnh hưởng từ các quyết định của hệ thống. Dữ liệu mới cũng có thể làm thay đổi cách mô hình hoạt động, kể cả làm giảm độ tin cậy theo những cách chưa được nhận thấy trong các đợt thử nghiệm trước đó.

Đề xuất yêu cầu đánh giá lại khi hệ thống hoặc nhiệm vụ thay đổi. Kết luận đánh giá sẽ gắn với một phiên bản, mục đích và môi trường vận hành cụ thể, qua đó tạo cơ sở để đơn vị vận hành xem xét lại nghĩa vụ khi bất kỳ yếu tố nào trong số đó thay đổi.

Tôn xác định tám lĩnh vực mà nguyên tắc tương xứng có thể định hướng các quy định pháp luật: phân loại, phân bổ nghĩa vụ, đánh giá, xác định các trường hợp sử dụng có tác động cao, cường độ quản lý, kiểm soát rủi ro, trách nhiệm pháp lý và điều chỉnh theo thời gian. Kết nối các quyết định này bằng một khuôn khổ duy nhất là nỗ lực chính của đề xuất nhằm giúp việc quản trị AI nhất quán hơn.

Bảo vệ quyền và nghĩa vụ doanh nghiệp thể hiện ở các chi tiết

Các câu hỏi về họa sĩ minh họa, câu trả lời sai và video giả mạo cho thấy trách nhiệm giải trình quan trọng hơn cả việc kiểm tra kỹ thuật. Người muốn được bồi thường hoặc yêu cầu gỡ bỏ nội dung gây hại cần có một quy trình khả thi để xác định bên chịu trách nhiệm về thiệt hại mà họ phải gánh chịu.

Đề xuất đặt trách nhiệm pháp lý trong khuôn khổ tương xứng. Điều đó có nghĩa là mức độ phù hợp của hệ thống với nhiệm vụ được giao sẽ là yếu tố liên quan khi xem xét nghĩa vụ và trách nhiệm giải trình. Tuy nhiên, mối liên hệ giữa kết quả đánh giá và các quy định hiện hành về trách nhiệm dân sự là một trong những vấn đề mà Tôn cho biết cần tiếp tục nghiên cứu chi tiết.

Các nhà nghiên cứu cũng cần xác định cụ thể cách kiểm tra mức độ trưởng thành về nhận thức và mức chênh lệch giữa năng lực, độ tin cậy với yêu cầu của nhiệm vụ đến đâu thì được coi là không phù hợp. Những lựa chọn đó sẽ quyết định mức độ nhất quán khi doanh nghiệp áp dụng khuôn khổ và hiệu quả để cơ quan quản lý kiểm tra các đánh giá của họ.

Chương trình ra mắt đưa các nhu cầu thực tế cạnh tranh này vào cùng một diễn đàn. Phiên thảo luận về ngành có các chuyên gia pháp lý từ Meituan và Douyin cùng các đại diện học thuật và kỹ thuật. Phiên về quyền và trách nhiệm giải trình có giám đốc tuân thủ của Alibaba, luật sư và học giả đại học. Thành phần tham dự cho thấy ban tổ chức muốn lắng nghe nhiều góc nhìn; chương trình không có cơ sở để quy cho những người tham gia cùng một quan điểm về dự thảo.

Với doanh nghiệp nhỏ, những vấn đề cụ thể là số lượng đánh giá phải thực hiện, bằng chứng cần cung cấp và cách nghĩa vụ thay đổi khi sản phẩm phát triển. Với những người bị ảnh hưởng bởi AI, điều quan trọng là các nghĩa vụ đó có giúp ngăn ngừa thiệt hại và tạo điều kiện khắc phục hữu hiệu khi xảy ra sự cố hay không.

Nhóm nghiên cứu dự định chỉnh sửa đề xuất dựa trên ý kiến thu thập tại cuộc họp. Công việc trọng tâm hiện nay là chuyển nguyên tắc tương xứng thành các phép kiểm tra, ngưỡng đánh giá và quy định trách nhiệm mà mọi người có thể áp dụng trong các tranh chấp thực tế và quyết định về sản phẩm.

Điểm chính

• Đề xuất luật AI của các chuyên gia Đại học Chiết Giang gồm tám chương và 99 điều, được cô đọng từ bản dự thảo ban đầu có 174 điều.
• Khuôn khổ kết nối năng lực thực thi, độ tin cậy về nhận thức và nhiệm vụ được giao cho hệ thống.
• Các nhiệm vụ nhạy cảm liên quan đến sức khỏe, tự do, việc làm, giáo dục và những lĩnh vực khác sẽ được mặc định là có tác động cao.
• Việc đánh giá bao trùm toàn bộ vòng đời phát triển và sử dụng, đồng thời được điều chỉnh khi hệ thống hoặc nhiệm vụ thay đổi.
• Đề xuất học thuật sẽ tiếp tục được chỉnh sửa; phương pháp thử nghiệm, ngưỡng đánh giá và quy định về trách nhiệm pháp lý cần được nghiên cứu chi tiết hơn.