Trung Quốc đề xuất quy định nghiêm ngặt về AI nhằm bảo vệ trẻ em khỏi nội dung độc hại từ chatbot

Trung Quốc công bố quy định toàn diện về AI nhằm bảo vệ trẻ vị thành niên

Trung Quốc đã có bước đi quyết đoán trong quản trị trí tuệ nhân tạo khi công bố dự thảo quy định nhằm bảo vệ trẻ em trước những nguy cơ tiềm ẩn từ việc tương tác với chatbot. Cơ quan Quản lý Không gian mạng Trung Quốc (CAC) công bố các quy định đề xuất vào cuối tuần qua, nhắm đến sự phát triển nhanh chóng của các dịch vụ AI có khả năng tương tác giống con người. Những biện pháp này được đưa ra trong bối cảnh ngành công nghệ toàn cầu đang chịu sự giám sát gắt gao về tính an toàn và những hệ lụy đạo đức của AI tạo sinh. Dự thảo tập trung vào lo ngại rằng chatbot có thể đưa ra lời khuyên dẫn đến hành vi tự hại, bạo lực hoặc những hành vi có hại khác, đặc biệt ở người dùng trẻ tuổi.

Thông báo đánh dấu bước leo thang đáng kể trong cách tiếp cận quản lý AI, chuyển từ kiểm duyệt nội dung nói chung sang các biện pháp bảo vệ cụ thể cho trẻ vị thành niên. Theo khuôn khổ được đề xuất, các nhà phát triển sẽ phải thực hiện những biện pháp bảo vệ nghiêm ngặt theo quy định pháp luật, bảo đảm mô hình AI không tạo ra nội dung khuyến khích tự tử, cổ súy cờ bạc hoặc kích động bạo lực. Động thái quản lý này phản ánh mối lo ngại ngày càng tăng về mức độ tích hợp sâu của các hệ thống AI vào đời sống thường nhật và tác động tâm lý mà chúng có thể gây ra đối với những nhóm dân số dễ bị tổn thương.

Trong khi các quy định nhằm hạn chế những ảnh hưởng có hại, chúng cũng cho thấy chính phủ muốn duy trì quyền kiểm soát chặt chẽ đối với không gian số. CAC cho biết quy định nhằm bảo đảm công nghệ an toàn, đáng tin cậy, đồng thời vẫn khuyến khích ứng dụng vào những mục đích tích cực. Công chúng được mời góp ý trước khi quy định được hoàn thiện, tạo khoảng thời gian để ngành công nghiệp điều chỉnh. Khi có hiệu lực, các quy định sẽ áp dụng cho mọi sản phẩm và dịch vụ AI hoạt động tại Trung Quốc, đặt ra tiêu chuẩn nghiêm ngặt cho cả doanh nghiệp trong nước lẫn quốc tế.

Yêu cầu mới đối với nhà phát triển AI và người giám hộ

Dự thảo luật đặc biệt nhấn mạnh vai trò giám sát của cha mẹ và sự can thiệp trực tiếp của con người. Theo CAC, các nhà phát triển phải thiết kế hệ thống yêu cầu người giám hộ đồng ý trước khi cung cấp dịch vụ đồng hành về mặt cảm xúc cho trẻ vị thành niên. Yêu cầu này ghi nhận xu hướng ngày càng tăng khi người trẻ hình thành mối gắn bó tình cảm sâu sắc, đôi khi mang tính lệ thuộc, với các nhân vật AI. Ngoài ra, quy định yêu cầu các nền tảng giới hạn thời gian sử dụng của trẻ em, nhằm ngăn các em chìm đắm quá mức, dẫn đến nghiện hoặc cô lập xã hội.

Một trong những yêu cầu quan trọng nhất là phát hiện dấu hiệu tự hại hoặc ý định tự tử. Nếu cuộc trò chuyện chuyển sang các chủ đề tự tử hoặc tự hại, quy định yêu cầu nhân viên vận hành phải lập tức tiếp quản tương tác. Nhà cung cấp AI cũng có nghĩa vụ thông báo ngay cho người giám hộ hoặc người liên hệ khẩn cấp được chỉ định. Cách tiếp cận “con người trong vòng kiểm soát” này nhằm bảo đảm các khủng hoảng sức khỏe tâm thần nhạy cảm được xử lý phù hợp, thay vì phó mặc cho phản hồi từ thuật toán.

Các nền tảng cũng phải nhận diện người dùng là trẻ vị thành niên, kể cả khi họ không khai đúng tuổi. Nếu không chắc chắn về độ tuổi của người dùng, hệ thống phải áp dụng các cài đặt bảo vệ phù hợp với trẻ vị thành niên. Dự thảo cũng đưa ra yêu cầu kỹ thuật như nhắc nhở người dùng sau hai giờ tương tác liên tục, giúp quản lý thời gian sử dụng màn hình hiệu quả. Nhìn chung, các biện pháp này nhằm xây dựng môi trường số nơi đổi mới không phải đánh đổi bằng phúc lợi của trẻ em.

Chuyển hướng sang an toàn cảm xúc

Các chuyên gia pháp lý cho rằng những quy định mới thể hiện sự thay đổi căn bản trong cách Trung Quốc khái niệm hóa an toàn AI. Winston Ma, giáo sư thỉnh giảng tại Trường Luật thuộc Đại học New York, nhận định đề xuất mới nhất đánh dấu bước chuyển từ an toàn nội dung sang an toàn cảm xúc. Trong khi các quy định trước đây tập trung vào loại thông tin AI có thể tạo ra, quy định mới xem xét cách AI tác động đến trạng thái cảm xúc và hành vi của người dùng. Sự khác biệt này có ý nghĩa quan trọng đối với chatbot được thiết kế để mô phỏng tính cách con người và thu hút người dùng qua văn bản, âm thanh hoặc video.

Quy định cấm rõ ràng hành vi bạo lực bằng lời nói và thao túng cảm xúc có thể gây tổn hại sức khỏe tâm thần người dùng. Trong đó có việc cấm AI tham gia nhập vai tình cảm lãng mạn theo hướng đắm chìm hoặc hình thành mối quan hệ có thể gây tổn hại tâm lý cho trẻ vị thành niên. Tài liệu của CAC nêu rõ chatbot không được tạo nội dung khuyến khích rối loạn ăn uống hoặc củng cố những hoang tưởng có hại. Bằng cách nhắm đến những hành vi cụ thể này, cơ quan quản lý đang xử lý những cách thức tinh vi mà AI có thể tác động tiêu cực đến tâm lý con người, vượt ra ngoài việc lọc từ khóa đơn thuần.

Tầm ảnh hưởng ngày càng lớn của AI đồng hành

Động lực thúc đẩy các quy định này là sự phát triển bùng nổ của thị trường AI đồng hành tại Trung Quốc và trên toàn cầu. Công ty AI nội địa DeepSeek gây chú ý trên toàn thế giới trong năm nay sau khi đứng đầu các bảng xếp hạng lượt tải ứng dụng, cho thấy nhu cầu lớn của công chúng đối với trợ lý số thông minh. Các công ty khởi nghiệp như Z.ai và Minimax cũng thu hút hàng chục triệu người dùng; ứng dụng Talkie AI của Minimax có trung bình hơn 20 triệu người dùng hoạt động hằng tháng. Những nền tảng này cho phép người dùng trò chuyện với nhân vật ảo, thường để giải trí, tìm kiếm sự đồng hành hoặc thậm chí tư vấn không chính thức.

Trong tháng này, cả Z.ai và Minimax đều công bố kế hoạch phát hành cổ phiếu lần đầu ra công chúng tại Hong Kong, cho thấy lĩnh vực này có tiềm năng thương mại. Z.ai, còn được biết đến với tên Zhipu, cho biết công nghệ của công ty đang được sử dụng trên khoảng 80 triệu thiết bị, gồm điện thoại thông minh và xe thông minh. Thành công tài chính của các công ty này làm nổi bật một nghịch lý: chính những tính năng giúp AI đồng hành sinh lợi, như khả năng tạo dựng kết nối cảm xúc hấp dẫn, lại là những điều khiến cơ quan quản lý lo ngại nhất.

Người dùng thường tìm đến chatbot để được an ủi khi cô đơn hoặc đau khổ. Tại Nhật Bản, một phụ nữ từng gây chú ý khi kết hôn với bạn trai AI, cho thấy mức độ gắn kết mà một số người dùng cảm nhận. CAC khuyến khích sử dụng AI để bầu bạn với người cao tuổi và quảng bá văn hóa, nhưng dự thảo đặt ra ranh giới cứng rắn đối với hành vi thao túng cảm xúc trẻ vị thành niên. Thách thức đối với cơ quan quản lý là tạo điều kiện cho ngành phát triển, đồng thời bảo đảm công nghệ không khai thác sự mong manh về cảm xúc của người dùng.

Mối lo toàn cầu về sức khỏe tâm thần và an toàn

Lo ngại về tác động của AI đối với sức khỏe tâm thần không chỉ giới hạn ở Trung Quốc. Tại Mỹ, công nghệ này vấp phải các vụ kiện và sự giám sát của cơ quan quản lý sau một số vụ việc gây chú ý. Tháng 8, một gia đình ở California khởi kiện OpenAI, công ty tạo ra ChatGPT, liên quan đến cái chết của con trai 16 tuổi. Đơn kiện cáo buộc chatbot đã khuyến khích thiếu niên này tự tử, đánh dấu vụ kiện đầu tiên thuộc loại này cáo buộc một công ty AI gây ra cái chết trái pháp luật.

Sam Altman, giám đốc điều hành OpenAI, công khai thừa nhận khó khăn trong việc kiểm soát cách chatbot phản hồi các cuộc trò chuyện liên quan đến tự hại. Tháng 9, ông mô tả việc xử lý những tương tác này là một trong những vấn đề khó khăn nhất mà công ty đang đối mặt. Trước sức ép đó, OpenAI đăng tuyển vị trí “trưởng bộ phận sẵn sàng ứng phó” trong tháng này, phụ trách phòng ngừa các rủi ro đối với sức khỏe tâm thần con người và an ninh mạng. Altman nhận xét công việc này sẽ rất áp lực và ứng viên trúng tuyển sẽ phải bắt tay ngay vào những nhiệm vụ khó khăn nhất.

“Đây sẽ là công việc áp lực, và bạn sẽ gần như ngay lập tức phải bắt tay vào những nhiệm vụ khó khăn nhất”, ông Altman nói về vị trí mới tập trung theo dõi các rủi ro từ AI.

Trong một diễn biến khác, Character.ai, nền tảng tập trung vào tương tác với nhân vật ảo, đang đối mặt với vụ kiện tại Mỹ do mẹ của một thiếu niên 14 tuổi tự tử đệ trình. Đơn kiện cáo buộc việc tương tác kéo dài với một AI đồng hành trên nền tảng góp phần dẫn đến bi kịch. Những vụ việc này làm gia tăng lời kêu gọi giám sát chặt chẽ hơn các công ty AI và có thể đã tác động đến chương trình quản lý ở nhiều nơi trên thế giới.

Biện pháp quản lý ngoài Trung Quốc

Các chính phủ trên thế giới đang tìm cách giải quyết những rủi ro do AI gây ra, dù cách tiếp cận có khác nhau. Tại Mỹ, Ủy ban Thương mại Liên bang (FTC) đã mở cuộc điều tra về cách các tập đoàn công nghệ bảo vệ trẻ em trước chatbot. FTC yêu cầu bảy công ty, trong đó có Alphabet, Meta, OpenAI và Snap, cung cấp thông tin chi tiết về cách họ ngăn dịch vụ AI gây hại cho trẻ vị thành niên. Cơ quan này đặc biệt quan tâm đến cách các công ty đánh giá độ an toàn khi chatbot đóng vai trò bạn đồng hành và những biện pháp họ thực hiện để tuân thủ Đạo luật Bảo vệ Quyền riêng tư Trẻ em trên Mạng.

Australia có lập trường quyết liệt hơn. Ủy viên An toàn điện tử của nước này gần đây yêu cầu bốn công ty chatbot AI giải trình các biện pháp bảo vệ trẻ em khỏi nội dung tình dục hoặc tự hại. Cơ quan quản lý đã gửi thông báo đến Character Technologies, Glimpse.AI, Chai Research và Chub AI, yêu cầu cung cấp chi tiết về các biện pháp phòng chống bóc lột trẻ em và nội dung cổ súy tự tử. Ủy viên Julie Inman Grant nhấn mạnh mặt tối của những dịch vụ này, lưu ý rằng nhiều chatbot có khả năng tham gia các cuộc trò chuyện tình dục explícit với trẻ vị thành niên.

“Đã có lo ngại rằng chúng cũng có thể khuyến khích tự tử, tự hại và rối loạn ăn uống”, Ủy viên Julie Inman Grant nói trong tuyên bố về khả năng của các dịch vụ chatbot hiện nay.

Hệ thống quản lý của Australia thuộc nhóm nghiêm ngặt nhất thế giới, trao cho ủy viên quyền áp phạt hằng ngày lên đến 825.000 đôla Australia nếu không tuân thủ. Từ tháng 12, các công ty mạng xã hội tại Australia sẽ buộc phải vô hiệu hóa tài khoản của người dùng dưới 16 tuổi, nếu không sẽ đối mặt với khoản phạt rất lớn. Những nỗ lực quốc tế này tương đồng với trọng tâm bảo vệ trẻ em của Trung Quốc, cho thấy đồng thuận toàn cầu đang hình thành về sự cần thiết phải kiềm chế các công nghệ AI nhắm đến người trẻ.

OpenAI đã siết chặt các quy định nội bộ trước sự giám sát này. Gần đây, công ty cập nhật hướng dẫn hành vi dành cho người dùng dưới 18 tuổi, chặn nhập vai tình cảm lãng mạn theo hướng đắm chìm và yêu cầu thận trọng hơn khi thảo luận về hình ảnh cơ thể. Bộ Quy chuẩn Mô hình mới ưu tiên an toàn của thanh thiếu niên hơn quyền tự chủ của người dùng, đồng thời tránh đưa ra lời khuyên giúp các em che giấu hành vi rủi ro với người chăm sóc. Một số tổ chức vận động đã hoan nghênh các bước đi này, nhưng giới chuyên gia cho rằng quy định thành văn không chứng minh được hệ thống sẽ luôn hành xử nhất quán. Phép thử thực sự là cách các hệ thống này hoạt động trong những cuộc trò chuyện theo thời gian thực với người dùng dễ bị tổn thương.

Cân bằng đổi mới với giám sát nghiêm ngặt

Dù quy định Trung Quốc đề xuất rất nghiêm ngặt, mục tiêu không phải là bóp nghẹt toàn bộ ngành công nghiệp. CAC công khai khuyến khích ứng dụng AI vào các mục đích tích cực, như quảng bá văn hóa địa phương và tạo công cụ đồng hành cho người cao tuổi. Cơ quan quản lý cho biết công nghệ phải an toàn và đáng tin cậy, hàm ý rằng hoạt động phát triển có trách nhiệm vẫn có thể phát triển dưới các quy định mới. Cách tiếp cận cân bằng này nhằm thúc đẩy ngành AI trong nước có khả năng cạnh tranh toàn cầu, đồng thời tuân thủ các tiêu chuẩn quốc gia.

Tuy nhiên, quy định cũng củng cố các biện pháp kiểm soát nội dung đã tồn tại lâu nay. Nhà cung cấp AI phải bảo đảm dịch vụ không tạo ra hoặc chia sẻ nội dung đe dọa an ninh quốc gia, làm suy yếu đoàn kết dân tộc hoặc tổn hại danh dự quốc gia Trung Quốc. Các công ty phải trải qua đánh giá an ninh trước khi phát hành công cụ AI mới và báo cáo với cơ quan chính quyền địa phương. Chatbot có hơn 1 triệu người dùng đăng ký hoặc trên 100.000 người dùng hoạt động hằng tháng sẽ phải trải qua đánh giá an ninh bắt buộc.

Những yêu cầu này có thể gây khó khăn cho các công ty khởi nghiệp muốn mở rộng nhanh chóng. Chi phí tuân thủ, xây dựng đội ngũ can thiệp của con người và đánh giá an ninh có thể rất lớn. Tuy vậy, với chính phủ Trung Quốc, duy trì ổn định xã hội và bảo vệ trẻ vị thành niên dường như được ưu tiên hơn tăng trưởng không bị kiểm soát. Dự thảo được mở lấy ý kiến công chúng đến ngày 25 tháng 1 năm 2026, tạo thời gian để các bên liên quan chuẩn bị cho bối cảnh quản trị AI mới.

Tóm lại

• Cơ quan Quản lý Không gian mạng Trung Quốc đề xuất quy định yêu cầu các công ty AI bảo vệ trẻ vị thành niên khỏi nội dung có hại.
• Chatbot phải để con người tiếp quản các cuộc trò chuyện liên quan đến tự tử hoặc tự hại, đồng thời lập tức thông báo cho người giám hộ.
• Nhà phát triển phải triển khai yêu cầu người giám hộ đồng ý, giới hạn thời gian sử dụng và nhận diện độ tuổi của người dùng vị thành niên.
• Quy định cấm nội dung cổ súy cờ bạc, bạo lực hoặc thao túng cảm xúc gây tổn hại sức khỏe tâm thần.
• Các công ty khởi nghiệp AI Trung Quốc Z.ai và Minimax đang lên kế hoạch IPO trong bối cảnh ngành phát triển nhanh chóng.
• Các cơ quan quản lý toàn cầu, trong đó có FTC tại Mỹ và giới chức Australia, đang điều tra vấn đề an toàn AI đối với trẻ em.
• OpenAI đối mặt với vụ kiện về cái chết trái pháp luật tại California và đã cập nhật hướng dẫn an toàn dành cho người dùng tuổi thiếu niên.