Tòa án Tối cao Ấn Độ yêu cầu lập cơ sở dữ liệu chung để gỡ bỏ tài liệu xâm hại tình dục trẻ em, bác bỏ lệnh cấm internet áp dụng đại trà

Hệ thống phát hiện chung, trẻ em vẫn được phép lên mạng

Tòa án Tối cao Ấn Độ đã yêu cầu chính phủ liên bang thành lập Cơ sở dữ liệu Danh sách Hash và URL Quốc gia nhằm giúp các nền tảng nhận diện và gỡ bỏ tài liệu đã được xác nhận là nội dung bóc lột và xâm hại tình dục trẻ em trên các dịch vụ. Mỗi mục phải được ít nhất ba chuyên viên phân tích được đào tạo đánh giá độc lập; cơ sở dữ liệu sẽ lưu các mã định danh kỹ thuật số và địa chỉ internet thay vì lưu chính hình ảnh hoặc video mang tính xâm hại.

Lệnh dài 136 trang, đề ngày 15 tháng 10 năm 2026, cũng đặt ra thời hạn báo cáo cho các công ty mạng xã hội, yêu cầu hệ thống khiếu nại dễ tiếp cận và kêu gọi đưa giáo dục an toàn kỹ thuật số vào trường học. Chính phủ phải nộp bản khai có tuyên thệ mô tả tiến độ triển khai trước phiên điều trần tiếp theo vào ngày 10 tháng 12 năm 2026.

Thẩm phán J. B. Pardiwala và K. Vinod Chandran đã ban hành các chỉ thị trong vụ Just Rights for Children Alliance & Anr. v. S. Harish & Ors., sau khi nhận được các đơn cho rằng phán quyết ngày 23 tháng 9 năm 2024 của tòa chưa được tuân thủ.

Hội đồng thẩm phán kết hợp các nghĩa vụ nghiêm ngặt hơn đối với các công ty công nghệ với một kết luận mang tính hiến định: trẻ em có quyền cơ bản được truy cập và sử dụng internet. Tòa không tán thành các hạn chế áp dụng đại trà dựa trên độ tuổi, mà ưu tiên sự hướng dẫn của cha mẹ, cài đặt tài khoản an toàn hơn và hành động nhằm vào những người tạo ra, phát tán hoặc trục lợi từ tài liệu mang tính xâm hại.

Vì sao việc từng nền tảng tự gỡ nội dung chưa hiệu quả

Tòa chỉ ra một điểm yếu thực tế trong hệ thống hiện hành. Khi một công ty phát hiện và gỡ bỏ tài liệu mang tính xâm hại, một nền tảng khác vẫn có thể tiếp tục lưu hành cùng hình ảnh, video hoặc liên kết đó vì chưa tự nhận diện được.

Quy tắc 4(4) của Quy tắc Công nghệ Thông tin (Hướng dẫn dành cho Trung gian và Quy tắc Đạo đức Truyền thông Kỹ thuật số), năm 2021, đề cập đến nội dung trước đó đã bị gỡ khỏi tài nguyên máy tính của chính đơn vị trung gian đó. Hội đồng thẩm phán cho rằng cách tiếp cận này quá hẹp để hỗ trợ việc phát hiện phối hợp giữa các dịch vụ.

Các đơn cũng lưu ý đến những cáo buộc về quảng cáo trả phí hướng người dùng đến tài liệu mang tính xâm hại thông qua liên kết và trang web bên ngoài. Trong số 84 quảng cáo được xem xét tại Ấn Độ, 55 quảng cáo đã được báo cáo qua hệ thống báo cáo của một nền tảng. Trong số 55 quảng cáo đó, 43 quảng cáo được xác định là phù hợp với tiêu chuẩn quảng cáo của nền tảng, tương đương khoảng 78 phần trăm số quảng cáo được báo cáo.

Đối với tòa, vấn đề bao gồm cả việc nội dung liên tục được tải lên lại lẫn các đường dẫn đưa người dùng đến những hành vi bóc lột. Vì vậy, khuôn khổ của tòa bao gồm việc nhận diện nội dung đã biết, kiểm tra địa chỉ bên ngoài, báo cáo cho cảnh sát và xem xét khoản tiền thu được từ hoạt động phát tán.

Cơ sở dữ liệu quốc gia sẽ hoạt động ra sao

Cơ sở dữ liệu Danh sách Hash và URL Quốc gia có thể được vận hành trong Cổng thông tin Sahyog của Trung tâm Điều phối Tội phạm mạng Ấn Độ, gọi tắt là I4C, hoặc như một kho dữ liệu riêng. Hiện nay, Sahyog chuyển tiếp khiếu nại và thông báo gỡ bỏ; cơ sở dữ liệu được đề xuất sẽ bổ sung một hệ thống tham chiếu chung để phát hiện tài liệu mang tính xâm hại đã được xác nhận.

Hash là mã định danh kỹ thuật số được tạo từ một tệp, có thể ví như dấu vân tay. Các nền tảng có thể đối chiếu mã định danh để nhận diện nội dung đã được xác định ở nơi khác. Hash tri giác còn có thể giúp phát hiện những hình ảnh hoặc video tương tự sau khi chúng được thay đổi, chẳng hạn như đổi kích thước hoặc định dạng.

URL là địa chỉ internet. Việc liệt kê các địa chỉ này giúp nền tảng xử lý những liên kết dẫn người dùng đến các địa điểm đã biết có lưu trữ tài liệu mang tính xâm hại, kể cả khi tài liệu được lưu bên ngoài nền tảng chứa liên kết đó.

Chính phủ phải xây dựng hướng dẫn hoặc quy trình thao tác chuẩn để các trung gian mạng xã hội lớn sử dụng phương thức đối chiếu hash tri giác và lập danh sách URL. Tòa ưu tiên hướng dẫn có thể được cập nhật định kỳ khi công nghệ thay đổi.

Các nền tảng sẽ đối chiếu dịch vụ của mình với các mục trong cơ sở dữ liệu, trong khi cơ quan thực thi pháp luật sẽ sử dụng các mã định danh chung để tìm nội dung trùng khớp ở những nơi khác trên mạng. Nhờ đó, một phát hiện đã được xác nhận có thể hỗ trợ hành động trên nhiều dịch vụ, thay vì phải bắt đầu lại quy trình phát hiện từ đầu tại từng công ty.

Ba đánh giá của con người trước khi chấp nhận một mục

Tòa yêu cầu thực hiện nhiều bước xác minh trước khi đưa tài liệu vào cơ sở dữ liệu. Phần mềm có thể tiến hành sàng lọc sơ bộ, nhưng ít nhất ba chuyên viên phân tích được đào tạo phải đánh giá độc lập xem tài liệu có phải là nội dung bóc lột và xâm hại tình dục trẻ em, hay CSEAM, hay không.

Các mục phải được gửi qua kênh mã hóa. Kho dữ liệu chỉ được lưu các mã hash và URL liên quan, cùng hồ sơ đánh giá, nhật ký truy cập và kết quả kiểm toán độc lập. Các mục không chính xác phải được gỡ bỏ kịp thời.

Những người bị ảnh hưởng bởi việc gỡ nội dung dựa trên các mục trong cơ sở dữ liệu phải có quyền tiếp cận quy trình khiếu nại. Thông báo gỡ bỏ cần nêu rõ căn cứ để người liên quan biết nên gửi khiếu nại đến nền tảng hay cơ quan quản lý cơ sở dữ liệu.

Các biện pháp bảo vệ này kết nối một hệ thống phát hiện chung có sức ảnh hưởng lớn với cơ chế sửa sai. Vì một mục có thể dẫn đến hành động trên nhiều nền tảng, tính chính xác của đánh giá ban đầu sẽ ảnh hưởng đến mọi lần gỡ bỏ tiếp theo.

Những hành động nào có thời hạn báo cáo hai giờ?

Tòa đặt ra quy trình khác nhau đối với tài liệu mới được phát hiện và tài liệu đã có trong cơ sở dữ liệu quốc gia. Trong khuôn khổ này, tài liệu chưa rõ nguồn gốc là nội dung đang được đánh giá thông qua quy trình phát hiện hoặc khiếu nại riêng của nền tảng. Tài liệu đã biết là nội dung trùng khớp với một mục đã được xác nhận trong cơ sở dữ liệu.

• Khi nền tảng tự phát hiện và gỡ bỏ tài liệu chưa rõ nguồn gốc, nền tảng phải báo cáo việc gỡ bỏ trong vòng hai giờ.
• Khi việc gỡ bỏ xuất phát từ khiếu nại, nền tảng phải báo cáo ngay sau khi xử lý xong khiếu nại, và chậm nhất là trong vòng hai giờ kể từ thời điểm giải quyết.
• Khi nội dung trùng khớp với một mục đã có trong cơ sở dữ liệu, nền tảng phải vô hiệu hóa và gỡ bỏ ngay lập tức, đồng thời gửi báo cáo tổng hợp về các lần gỡ bỏ đó hằng tuần.

Nền tảng phải xác minh tài liệu mới được phát hiện trước khi gỡ bỏ và báo cáo theo quy trình này. Nền tảng phải thông báo cho các cơ quan được chỉ định theo luật Ấn Độ, bao gồm Đơn vị Cảnh sát Vị thành niên Đặc biệt, cảnh sát địa phương hoặc cổng thông tin tội phạm mạng, tùy trường hợp theo Quy tắc 11 của Quy tắc Bảo vệ Trẻ em khỏi Tội phạm Tình dục, năm 2020. Cơ quan quản lý cơ sở dữ liệu được chỉ định cũng phải được thông báo nếu đó là một cơ quan khác.

Thời hạn hai giờ áp dụng cho việc báo cáo sau khi gỡ bỏ hoặc giải quyết khiếu nại. Quy trình báo cáo hằng tuần áp dụng cho các nội dung trùng khớp với tài liệu đã được xác nhận trong cơ sở dữ liệu, bên cạnh yêu cầu gỡ bỏ ngay lập tức.

Phán quyết tháng 9 năm 2024 đã gắn nghĩa vụ báo cáo với Điều 79 của Đạo luật Công nghệ Thông tin, năm 2000. Điều khoản này quy định cơ chế bảo vệ có điều kiện, thường được gọi là vùng an toàn pháp lý, trước trách nhiệm pháp lý đối với nội dung do người dùng đăng tải. Tòa phán quyết rằng các đơn vị trung gian phải thực hiện trách nhiệm thẩm định và tuân thủ nghĩa vụ báo cáo theo luật bảo vệ trẻ em để được hưởng cơ chế bảo vệ đó.

Khiếu nại phải được chuyển đến người đã qua đào tạo

Nền tảng phải cung cấp một danh mục báo cáo riêng, có tên gọi rõ ràng dành cho CSEAM và có thể truy cập trong vòng hai bước. Người báo cáo phải được giữ kín danh tính mà không cần cung cấp thông tin cá nhân bắt buộc; thông tin về cán bộ giải quyết khiếu nại cũng phải dễ tìm thấy trên trang web và ứng dụng.

Mỗi khiếu nại phải được xác nhận trong vòng 24 giờ và cấp mã tham chiếu. Cán bộ giải quyết khiếu nại đã qua đào tạo phải xem xét vụ việc; người khiếu nại phải nhận được quyết định cùng lý do. Công cụ tự động có thể hỗ trợ sàng lọc sơ bộ, nhưng cán bộ được đào tạo vẫn chịu trách nhiệm xem xét khiếu nại.

Tòa cũng kêu gọi sử dụng mẫu báo cáo thống nhất có thể được hệ thống máy tính xử lý. Việc báo cáo nhất quán sẽ cung cấp cho cơ quan chức năng thông tin ở định dạng có thể sử dụng, thay vì buộc họ phải đối chiếu các định dạng khác nhau của từng công ty.

Tòa đề nghị chính phủ liên bang mở rộng các yêu cầu về trách nhiệm giải trình đến các đơn vị trung gian thông qua những sửa đổi phù hợp đối với Quy tắc Công nghệ Thông tin. Với người dùng, thay đổi dự kiến rất cụ thể: một kênh báo cáo dễ tiếp cận, một khiếu nại có thể theo dõi và quyết định giải thích hành động đã thực hiện.

Doanh thu từ quảng cáo và đăng ký bị giám sát

Hội đồng thẩm phán yêu cầu các đơn vị trung gian ngăn chặn CSEAM và các tài liệu gây hại bị cấm khác được cung cấp, lưu trữ, tải lên, quảng bá hoặc phát tán thông qua tường phí hoặc gói đăng ký, dù trực tiếp hay gián tiếp. Tường phí là rào cản thanh toán mà người dùng phải vượt qua để truy cập nội dung.

Tòa tuyên bố khoản doanh thu thu được từ tài liệu bị cấm được phân phối qua các dịch vụ đó phải bị tịch thu và nộp lại. Tòa yêu cầu chính phủ xây dựng khuôn khổ cần thiết và xem xét áp dụng các khoản phạt tiền mang tính răn đe đối với hành vi vi phạm nghĩa vụ theo Đạo luật Công nghệ Thông tin và các quy tắc liên quan.

Mức phạt cần phản ánh mức độ nghiêm trọng, thời gian kéo dài và tính tái diễn của vi phạm, cùng với quy mô và doanh thu của công ty. Nhờ đó, biện pháp xử lý có thể tính đến cả việc vi phạm nhiều lần lẫn quy mô của doanh nghiệp chịu trách nhiệm.

Lệnh của tòa cũng đề cập đến tài liệu điện tử tạo điều kiện cho hành vi bóc lột, bao gồm quảng cáo về các công cụ chỉnh sửa hình ảnh thành tài liệu mang tính xâm hại hoặc chuyển hướng người dùng đến nội dung đó. Tòa nhận định phạm vi điều chỉnh của Đạo luật Công nghệ Thông tin và các quy tắc không chỉ giới hạn ở hình ảnh trực quan, đồng thời viện dẫn Điều 67B(d) và Quy tắc 3(1)(b).

Trước khi có lệnh, Bộ Điện tử và Công nghệ Thông tin cho tòa biết đã gửi thông báo vào tháng 7 năm 2026 cho cán bộ tuân thủ của Meta về các quảng cáo trả phí quảng bá CSEAM. Các thủ tục đó vẫn đang tiếp diễn. Báo cáo của chính phủ cũng mô tả các cuộc thảo luận sau đó, trong đó Google và Meta đồng ý báo cáo trực tiếp các vụ việc cho cơ quan thực thi pháp luật Ấn Độ.

Vì sao tòa bác bỏ lệnh cấm áp dụng đại trà đối với trẻ em

Hội đồng thẩm phán công nhận quyền truy cập và sử dụng internet là quyền cơ bản theo Điều 21, điều khoản bảo vệ quyền sống và tự do cá nhân, kết hợp với Điều 19(1)(a), điều khoản bảo vệ quyền tự do ngôn luận và biểu đạt. Tòa tuyên bố trẻ em được hưởng các quyền này bất kể độ tuổi.

Trong lệnh của mình, Thẩm phán Pardiwala và Chandran giải thích mối quan hệ giữa việc bảo vệ và quyền truy cập:

Sự an toàn và quyền tự do của trẻ em không mâu thuẫn với nhau. Các em có quyền được hưởng cả hai.

Tòa nhận định rằng trẻ em có thể tiếp tục sử dụng internet một cách bí mật sau khi bị cấm, và chuyển sang các dịch vụ ít được quản lý hơn. Khi đối mặt với đe dọa hoặc thao túng, trẻ có thể ngần ngại tìm kiếm sự trợ giúp vì sợ bị phạt do lên mạng.

Hội đồng thẩm phán cũng nêu quan ngại về quyền riêng tư đối với các hệ thống yêu cầu mọi người dùng xác minh độ tuổi thông qua việc thu thập và giám sát rộng rãi thông tin nhạy cảm. Thay vào đó, tòa đề xuất sự đồng ý, hướng dẫn và giám sát của cha mẹ, cùng với chế độ dành riêng cho trẻ em.

Các cài đặt khả thi bao gồm tài khoản mặc định ở chế độ riêng tư, hạn chế liên hệ từ người lớn không quen biết và kiểm soát quảng cáo cũng như nội dung. Đối với trẻ chưa đến tuổi thiếu niên, tòa đề xuất các phương thức xác minh sự đồng ý của cha mẹ tương xứng. Tòa để chính phủ liên bang quyết định các quy định chi tiết và cho phép áp dụng hạn chế có mục tiêu đối với các dịch vụ vốn dĩ gây hại, bao gồm trang web nội dung người lớn.

Trường học là một phần của kế hoạch bảo vệ

Tòa chỉ thị đưa giáo dục an toàn kỹ thuật số và giáo dục giới tính phù hợp với từng độ tuổi vào chương trình học chính khóa. Bài học cần đề cập đến sự đồng thuận, đụng chạm an toàn và không an toàn, các mối quan hệ lành mạnh, bảo vệ thông tin cá nhân, hành vi bóc lột trên mạng và cách báo cáo xâm hại.

Hội đồng Quốc gia Nghiên cứu và Đào tạo Giáo dục cùng các hội đồng cấp bang sẽ xây dựng nội dung với sự tham gia của chuyên gia tâm lý trẻ em, nhà giáo dục và chuyên gia nuôi dạy con. Tòa cũng kêu gọi niêm yết số đường dây nóng tại trường học và triển khai các chương trình nâng cao nhận thức từ bậc tiểu học.

Điều này có nghĩa là trẻ em sẽ học cách nhận biết nguy hiểm và kể với người lớn đáng tin cậy, bên cạnh các biện pháp kỹ thuật mà các công ty phải triển khai. Nội dung giáo dục hướng đến những tình huống trẻ gặp phải hành vi thao túng hoặc đe dọa trước khi bất kỳ hình ảnh hay liên kết nào được nền tảng nhận diện.

Cách dùng thuật ngữ của tòa cũng phản ánh trọng tâm này. Trong phán quyết tháng 9 năm 2024, tòa đề nghị Quốc hội xem xét thay cụm từ "nội dung khiêu dâm trẻ em" trong Đạo luật POCSO bằng cách diễn đạt mô tả nội dung bóc lột và xâm hại tình dục trẻ em, để phản ánh chính xác hơn bản chất của các hành vi phạm tội.

Chính phủ phải làm gì trước ngày 10 tháng 12

Bộ Điện tử và Công nghệ Thông tin cùng Bộ Luật pháp và Tư pháp phải thực hiện các bước triển khai khuôn khổ này thông qua hướng dẫn, quy trình thao tác chuẩn và những sửa đổi phù hợp đối với Quy tắc Công nghệ Thông tin, và khi cần thiết, đối với Đạo luật Công nghệ Thông tin. Bản khai có tuyên thệ của chính phủ phải mô tả tiến độ, bao gồm các công cụ công nghệ mà hiện các đơn vị trung gian đang sử dụng.

MeitY trước đó đã trình một dự thảo quy trình được soạn thảo cùng Bộ Phụ nữ và Phát triển Trẻ em, Bộ Nội vụ, Cục Viễn thông và các bên liên quan khác. Tổng luật sư Tushar Mehta đề nghị có thêm thời gian để hoàn thiện dự thảo.

Vụ việc đã trải qua nhiều giai đoạn:

• Ngày 23 tháng 9 năm 2024: Tòa án Tối cao ra phán quyết trước đó về CSEAM, bao gồm nghĩa vụ báo cáo của các đơn vị trung gian.
• Tháng 2 năm 2026: Chính phủ sửa đổi các quy tắc về đơn vị trung gian, bổ sung nghĩa vụ thẩm định cụ thể liên quan đến CSEAM.
• Tháng 7 năm 2026: MeitY gửi thông báo cho cán bộ tuân thủ của Meta về các quảng cáo trả phí quảng bá nội dung như vậy.
• Ngày 14 tháng 8 năm 2026: Tòa ghi nhận quan ngại về những vi phạm nghiêm trọng nghĩa vụ tuân thủ.
• Ngày 15 tháng 10 năm 2026: Hội đồng thẩm phán ban hành khuôn khổ về cơ sở dữ liệu, báo cáo, giáo dục và trách nhiệm giải trình.
• Ngày 10 tháng 12 năm 2026: Tòa dự kiến xét xử lại vụ việc; chính phủ phải nộp bản khai về tiến độ trước thời điểm đó.

Lệnh của tòa chưa ấn định ngày ra mắt cơ sở dữ liệu hay mức phạt tiền cuối cùng. Tại phiên điều trần tháng 12, chính phủ sẽ phải giải thích các bước đã thực hiện nhằm tiến tới phát hiện chung, báo cáo đáng tin cậy và quyền truy cập mạng an toàn hơn cho trẻ em.

Điểm chính

• Cơ sở dữ liệu quốc gia sẽ lưu hash và URL của nội dung bóc lột và xâm hại tình dục trẻ em đã được xác nhận, thay vì lưu chính nội dung đó.
• Ít nhất ba chuyên viên phân tích được đào tạo phải đánh giá độc lập từng mục được đề xuất.
• Một số trường hợp gỡ bỏ phải được báo cáo trong vòng hai giờ; nội dung trùng khớp với các mục đã có trong cơ sở dữ liệu phải được gỡ bỏ ngay và báo cáo hằng tuần.
• Nền tảng phải xác nhận khiếu nại trong vòng 24 giờ và bảo đảm có người được đào tạo xem xét.
• Tòa cấm phát tán nội dung thông qua tường phí và gói đăng ký, đồng thời kêu gọi xây dựng khuôn khổ xử lý tiền phạt và doanh thu bị cấm.
• Trẻ em vẫn có quyền cơ bản được truy cập internet; các biện pháp bảo vệ có mục tiêu được ưu tiên hơn lệnh cấm áp dụng đại trà.
• Chính phủ phải báo cáo tiến độ triển khai trước phiên điều trần ngày 10 tháng 12 năm 2026.