Lạm dụng deepfake AI nhắm vào trẻ em ở Nhật Bản làm dấy lên điều tra của cảnh sát và tranh luận pháp lý

Khủng hoảng gia tăng trong các trường học Nhật Bản

Cảnh sát trên khắp Nhật Bản đang tiếp nhận ngày càng nhiều tin báo về việc học sinh dùng trí tuệ nhân tạo tạo ảnh khiêu dâm giả mạo trẻ vị thành niên, thường bằng cách lấy ảnh từ các sự kiện ở trường, kỷ yếu tốt nghiệp và nhóm trò chuyện riêng. Nạn nhân thường là học sinh trung học cơ sở và trung học phổ thông, dù trẻ tiểu học cũng bị nhắm tới. Trong một số vụ, thủ phạm cũng là trẻ vị thành niên, đã truy cập các trang tạo ảnh hoặc ứng dụng điện thoại thông minh đơn giản để làm ra những hình ảnh giả mạo khiêu dâm trông rất thật rồi chia sẻ trong các nhóm bạn cùng trang lứa.

Nhà chức trách cho biết trong năm qua đã ghi nhận hơn 100 lượt tư vấn và tin báo liên quan đến ảnh khiêu dâm giả mạo trẻ vị thành niên. Có 17 vụ đã biết liên quan đến hình ảnh lấy từ sự kiện ở trường hoặc ảnh kỷ yếu. Nạn nhân thường nghi ngờ người quen. Cảnh sát cũng ghi nhận các vụ quấy rối nhắm vào bạn học cùng giới, với mục đích bắt nạt hoặc làm nhục chứ không phải thỏa mãn ham muốn tình dục. Trong một vụ ở vùng Tokai, miền trung Nhật Bản, một nam sinh trung học cơ sở bị chuyển hồ sơ sang công tố viên với cáo buộc phỉ báng sau khi tạo ảnh khỏa thân giả của một bạn nữ cùng lớp và chia sẻ với bạn bè.

Làn sóng này nối tiếp một xu hướng rộng hơn trên toàn cầu. Một công ty an ninh Mỹ đã thống kê ít nhất 95.820 video deepfake trên mạng trong năm 2023 và cho biết 98% có nội dung khiêu dâm. Các công cụ dễ sử dụng hiện cho phép người dùng nhập câu lệnh, tải ảnh khuôn mặt lên hoặc thử xóa quần áo khỏi ảnh chỉ bằng một lần chạm. Việc những công cụ này dễ tiếp cận đang va chạm với các mối quan hệ xã hội trong trường học và lượng ảnh cá nhân khổng lồ mà trẻ em đăng tải hoặc chia sẻ, thường không nhận ra những bức ảnh đó có thể bị sử dụng làm vũ khí gây hại.

Thanh thiếu niên tạo deepfake từ ảnh thường ngày như thế nào

Các công cụ hiện nay thuộc một số nhóm. Một số ứng dụng cố tạo ảnh khỏa thân giả bằng cách dựng cơ thể bên dưới quần áo. Những ứng dụng khác ghép khuôn mặt từ ảnh ở trường lên người diễn viên trưởng thành. Các trang tạo sinh AI cũng có thể tạo ảnh khiêu dâm chỉ từ câu lệnh văn bản, rồi điều chỉnh để giống một người cụ thể bằng một vài ảnh tham chiếu. Những hệ thống này được thiết kế để tổng hợp hình ảnh mới dựa trên các mẫu học được từ tập dữ liệu khổng lồ; chúng có thể chạy trên thiết bị phổ thông, khiến việc lạm dụng dễ dàng hơn và gây khó khăn cho trường học, gia đình cũng như cơ quan thực thi pháp luật trong việc phát hiện.

Vì sao khó truy tố các vụ việc

Đạo luật chính của Nhật Bản về hình ảnh tình dục trẻ em, Luật Quy định và Trừng phạt các hành vi liên quan đến mại dâm trẻ em và nội dung khiêu dâm trẻ em, được soạn thảo nhằm bảo vệ trẻ em có thật xuất hiện trong hình ảnh có thật. Điều này tạo ra vùng xám đối với ảnh giả do AI tạo ra. Khi hình ảnh là giả lập, dù sử dụng khuôn mặt hoặc diện mạo của một đứa trẻ có thật, con đường pháp lý vẫn chưa rõ ràng. Cảnh sát đã ứng phó bằng cách viện dẫn các luật khác, trong đó có tội phỉ báng và một số sắc lệnh địa phương, để xử lý những vụ có thể truy tố. Cách tiếp cận này còn manh mún, đồng thời đặt gánh nặng lên nạn nhân và gia đình trong việc phát hiện hành vi lạm dụng và nhanh chóng nộp đơn khiếu nại.

Cảnh sát đang làm gì

Cơ quan Cảnh sát Quốc gia đã bắt đầu xem xét khoảng 10 trang web và ứng dụng tạo ảnh đặc biệt phổ biến với học sinh trung học cơ sở và trung học phổ thông. Các điều tra viên dự định dùng kết quả để hỗ trợ điều tra hình sự và xây dựng chương trình giáo dục thanh thiếu niên, trong đó có các lớp phòng ngừa hành vi phạm pháp nhằm giải thích vì sao việc tạo hoặc chia sẻ những hình ảnh như vậy có thể cấu thành tội phạm và gây tổn hại nghiêm trọng cho bạn học.

Các quan chức cấp cao cảnh báo phạm vi lạm dụng lớn hơn nhiều so với số vụ được báo cáo. Sau khi xem xét những khiếu nại gần đây, một quan chức cảnh sát cấp cao cho biết các vụ việc đã biết có thể chỉ chiếm một phần nhỏ so với thực tế, bởi nhiều nạn nhân không lên tiếng.

Vùng xám pháp lý ở Nhật Bản

Giới học giả luật tại Nhật Bản cho rằng khuôn khổ pháp lý của nước này chưa theo kịp AI tạo sinh. Theo các quy định hiện hành, nếu công tố viên không thể chứng minh có trẻ em thật xuất hiện trong hình ảnh hoặc xác định rõ danh tính của một đứa trẻ có thật, ảnh deepfake có thể nằm ngoài phạm vi điều chỉnh của chế độ pháp lý quốc gia về tài liệu xâm hại tình dục trẻ em. Khoảng trống đó trái ngược với tổn hại rất thật mà nạn nhân phải chịu khi khuôn mặt hoặc tên tuổi của họ bị gắn vào những hình ảnh khiêu dâm giả mạo rồi lan truyền trong nhóm trò chuyện hoặc trên mạng xã hội.

Takashi Nagase, luật sư kiêm giáo sư tại Đại học Kanazawa, người từng tư vấn về chính sách internet, cho rằng sự phân biệt giữa hình ảnh thật và hình ảnh tổng hợp không còn phù hợp với cách công nghệ này được sử dụng.

Luật hiện hành được xây dựng để bảo vệ trẻ em có thật, nhưng AI tạo sinh đã làm mờ ranh giới giữa thật và giả.

Một số chính quyền địa phương đã bắt đầu hành động. Tỉnh Tottori sửa đổi sắc lệnh vào năm 2024 để nghiêm cấm rõ ràng việc tạo ảnh giả có nội dung khiêu dâm bằng ảnh trẻ em. Các tổ chức vận động hoan nghênh những bước đi ở cấp địa phương, nhưng cho rằng cần có luật cấp quốc gia để việc thực thi không khác nhau tùy địa bàn hoặc bị đình trệ khi hình ảnh được lưu trên máy chủ nước ngoài hay chia sẻ ẩn danh. Một nhóm công tác của chính phủ trung ương đã thảo luận về việc thanh thiếu niên sử dụng internet và các biện pháp khả thi để xử lý hành vi lạm dụng AI, song tiến độ còn chậm.

Masaki Ueda, phó giáo sư luật hình sự tại Đại học Kanagawa, người nghiên cứu quy định về nội dung khiêu dâm, cho rằng cách tiếp cận pháp lý cần phản ánh đúng tổn hại về quyền riêng tư và tâm lý mà trẻ em phải chịu khi hình ảnh của mình bị sử dụng trái phép.

Nếu những hình ảnh giả tinh vi lan truyền trên mạng, quyền riêng tư của trẻ em có ảnh bị sử dụng trái phép vẫn bị xâm phạm, dù hình ảnh đó là giả. Gánh nặng tâm lý là rất lớn, vì vậy ảnh deepfake cần được xử lý tương tự nội dung khiêu dâm trẻ em và cần xem xét ban hành quy định pháp lý.

Công nghệ tiếp sức cho hành vi lạm dụng

Deepfake được tạo ra bằng các mô hình học máy được huấn luyện để tổng hợp hình ảnh giống thật. Hai nhóm công cụ chính đang chiếm ưu thế. Công nghệ hoán đổi khuôn mặt căn chỉnh và ghép mặt của người mục tiêu vào video hoặc ảnh có sẵn. Các hệ thống chuyển văn bản thành hình ảnh, thường gọi là mô hình khuếch tán, tạo toàn bộ hình ảnh từ đầu dựa trên câu lệnh bằng văn bản và, nếu được cung cấp, một nhóm nhỏ ảnh khuôn mặt tham chiếu. Đôi khi thủ phạm tinh chỉnh mô hình chạy cục bộ bằng một số ảnh lấy từ trang mạng xã hội của mục tiêu hoặc từ kỷ yếu trường học, khiến hình ảnh tạo ra giống đứa trẻ đến mức đáng ngại.

Những tiến bộ này khiến việc phát hiện và ứng phó thêm phức tạp. Nếu hình ảnh hoàn toàn là giả lập, sẽ không có ảnh gốc để đối chiếu. Có hình mờ và bộ lọc phát hiện AI, nhưng chúng hoạt động thiếu nhất quán và có thể bị xóa. Tổ chức Internet Watch Foundation cho biết trong một tháng năm 2023, một diễn đàn trên dark web đã đăng hơn 20.000 hình ảnh do AI tạo ra, trong đó hàng nghìn hình ảnh vi phạm luật Anh. Các cập nhật sau đó cảnh báo loại nội dung này ngày càng tràn sang web mở, nơi người dùng không nghi ngờ và nạn nhân có thể bắt gặp chúng trên các diễn đàn công khai và thư viện ảnh. Theo IWF, một số nội dung thuyết phục nhất không thể phân biệt bằng mắt với hình ảnh lạm dụng có thật, làm tăng nguy cơ khiến nạn nhân bị tổn thương lần nữa và gây quá tải cho đội ngũ kiểm duyệt cũng như cảnh sát. IWF đã công bố nghiên cứu về cách AI bị lạm dụng để tạo hình ảnh xâm hại tình dục trẻ em, đồng thời kêu gọi khẩn trương áp dụng các biện pháp đối phó về pháp lý và kỹ thuật. Báo cáo của tổ chức có tại nghiên cứu của IWF.

Tổn thất đối với nạn nhân và trường học

Với một đứa trẻ, việc nhìn thấy khuôn mặt mình bị ghép vào ảnh khiêu dâm có thể khơi lên nỗi sợ hãi, xấu hổ và cảm giác mất quyền kiểm soát. Ngay cả khi bạn học biết bức ảnh là giả, tổn hại đến danh tiếng và sức khỏe tinh thần vẫn có thể rất nghiêm trọng. Cộng đồng trường học phải đối mặt với những tổn hại thứ cấp khi tin đồn lan rộng, bắt nạt leo thang và giáo viên phải chật vật ứng phó với phụ huynh, bảo đảm an toàn cho học sinh và phối hợp với cơ quan thực thi pháp luật.

Đặc biệt, các em gái cho biết mình thay đổi cách hoạt động trên mạng. Tại Anh, ủy viên phụ trách trẻ em cho biết một số thanh thiếu niên đã ngừng đăng ảnh vì lo những công cụ tạo ảnh khỏa thân giả có thể biến hình ảnh của họ thành công cụ gây hại. Dame Rachel de Souza, ủy viên phụ trách trẻ em của Anh, đã kêu gọi các nhà lập pháp cấm ứng dụng tạo deepfake khiêu dâm trẻ em, viện dẫn nỗi đau khổ ngày càng tăng ở các em gái tuổi thiếu niên.

Không nên hợp pháp hóa các công cụ dùng công nghệ deepfake để tạo ảnh khỏa thân trẻ em, và tôi kêu gọi chính phủ hành động dứt khoát để cấm chúng. Chúng không có chỗ đứng trong xã hội của chúng ta.

Tại Nhật Bản, các luật sư cho biết họ đang chứng kiến ngày càng nhiều vụ việc nam thiếu niên bị điều tra về hành vi phạm tội tình dục liên quan đến deepfake hoặc nội dung khiêu dâm được chia sẻ trong nhóm trò chuyện. Các chuyên gia cảnh báo nhiều thanh thiếu niên không hiểu rõ hệ quả pháp lý hoặc tổn hại gây ra cho bạn bè cho đến khi cảnh sát đến hoặc nhà trường tiến hành kỷ luật. Khoảng cách nhận thức đó cho thấy cần có quy định rõ ràng, giáo dục trong trường học và các biện pháp bảo vệ mạnh mẽ từ nền tảng.

Hành động toàn cầu và bài học cho Nhật Bản

Các quốc gia khác đã hành động để khép lại những kẽ hở pháp lý. Hàn Quốc thông qua một dự luật vào tháng 9 năm 2024, hình sự hóa không chỉ việc tạo ảnh tình dục deepfake trẻ vị thành niên mà cả việc xem hoặc lưu giữ chúng. Tại Mỹ, một đạo luật liên bang được ban hành tháng 5 năm 2025 quy định việc đăng ảnh hoặc video khiêu dâm khi chưa được người xuất hiện trong đó đồng ý là bất hợp pháp, đồng thời yêu cầu các nền tảng gỡ nội dung trong vòng 48 giờ kể từ khi nhận yêu cầu của nạn nhân. Nhiều bang của Mỹ cũng đã cập nhật luật để hình ảnh trẻ vị thành niên bị chỉnh sửa bằng AI hoặc do AI tạo ra trong các hành vi tình dục được xếp vào loại tài liệu xâm hại tình dục trẻ em bất hợp pháp, kể cả khi không có trẻ em thật trong hành vi được mô tả. Hoạt động lập pháp ở cấp bang này là phản ứng trước những phán quyết trước đó của tòa án Mỹ, vốn đối xử khác với nội dung hoàn toàn ảo so với hình ảnh được tạo từ trẻ em có thật.

Tại châu Âu, cơ quan thực thi pháp luật đang hợp tác xuyên biên giới. Europol điều phối Chiến dịch Cumberland, một trong những chiến dịch trấn áp toàn cầu đầu tiên liên quan đến tài liệu xâm hại tình dục trẻ em do AI tạo ra. Với sự hỗ trợ của 19 quốc gia, cảnh sát xác định hàng trăm nghi phạm, bắt giữ hàng chục người và khám xét nhà để triệt phá một nền tảng phát tán hình ảnh hoàn toàn nhân tạo về trẻ vị thành niên. Các điều tra viên cho biết AI hiện cho phép những người ít kỹ năng tạo ra lượng lớn nội dung lạm dụng, đồng thời cảnh báo các phương pháp truyền thống để xác định nạn nhân hoặc truy tìm tài liệu nguồn thường không hiệu quả khi hình ảnh là giả lập. Giám đốc điều hành Europol Catherine De Bolle nhấn mạnh cần có phương pháp điều tra mới phù hợp với nội dung do AI tạo ra.

Những người có ý đồ phạm tội có thể dễ dàng tạo hình ảnh do AI tạo ra, làm tăng khối lượng tài liệu lạm dụng và khiến việc xác định thủ phạm hoặc nạn nhân khó khăn hơn.

Tại Nhật Bản, cảnh sát gần đây đã bắt giữ những người đầu tiên liên quan đến việc bán áp phích khiêu dâm do AI tạo ra, mô tả phụ nữ trưởng thành hư cấu, thông qua các phiên đấu giá trực tuyến. Diễn biến này cho thấy các luật hiện hành về nội dung khiêu dâm có thể áp dụng với một số hành vi lạm dụng AI. Một nghi phạm được cho là đã kiếm khoảng 10 triệu yen trong một năm. Các vụ việc liên quan đến trẻ em có thêm nhiều trở ngại, vì vậy giới học giả và các tổ chức bảo vệ trẻ em kêu gọi ban hành quy định quốc gia rõ ràng về hình ảnh tình dục trẻ vị thành niên do AI tạo ra, dù dựa trên ảnh thật hay hoàn toàn là hình ảnh tổng hợp.

Gia đình, trường học và nền tảng có thể làm gì ngay lúc này

Trong khi các nhà hoạch định chính sách tranh luận về cải cách, vẫn có những bước thiết thực giúp giảm rủi ro và ứng phó nhanh hơn khi xảy ra lạm dụng. Các biện pháp này tập trung vào sự đồng thuận, quyền truy cập ảnh, kênh báo cáo và hỗ trợ sức khỏe tinh thần.

• Hạn chế lưu hành ảnh học sinh. Trường học có thể giới hạn quyền truy cập album lớp và thư viện ảnh sự kiện cho người giám hộ đã được xác minh, dùng liên kết hết hạn và đóng dấu chìm lên ảnh rời khỏi các kênh chính thức.
• Dạy về sự đồng thuận và đạo đức số từ sớm. Lồng ghép kiến thức về AI và truyền thông vào tiết sinh hoạt lớp hoặc môn công nghệ, trong đó thảo luận thẳng thắn về deepfake, quyền riêng tư và tác hại của những hình ảnh này.
• Đặt quy tắc rõ ràng cho nhóm trò chuyện. Các câu lạc bộ và lớp học nên xây dựng quy tắc ứng xử cho ứng dụng nhắn tin, kèm hình thức xử lý cụ thể đối với việc chia sẻ nội dung khiêu dâm hoặc quấy rối.
• Tạo điều kiện để học sinh báo cáo nhanh. Giúp các em dễ dàng báo cho người lớn đáng tin cậy, nhà trường và nền tảng khi hình ảnh lạm dụng xuất hiện. Báo cáo nhanh giúp thu hẹp khoảng thời gian hình ảnh lan truyền.
• Phối hợp với cơ quan thực thi pháp luật. Dù chưa rõ có thể dùng con đường pháp lý nào, hãy chia sẻ bằng chứng với cảnh sát để được tư vấn về tội phỉ báng, quyền riêng tư hoặc sắc lệnh địa phương có thể áp dụng.
• Liên hệ các nền tảng. Dùng công cụ có sẵn để báo cáo hình ảnh tình dục được chia sẻ khi chưa có sự đồng thuận và yêu cầu gỡ bỏ. Lưu lại liên kết, dấu thời gian và tên người dùng.
• Hỗ trợ sức khỏe tinh thần của nạn nhân. Cung cấp tư vấn bảo mật và nhanh chóng báo cho người giám hộ. Không yêu cầu nạn nhân đối chất với bạn học để chứng minh hình ảnh là giả.
• Giảm dấu vết dữ liệu cá nhân. Khuyến khích học sinh đặt tài khoản ở chế độ riêng tư, xóa các bài đăng cũ và tránh đăng ảnh khuôn mặt độ phân giải cao gắn với thông tin trường học hoặc địa điểm.
• Thực hành chia sẻ ảnh an toàn hơn. Khi chia sẻ ảnh đội nhóm hoặc lớp học, hãy cân nhắc chụp khung rộng hơn, ít ảnh cận mặt hơn và giới hạn quyền chia sẻ lại.

Đối với các công ty công nghệ, biện pháp bảo vệ gồm bộ lọc mạnh đối với câu lệnh và nội dung tải lên, mặc định chặn tính năng tạo ảnh khỏa thân giả, xác minh độ tuổi chặt chẽ và quy trình gỡ bỏ nhanh áp dụng trên nhiều sản phẩm. Minh bạch về những lỗi đã biết và cách khắc phục được ghi nhận rõ ràng sẽ giúp khôi phục niềm tin. Một tranh cãi gần đây liên quan đến chatbot phổ biến tạo ảnh gợi dục của một người nổi tiếng 16 tuổi cho thấy một lỗ hổng trong thiết kế có thể nhanh chóng dẫn đến cảnh báo từ cơ quan quản lý và làn sóng phản đối của công chúng.

Điểm chính

• Cảnh sát Nhật Bản đang nhận được ngày càng nhiều tin báo về việc trẻ vị thành niên dùng ảnh trường học và ảnh trong nhóm trò chuyện để tạo, chia sẻ deepfake khiêu dâm bằng AI của bạn học.
• Trong năm qua, trên toàn quốc đã có hơn 100 lượt tư vấn và tin báo, trong đó ít nhất 17 vụ liên quan đến sự kiện ở trường và kỷ yếu tốt nghiệp.
• Khó truy tố deepfake theo luật quốc gia hiện hành, vốn tập trung vào hình ảnh trẻ em có thật. Cảnh sát thường viện dẫn các điều luật khác như tội phỉ báng.
• Cơ quan Cảnh sát Quốc gia đang điều tra khoảng 10 trang web và ứng dụng tạo ảnh phổ biến, đồng thời dự định sử dụng kết quả cho cả điều tra hình sự lẫn giáo dục thanh thiếu niên.
• Các chuyên gia cho rằng hệ thống pháp luật chưa theo kịp công nghệ. Giới học giả kêu gọi ban hành quy định quốc gia rõ ràng, xử lý ảnh deepfake khiêu dâm trẻ vị thành niên tương tự tài liệu xâm hại tình dục trẻ em bất hợp pháp.
• Trên thế giới, Hàn Quốc, Mỹ, Anh và Australia đã có động thái quản lý hình ảnh tình dục do AI tạo ra, trong đó có quy định gỡ bỏ nhanh và tạo ra các tội danh mới.
• Chiến dịch Cumberland của Europol nhắm vào một mạng lưới phát tán nội dung xâm hại trẻ em hoàn toàn do AI tạo ra, đồng thời làm nổi bật khó khăn điều tra khi không có trẻ em thật xuất hiện.
• Trường học, gia đình và nền tảng có thể giảm tác hại bằng cách siết chặt quyền truy cập ảnh, dạy kiến thức về AI, thực thi quy tắc nhóm trò chuyện, đơn giản hóa việc báo cáo và hỗ trợ tư vấn cho nạn nhân.