Một nhãn nhỏ giữa vấn đề ngày càng gia tăng
Các diễn viên Janhvi Kapoor, Keerthy Suresh và Sunainaa đã phản đối việc hình ảnh của họ bị lạm dụng trong các sản phẩm deepfake do trí tuệ nhân tạo tạo ra, đồng thời cảnh báo sẽ có hành động pháp lý sau khi những hình ảnh và video phản cảm xuất hiện. Trải nghiệm của họ làm nổi bật một câu hỏi thực tế dành cho các nền tảng mạng xã hội: người xem có thể dễ dàng nhận ra đến mức nào khi nhân vật trên màn hình là sản phẩm giả tạo bằng kỹ thuật số?
Nội dung
CB Arun Kumar, chuyên gia kỹ xảo hình ảnh kiêm trưởng khoa truyền thông, điện ảnh và trò chơi tại Học viện Pearl, kêu gọi ban hành luật yêu cầu gắn nhãn rõ ràng, nổi bật cho nội dung được tạo bằng AI. Ông cho rằng các thông báo hiện nay có thể quá dễ bị bỏ qua, khiến nội dung giả mạo trông như ảnh chụp, bản ghi hình hoặc sự kiện thời sự có thật.
Nhãn AI Info của Instagram là trọng tâm trong lời chỉ trích của ông. Ông mô tả thông báo này xuất hiện bằng chữ nhỏ giữa tên tài khoản và hình ảnh hoặc video được đăng. Mối lo của ông nằm ở khả năng hiển thị: việc công khai thông tin sẽ ít giúp ích trên thực tế nếu người xem lướt qua mà không nhận ra.
Arun Kumar giải thích lý do ông muốn có các yêu cầu dán nhãn nghiêm ngặt hơn:
Chúng ta cần luật nghiêm ngặt hơn, yêu cầu gắn nhãn nội dung AI rõ ràng, nổi bật để nội dung đó không còn có thể giả làm tin tức, như một số đoạn clip về thảm họa đang lan tràn trên internet. Vấn đề thực sự nảy sinh khi khán giả không còn phân biệt được đâu là thật, đâu là giả.
Đề xuất của ông nhắm đến hai vấn đề có liên quan. Các diễn viên chịu tổn hại cá nhân khi thấy danh tính của mình bị đưa vào những nội dung phản cảm. Khán giả có nguy cơ tin rằng một cảnh được dàn dựng là sự việc thực sự đã xảy ra. Nhãn dễ nhìn sẽ cung cấp thông tin cho người xem ngay khi họ bắt gặp hình ảnh, trước khi quyết định tin hay chia sẻ nội dung đó.
Điều gì đã xảy ra với các diễn viên?
Kapoor, Suresh và Sunainaa là những diễn viên đã bày tỏ sự bàng hoàng hoặc phản đối sau khi hình ảnh của họ xuất hiện trong các hình ảnh hay video deepfake phản cảm. Những phản ứng này bao gồm cảnh báo sẽ có hành động pháp lý nhằm vào những người chịu trách nhiệm về việc lạm dụng hình ảnh.
Deepfake là hình ảnh, video hoặc bản ghi âm được tạo ra hay chỉnh sửa bằng AI để khiến một người trông như đang làm hoặc nói điều họ chưa từng làm hay nói. Với diễn viên, các đặc điểm khuôn mặt dễ nhận ra có thể khiến nội dung giả mạo trông thuyết phục, dù người đó chưa bao giờ tham gia tạo ra nó.
Vấn đề trước mắt là quyền kiểm soát danh tính. Một diễn viên có thể tự chọn vai diễn, ảnh nào được đăng và sản phẩm nào được quảng bá. Hình ảnh giả mạo có thể đặt chính diễn viên đó vào một cảnh họ chưa từng chấp thuận, trong khi người xem ban đầu có thể cho rằng hình ảnh là thật.
Arun Kumar yêu cầu củng cố quy định pháp luật, chứ không thông báo rằng một quy định mới đã có hiệu lực. Trong các phát biểu của ông, không có dự luật cụ thể, thời hạn thực thi hay mức phạt được đề cập.
Ảnh giả đã xuất hiện trước AI
Arun Kumar đặt mối lo ngại hiện nay trong bối cảnh lịch sử lâu dài của hình ảnh giải trí bị chỉnh sửa. Trước các công cụ AI ngày nay, người ta có thể dùng diễn viên đóng thế, Photoshop và các kỹ thuật kỹ xảo như sao chép hay biến đổi hình ảnh để tạo ra những cảnh giả.
Kỹ thuật sao chép tạo bản sao các thành phần trong một hình ảnh hoặc chuỗi hình ảnh. Kỹ thuật biến đổi chuyển một hình ảnh này thành hình ảnh khác, bao gồm việc thay đổi khuôn mặt hoặc diện mạo. Cả hai đều có thể được sử dụng hợp pháp trong quá trình sản xuất phim, nơi khán giả hiểu rằng các cảnh phim được dàn dựng. Vấn đề nảy sinh khi nội dung đã chỉnh sửa được trình bày như bản ghi thật về hành vi của ai đó.
AI đem đến cho mọi người một cách khác để tạo ra loại nội dung này, trong đó có những người tìm kiếm lợi ích tài chính nhanh chóng từ sự chú ý và mức độ lan truyền. Arun Kumar cho rằng nên đánh giá công nghệ dựa trên cách nó được sử dụng, đồng thời những người chịu trách nhiệm tạo nội dung phản cảm cần đối mặt với các biện pháp pháp lý hiện có.
Arun Kumar cho biết luật hiện hành đã có những cách thức để yêu cầu gỡ bỏ nội dung:
Hiện đã có rất nhiều cách thức pháp lý để gỡ bỏ loại nội dung phản cảm đó.
Gỡ bỏ và gắn nhãn giải quyết những thời điểm khác nhau trong cùng một chuỗi sự việc. Yêu cầu gỡ bỏ nhằm ngăn hình ảnh tiếp tục được lưu hành sau khi bị khiếu nại. Nhãn nổi bật giúp mọi người đánh giá nội dung khi nó vẫn còn trên màn hình. Lập luận của ông tập trung vào cả hai nhiệm vụ: xử lý nội dung gây hại và giúp người xem dễ nhận ra nguồn gốc nhân tạo của nội dung đó.
Vì sao kích thước nhãn lại quan trọng
Thông báo AI nhỏ của Instagram cho thấy khoảng cách giữa việc có công khai thông tin và khiến thông tin đó trở nên hữu ích. Arun Kumar muốn các nền tảng hiển thị thông tin đủ nổi bật để người xem bình thường nhận ra mà không phải tìm kiếm quanh hình ảnh.
Một đoạn clip giả về thảm họa cho thấy điều này quan trọng vượt ra ngoài văn hóa người nổi tiếng. Người xem một đoạn phim có vẻ ghi lại tình huống khẩn cấp có thật cần biết cảnh tượng đó có được tạo ra hay không. Nếu không, hình ảnh có thể định hình nhận thức của họ về một sự kiện chưa từng xảy ra theo cách được mô tả.
Với các diễn viên, vấn đề tương tự mang tính cá nhân hơn. Khuôn mặt là đặc điểm khiến hình ảnh giả nhận ra được và thu hút sự chú ý. Nếu không thấy nhãn, người xem có thể gắn cảnh đó với diễn viên trước khi biết bất cứ điều gì về cách nó được tạo ra.
Vì vậy, yêu cầu của Arun Kumar liên quan đến cách trình bày thông tin cũng nhiều như việc có thông tin đó hay không. Nền tảng có thể đặt thông báo bên cạnh bài đăng, nhưng kích thước và vị trí vẫn quyết định liệu thông báo có đến được với khán giả hay không. Tiêu chuẩn ông mong muốn rất rõ ràng: nguồn gốc nhân tạo phải dễ dàng nhận thấy.
Sự đồng thuận là vấn đề riêng đối với nghệ sĩ
Arun Kumar cũng phân biệt giữa việc bác bỏ AI nói chung và phản đối việc sử dụng tác phẩm của nghệ sĩ khi chưa được phép. Điều thứ nhất là đánh giá về toàn bộ công nghệ. Điều thứ hai liên quan đến cách một nội dung cụ thể được thu thập và sử dụng.
Huấn luyện là quá trình một hệ thống AI học các khuôn mẫu từ những ví dụ, có thể bao gồm hình ảnh, văn bản, âm thanh hoặc video. Các nghệ sĩ lo ngại về quá trình huấn luyện muốn biết điều gì xảy ra khi tác phẩm sáng tạo của họ bị đưa vào quá trình đó mà không có sự đồng thuận.
Vấn đề này không chỉ giới hạn ở deepfake dễ nhận thấy. Một diễn viên có thể phản đối hình ảnh giả mạo của mình, trong khi một họa sĩ minh họa hoặc nhà sáng tạo khác có thể phản đối việc tác phẩm của họ được dùng để phát triển hệ thống tạo ra hình ảnh mới. Những người bị ảnh hưởng và hành vi họ phản đối có thể khác nhau.
Arun Kumar cho rằng việc lên án AI một cách tuyệt đối bỏ qua những khác biệt đó. Quan điểm của ông vẫn dành chỗ cho những ứng dụng sáng tạo hợp pháp, đồng thời xem xét nghiêm túc các phản đối liên quan đến quyền cho phép. Với độc giả, những câu hỏi hữu ích rất cụ thể: danh tính của ai xuất hiện, tác phẩm của ai đã được sử dụng và có sự cho phép nào hay không?
Nghệ sĩ kỹ thuật số chịu áp lực về thu nhập
Theo Arun Kumar, các họa sĩ đồ họa hoạt động trong nhiều lĩnh vực như truyền thông, kinh doanh, điện ảnh, truyền hình, kiến trúc và thời trang đang đối mặt với một hệ quả khác từ sự phổ biến của AI. Điều họ lo ngại là khả năng kiếm sống khi các công ty có thể tạo ra một số loại hình ảnh nhanh hơn.
Arun Kumar cho biết những tác phẩm đòi hỏi nhiều công sức và sự tỉ mỉ của con người đang mất giá trị thương mại khi sản phẩm AI trở thành lựa chọn cạnh tranh. Khi quyết định cách tạo ra một hình ảnh, khách hàng có thể cân nhắc tốc độ và chi phí bên cạnh kỹ năng và óc phán đoán của nghệ sĩ.
Áp lực này cũng có thể ảnh hưởng đến cách mọi người nhìn nhận tác phẩm do con người tạo ra. Arun Kumar cảnh báo rằng những hình ảnh được đầu tư công phu có thể bị so sánh với sản phẩm AI chất lượng thấp. Với nghệ sĩ, điều đó đồng nghĩa họ phải giải thích giá trị tác phẩm trong một thị trường mà khán giả và khách hàng ngày càng tiếp xúc với cả hai loại hình ảnh.
Arun Kumar nói về áp lực việc làm và lời khuyên dành cho nghệ sĩ:
Thực tế là cuộc cách mạng AI đang khiến họ mất việc vì công nghệ này có thể làm việc nhanh hơn. Những nghệ sĩ thực thụ biết sử dụng AI như một công cụ khác trong quy trình sáng tạo của mình sẽ trụ vững và phát triển.
Quy trình sáng tạo là chuỗi các bước để hoàn thành một dự án sáng tạo, từ ý tưởng ban đầu đến hình ảnh hoặc bộ phim hoàn chỉnh. Lời khuyên của ông là tìm hiểu cách đưa AI vào quy trình đó, đồng thời tiếp tục vận dụng lựa chọn và kỹ năng thủ công của con người trong tác phẩm.
Dự đoán của ông lạc quan về những nghệ sĩ biết thích nghi, nhưng nhận định của ông cũng thừa nhận áp lực trước mắt đối với những người có thu nhập phụ thuộc vào các công việc mà AI có thể đẩy nhanh. Các diễn viên tìm kiếm sự bảo vệ trước hình ảnh giả mạo và những nghệ sĩ phải cạnh tranh với sản phẩm rẻ hơn đang trải qua những mặt khác nhau của cùng một biến đổi công nghệ.
Điểm chính
- Janhvi Kapoor, Keerthy Suresh và Sunainaa nằm trong số các diễn viên phản đối việc hình ảnh của họ bị lạm dụng trong deepfake.
- CB Arun Kumar, chuyên gia kỹ xảo hình ảnh và trưởng khoa tại Học viện Pearl, muốn ban hành luật yêu cầu gắn nhãn rõ ràng, nổi bật cho nội dung AI.
- Ông cho rằng các thông báo nhỏ, bao gồm nhãn AI Info của Instagram, có thể quá dễ bị người xem bỏ qua.
- Ông ủng hộ việc xử lý các hành vi sử dụng AI gây hại và nêu quan ngại về việc tác phẩm của nghệ sĩ bị dùng khi chưa được đồng thuận.
- Ông cho biết nghệ sĩ kỹ thuật số chịu áp lực về thu nhập và nên học cách tích hợp AI vào quy trình sáng tạo của mình.
