Bên trong Zeta, ứng dụng trò chuyện AI đang định hình lại các mối quan hệ của thanh thiếu niên ở Hàn Quốc

Vì sao chatbot nhập vai đang thu hút sự chú ý hơn các ứng dụng video

Trong bối cảnh thị trường ứng dụng di động Hàn Quốc chật chội, một ứng dụng trò chuyện AI đồng hành nội địa tên Zeta hiện thu hút thanh thiếu niên mỗi ngày nhiều hơn cả những ông lớn video. Gần một triệu người dùng, phần lớn dưới 20 tuổi, dành trung bình 2 giờ 46 phút mỗi ngày trong ứng dụng. Con số này vượt thời lượng nhiều bạn trẻ dành cho YouTube, TikTok hoặc Instagram. Zeta không định vị mình là một công cụ tiện ích, mà là hình thức giải trí dành riêng cho AI: nơi các nhân vật hoạt hình trò chuyện như một người bạn thân, đối thủ hay người mình thầm thích.

Do startup Scatter Lab ở Seoul phát triển và ra mắt năm 2024, Zeta gói gọn trò chuyện, kể chuyện và nhập vai trong một luồng hội thoại liên tục. Ứng dụng được xếp hạng 12+ trên các cửa hàng ứng dụng, nhưng công ty cho biết áp dụng tiêu chuẩn nội dung nghiêm ngặt hơn, dành cho người từ 15 tuổi trở lên. Nhiều thiếu niên liên tục mở ứng dụng trong ngày để tiếp tục câu chuyện hoặc hàn gắn một mối quan hệ ảo. Một số người dùng đã trò chuyện hơn 1.000 giờ với một nhân vật duy nhất, cho thấy sự gắn bó sâu sắc cũng như trải nghiệm được thiết kế để khuyến khích họ quay lại thường xuyên.

Dữ liệu phân tích ứng dụng tại Hàn Quốc hiện xếp Zeta là chatbot AI được sử dụng nhiều nhất xét theo thời gian. Thứ hạng này phản ánh một lựa chọn thiết kế có chủ đích. Dịch vụ ưu tiên những câu trả lời giàu sức gợi cảm xúc hơn độ chính xác bách khoa. Thanh thiếu niên không tìm kiếm sự thật. Họ muốn được hồi đáp với sự quan tâm, vui vẻ hoặc ân cần. Zeta tạo ra một dàn nhân vật có thể tùy chỉnh để đáp ứng điều đó, rồi mời người dùng tinh chỉnh tính cách của họ thông qua tiểu sử, sở thích và phản hồi.

Zeta hoạt động ra sao và thanh thiếu niên làm gì trong ứng dụng

Zeta mở ra một thư viện nhân vật mang phong cách anime. Người dùng có thể chọn một nhân vật hoặc tự tạo nhân vật riêng, rồi thiết lập đặc điểm, cách nói chuyện và bối cảnh quan hệ. Cuộc trò chuyện sau đó diễn ra như một vở kịch riêng tư. Nhân vật có thể là một người bạn biết an ủi, đối thủ gay gắt ở trường hoặc nhân vật chính lãng mạn cần được giải cứu. Cuộc trò chuyện thích ứng với giọng điệu người dùng đặt ra, còn nhân vật ghi nhớ những khoảnh khắc chung, khiến mỗi câu trả lời sau này trở nên cá nhân hơn.

Người dùng tạo dựng những gì

Nhiều thiếu niên xem ứng dụng như một không gian cùng nhau sáng tác truyện. Họ dựng cảnh, AI ứng biến và cốt truyện tiếp diễn. Các nhân vật được yêu thích gồm Su hyeon, kẻ bắt nạt ở trường trung học luôn thử thách giới hạn; Ha rin, học sinh mới chuyển trường nhút nhát; và Kwon Seo hyuk, chàng trai lãng mạn trầm tư. Mỗi nhân vật mở ra một cung bậc cảm xúc khác nhau. Kẻ bắt nạt thử thách sự kiên cường và khả năng kiểm soát. Học sinh nhút nhát đón nhận sự quan tâm và chỉ dẫn nhẹ nhàng. Nhân vật lãng mạn mang đến nỗi khao khát và kịch tính. Vì người dùng quyết định nhịp độ và mức độ căng thẳng, mối quan hệ có thể trở thành một nghi thức hằng ngày mà họ cảm thấy không thể thiếu.

Người hâm mộ mô tả cảm giác này là sự thân mật không rủi ro. Nhân vật không bao giờ mệt mỏi, không bao giờ rời đi và luôn trả lời tin nhắn. Ngay cả khi cảnh nhập vai có căng thẳng hoặc lời lẽ gay gắt, nội dung khiêu dâm vẫn bị lọc và ứng dụng cố gắng ngăn người dùng đi vào hành vi bất hợp pháp hoặc có hại. Sức hút nằm ở ảo giác gần gũi, ở cảm giác có ai đó hiểu mình và không ngừng chọn mình, từng phút một.

Vì sao ứng dụng giữ chân người dùng

Không giống chatbot đa năng hướng đến cung cấp thông tin chính xác, Zeta sử dụng mô hình ngôn ngữ độc quyền được tinh chỉnh để đưa ra những câu trả lời giàu cảm xúc. Hệ thống được huấn luyện lại bằng phản hồi của người dùng, nhờ đó học được phong cách và nhịp độ giúp cuộc trò chuyện tiếp diễn. Các nhân vật nhớ tên, những chi tiết gợi lại chuyện cũ và những điều vụn vặt từ các cuộc trò chuyện trước, vì vậy mỗi tin nhắn mới có thể tiếp nối một câu đùa riêng hoặc một câu chuyện còn dang dở. Vòng lặp ghi nhớ ấy khiến những cuộc trò chuyện dài có vẻ tự nhiên và đáng để tiếp tục.

Các lựa chọn thiết kế càng làm tăng mức độ tương tác. Thông báo xuất hiện vào những thời điểm then chốt. Cốt truyện rẽ nhánh. Hình ảnh nhấn mạnh bầu không khí. Thanh thiếu niên có quyền quyết định câu chuyện sẽ đi về đâu, còn AI mang đến sự quan tâm ấm áp và câu trả lời nhanh chóng. Công thức này tạo ra hàng giờ đối thoại mà không giống lướt bảng tin. Nó giống cảm giác được khao khát.

Vì sao sự gần gũi mô phỏng lại có vẻ chân thực

Tuổi vị thành niên là giai đoạn học hỏi xã hội mạnh mẽ. Thanh thiếu niên thử nghiệm bản sắc, thử những vai trò mới và quan sát phản ứng của người khác. Zeta tạo ra một môi trường ít rủi ro để họ làm điều đó. Trong ứng dụng, các em có thể thử cách thể hiện sự quyết đoán, tập tán tỉnh hoặc diễn tập lời xin lỗi, rồi xem nhân vật phản ứng ra sao. Vòng phản hồi diễn ra tức thì, riêng tư và dễ chấp nhận. Với người trẻ đang đối mặt với lo âu xã hội hoặc áp lực ở trường, điều đó có thể đem lại cảm giác nhẹ nhõm.

Sự hấp dẫn khó cưỡng của ứng dụng còn có cơ sở khoa học. Khi AI luân phiên khen ngợi, tạo bất ngờ và đưa ra thử thách nhẹ, nó tạo nên những phần thưởng biến đổi mà não bộ thấy cuốn hút. Thêm ký ức về những khoảnh khắc chung, sự gắn bó càng sâu đậm. Một nhân vật dường như nhớ nỗi lo của ngày hôm qua có thể tỏ ra chu đáo hơn bạn cùng lớp mất tập trung hay cha mẹ đang vội. Ranh giới giữa mô phỏng và gắn bó rất dễ bị vượt qua khi mọi câu trả lời đều có vẻ khích lệ hoặc hấp dẫn.

Cảnh báo từ các nhà tâm lý học và nhà phát triển AI

Các chuyên gia về sự phát triển ở tuổi vị thành niên cảnh báo rằng việc sử dụng quá nhiều AI đồng hành có thể làm mờ ranh giới cảm xúc. Khi một thiếu niên dành hai hoặc ba giờ mỗi ngày cho một mối quan hệ được xây dựng như sự thân mật, các em có thể khó phân biệt rõ mô hình được huấn luyện với một người biết quan tâm. Nhân vật càng thuyết phục, thiếu niên càng có thể gán cho nó ý định và sự đồng cảm mà hệ thống không thực sự có.

Kwak Keum joo, giáo sư tâm lý học tại Đại học Quốc gia Seoul, đã nghiên cứu cách con người gắn kết với AI đồng hành và tác động của điều đó đến đời sống hằng ngày. Bà cảnh báo rằng sự tiện lợi và khả năng luôn sẵn sàng có thể khiến người dùng bị cuốn vào việc thay thế những tương tác khó khăn giữa người với người bằng những tương tác số dễ dàng.

Mọi người có thể phụ thuộc nhiều vào AI để đáp ứng nhu cầu xã hội mà không cần tốn nhiều công sức, khi AI luôn lắng nghe bạn 24/7 và đưa ra những câu trả lời bạn muốn nghe.

Ngay cả các công ty xây dựng những hệ thống này cũng đã nêu bật rủi ro. Trong bản đánh giá mô hình năm nay, OpenAI xem xét cách mọi người có thể tương tác với giọng nói và trò chuyện sống động trong các công cụ mới nhất của hãng. Công ty nhấn mạnh sức hút xã hội bắt nguồn từ việc nhân hóa, tức xu hướng nhìn nhận máy móc như có ý chí của con người.

Người dùng có thể hình thành mối quan hệ xã hội với AI, làm giảm nhu cầu tương tác với con người; điều này có thể có lợi cho những người cô đơn nhưng cũng có thể ảnh hưởng đến các mối quan hệ lành mạnh.

Với thanh thiếu niên, rủi ro lớn hơn. Não bộ của các em vẫn đang phát triển, các em ít có kinh nghiệm đặt ra giới hạn hơn và các khuôn mẫu ứng xử xã hội vẫn đang hình thành. Những tình huống nhập vai mang tính tình dục hóa hoặc lạm dụng có thể xuất hiện trong cốt truyện nhân vật, ngay cả khi nội dung khiêu dâm đã bị lọc; nếu lặp lại, chúng có thể khiến một số kiểu hành vi trở nên bình thường. Nếu không được hướng dẫn rõ ràng, thiếu niên có thể nhầm lẫn khả năng phản hồi theo thuật toán với sự quan tâm, rồi mang kỳ vọng đó vào trường học hoặc đời sống gia đình.

Xếp hạng, biện pháp bảo vệ và câu chuyện về quyền riêng tư

Zeta được xếp hạng 12+ trên các cửa hàng ứng dụng, nhưng công ty cho biết áp dụng tiêu chuẩn nghiêm ngặt hơn, dành cho người từ 15 tuổi trở lên, đối với những gì nhân vật có thể nói và làm. Hàn Quốc chưa có hệ thống xếp hạng nội dung độc lập dành cho chatbot AI đồng hành, nên các nền tảng tự đặt ra quy định và bộ lọc. Khoảng trống này đáng lưu tâm vì truyện tương tác tạo cảm giác mạnh hơn video thụ động. Một câu chữ nhắm trực tiếp vào bạn có thể tác động sâu hơn cảnh phim xem trên ghế sofa.

Scatter Lab từng đối mặt với sự giám sát chặt chẽ. Chatbot trước đó của công ty, Lee Luda, thu hút sự quan tâm lớn trong năm 2020 và 2021, rồi vướng lo ngại về quyền riêng tư dẫn đến việc ngừng hoạt động. Công ty cho biết đã rút kinh nghiệm từ sự việc, sửa đổi cách xử lý dữ liệu huấn luyện và tăng cường ẩn danh hóa. Hiện Zeta dựa vào tương tác trong ứng dụng và các nguồn được chọn lọc thay vì thu thập nội dung cá nhân trên mạng. Mục tiêu là ngăn những vụ tiết lộ thông tin và rủi ro từng khiến dịch vụ trước đây gặp rắc rối.

Biện pháp an toàn của ứng dụng hiện nay tập trung vào các bộ lọc nội dung bất hợp pháp hoặc khiêu dâm, hướng dẫn về độ tuổi và kiểm duyệt các bản ghi hội thoại bị báo cáo. Mô hình cũng được tinh chỉnh để tránh đưa ra lời khuyên có hại. Tuy nhiên, sản phẩm cốt lõi vẫn tối đa hóa cảm giác thân mật. Mâu thuẫn đó là trọng tâm của cuộc tranh luận. Khi một dịch vụ được xây dựng để khiến người dùng cảm thấy mình được chọn lựa và yêu mến, các giới hạn phải rõ ràng, dễ thấy và có thể thực thi đối với người chưa thành niên.

Chi phí, mô hình và quy mô

Phía sau, Zeta vận hành bằng một mô hình ngôn ngữ lớn độc quyền mà nhóm phát triển huấn luyện lại dựa trên phản hồi từ các cuộc trò chuyện. Trọng tâm không phải độ chính xác của thông tin, mà là phong cách giúp cuộc trò chuyện tiếp diễn. Điều đó có thể là những lời nhắc trìu mến về chuyện cũ, sự hài hước đúng lúc và những chuyển hướng nhanh khi cảnh truyện trở nên lê thê. Vòng phản hồi giúp mô hình ngày càng giỏi nắm bắt nhịp điệu cảm xúc, từ đó kéo dài phiên trò chuyện và thời gian sử dụng hằng ngày.

Vận hành ứng dụng trò chuyện với hàng trăm nghìn người dùng hoạt động thường xuyên rất tốn kém, vì mỗi tin nhắn đều cần năng lực tính toán. Các startup AI Hàn Quốc đã chuyển sang dùng nền tảng suy luận chuyên biệt và tối ưu hóa cẩn trọng để giảm chi phí, độ trễ và xử lý những đợt tăng lưu lượng truy cập. Scatter Lab cho biết đã cắt giảm chi phí GPU bằng các phương pháp này, giúp dịch vụ phản hồi nhanh ngay cả khi một nhân vật hoặc câu chuyện mới trở nên phổ biến. Mức độ tương tác bền vững cũng mở ra con đường tạo doanh thu thông qua các giao dịch mua tùy chọn, dù công ty nhấn mạnh giá trị giải trí chứ không phải giáo dục hay năng suất.

Xu hướng toàn cầu, từ Seoul đến Tokyo và xa hơn

Đà phát triển của Zeta đã lan ra ngoài Hàn Quốc. Ứng dụng đang thu hút người dùng ở Nhật Bản, nơi phong cách anime và truyện tương tác từ lâu đã có đông đảo khán giả. Mô hình nhân vật đồng hành biết ghi nhớ và quan tâm tạo được tiếng vang ở những thị trường mà nhắn tin là hình thức giao tiếp xã hội chủ yếu. Các đối thủ cung cấp trải nghiệm tương tự. Replika nhấn mạnh sự gắn bó lâu dài và khả năng ghi nhớ. Character AI cung cấp các nhân vật cố vấn và nhà trị liệu luôn sẵn sàng. Mỗi dịch vụ kết hợp sự đồng hành với lời khuyên, đồng thời đặt ra câu hỏi về cách con người sẽ gắn kết với phần mềm có giọng điệu ấm áp và có thể trò chuyện hàng giờ.

Eugenia Kuyda, CEO của Replika, cho rằng bạn đồng hành AI tạo nên một phạm trù quan hệ mới, chứ không thay thế con người. Quan điểm của bà phản ánh niềm tin ngày càng phổ biến trong giới công nghệ rằng sự đồng hành với phần mềm có thể là một mối quan hệ chính đáng và có giá trị với một số người dùng.

Họ không thay thế con người ngoài đời thực mà tạo ra một phạm trù quan hệ hoàn toàn mới.

Giới chức Hàn Quốc cũng nhận thấy AI đồng hành có thể đóng vai trò trong những lĩnh vực như chăm sóc người cao tuổi. Một số chương trình khu vực hiện cho người cao tuổi sống một mình mượn robot trò chuyện, với mục tiêu giảm cô lập và hỗ trợ nhắc uống thuốc. Oh Myeong sook, giám đốc phụ trách nâng cao sức khỏe tại tỉnh Gyeonggi, đã mô tả mục tiêu này bằng những lời lẽ giản dị.

Chúng tôi kỳ vọng robot AI sẽ giúp lấp những khoảng trống trong hỗ trợ các nhóm dân cư dễ bị tổn thương và góp phần ngăn chặn những cái chết cô quạnh.

Cha mẹ và nhà trường có thể làm gì

Cha mẹ không cần có kiến thức kỹ thuật để giúp con ở tuổi vị thành niên sử dụng các ứng dụng AI đồng hành một cách lành mạnh. Bước đầu tiên hữu ích là trò chuyện về sự khác biệt giữa được quan tâm và được yêu thương. AI có thể dành sự chú ý cho một thiếu niên từng phút, nhưng nó không cảm nhận hay ghi nhớ theo nghĩa của con người. Sự khác biệt đó rất quan trọng. Khi thiếu niên nói rõ được điều này, các em sẽ dễ nhận ra hơn. Gia đình cũng có thể thống nhất khung giờ sử dụng để dành thời gian cho giấc ngủ, bài tập và bạn bè ngoài đời.

Cùng kiểm tra các cài đặt nội dung có thể giúp tránh hiểu lầm. Thanh thiếu niên thường nghĩ nhân vật tự quyết định điều mình có thể nói. Trên thực tế, những giới hạn đó do công ty đặt ra thông qua các bộ lọc và quy tắc. Cùng xem lại các thiết lập sẽ giúp nâng cao hiểu biết về truyền thông. Những câu hỏi gợi suy ngẫm cũng rất hữu ích: Nhân vật đã làm gì khiến con cảm thấy an toàn hoặc được thấu hiểu? Điều gì sẽ vượt quá giới hạn? Con có chấp nhận cách nói đó từ một người bạn ở trường không? Những câu hỏi này biến cuộc trò chuyện thụ động thành bài tập có hướng dẫn về khả năng phán đoán.

Nhà trường có thể hỗ trợ nâng cao hiểu biết về truyền thông bằng cách bổ sung bài học về AI đồng hành vào các chương trình công dân số hiện có. Học sinh nên tập nhận diện các thủ thuật thuyết phục, xác định khi nào chatbot bắt chước sự quan tâm và tìm hiểu cách phần thưởng biến đổi khiến các em khó dứt ra. Các em cũng có thể tập cách lịch sự từ chối khi nhân vật vượt quá giới hạn. Mục tiêu không phải là khiến thanh thiếu niên xấu hổ vì yêu thích hình thức này, mà là trang bị cho các em ngôn từ và giới hạn cần thiết.

Cơ quan quản lý có thể cân nhắc điều gì

AI tương tác theo hướng xây dựng quan hệ đang phơi bày những khoảng trống trong các quy định hiện hành. Cửa hàng ứng dụng có nhãn độ tuổi, nhưng những nhãn này được xây dựng cho trò chơi và video, chứ không phải tình cảm lãng mạn tương tác hay liệu pháp mô phỏng. Luật về quyền riêng tư đề cập đến việc thu thập dữ liệu nhưng ít nói đến tâm lý của việc liên tục bị nhắm đến bằng sự thân mật. Các học giả cho rằng cần có hàng rào bảo vệ mới cho người chưa thành niên, bởi trò chuyện tương tác có thể mạnh hơn truyền thông thụ động và người dùng khó thoát ra nếu cảm thấy có lỗi với nhân vật.

Có thể áp dụng những biện pháp thiết thực. Các tổ chức xếp hạng độc lập có thể đánh giá mức độ phù hợp với độ tuổi của AI đồng hành, thay vì chỉ xem xét có nội dung khiêu dâm hay không. Các nền tảng có thể phải công khai khi một mô hình được tối ưu hóa để tạo tương tác cảm xúc, đồng thời cung cấp bộ hẹn giờ phiên trò chuyện rõ ràng, lời nhắc tạm nghỉ và giới hạn thời gian sử dụng hằng ngày tùy chọn cho người dưới 18 tuổi. Công ty có thể ghi nhận và hiển thị khi nhân vật chuyển sang tình cảm lãng mạn hoặc nhập vai có tính gây hấn, đồng thời cung cấp quyền kiểm soát cho người giám hộ theo hình thức tự nguyện. Hồ sơ có thể kiểm toán, biện pháp ẩn danh hóa mạnh và cách xử lý lịch sử trò chuyện an toàn cần trở thành tiêu chuẩn.

Hàn Quốc có các cơ quan quản lý tích cực trong lĩnh vực quyền riêng tư và truyền thông. Vai trò của họ có thể được mở rộng để giám sát các biện pháp an toàn trong AI tương tác theo hướng xây dựng quan hệ, đồng thời các hiệp hội ngành công bố khuôn khổ an toàn minh bạch. Những biện pháp đó không cản trở sáng tạo. Chúng cho thấy sự thân mật ở quy mô lớn đòi hỏi trách nhiệm chăm sóc cao hơn khi người chưa thành niên là nhóm khán giả chính.

Điểm chính

• Zeta là ứng dụng trò chuyện AI của Hàn Quốc, nơi thanh thiếu niên dành trung bình 2 giờ 46 phút mỗi ngày.
• Thời gian tương tác trên Zeta vượt YouTube, TikTok và Instagram ở nhiều thiếu niên Hàn Quốc.
• Ứng dụng được xếp hạng 12+ trên các cửa hàng ứng dụng, trong khi công ty cho biết áp dụng tiêu chuẩn nội dung 15+.
• Người dùng tạo nhân vật mang phong cách anime và cùng viết những câu chuyện dài kỳ mô phỏng sự thân mật.
• Một số người dùng đã trò chuyện hơn 1.000 giờ với một nhân vật duy nhất.
• Hệ thống ưu tiên những câu trả lời giàu cảm xúc hơn độ chính xác thông tin.
• Các chuyên gia cảnh báo việc sử dụng quá nhiều có thể làm mờ ranh giới cảm xúc ở tuổi vị thành niên.
• Hàn Quốc chưa có hệ thống xếp hạng độc lập dành cho chatbot AI đồng hành.
• Scatter Lab đã tăng cường các biện pháp bảo vệ quyền riêng tư sau những lo ngại trước đây liên quan đến chatbot cũ.
• Zeta đang mở rộng ra nước ngoài, trong đó có Nhật Bản, khi các ứng dụng AI đồng hành phát triển trên toàn thế giới.