Hàn Quốc thử nghiệm triển khai AI miễn phí, đặt ra câu hỏi liệu biện pháp bảo vệ có theo kịp rủi ro

Một tiện ích AI công cộng chuyển từ lời hứa sang phép thử áp lực

Hàn Quốc đang chuẩn bị cung cấp miễn phí quyền tiếp cận trí tuệ nhân tạo cho mọi công dân, đưa chatbot và tác nhân AI đến gần hơn với những người có thể dùng chúng cho việc học, chăm sóc sức khỏe, dịch vụ công và các quyết định thường ngày. Sáng kiến mang tên “AI cho tất cả” nhằm phổ biến rộng rãi công nghệ này và giúp đất nước cạnh tranh với Mỹ và Trung Quốc. Sáng kiến cũng làm nổi bật một câu hỏi khó: liệu các biện pháp bảo vệ có theo kịp khi AI trở thành một phần thường nhật trong đời sống công cộng?

Chính phủ của Tổng thống Lee Jae Myung dự định khởi động bằng một dịch vụ thử nghiệm beta, sau đó cân nhắc biến chương trình này thành tiện ích thường trực do người nộp thuế tài trợ từ năm sau. Dịch vụ được đề xuất sẽ kết nối người dân với các công cụ AI đa dụng do ba liên danh trong nước dẫn đầu bởi SK Telecom, KT và Kakao phát triển. Chính phủ đã cho các nhóm này mượn hàng trăm bộ xử lý đồ họa Nvidia B200, loại chip chuyên dụng dùng để huấn luyện và vận hành các hệ thống AI đòi hỏi năng lực xử lý cao.

Về lâu dài, giới chức hình dung các trợ lý AI sẽ giúp người dân đặt lịch khám, tìm nhà ở và hỏi đáp về thuế thông qua các dịch vụ kết nối với chính phủ. Triển vọng đó có thể giúp người dân sử dụng hệ thống công dễ dàng hơn, nhất là những người gặp khó khăn với các biểu mẫu phức tạp hoặc phải chờ đợi lâu. Nhưng điều đó cũng đồng nghĩa sai sót, vi phạm quyền riêng tư hoặc khuyến nghị thiên lệch có thể ảnh hưởng đến những người đang sử dụng các dịch vụ thiết yếu.

Chính phủ đã phân bổ 250 tỷ won cho kế hoạch triển khai đến năm 2027, ngoài ngân sách AI 10.000 tỷ won của năm tài chính hiện tại. Quy mô đầu tư phản ánh chiến lược quốc gia nhằm xây dựng năng lực AI và mở rộng khả năng tiếp cận, thay vì chỉ dành cho những người đủ khả năng trả phí thuê bao cá nhân. Chương trình thử nghiệm sẽ kiểm chứng liệu quyền truy cập miễn phí có thể trở thành hạ tầng công hữu ích hay không, và liệu người dân có thể tin tưởng các hệ thống xử lý thông tin và câu hỏi của họ hay không.

Vì sao các lãnh đạo ngành AI cảnh báo về công nghệ này?

Kế hoạch của Hàn Quốc được đưa ra trong bối cảnh những nhân vật nổi bật trong ngành AI cảnh báo rằng sự phát triển nhanh chóng kéo theo những rủi ro nghiêm trọng. Giám đốc điều hành Anthropic Dario Amodei đã kêu gọi ngành này chậm lại. Một cựu kỹ sư của Anthropic từng làm việc tại OpenAI nói sau khi rời công ty rằng ông “thực sự sợ hãi” trước khả năng việc phát triển không kiểm soát có thể đồng nghĩa với việc “tất cả chúng ta có thể chết trong tương lai gần”. Nhà khoa học máy tính Geoffrey Hinton, người đoạt giải Nobel thường được gọi là “cha đỡ đầu của AI”, cũng cảnh báo các hệ thống tiên tiến có thể gây ra mối nguy sống còn nếu thoát khỏi sự kiểm soát của con người.

Những cảnh báo đó đề cập đến nhiều nguy cơ, từ vũ khí tự động và các cuộc tấn công mạng do máy móc thực hiện đến thất nghiệp hàng loạt. Những rủi ro khác đã quen thuộc hơn: hình ảnh và video giả mạo đầy thuyết phục, quyết định tự động mang tính phân biệt đối xử, và việc con người dựa vào các hệ thống đưa ra câu trả lời chắc chắn nhưng không chính xác. Việc triển khai dịch vụ công không tạo ra tất cả những nguy cơ này, nhưng có thể làm tăng mức độ phơi nhiễm bằng cách giúp nhiều người sử dụng AI ở quy mô lớn hơn.

Các hệ thống AI đa dụng tạo câu trả lời bằng cách nhận diện những mẫu hình trong dữ liệu, chứ không hiểu thế giới theo cách của con người. Chúng có thể hữu ích trong việc soạn thảo, tóm tắt và tìm kiếm thông tin, nhưng cũng có thể trình bày thông tin sai như thể đó là sự thật. Trong các lĩnh vực liên quan đến chính phủ hoặc y tế, người dùng cần có cách rõ ràng để kiểm chứng câu trả lời và liên hệ với người có thẩm quyền để sửa sai.

Seoul đang áp dụng những biện pháp bảo vệ nào?

Hàn Quốc dựa vào Đạo luật Cơ bản về AI, có hiệu lực từ tháng 1, để thiết lập quy định cho việc sử dụng AI ngày càng rộng rãi. Khuôn khổ này yêu cầu giám sát của con người, đánh giá tác động và dán nhãn rõ ràng cho nội dung tổng hợp. Các biện pháp này nhằm giúp dễ nhận biết nội dung do AI tạo ra hơn, đồng thời yêu cầu các tổ chức xem xét những tác hại tiềm ẩn trước khi triển khai hệ thống.

Viện An toàn AI do nhà nước tài trợ cũng được giao nhiệm vụ đánh giá rủi ro và làm cơ quan giám sát kỹ thuật. Công việc của viện quan trọng không kém các quy định chính thức: đánh giá xem hệ thống có hoạt động đáng tin cậy hay không, dữ liệu nhạy cảm có được bảo vệ hay không, và người dùng có thể khiếu nại các quyết định quan trọng hay không. Đánh giá tác động chỉ hữu ích nếu xem xét ảnh hưởng trong thực tế và dẫn đến thay đổi khi vấn đề xuất hiện.

Việc kết nối dự kiến với các dịch vụ chính phủ khiến trách nhiệm giải trình càng trở nên quan trọng. Nếu trợ lý AI đưa ra hướng dẫn sai về thuế hoặc xử lý không đúng yêu cầu đặt lịch khám, người dùng cần biết cơ quan nào chịu trách nhiệm và cách nhận trợ giúp. Hệ thống không nên trở thành rào cản giữa người dân với các quan chức ra quyết định. Việc con người rà soát chỉ thực sự có ý nghĩa khi dễ tiếp cận, kịp thời và có thể bác bỏ khuyến nghị tự động.

Truy cập miễn phí cũng không có nghĩa là vận hành không tốn kém. Các cơ quan công sẽ phải chi trả cho năng lực điện toán, bảo mật, bảo trì và đánh giá, đồng thời quyết định dịch vụ nên lưu giữ bao nhiêu thông tin cá nhân. Đầu tư của chính phủ vào phần cứng và phần mềm điện toán chỉ là một phần của dịch vụ công lâu dài; công tác giám sát và hỗ trợ sẽ cần nguồn lực liên tục.

Việc làm và nạn deepfake lạm dụng đã là chủ đề tranh luận

Một số mối lo ngại của Hàn Quốc bắt nguồn từ những tác hại đang xảy ra. Ngân hàng Trung ương Hàn Quốc cho biết số người trong độ tuổi lao động từ 15 đến 29 đã giảm 285.000 người trong giai đoạn từ tháng 6/2022 đến tháng 6 năm nay. Cơ quan này ước tính 94% mức giảm diễn ra ở các ngành chịu ảnh hưởng lớn từ tự động hóa. Những con số cho thấy sự giao thoa đáng lo ngại giữa việc làm của thanh niên và thay đổi công nghệ, nhưng không chứng minh AI là nguyên nhân duy nhất dẫn đến mức giảm này. Điều kiện kinh tế và những biến động khác trong tuyển dụng cũng có thể ảnh hưởng đến việc làm.

Tự động hóa có thể thay thế một số nhiệm vụ cụ thể mà không xóa bỏ toàn bộ một nghề nghiệp. Tuy vậy, sự phân biệt đó khó có thể an ủi những người lao động có công việc đầu vào bị tự động hóa hoặc bị chủ lao động giảm tuyển dụng. Người lao động trẻ có thể đặc biệt dễ bị ảnh hưởng nếu các nhiệm vụ hành chính hoặc dịch vụ thường lệ vốn là con đường để bước vào thị trường lao động. Khi AI ngày càng được ứng dụng rộng rãi, các nhà hoạch định chính sách cần theo dõi chất lượng việc làm và xu hướng tuyển dụng, chứ không chỉ các số liệu tổng quan về việc làm.

Với nhiều người Hàn Quốc, nỗi lo cấp bách nhất là việc phạm pháp, đặc biệt là deepfake mang tính lạm dụng tình dục. Vụ Nth Room, bê bối bóc lột tình dục trực tuyến năm 2020, cùng những vụ việc sau đó đã thúc đẩy việc siết chặt luật về deepfake vào năm 2024. Tuy nhiên, theo số liệu được trình bày tại một diễn đàn gần đây của Tổ chức Ân xá Quốc tế tại Hàn Quốc, cảnh sát đã ghi nhận 1.553 vụ phạm pháp liên quan đến deepfake trong năm ngoái.

Won Eun-ji, giám đốc nhóm điều tra tội phạm tình dục trên môi trường số Team Flame, đã dành phần lớn thời gian trong năm nay tham gia khoảng 50 phòng chat trên Telegram cùng hãng tin điều tra Newstapa. Bà ghi nhận việc các công cụ AI đã mở rộng nhóm thủ phạm ẩn danh và làm giảm độ tuổi của nạn nhân. Các công cụ tạo ảnh và hoán đổi khuôn mặt có thể giúp việc tạo nội dung lạm dụng trở nên dễ dàng hơn, trong khi không gian trực tuyến được mã hóa hoặc ẩn danh có thể khiến việc điều tra và quy trách nhiệm khó khăn hơn.

Luật hình sự là một phần trong giải pháp, nhưng công tác phòng ngừa và hỗ trợ cũng rất quan trọng. Nạn nhân cần được gỡ hình ảnh nhanh chóng, hỗ trợ thiết thực để báo cáo hành vi lạm dụng và bảo vệ khỏi việc nội dung tiếp tục bị phát tán. Khi các công cụ AI ngày càng phổ biến, chính sách tiếp cận công cộng cần tính đến khả năng hệ thống bị dùng để tạo hoặc phát tán nội dung gây hại, ngay cả khi mục đích thiết kế ban đầu là vô hại.

Trường học đối mặt với một phép thử riêng về giá trị của AI

Giáo dục đã trở thành một điểm gây tranh cãi khác. Năm ngoái, các nhà giáo dục biểu tình phản đối kế hoạch ngắn ngủi của chính phủ chi 1.200 tỷ won cho sách giáo khoa tích hợp AI. Mối lo ngại của họ không chỉ xoay quanh việc phần mềm có hoạt động tốt hay không. Họ còn đặt câu hỏi học sinh sẽ mất đi điều gì khi hệ thống đưa ra đáp án trước khi các em tự giải quyết vấn đề.

Song Keun-sang, giáo viên lớp năm tại tỉnh Nam Chungcheong tham gia biểu tình, nói AI “chỉ đơn giản đưa cho bạn đáp án” và “không có nhiều giá trị giáo dục”. Lời phê bình của ông đề cập đến một khác biệt căn bản trong giáo dục: hoàn thành một bài tập không đồng nghĩa với việc học được cách làm. Một công cụ giải thích ý tưởng khó hoặc điều chỉnh bài luyện tập theo từng học sinh có thể hữu ích. Nhưng công cụ bỏ qua việc đọc, lập luận hoặc viết có thể làm suy yếu những kỹ năng đó.

Mối lo ngại về điểm đọc hiểu suy giảm khiến cuộc tranh luận thêm cấp bách, dù không nên xem đó là bằng chứng AI gây ra những thay đổi trong kết quả học tập của học sinh. Các trường cần bằng chứng về ảnh hưởng của từng công cụ cụ thể đối với khả năng đọc hiểu, sự tập trung và việc học độc lập. Giáo viên cũng cần có vai trò lựa chọn khi nào AI hỗ trợ giảng dạy và khi nào nên loại công nghệ này khỏi quá trình học tập.

Quy định trong lớp học có thể khác với quy định dành cho chatbot công cộng nói chung. Học sinh cần được bảo vệ phù hợp với lứa tuổi, có giới hạn rõ ràng về việc thu thập dữ liệu và được giao bài tập đánh giá mức độ hiểu bài của chính mình. AI có thể hỗ trợ giáo viên chuẩn bị bài hoặc giúp học sinh tiếp cận một cách giải thích khác, nhưng không thể thay thế mối quan hệ giáo dục hay đánh giá đáng tin cậy nhu cầu của từng học sinh trong mọi trường hợp.

Quyền tiếp cận phổ cập có thể tạo dựng niềm tin của công chúng?

“AI cho tất cả” là nỗ lực đầy tham vọng nhằm coi quyền tiếp cận AI như một loại hạ tầng công cộng. Mô hình này có thể thu hẹp khoảng cách, trong đó các công cụ tiên tiến chủ yếu dành cho cá nhân giàu có và các công ty lớn. Một trợ lý đáng tin cậy có thể giúp mọi người tìm thông tin, hoàn thành giấy tờ thường lệ hoặc tiếp cận những dịch vụ khó sử dụng. Những lợi ích đó phụ thuộc vào chất lượng công cụ và khả năng người dùng nhận được câu trả lời từ con người khi hệ thống gặp sự cố.

Quyền tiếp cận phổ cập cũng làm thay đổi hệ quả từ các quyết định thiết kế. Lỗi trong chatbot tư nhân ảnh hưởng đến người dùng của nó; lỗi trong dịch vụ công có thể tác động đến một bộ phận dân số lớn hơn nhiều. Nếu hệ thống được kết nối với hồ sơ công hoặc quy trình làm việc của cơ quan, vi phạm an ninh và đầu ra không chính xác có thể gây hậu quả vượt ra ngoài một cuộc hội thoại đơn lẻ. Các giới hạn mạnh mẽ về quyền riêng tư, kiểm định độc lập, hồ sơ rõ ràng về hiệu suất hệ thống và quy trình kháng nghị sẽ giúp quyết định dịch vụ có giành được niềm tin hay không.

Hàn Quốc có ngành công nghệ vững mạnh và đủ nguồn lực để triển khai một chương trình thử nghiệm quy mô lớn. Thách thức cốt lõi là khiến dịch vụ có trách nhiệm giải trình trước công chúng, đồng thời bảo đảm năng lực kỹ thuật. Điều đó đồng nghĩa với việc giải thích các hệ thống thu thập dữ liệu gì, xác định ai chịu trách nhiệm khi xảy ra sai sót và công bố đủ thông tin để bên ngoài giám sát. Đồng thời, cần đo lường xem dịch vụ có giúp ích cho người dân hay không, thay vì coi số lượng người dùng hoặc tính năng sẵn có là bằng chứng thành công.

Quá trình triển khai sẽ kiểm chứng liệu đầu tư công có thể mở rộng quyền tiếp cận mà vẫn giữ gìn sự phán đoán của con người trong những lĩnh vực mà sai sót phải trả giá thật hay không. Luật pháp và viện an toàn của Hàn Quốc tạo ra một khuôn khổ, nhưng giá trị của chúng sẽ được đánh giá qua hiệu quả thực tế khi AI đi vào trường học, nơi làm việc và cơ quan chính phủ.

Điểm chính

• Hàn Quốc dự định triển khai thử nghiệm AI miễn phí do các liên danh gắn với SK Telecom, KT và Kakao dẫn dắt.
• Chính phủ hy vọng biến AI thành tiện ích công cộng thường trực, kết nối với các dịch vụ như đặt lịch hẹn và hướng dẫn về thuế.
• Đạo luật Cơ bản về AI yêu cầu giám sát của con người, đánh giá tác động và dán nhãn nội dung tổng hợp.
• Mối lo về việc làm bao gồm tình trạng giảm số người trong độ tuổi lao động từ 15 đến 29, tập trung ở các ngành chịu ảnh hưởng của tự động hóa.
• Năm ngoái, cảnh sát ghi nhận 1.553 vụ phạm pháp liên quan đến deepfake, trong bối cảnh tiếp tục lo ngại về nạn lạm dụng tình dục được hỗ trợ bởi công cụ AI.
• Giáo viên phản đối sách giáo khoa tích hợp AI, cho rằng việc đưa ra đáp án tức thì có thể cản trở quá trình học tập.