Hàn Quốc ban hành luật AI toàn diện đầu tiên trên thế giới, cân bằng giữa đổi mới và an toàn

Hàn Quốc dẫn đầu thế giới với Luật Cơ bản về AI

Hàn Quốc chính thức ban hành bộ luật toàn diện đầu tiên trên thế giới về trí tuệ nhân tạo, theo tuyên bố của nước này. Luật Cơ bản về AI gồm sáu chương, 43 điều, có hiệu lực hôm thứ Năm, thiết lập khuôn khổ quản lý bao trùm phạm vi hoạt động và các bên tham gia AI rộng bất thường. Luật nhằm bảo vệ người dân, đồng thời xây dựng điều mà các quan chức mô tả là “nền tảng niềm tin” trong một xã hội ngày càng vận hành dựa trên AI.

Động thái mang tính bước ngoặt này đưa Hàn Quốc đi trước các nền kinh tế lớn khác trong việc xây dựng cách tiếp cận thống nhất đối với quản trị AI. Liên minh châu Âu bắt đầu triển khai một số quy định liên quan đến AI từ năm ngoái, nhưng phần cốt lõi của Đạo luật AI sẽ được áp dụng theo từng giai đoạn từ tháng 8. Mỹ vẫn chưa có luật AI cấp liên bang, dù Nhà Trắng tháng trước đã ban hành sắc lệnh hành pháp nhằm thách thức các luật cấp bang “quá nặng nề” bị cho là cản trở đổi mới AI. Trung Quốc chọn cách tiếp cận khác, bổ sung một số điều khoản về đạo đức hoặc giám sát rủi ro vào luật an ninh mạng hiện hành.

Luật Cơ bản về AI của Hàn Quốc là bước tiến đáng kể trong nỗ lực toàn cầu nhằm quản lý công nghệ trí tuệ nhân tạo. Luật được thiết kế để đạt hai mục tiêu bổ trợ cho nhau: thúc đẩy ngành AI Hàn Quốc phát triển, đồng thời triển khai các biện pháp bảo vệ cần thiết để bảo vệ người dân trước những rủi ro tiềm ẩn khi ứng dụng AI.

Chúng tôi đang tiếp cận vấn đề từ cấp độ cơ bản nhất của sự đồng thuận toàn cầu. Mục tiêu không phải là ngăn chặn sự phát triển của AI bằng các quy định. Mục tiêu là bảo đảm mọi người có thể sử dụng AI với niềm tin.

Những phát biểu này của Kim Kyeong-man, Thứ trưởng phụ trách chính sách AI thuộc Bộ Công nghệ thông tin và Truyền thông, cho thấy Hàn Quốc muốn xây dựng một khuôn khổ cân bằng, không cản trở tiến bộ công nghệ nhưng vẫn giải quyết những quan ngại của công chúng về độ an toàn và tin cậy.

Xác định các hệ thống AI có tác động lớn

Điểm trọng tâm trong luật mới của Hàn Quốc là “AI có tác động lớn” — các hệ thống có khả năng ảnh hưởng đáng kể đến tính mạng, sự an toàn hoặc các quyền cơ bản của con người. Luật xác định cụ thể 11 lĩnh vực trọng yếu cần tăng cường giám sát và minh bạch đối với các hệ thống AI:

• Hệ thống cung cấp năng lượng
• Quy trình sản xuất nước uống
• Hệ thống dịch vụ chăm sóc sức khỏe
• Phát triển và sử dụng thiết bị y tế
• Quản lý vật liệu và cơ sở hạt nhân
• Phân tích thông tin sinh trắc học phục vụ điều tra hình sự
• Đánh giá tuyển dụng và cho vay
• Hệ thống và hoạt động quản lý giao thông
• Quyết định của chính phủ ảnh hưởng đến dịch vụ công
• Đánh giá học sinh trong giáo dục
• Các lĩnh vực khác ảnh hưởng đáng kể đến tính mạng, sự an toàn và quyền con người

Đối với các ứng dụng AI có tác động lớn này, doanh nghiệp phải triển khai một số biện pháp bảo vệ trọng yếu. Khi được yêu cầu, họ phải giải thích được logic ra quyết định của hệ thống AI, bảo đảm con người có thể can thiệp khi cần thiết và thông báo rõ cho người dùng rằng họ đang tương tác với dịch vụ ứng dụng AI. Quy định này áp dụng trong các trường hợp như sử dụng hệ thống để sàng lọc người xin vay hoặc ứng tuyển việc làm.

Luật đưa ra sự phân biệt quan trọng giữa “AI có tác động lớn” và loại hình mà Hàn Quốc gọi là “AI hiệu năng cao”. Trong khi Liên minh châu Âu chủ yếu tập trung vào rủi ro theo từng ứng dụng trong các quy định, Hàn Quốc chọn cách tiếp cận khác, sử dụng các ngưỡng kỹ thuật để xác định hệ thống nào cần được quản lý. Những ngưỡng này bao gồm các chỉ số như tổng lượng tính toán dùng trong quá trình huấn luyện; theo đó, chỉ một số rất ít mô hình tiên tiến sẽ phải tuân thủ các yêu cầu an toàn nghiêm ngặt nhất.

Hiện chính phủ Hàn Quốc cho biết chưa có mô hình AI nào, trong nước hay quốc tế, đáp ứng tiêu chí để bị quản lý theo điều khoản về AI hiệu năng cao này. Tương tự, các quan chức nói rằng hiện chưa có dịch vụ trong nước nào thuộc diện “tác động lớn”, dù xe tự hành cấp độ 4 trở lên có thể đáp ứng tiêu chí này trong tương lai.

Yêu cầu minh bạch và dán nhãn AI

Một trong những khía cạnh dễ nhận thấy nhất trong quy định AI của Hàn Quốc là yêu cầu minh bạch đối với nội dung do AI tạo ra. Theo luật mới, doanh nghiệp phải gắn nhãn dễ thấy hoặc có thể nghe được, chẳng hạn như hình mờ, cho nội dung do AI tạo ra có thể bị nhầm là hình ảnh đời thực. Yêu cầu này đặc biệt nhắm đến nội dung giả mạo sâu (deepfake) và các sản phẩm AI khác có nguy cơ gây thông tin sai lệch hoặc đánh lừa người xem.

Cách thức dán nhãn thay đổi tùy theo loại nội dung. Với sản phẩm mà việc phân biệt nội dung thật và nội dung do AI tạo ra có ý nghĩa thiết yếu đối với an toàn hoặc tính xác thực, phải dán nhãn dễ thấy. Tuy nhiên, với nội dung sáng tạo có sử dụng AI như trò chơi, phim hoạt hình hoặc webtoon, luật cho phép hình thức công bố ít gây chú ý hơn, trong đó có việc đưa nhãn vào siêu dữ liệu, nơi người dùng cuối có thể không nhìn thấy ngay.

Cách tiếp cận có phân biệt này làm dấy lên nhiều câu hỏi trong các ngành như sáng tác webtoon, nơi nền tảng và nhà sáng tạo chưa rõ phạm vi định nghĩa “do AI tạo ra” rộng đến đâu. Nhiều người lo ngại việc sử dụng AI một phần, chẳng hạn để tạo phông nền, tô màu hoặc chỉnh sửa, có thể làm phát sinh nghĩa vụ công bố hay không. Luật không quản lý cá nhân chỉ sử dụng các công cụ AI, nhưng áp dụng với nền tảng và doanh nghiệp cung cấp công cụ sáng tạo ứng dụng AI hoặc phân phối tác phẩm do AI tạo ra.

Gắn hình mờ vào nội dung do AI tạo ra là biện pháp bảo vệ tối thiểu để ngăn ngừa những hệ quả tiêu cực từ việc lạm dụng công nghệ AI, chẳng hạn như nội dung deepfake.

Phát biểu này của một quan chức bộ nhấn mạnh việc chính phủ xem dán nhãn là biện pháp bảo vệ cơ bản trước hành vi lạm dụng AI. Các yêu cầu minh bạch không chỉ giới hạn ở việc dán nhãn nội dung mà còn bao gồm nghĩa vụ thông báo khi người dùng tương tác với dịch vụ ứng dụng AI. Doanh nghiệp phải thông báo trước cho người dùng khi cung cấp sản phẩm hoặc dịch vụ sử dụng AI có tác động lớn hoặc AI tạo sinh, thường thông qua các hình thức như cảnh báo bật lên hoặc thông báo nổi bật.

Cơ cấu quản trị và hỗ trợ ngành

Luật Cơ bản về AI thiết lập cơ cấu quản trị toàn diện cho chính sách AI tại Hàn Quốc. Bộ Khoa học và Công nghệ thông tin và Truyền thông là cơ quan chủ trì thực hiện chính sách AI, trong khi Ủy ban AI Quốc gia trực thuộc Tổng thống có nhiệm vụ thảo luận và quyết định các định hướng chính sách AI rộng hơn. Luật cũng thành lập Trung tâm Chính sách AI và Viện An toàn AI để hỗ trợ thực thi chính sách và giải quyết các quan ngại về an toàn.

Bên cạnh các biện pháp quản lý, luật có nhiều điều khoản nhằm hỗ trợ phát triển và tăng trưởng AI tại Hàn Quốc. Những biện pháp thúc đẩy này bao gồm hỗ trợ nghiên cứu và phát triển AI, tiêu chuẩn hóa công nghệ AI, phát triển dữ liệu huấn luyện AI và các sáng kiến giúp doanh nghiệp tiếp nhận, ứng dụng công nghệ AI. Luật đặc biệt chú trọng hỗ trợ doanh nghiệp vừa và nhỏ, công ty khởi nghiệp và phát triển nhân lực trong lĩnh vực AI.

Luật cũng tạo cơ sở pháp lý để xây dựng “Kế hoạch cơ bản về AI”, đóng vai trò như lộ trình chính sách phát triển công nghệ AI tại Hàn Quốc. Cách tiếp cận toàn diện này thừa nhận rằng quản lý AI hiệu quả không chỉ đòi hỏi các hạn chế mà còn cần chủ động hỗ trợ đổi mới và năng lực cạnh tranh trên thị trường AI toàn cầu.

Để giảm gánh nặng ban đầu cho doanh nghiệp, chính phủ Hàn Quốc đã áp dụng thời gian ân hạn ít nhất một năm. Trong thời gian này, cơ quan chức năng sẽ không tiến hành điều tra xác minh sự việc hoặc áp dụng chế tài hành chính, mà tập trung vào tư vấn và hướng dẫn. Một bàn hỗ trợ chuyên trách về Luật AI đã được thành lập để giúp doanh nghiệp xác định hệ thống của mình có thuộc phạm vi điều chỉnh của luật hay không và cần ứng phó như thế nào.

Đường dây trợ giúp về Luật Khung AI, với đội ngũ chuyên gia từ các tổ chức như Viện An toàn AI và Cơ quan Xã hội Thông tin Quốc gia, cung cấp dịch vụ tư vấn bảo mật và hướng dẫn cho những người phát triển, kinh doanh hoặc sử dụng công cụ trí tuệ nhân tạo, đồng thời tuân thủ các quy định mới.

Yêu cầu tuân thủ và hình phạt

Các doanh nghiệp hoạt động tại Hàn Quốc hoặc cung cấp dịch vụ cho người dùng Hàn Quốc phải tuân thủ những nghĩa vụ cụ thể theo luật mới. Các công ty AI nước ngoài đáp ứng một số tiêu chí nhất định — chẳng hạn doanh thu toàn cầu hằng năm từ 1.000 tỷ won (681 triệu USD) trở lên, doanh thu trong nước từ 10 tỷ won trở lên hoặc có ít nhất 1 triệu người dùng hằng ngày tại Hàn Quốc — phải chỉ định một đại diện trong nước để làm đầu mối liên hệ với cơ quan chức năng. Hiện các công ty lớn như OpenAI và Google thuộc diện này.

Các đơn vị hoạt động trong lĩnh vực AI được chia thành hai nhóm: đơn vị phát triển AI, tức những bên phát triển và cung cấp AI; và đơn vị ứng dụng AI, tức những bên cung cấp sản phẩm hoặc dịch vụ AI sử dụng công nghệ do các đơn vị phát triển cung cấp. Cả hai nhóm đều có nghĩa vụ minh bạch, nhưng trọng tâm quản lý chủ yếu vẫn là AI có tác động lớn và hệ thống AI tạo sinh.

Cách thức thực thi luật của Hàn Quốc được chủ ý thiết kế nhẹ nhàng hơn so với các khu vực tài phán khác. Luật không áp dụng hình phạt hình sự. Thay vào đó, luật ưu tiên yêu cầu khắc phục vi phạm; tiền phạt, với mức tối đa 30 triệu won (26.200 USD), chỉ được áp dụng nếu doanh nghiệp không chấp hành yêu cầu. Theo nhấn mạnh của các quan chức chính phủ, cách làm này hướng đến tuân thủ thay vì trừng phạt.

Để so sánh, khuôn khổ quản lý của EU quy định các chế tài nghiêm khắc hơn nhiều, với mức phạt khác nhau tùy loại vi phạm, trong đó tiền phạt hành chính có thể lên tới 7% doanh thu toàn cầu hằng năm. Sự khác biệt lớn về mức độ xử phạt này phản ánh chủ trương của Hàn Quốc là duy trì quy định ở mức tối thiểu nhưng vẫn thiết lập một khuôn khổ an toàn cơ bản.

Ba hành vi vi phạm cụ thể có thể bị phạt theo luật Hàn Quốc gồm: không thông báo cho cơ quan chức năng về hoạt động liên quan đến AI khi cung cấp sản phẩm hoặc dịch vụ sử dụng AI có tác động lớn hoặc AI tạo sinh; không chỉ định đại diện trong nước khi được yêu cầu; và không chấp hành lệnh đình chỉ hoặc khắc phục do Bộ trưởng Khoa học và Công nghệ thông tin và Truyền thông ban hành.

Phản ứng của ngành và quan ngại của công ty khởi nghiệp

Chính phủ coi Luật Cơ bản về AI là cách tiếp cận cân bằng, vừa hỗ trợ đổi mới vừa bảo đảm an toàn, nhưng không phải ai trong ngành công nghệ cũng đồng tình. Các công ty khởi nghiệp Hàn Quốc bày tỏ lo ngại về gánh nặng tuân thủ mà các quy định mới có thể đặt ra, đặc biệt khi luật có hiệu lực sớm hơn các khuôn khổ tương tự tại những quốc gia khác.

Theo khảo sát của Liên minh Khởi nghiệp, chỉ 2% các công ty khởi nghiệp tập trung vào AI cho biết đã có kế hoạch tuân thủ chính thức, trong khi khoảng một nửa thừa nhận chưa hiểu đầy đủ các yêu cầu của luật mới. Sự thiếu rõ ràng này khiến các nhà sáng lập lo ngại rằng ngôn từ còn mơ hồ trong luật có thể buộc họ chọn chiến lược phát triển quá thận trọng để tránh rủi ro pháp lý.

Có phần bất mãn — tại sao chúng ta lại phải là những người đầu tiên làm việc này?

Phát biểu của Lim Jung-wook, đồng lãnh đạo Liên minh Khởi nghiệp Hàn Quốc, thể hiện sự bức xúc của một số doanh nhân khi phải tuân thủ các quy định toàn diện về AI trước các đối thủ cạnh tranh toàn cầu. Nhiều nhà sáng lập đặt câu hỏi liệu việc đi đầu trong quản lý AI sẽ đem lại lợi thế cho Hàn Quốc hay khiến các doanh nghiệp trong nước gặp bất lợi trên trường quốc tế.

Tổng thống Lee Jae Myung đã ghi nhận những quan ngại này, kêu gọi các nhà hoạch định chính sách lắng nghe phản hồi từ ngành và bảo đảm các công ty đầu tư mạo hiểm cùng công ty khởi nghiệp nhận được hỗ trợ phù hợp. Trong cuộc họp gần đây với các trợ lý, ông Lee nhấn mạnh tầm quan trọng của việc tối đa hóa tiềm năng ngành thông qua hỗ trợ thể chế, đồng thời chủ động kiểm soát các hệ quả có thể xảy ra.

Bộ Khoa học và Công nghệ thông tin và Truyền thông đã phản hồi những quan ngại này bằng kế hoạch xây dựng nền tảng hướng dẫn và trung tâm hỗ trợ chuyên trách cho doanh nghiệp trong thời gian ân hạn. Một người phát ngôn cho biết chính phủ tiếp tục xem xét các biện pháp giảm thiểu gánh nặng cho ngành và cân nhắc gia hạn thời gian ân hạn nếu điều kiện của ngành trong nước và quốc tế đòi hỏi.

So sánh với cách tiếp cận quốc tế

Luật Cơ bản về AI của Hàn Quốc thể hiện một triết lý quản lý riêng, khác với cách tiếp cận của các nền kinh tế lớn khác. Luật tham chiếu cả mô hình Mỹ, chú trọng quyền tự chủ của khu vực tư nhân, lẫn mô hình quản lý của EU, nhấn mạnh an toàn và độ tin cậy. Cuối cùng, Hàn Quốc chọn con đường riêng nhằm dung hòa việc quản lý ở mức tối thiểu với thúc đẩy AI, hướng đến mục tiêu trở thành quốc gia dẫn đầu về năng lực cạnh tranh AI toàn cầu.

Tương tự Đạo luật AI của EU, khuôn khổ của Hàn Quốc định nghĩa các hệ thống AI và đặt ra nhiều nghĩa vụ liên quan đến AI có tác động lớn, trong đó có Đánh giá Tác động đến Quyền cơ bản (FRIA). Tuy nhiên, mức độ quản lý cụ thể có thể thay đổi theo các văn bản hướng dẫn cấp dưới trong tương lai, dự kiến được công bố trong nửa đầu năm 2025.

Một khác biệt đáng kể giữa cách tiếp cận của Hàn Quốc và EU nằm ở cách xây dựng nghĩa vụ. Đạo luật AI của EU quy định các nghĩa vụ khác nhau tùy theo loại chủ thể trong chuỗi giá trị AI, trong khi Luật Khung AI của Hàn Quốc quy định nghĩa vụ một cách toàn diện mà không phân biệt các loại chủ thể. Cách tiếp cận đơn giản hơn này có thể giảm bớt sự phức tạp, nhưng cũng có thể gây khó khăn khi áp dụng mức độ giám sát phù hợp trên hệ sinh thái AI đa dạng.

Cách Hàn Quốc xác định AI có tác động lớn cũng khác với phương pháp của EU. EU tập trung vào rủi ro theo từng ứng dụng, nhắm đến AI được sử dụng trong các lĩnh vực như y tế, tuyển dụng và thực thi pháp luật; còn Hàn Quốc áp dụng các ngưỡng kỹ thuật để xác định hệ thống nào cần được quản lý. Các chỉ số này bao gồm tổng lượng tính toán dùng trong quá trình huấn luyện, khiến số lượng hệ thống thuộc diện quản lý có thể ít hơn đáng kể với năng lực công nghệ hiện nay.

Khác biệt trong triết lý quản lý cũng thể hiện qua hình phạt đối với hành vi vi phạm. EU đã thiết lập các chế tài nghiêm khắc với mức phạt lên đến 7% doanh thu toàn cầu hằng năm, trong khi khuôn khổ của Hàn Quốc chỉ áp dụng mức phạt hành chính tối đa 30 triệu won (khoảng 26.200 USD). Chênh lệch lớn này phản ánh chủ trương của Hàn Quốc là ưu tiên tuân thủ và khắc phục thay vì trừng phạt.

Tác động toàn cầu và triển vọng tương lai

Việc Hàn Quốc ban hành luật AI toàn diện có ý nghĩa quan trọng đối với bối cảnh AI toàn cầu. Là quốc gia thứ hai sau Liên minh châu Âu thông qua khuôn khổ quản lý AI toàn diện, Hàn Quốc đưa ra một hình mẫu lập pháp mới để các nước khác tham khảo khi xây dựng cách tiếp cận riêng về quản trị AI.

Việc luật được thông qua bất chấp biến động chính trị liên quan đến tuyên bố thiết quân luật của Tổng thống Yoon Suk Yeol và việc ông sau đó bị luận tội cho thấy sự đồng thuận giữa các đảng về tầm quan trọng của quản lý AI. Đạo luật được thông qua tại phiên họp toàn thể của Quốc hội ngày 26 tháng 12 năm 2024 với sự ủng hộ áp đảo của cả hai phe, cho thấy đồng thuận chính trị rộng rãi trong việc giải quyết các thách thức từ AI.

Nhìn về phía trước, các quan chức Hàn Quốc thừa nhận luật hiện tại là điểm khởi đầu chứ chưa phải sản phẩm hoàn chỉnh. Việc triển khai chi tiết nhiều điều khoản sẽ phụ thuộc vào các văn bản hướng dẫn cấp dưới và quy định theo từng ngành, dự kiến được hoàn thiện trong giai đoạn chuẩn bị kéo dài một năm trước khi luật có hiệu lực đầy đủ vào tháng 1 năm 2026.

Vai trò điều phối của Ủy ban AI Quốc gia sẽ trở nên then chốt khi Hàn Quốc nỗ lực hài hòa chuyên môn của các bộ, ngành liên quan, có cân nhắc đặc điểm của từng đối tượng hoặc lĩnh vực quản lý. Khi công nghệ AI lan rộng trên mọi lĩnh vực — từ thông tin cá nhân và bản quyền đến y tế và quốc phòng — quản trị hiệu quả sẽ đòi hỏi sự phối hợp chặt chẽ giữa nhiều cơ quan chính phủ.

Khi các chuẩn mực toàn cầu và thảo luận về quản trị AI ngày càng tăng, nhu cầu về khả năng tương thích và hợp tác quốc tế trong các quy định nhằm bảo đảm độ tin cậy của AI càng trở nên cấp thiết. Cách tiếp cận của Hàn Quốc có thể tác động đến các cuộc thảo luận quốc tế này, đặc biệt là về cách cân bằng đổi mới với các quan ngại an toàn trong quản trị AI.

Kết luận chính

• Hàn Quốc đã ban hành Luật Cơ bản về AI, luật AI toàn diện đầu tiên trên thế giới, điều chỉnh việc phát triển, triển khai và sử dụng trí tuệ nhân tạo.
• Luật xác định “AI có tác động lớn” trong 11 lĩnh vực trọng yếu, bao gồm y tế, tài chính, giao thông và dịch vụ chính phủ, đồng thời yêu cầu tăng cường giám sát và khả năng can thiệp của con người.
• Nội dung do AI tạo ra phải được dán nhãn; nội dung có thể bị nhầm là thật phải có hình mờ dễ thấy, còn tác phẩm sáng tạo như webtoon và phim hoạt hình được phép dùng hình thức dán nhãn ít gây chú ý hơn.
• Các công ty AI nước ngoài đạt ngưỡng doanh thu hoặc số lượng người dùng nhất định phải chỉ định đại diện tại Hàn Quốc.
• Mức phạt do không tuân thủ tối đa là 30 triệu won (26.200 USD), thấp hơn đáng kể so với mức phạt của EU có thể lên tới 7% doanh thu toàn cầu hằng năm.
• Luật có thời gian ân hạn một năm, tập trung vào hướng dẫn thay vì xử phạt, cùng một bàn hỗ trợ chuyên trách cho doanh nghiệp cần tư vấn tuân thủ.
• Các công ty khởi nghiệp lo ngại về gánh nặng tuân thủ và ngôn từ mơ hồ trong luật; chỉ 2% cho biết đã có kế hoạch tuân thủ chính thức.
• Luật hướng đến mục tiêu đưa Hàn Quốc trở thành một trong ba cường quốc AI hàng đầu thế giới, đồng thời xây dựng nền tảng niềm tin cho công nghệ AI.
• Cách tiếp cận của Hàn Quốc khác với EU: nước này dựa vào các ngưỡng kỹ thuật thay vì rủi ro theo từng ứng dụng để quản lý các hệ thống AI tiên tiến.
• Luật sẽ được triển khai đầy đủ từ tháng 1 năm 2026, sau một năm chuẩn bị các văn bản hướng dẫn cấp dưới và quy định chi tiết.