Quốc gia đầu tiên ban hành luật toàn diện về sử dụng AI an toàn

Ngày 22/01, Hàn Quốc chính thức ban hành luật toàn diện về việc sử dụng an toàn các mô hình trí tuệ nhân tạo (AI), trở thành quốc gia đầu tiên trên thế giới thực hiện bước đi này, qua đó thiết lập khung pháp lý nhằm chống lại thông tin sai lệch và các tác động nguy hiểm khác liên quan đến lĩnh vực công nghệ mới nổi.

Đây là lần đầu tiên một chính phủ trên thế giới thông qua các hướng dẫn toàn diện liên quan đến việc sử dụng AI.

Theo hãng thông tấn Yonhap, luật tập trung vào việc yêu cầu các công ty và nhà phát triển AI phải chịu trách nhiệm lớn hơn trong xử lý nội dung giả mạo (deepfake) và thông tin sai lệch có thể được tạo ra bởi các mô hình AI, đồng thời trao cho chính phủ quyền phạt tiền hoặc điều tra các hành vi vi phạm.

Cụ thể, luật giới thiệu khái niệm “AI rủi ro cao”, đề cập đến các mô hình AI được sử dụng để tạo ra nội dung có thể ảnh hưởng đáng kể đến đời sống hàng ngày hoặc sự an toàn của người dùng, bao gồm các ứng dụng trong tuyển dụng, xét duyệt khoản vay và tư vấn y tế.

Các tổ chức sử dụng các mô hình AI rủi ro cao như vậy phải thông báo cho người dùng rằng dịch vụ của họ dựa trên AI, đồng thời chịu trách nhiệm bảo đảm an toàn. Nội dung do các mô hình AI tạo ra phải được gắn watermark (hình chèn mờ hiển thị bên dưới hình ảnh hoặc văn bản) để làm rõ bản chất được tạo ra bởi AI.

“Việc gắn watermark cho nội dung do AI tạo ra là biện pháp bảo vệ tối thiểu nhằm ngăn chặn các tác dụng phụ từ việc lạm dụng công nghệ AI, chẳng hạn như nội dung deepfake”, một quan chức Bộ Khoa học cho biết.

Theo quy định, các công ty toàn cầu cung cấp dịch vụ AI tại Hàn Quốc đáp ứng bất kỳ tiêu chí nào sau đây, bao gồm doanh thu toàn cầu hằng năm từ 1.000 tỷ won (681 triệu USD) trở lên, doanh thu trong nước từ 10 tỷ won trở lên, hoặc có ít nhất 1 triệu người dùng hằng ngày tại Hàn Quốc, đều phải có người đại diện tại địa bàn. Hiện OpenAI và Google đáp ứng các tiêu chí này.

Vi phạm luật có thể bị phạt tới 30 triệu won. Chính phủ Hàn Quốc dự kiến áp dụng thời gian ân hạn một năm đối với việc xử phạt nhằm giúp khu vực tư nhân thích ứng với các quy định mới. Đạo luật cũng bao gồm các biện pháp nhằm thúc đẩy ngành công nghiệp trí tuệ nhân tạo trong nước, theo đó Bộ trưởng Khoa học phải trình bày kế hoạch chính sách định kỳ ba năm một lần.