Bước đi này được đưa ra trong bối cảnh công chúng và giới chính trị phẫn nộ, sau khi một số cơ quan truyền thông trong nước đưa tin những hình ảnh và video deepfake có nội dung khiêu dâm của phụ nữ Hàn Quốc thường được tìm thấy trong các phòng trò chuyện Telegram.
Deepfake là công nghệ mô phỏng hình ảnh khuôn mặt con người, được đặt tên theo cụm từ được kết hợp giữa “deep learning” (máy học) và “fake” (giả).
Công nghệ này có thể tạo ra các sản phẩm âm thanh, hình ảnh hoặc thậm chí là cả video giả, nhờ vào trí tuệ nhân tạo tinh vi
Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc (ủy ban) cho biết, một đường dây nóng 24 giờ dành cho nạn nhân cũng sẽ được thiết lập và số lượng nhân viên quản lý giám sát tội phạm tình dục kỹ thuật số sẽ tăng gấp đôi so với con số hiện tại là 70.
Cơ quan Cảnh sát Quốc gia Hàn Quốc cũng cho biết, họ sẽ thực hiện chiến dịch kéo dài 7 tháng để trấn áp tội phạm tình dục trực tuyến.
Chủ tịch Cơ quan giám sát truyền thông Hàn Quốc Ryu Hee-lim cho biết sẽ thành lập một đơn vị tư vấn để tăng cường trao đổi với các công ty truyền thông xã hội về việc xóa và chặn nội dung deepfake về tình dục.
Đối với các công ty không có văn phòng tại Hàn Quốc, họ muốn thiết lập kênh gặp mặt trực tiếp để tư vấn thường xuyên.
Ryu cho biết: “Việc sản xuất, sở hữu và phân phối video tội phạm tình dục deepfake là một tội nghiêm trọng, hủy hoại phẩm giá và quyền cá nhân”.
Ngoài Telegram, ủy ban cho biết họ sẽ tìm kiếm sự hợp tác từ mạng xã hội X cũng như Facebook và Instagram của Meta, cũng như YouTube của Google.
Sự chỉ trích về Telegram ở Hàn Quốc diễn ra đúng với lúc người sáng lập nền tảng này – Pevel Durov bị bắt giữ tại Pháp, như một một phần trong cuộc điều tra của Pháp về khiêu dâm trẻ em, buôn bán ma túy và gian lận trên ứng dụng nhắn tin được mã hóa.
Theo dữ liệu của cảnh sát, số vụ tội phạm tình dục deepfake ở Hàn Quốc đã tăng vọt từ 156 vụ vào năm 2021 khi dữ liệu lần đầu tiên được thu thập lên 297 vụ trong năm nay, trong đó hầu hết thủ phạm là thanh thiếu niên.
Các nạn nhân thường là nữ, bao gồm học sinh và cả nữ binh sĩ trong quân đội Hàn Quốc.
Người dân Hàn Quốc đã gửi hơn 6.400 yêu cầu giúp đỡ từ Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc để xóa nội dung deepfake khiêu dâm trong năm nay. Con số này gần bằng với 7.200 trường hợp vào năm ngoái và ủy ban đã đồng ý giúp xóa nội dung.