Sau khi giới chức Hàn Quốc phát hiện mạng lưới phòng trò chuyện trên ứng dụng Telegram chuyên về deepfake khiêu dâm ở các trường học hồi đầu tháng 8, nhà hoạt động vì trẻ vị thành niên Bang Seo-yoon bắt đầu liên lạc với các nạn nhân và đã tiếp nhận hàng nghìn lời kể từ họ.
Deepfake là công nghệ sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra ảnh hoặc video trông như thật về người đó, thậm chí tạo được cả giọng nói.
Nhiều trường hợp trở thành nạn nhân bởi cùng một cách thức. Nam sinh lén tải ảnh từ tài khoản Instagram cá nhân của nạn nhân rồi chế ra hình ảnh nhạy cảm và chia sẻ vào phòng trò chuyện, chủ yếu để xúc phạm bạn nữ cùng lớp và giáo viên.
Tình trạng này cho thấy khủng hoảng deepfake khiêu dâm đang phủ bóng lên các trường học ở Hàn Quốc. Giới chuyên gia nhận định sự kết hợp mang tính độc hại giữa Telegram, công nghệ trí tuệ nhân tạo (AI) và luật pháp lỏng lẻo khiến vấn đề càng thêm nghiêm trọng.
"Ngoài tổn thương do chính deepfake gây ra, sự lan truyền của chúng còn khiến nạn nhân cảm thấy nhục nhã và đau đớn hơn nữa", Bang nói.
Nhà hoạt động giơ khẩu hiệu "chính phủ cũng là đồng phạm nếu để tình trạng tội phạm deepfake khiêu dâm tái diễn" khi biểu tình ở Seoul, Hàn Quốc, ngày 30/8. Ảnh: AFP
Bộ Giáo dục Hàn Quốc ngày 9/9 cho biết đã ghi nhận 434 trường hợp deepfake tại các trường từ cấp 3 trở xuống trong 9 tháng qua. Trong số này, 238 trường hợp được phát hiện từ ngày 27/8 đến 6/9.
Số đơn trình báo tăng mạnh sau khi thông tin về các phòng trò chuyện deepfake khiêu dâm được công bố, với 118 trường hợp chỉ trong 5 ngày cuối tháng 8.
Cảnh sát Hàn Quốc đã bắt 7 nghi phạm, trong đó 6 người là trẻ vị thành niên. Yếu tố này gây phức tạp cho nỗ lực truy tố, bởi tòa án Hàn Quốc hiếm khi phát lệnh bắt với nghi phạm vị thành niên.
Tỷ lệ truy tố trên thực tế cũng gây thất vọng. Một nghị sĩ Hàn Quốc dẫn số liệu từ cảnh sát cho biết 793 vụ deepfake đã được trình báo từ năm 2021 đến tháng 7/2024, nhưng chỉ 16 người bị bắt và truy tố.
"Nạn nhân bị bạn cùng lớp xúc phạm và chế giễu trên mạng, nhưng thủ phạm không bị trừng phạt", Kang Myeong-suk, trưởng nhóm hỗ trợ nạn nhân tại Viện Nhân quyền Phụ nữ Hàn Quốc, nói.
Các nạn nhân luôn phải sống trong nỗi lo sợ rằng deepfake về họ có thể bị phát tán bởi những người xung quanh. "Một số bình luận trên mạng nói các nạn nhân nên 'vượt qua nỗi sợ' vì chúng không phải hình ảnh thật. Ảnh là giả, nhưng không có nghĩa là họ không chịu tổn thương nào", bà Kang cho hay.
Mức độ phổ biến của deepfake trên thế giới đang tăng theo cấp số nhân. Công ty an ninh mạng Security Hero ước tính độ phổ biến của deepfake trong năm 2023 đã tăng 5 lần so với năm trước đó. 99% nạn nhân là phụ nữ, chủ yếu là ca sĩ và diễn viên nổi tiếng.
Người nổi tiếng có sức ảnh hưởng nhất định để tự bảo vệ bản thân, trong khi nạn nhân bình thường phải chật vật đấu tranh để đòi công lý.
Logo ứng dụng Telegram hiển thị trên màn hình điện thoại di động hôm 27/8. Ảnh: Reuters
Tỷ lệ tội phạm ở Hàn Quốc nhìn chung thấp, nhưng nạn quay lén đã tồn tại dai dẳng ở nước này từ lâu và từng châm ngòi hàng loạt cuộc biểu tình lớn năm 2018, buộc giới chức bổ sung các điều luật.
"Án phạt nhìn chung không đáng kể, như phạt tiền hoặc quản thúc, chưa tương xứng với mức độ nghiêm trọng của hành vi phạm tội", giáo sư Yoon Kim Ji-young thuộc Đại học Konkuk ở Seoul nêu quan điểm.
Trong khi đó, cảnh sát Hàn Quốc cho rằng nguyên nhân dẫn đến tỷ lệ truy tố thấp là Telegram, ứng dụng nhiều lần bị cáo buộc không hợp tác với chính phủ và lực lượng hành pháp các nước.
Văn phòng Tổng thống Hàn Quốc ngày 27/8 phát động chiến dịch trấn áp tội phạm tình dục kỹ thuật số kéo dài 7 tháng, nhằm điều tra kỹ và xử lý loại hình tội phạm này, đặt mục tiêu loại bỏ chúng hoàn toàn.
Cảnh sát Hàn Quốc đã mở cuộc điều tra về cáo buộc Telegram "tiếp tay" phát tán nội dung deepfake khiêu dâm, trong đó có hình ảnh trẻ vị thành niên. "Telegram không phản hồi yêu cầu của chúng tôi về cung cấp thông tin tài khoản trong quá trình điều tra", Woo Jong-soo, lãnh đạo cơ quan điều tra tại Cảnh sát Quốc gia Hàn Quốc, nói.
CEO Telegram Pavel Durov đã bị bắt tại Pháp hôm 24/8. Các thẩm phán Paris truy tố ông với cáo buộc liên quan đến tội phạm có tổ chức, bao gồm đồng lõa trong việc quản lý nền tảng trực tuyến cho phép thực hiện giao dịch bất hợp pháp, phát tán nội dung khiêu dâm trẻ em, buôn bán ma túy, lừa đảo; từ chối chia sẻ thông tin theo yêu cầu của giới chức; rửa tiền; cung cấp dịch vụ mã hóa cho tội phạm.
Durov được tại ngoại sau khi nộp bảo lãnh 5 triệu euro và chịu hình thức giám sát tư pháp, bị cấm xuất cảnh khỏi Pháp và phải trình diện tại đồn cảnh sát hai lần mỗi tuần. Durov sau đó thông báo Telegram sẽ cải thiện kiểm duyệt nội dung nhằm loại bỏ các hoạt động bất hợp pháp.
Một nạn nhân Hàn Quốc trong một vụ án deepfake khiêu dâm năm 2021 nói việc Telegram không sẵn lòng hợp tác điều tra không phải là cái cớ. Nhiều nạn nhân như cô đã quyết tâm điều tra và xác minh được danh tính thủ phạm.
Trong vụ án năm 2021, cô bị kẻ tấn công nhắn hàng loạt tin nhắn Telegram có hình ảnh deepfake cô đang bị tấn công tình dục. Nghi phạm được xác định là một nam sinh Đại học Seoul danh giá, người mà cô hiếm khi tiếp xúc nhưng cho là "hiền lành".
"Rất khó để chấp nhận", cô nói, thêm rằng cảnh sát đã yêu cầu cô tự thu thập bằng chứng. Cô sau đó phải nỗ lực vận động để đưa thủ phạm ra tòa. Quá trình xét xử vẫn chưa kết thúc.
"Thế giới mà tôi biết đã sụp đổ hoàn toàn", cô viết trong thư dự kiến nộp cho tòa án vào ngày 26/9. "Không ai đáng bị đối xử như đồ vật chỉ vì họ là phụ nữ".
Như Tâm (Theo AFP, Yonhap)