Một người lạ liên tục gửi tin nhắn trên Telegram cho Heejin, với những hình ảnh khiêu dâm cắt ghép bằng công nghệ deepfake, khiến nữ sinh hoảng sợ.
"Hình ảnh và thông tin cá nhân của cô đã bị rò rỉ. Hãy tham gia nhóm chat để thảo luận về chuyện này nào", tin nhắn mà Heejin nhận được trên ứng dụng Telegram cuối tuần trước có đoạn.
Khi tham gia nhóm chat, Heejin nhận được một bức ảnh cô chụp vài năm trước, khi cô còn đi học, ngay sau đó là một bức ảnh y hệt, nhưng đã bị chỉnh sửa để loại bỏ quần áo trên người.
Quá sợ hãi, Heejin không trả lời bất cứ tin nhắn nào, nhưng các hình ảnh liên tục được gửi đến. Trong nhiều hình, gương mặt nữ sinh này bị ghép vào những cảnh khiêu dâm bằng công nghệ deepfake tinh vi.
Deepfake là công nghệ sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra ảnh hoặc video trông như thật về người đó, thậm chí tái tạo được cả giọng nói.
"Tôi cực kỳ sợ hãi, cảm thấy rất cô đơn", Heejin nói.
Nhưng nữ sinh viên này không đơn độc. Cảnh sát Hàn Quốc đang điều tra các đường dây tạo nội dung nhạy cảm bằng công nghệ deepfake tại hai trường đại học lớn của quốc gia.
Tin rằng vấn nạn này phủ bóng rộng hơn, phóng viên Ko Narin của báo Hankyoreh đã tiến hành một phóng sự điều tra và phát hiện hàng chục nhóm chat trên Telegram, nơi người dùng liên tục gửi ảnh phụ nữ họ quen để AI chuyển thể thành ảnh, video nhạy cảm. Ngoài sinh viên đại học, các nhóm này còn nhắm vào nữ sinh phổ thông trung học, thậm chí trung học cơ sở.
Màn hình hiển thị một phòng chat chia sẻ nội dung deepfake khiêu dâm trên Telegram ở Hàn Quốc. Ảnh: KoreaNow
Một số phòng chat còn nêu rõ thành viên cần gửi trên 4 ảnh của một người, kèm tên, tuổi, nơi ở của người đó.
"Các thành viên đăng ảnh phụ nữ họ quen lên nhóm mỗi phút, yêu cầu biến chúng thành deepfake khiêu dâm. Tôi sốc nặng khi tội ác này được thực hiện có hệ thống, có tổ chức như thế nào. Kinh hoàng nhất là một nhóm nhắm vào trẻ vị thành niên, với hơn 2.000 thành viên", phóng viên Ko Narin nói.
Bài báo của Narin trên Hankyoreh gây chấn động toàn quốc. Ngày 2/9, cảnh sát Hàn Quốc thông báo phối hợp với các bên, trong đó có Pháp, để mở rộng cuộc điều tra Telegram.
Nhà sáng lập kiêm CEO Telegram bị bắt ở Pháp cuối tháng trước, với cáo buộc không ngăn chặn nội dung cực đoan, bất hợp pháp trên nền tảng. Telegram nổi tiếng về công nghệ mã hóa đầu cuối (chỉ những người liên lạc với nhau có thể đọc được tin nhắn) và cam kết bảo vệ quyền riêng tư của người dùng.
Các nhà hoạt động xã hội Hàn Quốc cũng bắt đầu tìm hiểu về đường dây tạo nội dung nhạy cảm bằng deepfake trên Telegram sau bài báo của Narin.
Vài ngày sau, hơn 500 trường học, đại học trên toàn quốc được xác định là mục tiêu của đường dây, trong đó nhiều nạn nhân dưới 16 tuổi, phần lớn nghi phạm cũng là trẻ vị thành niên.
Phụ nữ, thiếu nữ khắp nơi cũng bắt đầu xóa ảnh cá nhân khỏi mạng xã hội, hoặc đóng hoàn toàn tài khoản khi quy mô cuộc khủng hoảng ngày càng được phơi bày. "Chúng tôi rất thất vọng và tức giận vì phải hạn chế hành vi trên mạng xã hội trong khi không làm gì sai", Ah-eun, sinh viên có bạn là nạn nhân, nói.
Bạn học của Ah-eun đã trình báo cảnh sát sau khi phát hiện những hình ảnh nhạy cảm ghép khuôn mặt mình trên mạng, nhưng cảnh sát chỉ khuyên cô không quá bận tâm, bởi "rất khó bắt được thủ phạm". "Họ nói người đó thậm chí còn không phải tội phạm, bởi các bức ảnh đó là giả", Ah-eun nhớ lại.
Người Hàn Quốc biểu tình chống nội dung deepfake khiêu dâm trên Telegram, ngày 29/8. Ảnh: Yonhap
Các nhà hoạt động cũng cáo buộc giới chức "buông lỏng" quản lý nạn khiêu dâm trên Telegram trong thời gian quá dài.
Năm 2019, giới chức Hàn Quốc phát hiện đường dây tạo và chia sẻ hình ảnh nhạy cảm của phụ nữ và trẻ em trên Telegram. Cảnh sát khi đó đã 7 lần yêu cầu Telegram giúp đỡ điều tra, nhưng nền tảng này đều làm ngơ. Thủ phạm đứng sau đường dây bị kết án 40 năm tù, nhưng Seoul không đưa ra bất kỳ án phạt hay chính sách quản lý nào đối với Telegram.
"Họ kết án kẻ chủ mưu, nhưng bỏ mặc những thứ khác", phóng viên Marin nhận xét.
Kể từ khi cuộc khủng hoảng deepfake khiêu dâm trên Telegram bùng phát gần đây, số lượng học sinh, phụ huynh báo cáo bị lạm dụng tăng vọt.
Năm 2023, Trung tâm Hỗ trợ Nạn nhân Tình dục Trực tuyến Hàn Quốc (ACOSAV) đã tư vấn cho 86 nạn nhân vị thành niên. Con số này tăng đến 238 nạn nhân trong 8 tháng đầu năm.
Chỉ trong tuần trước, ACOSAV ghi nhận thêm 64 trẻ vị thành niên lên tiếng, khiến các nhân viên phải làm việc, tư vấn suốt ngày đêm.
"Đây là tình huống khẩn cấp toàn diện, tình hình như thời chiến vậy", Park Seong-hye, lãnh đạo trung tâm, nói. "Công nghệ deepfake hiện tại đã tạo ra số lượng nội dung nhạy cảm lớn hơn trước rất nhiều, không có dấu hiệu suy giảm".
Giới chức đã triệt phá nhiều phòng chat, nhưng ghi nhận thêm nhiều phòng mới thay thế, trong đó có một phòng chuyên nhắm vào các phóng viên, nhà báo. Điều này khiến Ko Marin mất ngủ nhiều đêm. "Tôi liên tục kiểm tra xem có ảnh của mình không", Marin nói.
Trong khi đó, các nữ sinh Hàn Quốc bắt đầu nghi ngờ người quen, bạn học khác giới của mình. "Hiện không thể chắc chắn ai đang phạm tội ác này sau lưng mà tôi không biết. Tôi trở nên cực kỳ cảnh giác khi tương tác với mọi người. Điều này không tốt chút nào", sinh viên Ah-un cho hay.
Đức Trung (Theo BBC, AP, KoreaTimes)