Business Insider dẫn thống kê cho thấy số ứng dụng AI và trang web cung cấp công cụ “cởi đồ” phụ nữ đang có xu hướng tăng đột biến. Người dùng chỉ cần tải lên ảnh bình thường của một người, AI sẽ trả về ảnh khỏa thân của người đó trong vài giây.
Theo công ty phân tích truyền thông xã hội Graphika, một nhóm 34 trang web cho phép “xóa quần áo” bằng AI đã thu hút 24 triệu lượt truy cập trong tháng 9. Dữ liệu từ Sameweb cũng cho thấy, trên các mạng xã hội như X, Reddit, nội dung chứa link giới thiệu các trang web và ứng dụng này tăng hơn 2.000% từ đầu năm đến nay.
Một nhóm chuyên cung cấp dịch vụ ảnh deepfake khiêu dâm trên Telegram, thu hút hàng nghìn người tham gia. Ảnh: Khương Nha
“Mức độ phổ biến của dịch vụ ‘cởi đồ’ bằng AI ngày càng tăng. Khả năng tiếp cận người dùng lớn dẫn đến nguy cơ gây hại trực tuyến khác như tạo và phát tán ảnh khỏa thân mà không được sự đồng ý của người trong ảnh”, nhóm nghiên cứu Sameweb nói.
Theo các chuyên gia, ảnh và video khỏa thân deepfake đã xuất hiện nhiều năm trước, nhưng quy mô không lớn do hạn chế về kỹ thuật, cấu hình máy móc. Tuy nhiên khi cơn sốt AI tạo sinh bùng nổ, các chatbot ngày càng dễ dùng khiến nội dung này tràn ngập mạng xã hội. Ví dụ, hồi tháng 9, ảnh khỏa thân giả của hơn 20 nữ sinh đã lan truyền ở một số trường học Tây Ban Nha, gây chấn động cộng đồng. Theo El País, các bức ảnh được xử lý bởi một ứng dụng AI.
Instagram, TikTok, YouTube, Twitter và Facebook có chính sách “ngăn chặn các thông tin gây hiểu lầm”. Tuy nhiên, hầu hết không thể kiểm soát do khối lượng nội dung deepfake quá lớn. Trong khi đó, pháp luật chưa có chế tài cụ thể cho ảnh khiêu dâm giả mạo.
Các nhà phát triển siêu AI như OpenAI cũng tuyên bố xóa nội dung khiêu dâm khỏi dữ liệu được dùng để đào tạo AI vẽ tranh Dall-E. Midjourney cũng chặn từ khóa liên quan đến khiêu dâm, khuyến khích người dùng báo cáo nếu thấy nội dung nhạy cảm. Công ty khởi nghiệp Stability AI cũng cập nhật phần mềm vào tháng 11/2022 nhằm loại bỏ khả năng tạo ảnh tục tĩu trên Stable Diffusion. Tuy nhiên, người dùng luôn có cách để lách luật và tạo ra những bức ảnh phản cảm.
Theo giáo sư Cailin O’Connor tại Đại học California, deepfake có thể gây hại không kém những hình ảnh thật. “Dù chúng là giả, ấn tượng được gieo vào đầu người xem vẫn tồn tại. Nạn nhân của deepfake luôn phải đón nhận ánh nhìn tò mò, giễu cợt và thiếu tôn trọng”, giáo sư nói.
Khương Nha (theo Business Insider)
