Theo nghiên cứu của cơ quan Liên Hiệp Quốc, hàng triệu trẻ em là nạn nhân của những hình ảnh bị chỉnh sửa bằng trí tuệ nhân tạo, thường thông qua các ứng dụng "làm khỏa thân" và deepfake. Những kẻ săn mồi và bạn bè lấy những bức ảnh công khai – chẳng hạn như ảnh tự sướng trên mạng xã hội hoặc ảnh chụp ở trường – và sử dụng trí tuệ nhân tạo tạo sinh để tạo ra những hình ảnh tình dục chân thực, không được sự đồng ý, được sử dụng cho mục đích bắt nạt trực tuyến, tống tiền tình dục và phát tán nội dung bất hợp pháp.
<!>
Báo cáo từ Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (National Center for Missing and Exploited Children = NCMEC) cho thấy hàng chục nghìn báo cáo trên CyberTipline liên quan đến hình ảnh do Trí tuệ nhân tạo tạo ra.
Quỹ Trẻ Em Liên Hiệp Quốc (UNICEF) ngày càng lo ngại trước những báo cáo về sự gia tăng nhanh chóng số lượng hình ảnh mang tính tình dục do trí tuệ nhân tạo tạo ra đang lan truyền, bao gồm cả các trường hợp ảnh trẻ em bị chỉnh sửa và tình dục hóa.
Deepfakes – hình ảnh, video hoặc âm thanh được tạo ra hoặc chỉnh sửa bằng Trí tuệ Nhân tạo (AI) nhằm trông giống thật – đang ngày càng được sử dụng để tạo ra nội dung khiêu dâm liên quan đến trẻ em, bao gồm cả thông qua “làm trần truồng”, trong đó các công cụ AI được sử dụng để lột bỏ hoặc thay đổi quần áo trong ảnh nhằm tạo ra hình ảnh khỏa thân hoặc khiêu dâm giả mạo.
Bằng chứng mới xác nhận quy mô của mối đe dọa đang phát triển nhanh chóng này: Trong một nghiên cứu của các tổ chức UNICEF, ECPAT (End Child Pornography and Trafficking, Chấm dứt nạn mại dâm trẻ em, khiêu dâm trẻ em và buôn bán trẻ em vì mục đích tình dục) và Cảnh Sát Quốc Tế INTERPOL trên 11 quốc gia, ít nhất 1,2 triệu trẻ em* cho biết hình ảnh của các em đã bị chỉnh sửa thành các video deepfake khiêu dâm trong năm 2025 vừa qua. Ở một số quốc gia, con số này tương đương với 1 trên 25 trẻ em – tương đương với một trẻ em trong một lớp học điển hình.
Bản thân trẻ em nhận thức rất rõ về nguy cơ này. Tại một số quốc gia tham gia nghiên cứu, có đến hai phần ba trẻ em cho biết chúng lo lắng rằng trí tuệ nhân tạo (AI) có thể được sử dụng để tạo ra hình ảnh hoặc video khiêu dâm giả mạo. Mức độ lo ngại khác nhau rất nhiều giữa các quốc gia, cho thấy nhu cầu cấp thiết về các biện pháp nâng cao nhận thức, phòng ngừa và bảo vệ mạnh mẽ hơn.
Chúng ta cần phải rõ ràng. Hình ảnh trẻ em bị tình dục hóa được tạo ra hoặc chỉnh sửa bằng công cụ AI là tài liệu lạm dụng tình dục trẻ em (CSAM = Child Sexual Abuse Material). Lạm dụng bằng Deepfake là lạm dụng, và không có gì là giả tạo về tác hại mà nó gây ra.
Khi hình ảnh hoặc danh tính của một đứa trẻ bị dùng cho mục đích xấu, đứa trẻ đó trực tiếp trở thành nạn nhân. Ngay cả khi không xác định được nạn nhân, các nội dung lạm dụng tình dục trẻ em do AI tạo ra cũng bình thường hóa việc bóc lột tình dục trẻ em, thúc đẩy nhu cầu về nội dung lạm dụng và đặt ra những thách thức đáng kể cho các cơ quan thực thi pháp luật trong việc xác định và bảo vệ những đứa trẻ cần giúp đỡ.
UNICEF hết sức hoan nghênh những nỗ lực của các nhà phát triển AI đang khai triển các phương pháp thiết kế an toàn và các biện pháp bảo vệ mạnh mẽ để ngăn chặn việc lạm dụng hệ thống của họ. Tuy nhiên, bức tranh tổng thể vẫn còn chưa đồng đều, và quá nhiều mô hình AI không được phát triển với các biện pháp bảo vệ đầy đủ. Rủi ro có thể tăng lên khi các công cụ AI tạo sinh được nhúng trực tiếp vào các nền tảng truyền thông xã hội, nơi hình ảnh bị thao túng lan truyền nhanh chóng.
Tác hại từ việc lạm dụng deepfake là có thật và cấp bách. Trẻ em không thể chờ đợi luật pháp bắt kịp.
Tội phạm lợi dụng nội dung được chia sẻ công khai theo một vài cách cụ thể:
1-. Thu thập dữ liệu nguồn: Các mô hình AI quét các tài khoản mạng xã hội công khai, trang web trường học và kỷ yếu.
2-. Trí tuệ nhân tạo "biến đổi quần áo": Những bức ảnh chụp một đứa trẻ mặc đầy đủ quần áo được đưa vào các trang web hoặc ứng dụng trí tuệ nhân tạo chuyên dụng để xử lý hình ảnh, loại bỏ hoặc thay đổi quần áo.
3-. Phân phối & Tống tiền: Những hình ảnh giả mạo được tạo ra sau đó được chia sẻ giữa những người cùng trang lứa, đăng tải lên các diễn đàn trực tuyến hoặc được sử dụng trực tiếp để tống tiền, ép buộc và bóc lột tình dục trẻ em.
Nạn nhân thường trải qua chấn thương tâm lý nghiêm trọng, bị cô lập xã hội, lo âu và trầm cảm do bị xâm phạm quyền riêng tư và bị sỉ nhục trước công chúng.
Các tổ chức như UNICEF, INTERPOL và các cơ quan thực thi pháp luật phân loại rõ ràng các hình ảnh trẻ em bị tình dục hóa do AI tạo ra là Tài liệu Lạm dụng Tình dục Trẻ em, vì tác hại đối với nạn nhân được coi là nghiêm trọng như lạm dụng thể chất.
Lượng nội dung do AI tạo ra khổng lồ tràn ngập internet đã khiến các nhà điều tra khó phân biệt được đâu là trẻ em thực sự đang gặp nguy hiểm về thể chất, đâu là hình ảnh giả mạo do kỹ thuật số tạo ra.
NHỮNG ĐIỀU CHA MẸ VÀ GIÁO VIÊN CÓ THỂ LÀM
Quản lý khả năng hiển thị trực tuyến. Xem lại cài đặt quyền riêng tư và hạn chế số lượng hình ảnh có thể nhận dạng (đặc biệt là ảnh trường học và thể thao) được đăng tải trên các tài khoản mạng xã hội công khai.
Giao tiếp cởi mở: Hãy nói chuyện với trẻ em về những rủi ro của trí tuệ nhân tạo, lạm dụng hình ảnh và đảm bảo chúng biết rằng chúng có thể tìm kiếm sự giúp đỡ từ người lớn đáng tin cậy nếu chúng bị nhắm mục tiêu hoặc bị tống tiền.
Hành động ngay lập tức: Nếu phát hiện hình ảnh trẻ vị thành niên bị chỉnh sửa bằng trí tuệ nhân tạo, không được phép phát tán, sao chép hoặc lưu trữ. Hãy bảo quản bằng chứng và báo cáo ngay lập tức cho cảnh sát địa phương và các tổ chức như NCMEC CyberTipline hoặc cơ quan bảo vệ trẻ em quốc gia của bạn.
Phan Hạnh.
Theo tài liệu của UNICEF về hình ảnh trẻ em bị tình dục hóa do trí tuệ nhân tạo tạo ra.
Không có nhận xét nào:
Đăng nhận xét