Les photos de personnes réelles sont modifiées à l'aide de l'IA pour les faire apparaître nues. Dame Rachel de Souza, commissaire à l'enfance pour l'Angleterre, a déclaré qu'une interdiction totale de ces applications était nécessaire.

Dame Rachel de Souza a publié un nouveau rapport sur ce sujet qui explique que les jeunes filles changent de comportement en ligne à cause de ce type de technologie.

Dans ce rapport, elle déclare : "Au cours de notre vie, nous avons vu l'essor et le pouvoir de l'intelligence artificielle - qui relevait autrefois de la science-fiction - façonner notre façon d'apprendre, de nous connecter et d'appréhender le monde. Elle a un énorme potentiel pour améliorer nos vies, mais entre de mauvaises mains, elle présente aussi des risques alarmants pour la sécurité des enfants en ligne. Des enfants m'ont dit qu'ils étaient effrayés par l'idée même que cette technologie soit disponible, sans parler de son utilisation. Ils craignent que n'importe qui - un inconnu, un camarade de classe ou même un ami - puisse utiliser un smartphone pour les manipuler en créant une image nue à l'aide de ces applications sur mesure. Des filles m'ont dit qu'elles évitaient désormais activement de publier des images ou de s'engager en ligne pour réduire le risque d'être ciblées par cette technologie. Nous ne pouvons pas rester les bras croisés et permettre à ces applications d'IA sur mesure d'avoir une emprise aussi dangereuse sur la vie des enfants. Le monde en ligne est révolutionnaire et évolue rapidement, mais il n'y a aucune raison positive pour que ces applications particulières existent."