ആളുകളുടെ നഗ്‌നചിത്രങ്ങള്‍ സൃഷ്ടിക്കാന്‍ ചാറ്റ് ബോട്ടുകള്‍ വ്യാപകമായി ഉപയോഗിക്കുന്നുവെന്നാണ് റിപ്പോര്‍ട്ടുകള്‍. ദശലക്ഷക്കണക്കിന് ഉപയോക്താക്കളാണ് ഇത്തരത്തില്‍ ചാറ്റ്‌ബോട്ട് ദുരുപയോഗം ചെയ്യുന്നത്. യഥാര്‍ത്ഥ ആളുകളുടെ ചിത്രങ്ങളില്‍ ഒന്നോ രണ്ടോ ക്ലിക്കുകള്‍ കൊണ്ടുതന്നെ ഡീപ് ഫേക്കുകള്‍ സൃഷ്ടിക്കാന്‍ സാധിക്കും.

‘വയര്‍ഡ്’ മാഗസീന്‍ പ്രസിദ്ധീകരിച്ച റിപ്പോര്‍ട്ടനുസരിച്ച് ഓരോ മാസവും 4 ദശലക്ഷം ഉപയോക്താക്കളാണ് ഡീപ്‌ഫേക്കുകള്‍ സൃഷ്ടിക്കാന്‍ AI ചാറ്റ്‌ബോട്ടുകള്‍ ഉപയോഗിക്കുന്നത്. കൗമാര പ്രായക്കാരായ പെണ്‍കുട്ടികളാണ് ഇത്തരം ഡീപ് ഫേക്കുകള്‍ക്ക് ഇരയാകുന്നതെന്നും റിപ്പോര്‍ട്ടില്‍ പറയുന്നു. ചാറ്റ് ബോട്ടുകളിലൂടെ ജനറേറ്റ് ചെയ്യുന്ന ചിത്രങ്ങള്‍ ഉപയോഗിച്ച് ബ്ലാക്ക്‌മെയിലിംഗ്, ലൈംഗിക അതിക്രമം ഉള്‍പ്പെടയുള്ള ഗുരുതര കുറ്റകൃത്യങ്ങള്‍ സ്ത്രീകള്‍ക്കെതിരെ നടക്കുന്നതായും റിപ്പോര്‍ട്ടുകളുണ്ട്.

അടുത്തിടെ യുഎസില്‍ നടന്ന ഒരു സര്‍വേയില്‍ 40 ശതമാനം വിദ്യാര്‍ത്ഥികളും തങ്ങളുടെ ഡീപ് ഫേക്കുകള്‍ സ്‌കൂളില്‍ പ്രചരിക്കുന്നുണ്ടെന്ന് കണ്ടെത്തിയതായി പറയുന്നു. വിവര്‍ത്തനങ്ങള്‍ക്കും അലര്‍ട്ടുകള്‍ക്കും പേരുകേട്ട ടെലഗ്രാമുകള്‍ ഇപ്പോള്‍ ഇത്തരം AI ചാറ്റ്‌ബോട്ടുകളുടെ കേന്ദ്രമാണ്. കുട്ടികളുടെ അശ്ലീലചിത്രങ്ങള്‍ നിര്‍മ്മിക്കാന്‍ പ്ലാറ്റ്ഫോം ദുരുപയോഗം ചെയ്തതുമായി ബന്ധപ്പെട്ട് ടെലഗ്രാം സിഇഒ പവല്‍ ഡുറോവ് ഈ വര്‍ഷം ആദ്യം അറസ്റ്റിലായിരുന്നു. എന്നാല്‍ ചാറ്റ്‌ബോട്ടുകളുടെ പ്രവര്‍ത്തനങ്ങളില്‍ കാര്യമായ മാറ്റമൊന്നും വരുത്തിയിട്ടില്ല.