അതീവ യാഥാർത്ഥ്യമെന്ന് തോന്നിപ്പിക്കുന്ന കൃത്രിമ ചിത്രങ്ങളും വീഡിയോകളുമാണ്, ജനപ്രിയരായ വ്യക്തികളുടെയും സാധാരണ ജനങ്ങളുടെയും മുഖവും ശബ്ദവും ഉപയോഗിച്ച് സൃഷ്ടിക്കുന്നത്. ഇത്തരത്തിൽ തയ്യാറാക്കുന്ന വീഡിയോകൾ പലപ്പോഴും ശരി തന്നെയാണെന്ന് ആളുകൾ വിശ്വസിക്കുന്ന തരത്തിൽ കൃത്യതയോടെ കാണപ്പെടും.

ഇന്റർനെറ്റിൽ ലഭ്യമായ ഫോട്ടോകളും വീഡിയോകളും അടിസ്ഥാനമാക്കി ജനറേറ്റീവ് എഐ ഉപയോഗിച്ചാണ് ഡീപ് ഫേക്ക് ഒരുക്കുന്നത്. ഈ സാങ്കേതിക വിദ്യയുടെ ഏറ്റവും അപകടകരമായ വശം അതിന്റെ ദുഷ്പ്രഭാവമാണ്, വ്യക്തികളുടെ വിശ്വാസ്യതയും സ്വകാര്യതയും ഇതിലൂടെ തകർക്കപ്പെടുന്നു.

തമാശയ്ക്ക്, വിനോദത്തിനായി, അല്ലെങ്കിൽ രാഷ്ട്രീയ, സാമൂഹിക പ്രചാരണങ്ങൾക്ക് വേണ്ടി ഡീപ് ഫേക്ക് ഉപയോഗിക്കുന്നത് ഇക്കാലത്ത് സാധാരണയാകുകയാണ്. എന്നാൽ പ്രശസ്തരുടെ മാത്രമല്ല ഏതെങ്കിലും വ്യക്തിയുടെയും രൂപം ഉപയോഗിച്ച് അനധികൃതമായി വ്യാജ വീഡിയോകൾ സൃഷ്ടിക്കാൻ ഇത് ഉപകരിക്കുന്നു. അതിലൂടെ വ്യാജ വാര്‍ത്തകളും ചതി നടപടികളും നടത്തുന്ന സാഹചര്യമുണ്ട്. സാമ്പത്തിക തട്ടിപ്പുകൾ മുതൽ സാമൂഹിക അപകീര്‍ത്തി വരെയായി ഇതിന്റെ ആഘാതം വ്യാപകമാണ്.

ഓൺലൈൻ പ്ലാറ്റ്ഫോമുകൾ വഴി ശേഖരിക്കുന്ന വ്യക്തിഗത ഡേറ്റകളും പ്രൈവസി ലംഘനങ്ങളും ഡീപ് ഫേക്ക് സാങ്കേതികവിദ്യയ്ക്ക് ഇന്ധനമായി പ്രവർത്തിക്കുന്നു. അതിനാൽ തന്നെ ഇത്തരം കൃത്രിമ സൃഷ്ടികളെക്കുറിച്ച് ജാഗ്രത പുലർത്തുകയും അവ തിരിച്ചറിയാൻ സാധിക്കുന്ന രീതിയിലായും നൈതികമായും നിയമപരമായും വ്യക്തികളും സ്ഥാപനങ്ങളും സജ്ജരാകേണ്ടതുണ്ട്. ഡീപ് ഫേക്ക് ഒരു സാങ്കേതിക അതിസാധ്യത മാത്രമല്ല, അതൊരു സാമൂഹിക ചതിയാകാൻ സാധ്യതയുള്ള ശക്തിയുമാണ്.