ചാറ്റ് ചെയ്യുന്നതിന് മുൻപ് ഇനിയൊന്ന് ചിന്തിക്കണം. നമ്മൾ രഹസ്യമാണെന്ന് കരുതുന്നവ അങ്ങനെയാവണമെന്നില്ലെന്നാണ് കമ്പനി പറയുന്നത്.

ചാറ്റുകൾ കമ്പനി നിരീക്ഷിക്കുണ്ടെന്നും അപകടകരമായ രീതിയിലുള്ള സന്ദേശങ്ങൾ ശ്രദ്ധയിൽപ്പെട്ടാൽ അവ പൊലീസിന് കൈമാറുമെന്നും ഓപ്പൺ എ ഐ അറിയിച്ചു. സമീപകാലത്ത് പുറത്തിറക്കിയ ബ്ലോഗ് പോസ്റ്റിലാണ് കമ്പനി ഇക്കാര്യത്തെക്കുറിച്ച് സംസാരിച്ചത്.

സ്വയം ശാരീരിക ഉപദ്രവം നടത്തുന്നതിനോ മറ്റുള്ളവരെ ഉപദ്രവിക്കാൻ ലക്ഷ്യമിട്ടുകൊണ്ടുള്ളതോ ആയ ചാറ്റുകൾ സാങ്കേതിക സംവിധാനങ്ങൾ തിരിച്ചറിയുകയും അവ ഹ്യൂമൻ റിവ്യൂവര്‍മാർക്ക് കൈമാറുകയും ചെയ്യും.

സംഭവത്തിന്‍റെ ഗൗരവത്തിനനുസരിച്ച് പൊലീസിന് കൈമാറാൻ സാധ്യതയുണ്ടെന്നും കമ്പനി വ്യക്തമാക്കി. അത്തരം സംഭവങ്ങളിൽ ഉൾപ്പെട്ട അക്കൗണ്ടുകൾ നിരോധിക്കാൻ കഴിയുമെന്നും ഓപ്പൺ എ ഐ വ്യക്തമാക്കി.

ചെറിയ ഇടപെടലുകളിൽ മാത്രമേ തങ്ങളുടെ സുരക്ഷാ സംവിധാനങ്ങൾ കൂടുതൽ വിശ്വസനീയമാക്കാൻ ക‍ഴിയുകയുള്ളുവെന്ന് കമ്പനി സമ്മതിച്ചു. ദീർഘമായതോ ആവർത്തിച്ചുള്ളതോ ആയ സംഭാഷണങ്ങളിൽ സുരക്ഷാ സംവിധാനങ്ങൾ മോശമാകാൻ സാധ്യതയുണ്ടെന്നും അത് സുരക്ഷാ പ്രോട്ടോക്കോളുകളുമായി വൈരുദ്ധ്യമുള്ള പ്രതികരണങ്ങൾ ലഭിക്കുന്നതിന് കാരണമാകുന്നുവെന്നും കമ്പനി വ്യക്തമാക്കി.

കുറച്ച് ദിവസങ്ങൾക്കു മുമ്പ് കൗമാരക്കാരനായ മകനെ ആത്മഹത്യ ചെയ്യാൻ ചാറ്റ് ജി പി ടി പ്രേരിപ്പിച്ചുവെന്ന് ആരോപിച്ച് അമേരിക്കൻ ദമ്പതികൾ കോടതിയെ സമീപിച്ചിരുന്നു. ആത്മഹത്യ ചെയ്ത തങ്ങളുടെ മകൻ ആദവുമായി ചാറ്റ് ജി പി ടി ആഴത്തിലുള്ള വ്യക്തിബന്ധമുണ്ടാക്കുന്ന രീതിയിൽ മാസങ്ങളോളം സംവദിച്ചിരുന്നുവെന്ന് ദമ്പതികൾ കാലിഫോർണിയ സ്റ്റേറ്റ് കോടതിയിൽ നൽകിയ പരാതിയിൽ പറയുന്നു.

2025 ഏപ്രിൽ 11ന് ആദം ജീവനൊടുക്കുന്നതിന് മുൻപ് നടന്ന അവസാന സംഭാഷണത്തിൽ 16 വയസ്സുകാരനായ ആദത്തെ മാതാപിതാക്കളിൽ നിന്ന് വോഡ്ക മോഷ്ടിക്കാൻ ചാറ്റ് ജി പി ടി സഹായിച്ചു. തൂങ്ങിമരിക്കാൻ ലക്ഷ്യമിട്ട് ആദം തയ്യാറാക്കിയ കുരുക്കിന് ഒരാളുടെ കനം താങ്ങാനാവുമോ എന്നതടക്കം സാ​ങ്കേതിക വിവരങ്ങൾ നൽകിയെന്നും മാതാപിതാക്കൾ പരാതിയിൽ ആരോപിക്കുന്നു.