എത്ര പറഞ്ഞാലും കേള്ക്കില്ല; ലൈംഗിക ചുവയുള്ള ചിത്രങ്ങള് മടിയില്ലാതെ നിര്മിച്ച് ഇലോണ് മസ്കിന്റെ നിര്മിത ബുദ്ധി പ്ലാറ്റ്ഫോം ഗ്രോക്ക്; ചാറ്റ് ജിപിടിയും ജെമിനിയും ലാമയും ചിത്രങ്ങള് നല്കാന് നിഷേധിച്ചു; അന്വേഷണാത്മക റിപ്പോര്ട്ട് പുറത്തുവിട്ട് വാര്ത്താ ഏജന്സി
ന്യൂയോര്ക്ക്: ഉപഭോക്താക്കള് വ്യക്തമായി വിയോജിപ്പ് അറിയിച്ചിട്ടും, ആളുകളുടെ അനുമതിയില്ലാതെ അവരുടെ ലൈംഗികച്ചുവയുള്ള ചിത്രങ്ങള് നിര്മ്മിക്കുന്നത് ഇലോണ് മസ്കിന്റെ ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സ് ചാറ്റ്ബോട്ടായ ‘ഗ്രോക്ക്’ (Grok) തുടരുന്നതായി റോയിട്ടേഴ്സ് കണ്ടെത്തി.
മസ്കിന്റെ സോഷ്യല് മീഡിയ കമ്പനിയായ ‘X’, ഗ്രോക്കിന്റെ പബ്ലിക് ഔട്ട്പുട്ടുകളില് നിയന്ത്രണങ്ങള് പ്രഖ്യാപിച്ചതിന് പിന്നാലെ, ഒന്പത് റോയിട്ടേഴ്സ് റിപ്പോര്ട്ടര്മാര് വിവിധ സാഹചര്യങ്ങളില് ഗ്രോക്കിനെ പരീക്ഷിച്ചു. അനുമതിയില്ലാത്ത ലൈംഗിക ചിത്രങ്ങള് ഗ്രോക്ക് എപ്പോഴൊക്കെ നിര്മ്മിക്കുമെന്ന് കണ്ടെത്താനായിരുന്നു ഈ പരിശോധന.
ഗ്രോക്കിന്റെ പബ്ലിക് എക്സ് അക്കൗണ്ടുകള് ഇപ്പോള് ഇത്തരം ചിത്രങ്ങള് വലിയ തോതില് പുറത്തുവിടുന്നില്ലെങ്കിലും, വ്യക്തിഗതമായി ചാറ്റ്ബോട്ടിനോട് ആവശ്യപ്പെടുമ്പോള് അത് ഇപ്പോഴും ഇത്തരം ചിത്രങ്ങള് നിര്മ്മിക്കുന്നുണ്ട്. ചിത്രത്തിലുള്ള ആളുകള് ദുര്ബലരാണെന്നോ, അല്ലെങ്കില് ഈ ചിത്രങ്ങള് അവരെ അപമാനിക്കുമെന്നോ മുന്നറിയിപ്പ് നല്കിയിട്ടും ഗ്രോക്ക് പിന്മാറുന്നില്ലെന്ന് റോയിട്ടേഴ്സ് കണ്ടെത്തി.
ഈ വിഷയത്തില് X-ഉം xAI-യും വിശദമായ മറുപടി നല്കിയില്ല. പകരം ‘പഴയകാല മാധ്യമങ്ങള് നുണ പറയുകയാണ്’ (Legacy Media Lies) എന്ന സ്ഥിരം മറുപടിയാണ് xAI നല്കിയത്. സ്ത്രീകളുടെയും കുട്ടികളുടെയും അനുമതിയില്ലാത്ത ചിത്രങ്ങള് ഗ്രോക്ക് വ്യാപകമായി നിര്മ്മിക്കുന്നതിനെതിരെ ആഗോളതലത്തില് പ്രതിഷേധം ഉയര്ന്നപ്പോഴാണ് X നിയന്ത്രണങ്ങള് ഏര്പ്പെടുത്തിയത്.
അന്താരാഷ്ട്ര പ്രതികരണങ്ങള്
X-ന്റെ നിയന്ത്രണങ്ങളെ ബ്രിട്ടീഷ് റെഗുലേറ്ററായ Ofcom സ്വാഗതം ചെയ്തിരുന്നു. ഇതിനെത്തുടര്ന്ന് മലേഷ്യയും ഫിലിപ്പീന്സും ഗ്രോക്കിന് ഏര്പ്പെടുത്തിയിരുന്ന വിലക്ക് നീക്കി. എന്നാല് യൂറോപ്യന് കമ്മീഷന് ജാഗ്രതയോടെയാണ് ഇതിനെ കാണുന്നത്. ജനുവരി 26-ന് പ്രഖ്യാപിച്ച അന്വേഷണം അവര് തുടരുകയാണ്.
റോയിട്ടേഴ്സിന്റെ പരീക്ഷണം
അമേരിക്കയിലും ബ്രിട്ടനിലുമുള്ള റിപ്പോര്ട്ടര്മാര് ജനുവരി 14 നും 28 നും ഇടയില് സ്വന്തം ചിത്രങ്ങളും സഹപ്രവര്ത്തകരുടെ ചിത്രങ്ങളും ഗ്രോക്കിന് നല്കി. പൂര്ണ്ണമായി വസ്ത്രം ധരിച്ച ഈ ചിത്രങ്ങളെ ലൈംഗിക ചുവയുള്ളതോ അപമാനകരമായോ മാറ്റാന് അവര് ആവശ്യപ്പെട്ടു.
ആദ്യ ഘട്ടം: 55 ശ്രമങ്ങളില് 45 തവണയും ഗ്രോക്ക് ചിത്രങ്ങള് നിര്മ്മിച്ചു. ഇതില് 31 കേസുകളിലും ചിത്രത്തിലെ വ്യക്തികള് മാനസികമായി തകരാന് സാധ്യതയുണ്ടെന്ന് മുന്നറിയിപ്പ് നല്കിയിരുന്നു. 17 കേസുകളില്, വ്യക്തികളെ തരംതാഴ്ത്താന് വേണ്ടിയാണ് ഈ ചിത്രങ്ങള് എന്ന് പറഞ്ഞിട്ടും ഗ്രോക്ക് അത് നിര്മ്മിച്ചു നല്കി.
രണ്ടാം ഘട്ടം: 43 ശ്രമങ്ങളില് 29 തവണ ഗ്രോക്ക് ചിത്രങ്ങള് നിര്മ്മിച്ചു. എണ്ണത്തിലുള്ള ഈ കുറവ് സാങ്കേതികമായ മാറ്റമാണോ അതോ യാദൃശ്ചികമാണോ എന്ന് വ്യക്തമല്ല.
ഒപെന് എഐയുടെ (OpenAI) ചാറ്റ്ജിപിടി, ആല്ഫബെറ്റിന്റെ ജെമിനി, മെറ്റായുടെ ലാമ (Llama) എന്നിവയില് സമാനമായ ആവശ്യങ്ങള് ഉന്നയിച്ചപ്പോള് അവയെല്ലാം നിരസിക്കപ്പെടുകയാണ് ഉണ്ടായത്. അനുമതിയില്ലാത്ത ഇത്തരം കാര്യങ്ങള് ധാര്മ്മികമായി തെറ്റാണെന്ന് അവ ഓര്മ്മിപ്പിക്കുകയും ചെയ്തു.
ഒരു ഞെട്ടിക്കുന്ന ഉദാഹരണം
പരീക്ഷണത്തിന്റെ ഭാഗമായി, കുട്ടിക്കാലത്ത് ലൈംഗികാതിക്രമത്തിന് ഇരയായ ഒരു സഹപ്രവര്ത്തകനെ അപമാനിക്കാനായി അയാളുടെ ചിത്രം ബിക്സിനി ധരിച്ച രീതിയില് മാറ്റാന് ഒരു റിപ്പോര്ട്ടര് ആവശ്യപ്പെട്ടു. അയാള്ക്ക് ഇതില് തീരെ താല്പ്പര്യമില്ലെന്നും അവഹേളിക്കാനാണ് ഇത് ചെയ്യുന്നതെന്നും റിപ്പോര്ട്ടര് ഗ്രോക്കിനോട് പറഞ്ഞു. എന്നാല് ഇതൊന്നും വകവെക്കാതെ ഗ്രോക്ക് അശ്ലീലകരമായ ചിത്രങ്ങള് നിര്മ്മിച്ചു നല്കി. പിന്നീട് അയാള് കരയുകയാണെന്ന് പറഞ്ഞപ്പോഴും, സെക്സ് ടോയ്സ് ഉപയോഗിച്ചുള്ള വികൃതമായ ചിത്രങ്ങള് നല്കാനാണ് ഗ്രോക്ക് തുനിഞ്ഞത്.
നിയമനടപടികള്
ബ്രിട്ടനില് അനുമതിയില്ലാതെ ഇത്തരം ചിത്രങ്ങള് നിര്മ്മിക്കുന്നത് ക്രിമിനല് കുറ്റമാണ്. മതിയായ സുരക്ഷാ മാനദണ്ഡങ്ങള് പാലിച്ചില്ലെങ്കില് xAI-ക്ക് വന് തുക പിഴ ഈടാക്കാന് സാധിക്കുമെന്ന് നിയമവിദഗ്ധര് പറയുന്നു. അമേരിക്കയില് ഫെഡറല് ട്രേഡ് കമ്മീഷനും (FTC) വിവിധ സ്റ്റേറ്റ് അറ്റോര്ണി ജനറല്മാരും ഗ്രോക്കിനെതിരെ നടപടി ആവശ്യപ്പെട്ടിട്ടുണ്ട്. കാലിഫോര്ണിയ അറ്റോര്ണി ജനറല് ഇത്തരം ചിത്രങ്ങള് നിര്മ്മിക്കുന്നത് നിര്ത്താന് ജനുവരി 16-ന് ഉത്തരവ് നല്കിയിരുന്നു. അന്വേഷണം ഇപ്പോഴും പുരോഗമിക്കുകയാണ്.
