‘ഏകാധിപത്യം, തൊഴില് നഷ്ടം, ഭീകരവാദം, പണക്കൊതി; ജീവിവര്ഗമെന്ന നിലയില് നിലനില്പിനെ തന്നെ തീരുമാനിക്കും’; നിര്മിത ബുദ്ധി നീങ്ങുന്നത് അപകടകരമായ വഴിയില്; മുമ്പു പറഞ്ഞതെല്ലാം തള്ളിപ്പറഞ്ഞ് മുന്നറിയിപ്പുമായി എഐ കമ്പനി സിഇഒയുടെ ലേഖനം; പക്വതയില്ലാത്ത ലോകത്തെക്കുറിച്ച് ഭീതിയെന്നും ആന്ത്രോപ്പിക് തലവന് ഡാരിയോ അമോഡേയ്
ന്യൂയോര്ക്ക്: കൃത്യമായ ഇടപെടലുകള് നടത്തിയില്ലെങ്കില് മനുഷ്യബുദ്ധിയെ മറികടന്ന് നിര്മിത ബുദ്ധി (super-human intelligence) നാഗരികതയ്ക്കുതന്നെ ഭീഷണിയാകുമെന്ന് ലോകത്തെ ഏറ്റവും ശക്തവും ജനപ്രിയവുമായ എഐ സംവിധാനങ്ങളുടെ ശില്പിയായ ആന്ത്രോപിക് സിഇഒ ഡാരിയോ അമോഡേയ് (Anthropic CEO Dario Amodei). നമ്മള് ഒരു അഗ്നിപരീക്ഷയിലേക്കു കടക്കുകയാണെന്നും ഇത് അങ്ങേയറ്റം പ്രക്ഷുബ്ധവും അതുപോലെതന്നെ ഒഴിവാക്കാന് കഴിയാത്തതുമാണ്. ഒരു ജീവിവര്ഗമെന്ന നിലയില് നമ്മളുടെ നിലനില്പ്പിനെത്തന്നെ ഇതു തീരുമാനിക്കുമെന്നും അദ്ദേഹം 38 പേജുള്ള ലേഖനത്തില് പറയുന്നു. ‘മനുഷ്യരാശിക്ക് ഊഹിക്കാനാവാത്ത അത്രയും വലിയ അധികാരം ലഭിക്കാന് പോകുകയാണ്. എന്നാല് നമ്മുടെ സാമൂഹികവും രാഷ്ട്രീയവും സാങ്കേതികവുമായ സംവിധാനങ്ങള്ക്ക് അത് കൈകാര്യം ചെയ്യാനുള്ള പക്വതയുണ്ടോ എന്നതു വ്യക്തമല്ലെന്നും അദ്ദേഹം പറയുന്നു.
എന്തുകൊണ്ട് ഇത് പ്രധാനമാണ്: ലോകത്തിലെ ഏറ്റവും നൂതനമായ എല്എല്എം (LLM systems) സംവിധാനങ്ങള് നിര്മ്മിച്ച കമ്പനിയാണ് അമോഡേയുടെ ആന്ത്രോപിക്. അവരുടെ പുതിയ ‘ക്ലോഡ് ഓപ്പസ് 4.5’ (Claude Opus 4.5), കോഡിംഗ് ടൂളുകള് എന്നിവ സിലിക്കണ് വാലിയിലെ വലിയ ചര്ച്ചാവിഷയമാണ്. ആന്ത്രോപിക്കിന്റെ ഉത്പന്നങ്ങള് നിര്മ്മിക്കാനുള്ള പ്രോഗ്രാമിംഗിന്റെ 90 ശതമാനവും ചെയ്യുന്നത് എഐ തന്നെയാണ്. അവരുടെ എഐ സംവിധാനങ്ങള് വികസിപ്പിക്കുന്നതുപോലും മറ്റൊരു എഐ ആണ്!
ഗവണ്മെന്റുകളും ടെക് കമ്പനികളും പൊതുജനങ്ങളും വരാനിരിക്കുന്ന അപകടങ്ങളെ വളരെ നിസാരമായാണു കാണുന്നതെന്ന് എഐയുടെ അപകടങ്ങളെക്കുറിച്ച് സംസാരിക്കുന്ന പ്രമുഖരില് ഒരാളായ അമോഡേയ് ഭയപ്പെടുന്നു. ഇതിനു മുമ്പ് 2024ല് അദ്ദേഹത്തിന്റെ മറ്റൊരു ലേഖനവും വമ്പന് ചര്ച്ചയായിരുന്നു. ‘ലോകത്തെ എങ്ങനെ മെഷീനുകള് കൂടുതല് മനോഹരമാക്കിത്തീര്ക്കും’ എന്നായിരുന്നു അതിന്റെ തലക്കെട്ട്. എന്നാലിപ്പോള്, അതത്ര മഹോരമായിരിക്കില്ലെന്നു തിരുത്തുകയാണ് അമോഡേയ്.
മനുഷ്യന് ഈ ഭീഷണികളെ മറികടക്കാന് കഴിയും. പക്ഷേ അതിനുവേണ്ടി എഐ പദ്ധതികള്ക്കു നേതൃത്വം നല്കുന്നവരും രാഷ്ട്രീയ നേതൃത്വവും ഇച്ഛാശക്തിയോടെ പ്രവര്ത്തിക്കുകയും മനുഷ്യനെ കേന്ദ്ര സ്ഥാനത്തു നിര്ത്തുകയും വേണം.
പ്രധാന മുന്നറിയിപ്പുകള്
അതിബുദ്ധിയുള്ള യന്ത്രങ്ങള്: ഒന്നോ രണ്ടോ വര്ഷത്തിനുള്ളില് ഒരു ഡാറ്റാ സെന്ററിനുള്ളില് ‘പ്രതിഭകളുടെ ഒരു രാജ്യം’ (country of geniuses in a datacenter) തന്നെയുണ്ടാകുമെന്ന് അദ്ദേഹം വിശ്വസിക്കുന്നു. അതായത് നോബല് സമ്മാനം നേടിയ ശാസ്ത്രജ്ഞരേക്കാള് ബുദ്ധിയുള്ള യന്ത്രങ്ങള് സ്വയം കാര്യങ്ങള് ചെയ്യാനും ആയുധങ്ങള് വരെ നിര്മിക്കാനും പ്രാപ്തമാകും. ലോകത്തെ ഏറ്റവും അതിബുദ്ധിയുള്ള, നോബല് സമ്മാന ജേതാക്കളേക്കാള് കഴിവുള്ള 50 ദശലക്ഷം ആളുകളെ ഒരുമിച്ച് ഒരു സ്ഥലത്ത് എത്തിച്ചു ജോലി ചെയ്യിക്കുന്നതിനേക്കാള് അപകടകരമാകും ഇത്.
തൊഴില് നഷ്ടം: അടുത്ത ഒന്നു മുതല് 5 വര്ഷത്തിനുള്ളില് എന്ട്രി ലെവലിലുള്ള 50% വെള്ളക്കോളര് (ക്ലാര്ക്ക് മുതല് അക്കൗണ്ടന്റും അടക്കമുള്ളവര്) ജോലികളെയും എഐ ബാധിക്കുമെന്ന് അദ്ദേഹം കരുതുന്നു.
ഭീകരവാദ ഭീഷണി: ജൈവായുധങ്ങള് (Rising terror threat) നിര്മ്മിക്കാന് എഐ സഹായിച്ചേക്കാം എന്നത് വലിയ ആശങ്കയാണ്. ഇത് ദശലക്ഷക്കണക്കിന് ആളുകളുടെ ജീവനെടുക്കാന് ശേഷിയുള്ള ആക്രമണങ്ങളിലേക്ക് നയിച്ചേക്കാം. തീവ്രവാദികളും ഇന്ന് മികച്ച വിദ്യാഭ്യാസം നേടിയവരാണ്. പ്രത്യേക വിഭാഗത്തെ ലക്ഷ്യമിട്ടോ മറ്റുമുള്ള നീക്കങ്ങള്ക്ക് ബയോളജിക്കല് ആയുധങ്ങള് നിര്മിക്കാന് എഐ ഉപയോഗിച്ച് എളുപ്പം കഴിയും. ഇത് ഉടനടി സംഭവിക്കുമെന്നല്ല. ഒരുദശലക്ഷം ആളുകളും ഏതാനും വര്ഷങ്ങളും ലഭിച്ചാല് ഇതു സാധ്യമാക്കാന് ബുദ്ധിമുട്ടില്ല. മറ്റേതൊരു യുദ്ധത്തേക്കാളും അതി വിനാശകരമായിരിക്കും ജൈവായുധങ്ങള്.
അധികാര ദുര്വിനിയോഗം: ഏകാധിപത്യ രാജ്യങ്ങള് എഐ ഉപയോഗിച്ച് നിരീക്ഷണ സംവിധാനങ്ങള് ശക്തമാക്കുന്നത് ഭയപ്പെടുത്തുന്നു. ചൈനയെപ്പോലുള്ള രാജ്യങ്ങള് എഐ സാങ്കേതിക വിദ്യയുടെ കാര്യത്തില് അമേരിക്കയ്ക്കു തൊട്ടു പിന്നിലുണ്ട്. ഭാവിയില് ഇവര് മറികടക്കാനും സാധ്യതയുണ്ട്. എന്നാല്, അമേരിക്കയെക്കാള് ജനങ്ങള്ക്കുമേല് നിരീക്ഷണം ഏര്പ്പെടുത്താന് എഐ ഇവര് ഉപയോഗിക്കുമെന്ന ഭീതിയുമുണ്ട്. ഇത് ഏകാധിപത്യ ക്രമം നിലനിര്ത്താന് ഉപയോഗിച്ചേക്കും.
എഐ കമ്പനികളുടെ സ്വാധീനം: കമ്പനികള് തങ്ങളുടെ എഐ ഉപയോഗിച്ച് ഉപഭോക്താക്കളെ ബ്രെയിന് വാഷ് ചെയ്യാന് സാധ്യതയുണ്ട്. എഐ കമ്പനിയുടെ തലവനെന്ന നിലയില് ഇതു പറയുന്നതില് ബുദ്ധിമുട്ടുണ്ട്. എഐ കമ്പനികള്ക്കു കൂറ്റന് ഡാറ്റാ സെന്ററുകള് ഉണ്ട്. ഇവര്ക്കു കൂടുതല് എഐ മോഡലുകളെ പരിശീലിപ്പിക്കാന് സാധിക്കും. ഇതോടൊപ്പം പതിനായിരക്കണക്കിന് ആളുകളുമായി പ്രതിദിനമെന്നോണം ആശയവിനിമയവും നടക്കുന്നു. ഗൂഗിളിനെക്കാള് ആളുകള് ചോദിക്കുന്നത് എഐയോട് ആയിട്ടുണ്ട്. ഇതിനുള്ള മറുപടികളിലൂടെ ബൗദ്ധികമായി സ്വാധീനിക്കാന് സാധ്യതയുണ്ട്.
പണക്കൊതിയും നിശബ്ദതയും: എഐ വഴി കോടിക്കണക്കിന് രൂപ സമ്പാദിക്കാന് കഴിയുന്നതിനാല്, അതിന്റെ അപകടങ്ങളെക്കുറിച്ച് സംസാരിക്കാന് പലരും മടിക്കുന്നു. ‘ഇതൊരു കെണിയാണ്. എഐ അത്രത്തോളം ആകര്ഷകമായ ഒരു സമ്മാനമാണ്, അതുകൊണ്ടുതന്നെ അതിന് നിയന്ത്രണങ്ങള് ഏര്പ്പെടുത്തുക എന്നത് മനുഷ്യ നാഗരികതയ്ക്ക് പ്രയാസകരമായിരിക്കുമെന്നും അമോഡേയ് എഴുതുന്നു. എന്നാല്, ഇതേക്കുറിച്ച് നിരവധി ടെക് തലവന്മാര് മനസിലാക്കിയിട്ടുണ്ട് എന്നത് ആശ്വാസകരമാണ്. ഇവര് അമിതമായി പണം സമ്പാദിക്കുന്നതിന്റെയും അതിന്റെ മാനസികാവസ്ഥയുടെയും ശൂന്യത അവര് തിരിച്ചറിഞ്ഞിട്ടുണ്ട. അവര് മുന്നോട്ടു വരുമെന്നാണു പ്രതീക്ഷയെന്നും അദ്ദേഹം പറയുന്നു.
അവസാന വാക്ക്: ‘മനുഷ്യരാശി ഉണരേണ്ട സമയമായിരിക്കുന്നു. വരാനിരിക്കുന്ന വര്ഷങ്ങള് അങ്ങേയറ്റം പ്രയാസകരമായിരിക്കും. ഈ ലേഖനം ആളുകളെ ഉണര്ത്താനുള്ള ഒരു ശ്രമമാണെന്നും അദ്ദേഹം പറഞ്ഞു.
Anthropic CEO Dario Amodei, the architect of the most powerful and popular AI system for global business, is warning of the imminent “real danger” that super-human intelligence will cause civilization-level damage absent smart, speedy intervention. In a 38-page essay, shared with us in advance of Monday’s publication, Amodei writes: “I believe we are entering a rite of passage, both turbulent and inevitable, which will test who we are as a species.” Humanity is about to be handed almost unimaginable power, and it is deeply unclear whether our social, political, and technological systems possess the maturity to wield it.”
