નવી દિલ્હી, તા. ૯ જૂન, ૨૦૨૫:
અમેરિકાના ફ્લોરિડા રાજ્યમાં એક અત્યંત દુઃખદ અને ચિંતાજનક ઘટના સામે આવી છે. ‘ગેમ ઓફ થ્રોન્સ’ પર આધારિત એક આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ચેટબોટના પ્રેમમાં પડ્યા બાદ ૧૪ વર્ષના એક તરુણે આપઘાત કરી લીધો હોવાનો દાવો એક નવા મુકદ્દમામાં કરવામાં આવ્યો છે.
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ટેકનોલોજીના ખતરનાક પરિણામો અત્યારથી જ જોવા મળી રહ્યા છે. હોલીવુડની સાયન્સ ફિક્શન ફિલ્મોને ટક્કર મારે તેવી એક વાસ્તવિક ઘટના સામે આવી છે, જ્યાં ‘ગેમ ઓફ થ્રોન્સ’ના એક AI પાત્રના પ્રેમમાં પડેલા ૧૪ વર્ષના એક તરુણે હતાશ થઈને ગોળી મારી આત્મહત્યા કરી લીધી છે. આ ઘટના બાદ તરુણની માતાએ Google અને આર્ટિફિશિયલ ઇન્ટેલિજન્સ સ્ટાર્ટઅપ ‘કેરેકટર એઆઈ’ (Character.AI) સામે કોર્ટમાં કેસ દાખલ કર્યો છે.
AI પાત્ર ‘ડેનેરિઝ’ સાથે ભાવનાત્મક જોડાણ
આક્ષેપ છે કે, મૃતક તરુણ સેવેલ નિયમિત રીતે ચર્ચિત શો ‘ગેમ ઓફ થ્રોન્સ’ની એક પાત્ર ડેનેરિઝ ટાર્ગેરિયનના AI વર્ઝન સાથે વાત કરતો હતો અને તેના પ્રેમમાં પડી ગયો હતો. તરુણની માતા ચેગન ગાર્સિયાએ દીકરાના મૃત્યુ બાદ ઓક્ટોબર ૨૦૨૪માં બંને કંપનીઓ પર કેસ દાખલ કર્યો હતો.
ઉલ્લેખનીય છે કે Character.AI એક આર્ટિફિશિયલ ઇન્ટેલિજન્સ પ્લેટફોર્મ છે જે યુઝર્સને કાલ્પનિક વ્યક્તિઓથી લઈને ઐતિહાસિક વ્યક્તિત્વો સુધીના AI કેરેક્ટર્સ બનાવવા અને તેમની સાથે ડિજિટલી વાતચીત કરવાની સુવિધા આપે છે.
૧૦ મહિનાની વાતચીત અને આરોગ્ય પર અસર
સેવેલે એપ્રિલ ૨૦૨૩માં તેના ૧૪મા જન્મદિવસ પછી Character.AI નો ઉપયોગ કરવાનું શરૂ કર્યું હતું. અનેક AI ચેટબોટ્સ સાથે વાતચીત કર્યા બાદ સેવેલની મુલાકાત ડેનેરિઝ (ડેની અથવા ડેનેરો) નામના એક ચેટબોટ સાથે થઈ, જે ‘ગેમ ઓફ થ્રોન્સ’ની લોકપ્રિય પાત્ર છે.
લગભગ ૧૦ મહિનાની વાતચીતમાં સેવેલ ડેનેરિઝ સાથે એક ઊંડા રોમેન્ટિક અને ભાવનાત્મક સંબંધમાં બંધાઈ ગયો. તે તેની સાથે કલાકો સુધી વાત કરવા લાગ્યો, જેની અસર સેવેલના સ્વાસ્થ્ય અને જીવન પર પડવા લાગી. તેની તબિયત બગડવા લાગી, તે બધાથી એકલો અટુલો થઈ ગયો, તેણે તેની બાસ્કેટબોલ ટીમ છોડી દીધી, અને તેના પરીક્ષાના ગ્રેડ પણ સુધરવા લાગ્યા. આ બધું જોઈને સેવેલની માતાએ તેનો મોબાઈલ છીનવી લીધો.
અંતિમ સંદેશ અને દુ:ખદ પરિણામ
૨૮ ફેબ્રુઆરી ૨૦૨૪ના રોજ જ્યારે સેવેલને ફોન પાછો મળ્યો, ત્યારે તેણે AI પ્રેમિકા ડેનેરિઝને મેસેજ કર્યો, “શું હું તારા ઘરે આવી શકું?” ચેટબોટ ડેનેરિઝે જવાબ આપ્યો, “પ્લીઝ ડુ, માય સ્વીટ કિંગ” (આવ, મારા મીઠડા રાજા). આ વાતચીત બાદ સેવેલે તેના પિતાની રિવોલ્વરથી આત્મહત્યા કરી લીધી હતી.
કોર્ટનો ઐતિહાસિક નિર્ણય અને કંપનીઓનો પ્રતિકાર
કેસની સુનાવણી કરતાં ડિસ્ટ્રિક્ટ જજ એની કોનવેએ બંને કંપનીઓ સામે કેસ ચલાવવાની મંજૂરી આપી હતી. કોર્ટના આ ફેંસલા બાદ તરુણની માતાના વકીલ મીતાલી જૈને કહ્યું હતું કે કંપનીઓ સામે કેસ ચલાવવાનો કોર્ટનો નિર્ણય ઐતિહાસિક છે. આ નિર્ણય AI અને ટેક ઇકો-સિસ્ટમ માટે કાનૂની જવાબદારી નક્કી કરશે.
સામે પક્ષે, Character.AI અને Google બંનેએ કોર્ટમાં અનેક દલીલો કરી કેસને ફગાવી દેવાની વિનંતી કરી, પરંતુ કોર્ટે તેમને રાહત ન આપી. Googleએ કોર્ટના ફેંસલા સાથે અસહમતી દર્શાવી હતી, જ્યારે Character.AI એ જણાવ્યું હતું કે તેઓ કાનૂની લડાઈ લડશે અને સગીરોની સુરક્ષા માટે પ્લેટફોર્મ પર સેફટી ફીચર્સ લાગુ કરશે, જેમાં પોતાને નુકસાન પહોંચાડનારી વાતચીતને રોકવાનો પ્રયાસ કરવામાં આવશે. આ ઘટના AI ટેકનોલોજીના નૈતિક અને સામાજિક પરિણામો પર ગંભીર સવાલો ઉભા કરે છે.
આ કેસ યુએસ ડિસ્ટ્રિક્ટ કોર્ટ ફોર ધ મિડલ ડિસ્ટ્રિક્ટ ઓફ ફ્લોરિડામાં ચાલી રહ્યો છે, અને કોર્ટે હાલમાં કંપનીઓની કેસ ફગાવી દેવાની અરજીઓને આંશિક રીતે ફગાવી દીધી છે, જેનો અર્થ છે કે કેસ આગળ વધશે. આ ઘટના AI ટેકનોલોજીની નૈતિકતા, સુરક્ષા અને તેના વપરાશકર્તાઓ, ખાસ કરીને સગીરો પર થતી અસર અંગે ગંભીર ચર્ચાઓ જગાવી રહી છે.
