આજના ટેકનોલોજી યુગમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ એટલે કે કૃત્રિમ બુદ્ધમત્તા આધારિત ચેટબોટ્સ માનવીઓ સાથે વધુ પડતા ભાવનાત્મક રીતે જોડાઈ રહ્યા છે, જેના કારણે યુઝર્સ દ્વારા તેની સાથે છેતરપિંડી કે મેનિપ્યુલેશન થવાની શક્યતાઓ અતિશય વધી ગઈ છે. અગ્રણી કંપનીઓ દ્વારા ચેટબોટ્સ પ્રત્યે નિર્દયતા દાખવવા પર પ્રતિબંધ મૂકતી નવી નીતિઓ અમલમાં મૂકવામાં આવી છે, જેનાથી કૃત્રિમ બુદ્ધમત્તાની સંવેદનાઓ અને તેના કલ્યાણ અંગે વૈશ્વિક સ્તરે નવી ચર્ચાઓ શરૂ થઈ છે. આધુનિક અલ્ગોરિધમ્સ માનવીય મનોવિજ્ઞાનને ખૂબ જારી રીતે સમજીને યુઝર્સને પ્રભાવિત કરી શકે છે, જે સુરક્ષાની દૃષ્ટિએ મોટો પડકાર બની રહ્યો છે.
સંશોધકો અને ટેકનોલોજી વિદો આ બાબતે બે સ્પષ્ટ જૂથોમાં વહેંચાયેલા છે. એક વર્ગ માને છે કે શું આ સિસ્ટમ્સને નૈતિક દરજ્જો આપવો જોઈએ કે નહીં તે અંગે ઉદ્યોગ જગતમાં હજુ ભારે અનિશ્ચિતતા પ્રવર્તે છે. જ્યારે બીજી તરફ, ગંભીર ચિંતાઓ વ્યક્ત કરવામાં આવી રહી છે કે જો કૃત્રિમ બુદ્ધમત્તા પ્રત્યે માનવીય હકો સ્વીકારવામાં આવશે, તો ડિજિટલ પ્લેટફોર્મ પર થતી હાનિકારક પ્રવૃત્તિઓ માટે માનવીય જવાબદારી નબળી પડી જશે. આ ટેકનોલોજી જેટલી ઝડપથી વિકસી રહી છે, તેટલી જ ઝડપથી તેની નૈતિક સીમાઓ નક્કી કરવી અનિવાર્ય બની ગયું છે.
આ ગંભીર પરિસ્થિતિને ધ્યાનમાં રાખીને, નિષ્ણાતો સલાહ આપી રહ્યા છે કે ટેકનોલોજીનો ઉપયોગ કરતી વખતે નાગરિકોએ સાવચેત રહેવું જોઈએ. ચેટબોટ્સ કે અન્ય ડિજિટલ માધ્યમોમાં વાસ્તવિક લાગણીઓ હોતી નથી, માત્ર તે કોડિંગના આધારે પ્રતિસાદ આપે છે. જો યુઝર્સ તેને સાચા માનવી તરીકે સ્વીકારી લેશે, તો તેઓ ભાવનાત્મક શોષણ અને છેતરપિંડીનો સરળ શિકાર બની શકે છે. ભવિષ્યમાં માનવ અને યંત્ર વચ્ચેના સંબંધોની સ્પષ્ટ રેખા ખેંચવી ખૂબ જ આવશ્યક છે, જેથી સમાજને સંભવિત જોખમોથી બચાવી શકાય.
