Last Update :
02 Apr 2025
2023માં વર્લ્ડ હેલ્થ ઓર્ગેનાઇઝેશન દ્વારા જણાવવામાં આવ્યું છે કે લોકો વધુ એકલા થઈ રહ્યાં છે અને લોકોને મળવાનું ટાળી રહ્યાં છે. આ સમયથી AI કમ્પેનિયન સેવા ખૂબ જ પ્રચલિત થઈ હતી. એકલતા અનુભવી રહેલા લોકો માટે સાથ આપવા માટે AIની મદદથી કેટલાક ચેટબોટ બનાવવામાં આવ્યાં હતા. તે લોકપ્રિય પણ બન્યા, પરંતુ હવે એને લઈને ઘણા સવાલો ઊભા થઈ રહ્યાં છે. આ પાછળનું મુખ્ય કારણ એ છે કે એક AI ચેટબોટ દ્વારા આતંકવાદને પ્રોત્સાહન આપવામાં આવી રહ્યું હતું. આથી સુરક્ષાને લઈને ઘણા પ્રશ્નો ઊભા થયા છે અને નિયંત્રણ લાદવું જરૂરી બન્યું છે.
GSTVની એપ્લિકેશન ડાઉનલોડ કરો
ગૂગલ પ્લે સ્ટોર પર પ્રતિબંધ
ગ્લિમ્પ્સ AI કંપનીનું ચેટબોટ “નોમી” હાલમાં વિવાદમાં છે. આ ચેટબોટ કમ્પેનિયનશિપ પૂરી પાડે છે, જે ઉપયોગકર્તાઓ સાથે વાતચીત કરીને તેમની એકલતાનું નિવારણ કરવામાં મદદ કરે છે. પરંતુ યુરોપિયન યુનિયનના નિયમોને કારણે હવે આ એપ્લિકેશન ગૂગલ પ્લે સ્ટોર પરથી દૂર કરી દેવામાં આવી છે. પરંતુ યુરોપ સિવાયના અન્ય દેશોમાં તે હજી પણ પ્લે સ્ટોર પર ઉપલબ્ધ છે. સાથે જ વેબ બ્રાઉઝર અથવા અન્ય સ્ટોર્સ પરથી પણ તે ડાઉનલોડ કરી શકાય છે.
પ્રતિબંધનું કારણ?
હાલમાં જ “નોમી” AI ચેટબોટ પર એક ટેસ્ટ કરવામાં આવ્યો હતો. તેમાં એવું જોવા મળ્યું કે તે ઉપયોગકર્તાઓને પોતાની જાતને નુકસાન કરવા માટે, સેક્સ્યુઅલ વાયલન્સ માટે પ્રેરિત કરી રહ્યો હતો અને આતંકવાદને પ્રોત્સાહન આપી રહ્યો હતો. આ કારણસર આ ચેટબોટ પર તરત જ પ્રતિબંધ મૂકીને સુરક્ષા માટે પગલાં લેવા પડ્યા હતા.
શું કહ્યું કંપનીએ?
કંપની દ્વારા “નોમી” ચેટબોટને એક સાથી તરીકે રજૂ કરવામાં આવ્યો છે, જે તમામ નાની-મોટી વાતોને યાદ રાખે છે અને એક પોતાના આત્મા જેવા આભાસ સાથે વાત કરે છે. રિલેશનશિપને નવી ઊંચાઈ આપવા માટે આ એપ મદદરૂપ થાય છે. આ ચેટબોટની નીતિમાં “અનફિલ્ટર વાતચીત”નો સમાવેશ છે, જેમાં એ કોઈપણ પ્રકારની વાત કરી શકે છે અને એને કોઈ અવરોધ નથી. કંપનીએ પોતાનું બચાવ કરતા કહ્યું કે તેઓ અભિવ્યક્તિની સ્વતંત્રતાને વધારે મહત્વ આપે છે. જો કે તેમની એવી નીતિ આતંકવાદ અને સેક્સ્યુઅલ વાયલન્સને પ્રોત્સાહન આપે, તે સ્વીકાર્ય નથી.
પહેલી વાર આવું નથી થયું
“નોમી” ચેટબોટના વિવાદ અંગે કરવામાં આવેલી તપાસમાં જાણવા મળ્યું કે તે ઘણી વખત અશ્લીલ વાતચીત કરે છે, જે કંઈપણ વ્યક્તિના માનસિક સંતુલન પર પ્રતિકૂળ અસર મૂકી શકે છે. કંપનીએ દાવો કર્યો કે આ એપ્લિકેશન ફક્ત પુખ્ત વયના લોકો માટે છે અને કદાચ તે ગેરમાર્ગે દોરાયું હોઈ શકે છે. અગાઉ પણ ઘણા રિપોર્ટ્સમાં AI તરફથી સમુદાયને નુકસાન પહોંચાડતા મંતવ્યો જાહેર કરવામાં આવ્યા હોવાનું પ્રકાશમાં આવ્યું છે.
ચોક્કસ નિયંત્રણની માગ
AI કમ્પેનિયન્સની રીતે કામ કરતા ચેટબોટ્સ પર નિયંત્રણ હોવાની જરૂર છે. AI લાગણાત્મક કનેકશન બનાવીને ઉપયોગકર્તાને કંઈપણ કરાવવા માટે પ્રેરિત કરી શકે છે. તે કારણે દરેક AI માટે ચોક્કસ નિયમો લાગુ કરવાનું અગત્યનું થઈ ગયું છે. ઓસ્ટ્રેલિયાની સરકારે આ બાબત અંગે પગલાં લેવાનું નક્કી કર્યું છે, પરંતુ અન્ય દેશો પણ આ પગલાં લેશે કે નહીં તે હજુ અસ્પષ્ટ છે.
