Creating obscene content on Grok will result in account closure | Grok પર અશ્લીલ કન્ટેન્ટ બનાવવા પર એકાઉન્ટ બંધ થશે: ભલે તે અપલોડ ન કર્યુ હોય; X પર મહિલાઓની વાંધાજનક તસવીરો શેર કરવા પર કડક નિયમ, યુઝર્સ સામે થશે કાર્યવાહી

સોશિયલ મીડિયા પ્લેટફોર્મ Xએ તેની AI એપ Grok પર બનાવેલ અશ્લીલ કન્ટેન્ટ અંગેના નિયમો કડક કર્યા છે. કંપનીએ જણાવ્યું છે કે આવા કન્ટેન્ટ તાત્કાલિક હટાવવામાં આવશે.

સાથે જ જો કોઈ યુઝર Grokનો ઉપયોગ કરીને વાંધાજનક કન્ટેન્ટ બનાવે છે, તો તેમની સામે એ જ કાર્યવાહી થશે, જે સીધી ગેરકાયદેસર સામગ્રી અપલોડ કરવા પર થાય છે. આનો અર્થ એ કે તેમના એકાઉન્ટ પર કાયમી ધોરણે પ્રતિબંધ મૂકવામાં આવશે.

ભારત સરકારે વાંધો ઉઠાવ્યાના ત્રણ દિવસ પછી Xએ નવા નિયમો જારી કર્યા છે. 2 જાન્યુઆરીના રોજ, કેન્દ્ર સરકારે Xને AI એપ Grok દ્વારા બનાવેલ અશ્લીલ અને અભદ્ર કન્ટેન્ટ તાત્કાલિક હટાવવાનો આદેશ આપ્યો હતો, નહીં તો કાનૂની કાર્યવાહી કરવી પડશે.

શિવસેના (UBT) સાંસદ પ્રિયંકા ચતુર્વેદીએ શુક્રવારે AI ચેટબોટ Grokના દુરુપયોગ પર ચિંતા વ્યક્ત કરી હતી. તેમણે IT મંત્રીને પત્ર લખ્યો હતો. તેમાં કહેવામાં આવ્યું છે કે કેટલાક લોકો AIનો ઉપયોગ કરીને મહિલાઓના સાચી તસવીરોને વાંધાજનક રીતે બદલી રહ્યા છે, જે ખૂબ જ ગંભીર બાબત છે.

મસ્કે કહ્યું, “જવાબદારી ટૂલની નહીં, પરંતુ યુઝરની છે.”

અગાઉ, Xના માલિક ઈલોન મસ્કે શનિવારે કહ્યું હતું કે કેટલાક લોકો કહી રહ્યા છે કે Grok વાંધાજનક તસવીરો બનાવી રહ્યું છે, પરંતુ તે કંઈક ખરાબ લખવા માટે પેનને દોષ આપવા જેવું છે. પેન શું લખાય છે તે નક્કી કરતું નથી. તેને પકડનાર વ્યક્તિ તે કામ કરે છે.

મસ્કે કહ્યું કે Grok પણ આવી જ રીતે કામ કરે છે. તમને શું મળે છે તે મોટાભાગે તમે તેમાં શું ઇનપુટ કરો છો તેના પર આધાર રાખે છે, કારણ કે જવાબદારી ટૂલની નહીં પરંતુ તેનો ઉપયોગ કરનાર વ્યક્તિની હોય છે.

શિવસેના (UBT) સાંસદે આ મુદ્દો ઉઠાવ્યો

શિવસેના (UBT) સાંસદ પ્રિયંકા ચતુર્વેદીએ 2 જાન્યુઆરીએ IT મંત્રી અશ્વિની વૈષ્ણવને AI ચેટબોટ Grokના દુરુપયોગ અંગે પત્ર લખ્યો હતો.

સોશિયલ મીડિયા પર, ખાસ કરીને X પર, AIના Grok ફીચરનો દુરુપયોગ થઈ રહ્યો છે. કેટલાક પુરુષો ફેક એકાઉન્ટ બનાવી રહ્યા છે અને મહિલાઓના ફોટા પોસ્ટ કરી રહ્યા છે, AIને કપડાં નાના દેખાડવા અથવા તસવીરોને ખોટી રીતે રજૂ કરવા કહી રહ્યા છે.

આ ફક્ત ફેક એકાઉન્ટ્સ પૂરતું મર્યાદિત નથી, પરંતુ જે મહિલાઓ પોતાના ફોટા શેર કરે છે તેમને પણ નિશાન બનાવવામાં આવી રહી છે. આ ખૂબ જ ખોટું છે અને AIનો ગંભીર દુરુપયોગ છે.

સૌથી ચિંતાજનક બાબત એ છે કે Grok આ અયોગ્ય માંગણીઓને સ્વીકારી રહ્યું છે. આ મહિલાઓની પ્રાઈવેસીનું ઉલ્લંઘન કરે છે અને મંજુરી વિના તેમની તસવીરોનો ઉપયોગ કરવામાં આવી રહ્યો છે. આ ફક્ત ખોટું નથી, તે એક ગુનો છે.

મહિલાઓના ફોટાને અશ્લીલ તસવીરોમાં ફેરવવામાં આવી

કેટલાક યુઝર સોશિયલ મીડિયા પ્લેટફોર્મ X પર ફેક એકાઉન્ટ બનાવે છે. તેઓ આ એકાઉન્ટ્સમાંથી મહિલાઓના ફોટા પોસ્ટ કરે છે. ત્યારબાદ Grok AIને અપમાનજનક રીતે ફોટા પ્રદર્શિત કરવા માટે કહેવામાં આવે છે.

AIને કપડાં બદલવા અથવા તસવીરોને સેક્શુઅલ રીતે રજૂ કરવા જેવા પ્રોમ્પ્ટ આપવામાં આવે છે. આ તસવીરો માટે મહિલાઓ પાસેથી કોઈ મંજુરી લેવામાં આવતી નથી. ઘણીવાર, મહિલાઓ પોતે જ જાણતી નથી કે તેમના ફોટાનો આ રીતે ઉપયોગ થઈ રહ્યો છે. એવો આરોપ છે કે Grok આવી અયોગ્ય માંગણીઓ રોકવાને બદલે, ફક્ત તેમની સાથે સંમત થઈ જાય છે.

કેટલાક યુઝર્સ Grok પર આ પ્રોમ્પ્ટનો ઉપયોગ કરીને મહિલાઓની અશ્લીલ તસવીરો બનાવે છે.

આ પ્રોમ્પ્ટનો ઉપયોગ Grok પર અશ્લીલ કન્ટેન્ટ બનાવવા માટે થાય છે.