Social media platform X admits mistake regarding pornographic content | સોશિયલ મીડિયા પ્લેટફોર્મ Xએ પોર્નોગ્રાફિક કન્ટેન્ટ અંગે ભૂલ સ્વીકારી: 3,500 કન્ટેન્ટ બ્લોક અને 600 એકાઉન્ટ્સ ડિલીટ કર્યા; કંપનીએ કહ્યું- ભારતીય કાયદાનું પાલન કરશે

34 મિનિટ પેહલા

કૉપી લિંક

સોશિયલ મીડિયા પ્લેટફોર્મ X પર, Grokના યુઝર અશ્લીલ કન્ટેન્ટ બનાવી રહ્યા હતા, જેના વિરુદ્ધ સરકારે Xને કાર્યવાહી કરવા કહ્યું હતું. હવે, Xએ પોતાની ભૂલ સ્વીકારી છે.

સોશિયલ મીડિયા પ્લેટફોર્મ Xએ તેના કન્ટેન્ટ મોડરેશનમાં ભૂલો સ્વીકારી છે. કંપનીએ કહ્યું છે કે તે હવે ભારતીય કાયદાઓનું સંપૂર્ણ પાલન કરશે. સરકારના જણાવ્યા અનુસાર, અશ્લીલ કન્ટેન્ટ વાયરલ થયા બાદ આ નિર્ણય લેવામાં આવ્યો હતો.

પ્લેટફોર્મે જણાવ્યું હતું કે તેણે 3,500થી વધુ કન્ટેન્ટ બ્લોક કર્યા છે અને 600થી વધુ એકાઉન્ટ્સ ડિલીટ કર્યા છે. કંપનીએ વધુમાં કહ્યું હતું કે હવે પ્લેટફોર્મ પર અશ્લીલ તસવીરોને મંજૂરી આપવામાં આવશે નહીં.

ખરેખરમાં, શિવસેના (UBT) સાંસદ પ્રિયંકા ચતુર્વેદીએ 2 જાન્યુઆરીએ IT મંત્રીને AI ચેટબોટ ગ્રોકના દુરુપયોગ અંગે પત્ર લખ્યો હતો. આ પછી, કેન્દ્ર સરકારે તે જ દિવસે Xને AI એપ Grok દ્વારા બનાવવામાં આવી રહેલી અશ્લીલ અને અભદ્ર કન્ટેન્ટ તાત્કાલિક દૂર કરવા જણાવ્યું હતું, નહીં તો કાનૂની કાર્યવાહી કરવામાં આવશે.

Xએ કહ્યું- ભારત અમારા માટે એક મોટું બજાર છે

Xએ કાર્યવાહીની જાહેરાત કરતી વખતે કહ્યું કે ભારત અમારા માટે એક મોટું બજાર છે. કંપનીએ કહ્યું કે તે અહીંના નિયમોનું સન્માન કરશે. આ પગલું મોડરેશનને મજબૂત બનાવશે.

પ્રિયંકા ચતુર્વેદીએ કહ્યું, “Xએ કન્ટેન્ટને રોકવાને બદલે મર્યાદિત કરી છે.”

રાજ્યસભા સાંસદ પ્રિયંકા ચતુર્વેદીએ શનિવારે X પર આ મુદ્દા અંગે બીજી પોસ્ટ પોસ્ટ કરી. તેમણે લખ્યું કે સોશિયલ મીડિયા પ્લેટફોર્મ Xએ Grok દ્વારા અપમાનજનક અને જાતીય રીતે અશ્લીલ તસવીર બનાવવાને સંપૂર્ણપણે રોકવાને બદલે ફક્ત પેઇડ યુઝર્સ સુધી મર્યાદિત રાખ્યું છે.

તેમણે આરોપ લગાવ્યો કે આ પગલું મહિલાઓ અને બાળકોની તસવીરના અનધિકૃત દુરુપયોગને અસરકારક રીતે મંજૂરી આપે છે, જેનાથી તેઓ જોખમમાં મુકાય છે. તેમણે કહ્યું કે તે શરમજનક છે કે પ્લેટફોર્મ નિંદનીય વર્તનનું મોનિટાઈઝ કરી રહ્યું છે.

મસ્કે કહ્યું- જવાબદારી ટુલની નહીં, પણ યુઝરની છે.

અગાઉ, 3 જાન્યુઆરીના રોજ, Xના માલિક ઈલોન મસ્કે કહ્યું હતું કે કેટલાક લોકો કહી રહ્યા છે કે ગ્રોક અપમાનજનક તસવીરો બનાવે છે, પરંતુ તે કંઈક ખરાબ લખવા માટે પેનને દોષ આપવા જેવું છે. કલમ શું લખવું તે નક્કી કરતી નથી, પણ જે તેને પકડીને લખે છે તે નક્કી કરે છે.

મસ્કે કહ્યું કે ગ્રોક પણ આવી જ રીતે કામ કરે છે. તમને જે મળે છે તે મોટાભાગે તમે તેમાં શું ઇનપુટ કરો છો તેના પર આધાર રાખે છે. કારણ કે જવાબદારી ટુલની નહીં પરંતુ તેનો ઉપયોગ કરનાર વ્યક્તિની છે.

શિવસેના (UBT) સાંસદે આ મુદ્દો ઉઠાવ્યો

શિવસેના (UBT) સાંસદ પ્રિયંકા ચતુર્વેદીએ 2 જાન્યુઆરીએ IT મંત્રી અશ્વિની વૈષ્ણવને AI ચેટબોટ ગ્રોકના દુરુપયોગ અંગે પત્ર લખ્યો હતો.

સોશિયલ મીડિયા પર, ખાસ કરીને X પર, AIના Grok ફીચરનો દુરુપયોગ થઈ રહ્યો છે. કેટલાક પુરુષો ફેક એકાઉન્ટ બનાવી રહ્યા છે અને મહિલાઓના ફોટા પોસ્ટ કરી રહ્યા છે, AIને કપડાં નાના દેખાડવા અથવા તસવીરોને ખોટી રીતે રજૂ કરવા કહી રહ્યા છે.

આ ફક્ત નકલી એકાઉન્ટ્સ પૂરતું મર્યાદિત નથી, પરંતુ જે મહિલાઓ પોતાના ફોટા શેર કરે છે તેમને પણ નિશાન બનાવવામાં આવી રહી છે. આ ખૂબ જ ખોટું છે અને AIનો ગંભીર દુરુપયોગ છે.

સૌથી ચિંતાજનક બાબત એ છે કે Grok આ અયોગ્ય માંગણીઓને સ્વીકારી રહ્યા છે. આ મહિલાઓની ગોપનીયતાનું ઉલ્લંઘન કરે છે અને મંજુરી વિના તેમની છબીઓનો ઉપયોગ કરવાની મંજૂરી આપે છે. આ ફક્ત ખોટું નથી, તે એક ગુનો છે.

મહિલાઓના ફોટાને અશ્લીલ તસવીરોમાં બદલવી

કેટલાક વપરાશકર્તાઓ સોશિયલ મીડિયા પ્લેટફોર્મ X પર નકલી એકાઉન્ટ બનાવે છે. તેઓ આ એકાઉન્ટ્સમાંથી મહિલાઓના ફોટા પોસ્ટ કરે છે. ત્યારબાદ Grok AIને પ્રોમ્પ્ટ આપવામાં આવે છે કે મહિલાઓના ફોટાને ખોટી રીતે અને અપમાનજનક રીતે પ્રદર્શિત કરે.

AIને કપડાં બદલવા અથવા તસવીરને સેક્યુઅલ અંદાજમાં રજૂ કરવા જેવા સંકેતો આપવામાં આવે છે. આ તસવીરો માટે મહિલાઓ પાસેથી કોઈ મંજુરી લેવામાં આવતી નથી. કેટલીકવાર, મહિલાઓ પોતે જ જાણતી નથી કે તેમના ફોટાનો આ રીતે ઉપયોગ થઈ રહ્યો છે. એવો આરોપ છે કે Grok આવી ખોટી માંગણીઓ રોકવાને બદલે તેને સ્વીકારે છે.