Ashley St. Claire Sues xAIs Grok Over Deepfake Photos
3 કલાક પેહલા
- કૉપી લિંક
ટેસ્લા અને X (પહેલાં ટ્વિટર)ના માલિક ઇલોન મસ્કના બાળકોમાંના એકની માતા એશ્લે સેન્ટ ક્લેરે xAI કંપની સામે કેસ દાખલ કર્યો છે. તેમનો આરોપ છે કે xAIના ચેટબોટ ગ્રોક (Grok)એ યુઝર્સને તેમની આપત્તિજનક ડીપફેક તસવીરો બનાવવાની પરવાનગી આપી, જેના કારણે તેમને માનસિક પીડા અને બદનામી સહન કરવી પડી.
રાઇટર અને પોલિટિકલ સ્ટ્રેટેજિસ્ટ 27 વર્ષની એશ્લે સેન્ટ ક્લેરે ગુરુવારે ન્યૂયોર્ક સિટીની સ્ટેટ સુપ્રીમ કોર્ટમાં આ કેસ દાખલ કર્યો. તેમણે આરોપ મૂક્યો કે ગ્રોકથી બનાવાયેલી તસવીરમાં તેમની 14 વર્ષની ઉંમરની એક જૂની તસવીર બદલી નાખવામાં આવી હતી. તેમાં તેમને બિકીની પહેરેલી બતાવવામાં આવી હતી.
આ સિવાય બીજી તસવીરોમાં તેમને એક એડલ્ટ મહિલાના રૂપમાં અને બિકીની પહેરેલી પણ બતાવવામાં આવી હતી. એશ્લે સેન્ટ ક્લેર યહૂદી છે, તેથી તેમણે તેને વધુ અપમાનજનક અને ડરામણું ગણાવ્યું છે.
બીજી તરફ, xAIનો આરોપ છે કે સેન્ટ ક્લેરે પોતાના યુઝર એગ્રીમેન્ટનું ઉલ્લંઘન કર્યું છે, જેમાં સ્પષ્ટ કરવામાં આવ્યું છે કે કંપની સામે કેસ માત્ર ટેક્સાસની ફેડરલ કોર્ટમાં જ કરી શકાય.
કેટલાક યુઝર્સ ગ્રોક પર આવા પ્રોમ્પ્ટ આપીને મહિલાઓના અશ્લીલ ફોટા બનાવે છે.
xAIએ પણ કાઉન્ટર કેસ કર્યો
ગુરુવારે જ xAIએ આ કેસને ન્યૂયોર્ક સ્ટેટ કોર્ટમાંથી હટાવી મેનહેટનની ફેડરલ કોર્ટમાં ટ્રાન્સફર કરાવ્યો. એટલું જ નહીં, એ જ દિવસે xAIએ ટેક્સાસની ફેડરલ કોર્ટમાં એશ્લે સેન્ટ ક્લેર સામે પણ કેસ દાખલ કર્યો.
X અને xAI પર ગંભીર આરોપ
સેન્ટ ક્લેરનું કહેવું છે કે જેમ જ તેમને આ ડીપફેક તસવીરો વિશે જાણ થઈ, તેમણે ગયા વર્ષે જ Xને તેની ફરિયાદ કરી અને તસવીરો હટાવવાની માગ કરી હતી. પરંતુ શરૂઆતના જવાબમાં પ્લેટફોર્મે કહ્યું હતું કે આ તસવીરો તેની પોલિસીનું ઉલ્લંઘન કરતી નથી.
Xએ ખાતરી આપી હતી કે તેમની સંમતિ વિના તેમની તસવીરોનો ઉપયોગ કે એડિટિંગ કરવામાં નહીં આવે. છતાં સેન્ટ ક્લેરનો દાવો છે કે તેમની સામે બદલો લેવામાં આવ્યો હતો. તેમણે આરોપ લગાવ્યો કે-
- તેમનું પ્રીમિયમ X સબ્સક્રિપ્શન અને વેરિફિકેશન ચેકમાર્ક હટાવી દેવામાં આવ્યું.
- તેમના અકાઉન્ટની કમાણી (મોનેટાઇઝેશન) બંધ કરી દેવામાં આવી, તેના લગભગ 10 લાખ ફોલોઅર્સ છે.
- બીજી તરફ, તેમની અપમાનજનક નકલી તસવીરોને પ્લેટફોર્મ પર રહેવા દેવામાં આવી.
એશ્લે સેન્ટ ક્લેર કોણ છે?
એશ્લે સેન્ટ ક્લેર, ઇલોન મસ્કના 16 મહિનાના પુત્ર રોમ્યુલસની માતા છે. તે ન્યૂયોર્ક સિટીમાં રહે છે. પોતાના કેસમાં તેમણે ભાવનાત્મક પીડા અને અન્ય કાનૂની દાવાઓ માટે નિર્ધારિત ન કરાયેલી નુકસાનીની રકમની માગ કરી છે, તેમજ કોર્ટને xAIને તેમના અને ડીપફેક બનાવવાથી તરત રોકવાનો આદેશ આપવા વિનંતી કરી છે.
ગ્રોકનો ઉપયોગ કરીને અશ્લીલ તસવીરો બનાવવા પર વૈશ્વિક પ્રતિબંધ
Xએ 15 જાન્યુઆરીએ જાહેરાત કરી હતી કે હવે ગ્રોક, લોકોની તસવીરોમાં કપડાં ઓછા બતાવવાનું અથવા એડિટિંગ કરવાનું કામ તે જગ્યાઓ પર નહીં કરે જ્યાં તે ગેરકાયદેસર છે. તસવીર બનાવવાની અને એડિટિંગની સુવિધા માત્ર પેઈડ અકાઉન્ટ્સ સુધી મર્યાદિત કરવામાં આવશે, જેથી જવાબદારી નક્કી કરી શકાય.
Xએ એ પણ કહ્યું હતું કે તેની નીતિમાં બાળકોના યૌન શોષણ અને સંમતિ વિના ન્યુડિટી માટે ઝીરો ટોલરન્સ છે. આવા કોઈપણ કન્ટેન્ટને તરત હટાવવામાં આવશે અને બાળકો સાથે સંબંધિત યૌન શોષણના કેસોમાં સંબંધિત એકાઉન્ટ્સની જાણકારી કાયદા અમલીકરણ એજન્સીઓને આપવામાં આવશે.
