સોશિયલ મીડિયા પ્લેટફોર્મ Xએ Grok AIને લગતા પોર્નોગ્રાફિક સામગ્રી વિવાદમાં પોતાની ભૂલ સ્વીકારી છે. કંપનીએ ભારત સરકારને ખાતરી આપી છે કે તે ભારતીય કાયદા અનુસાર કાર્યવાહી કરશે. વધુમાં, કંપનીએ આ મામલે આશરે 3,500 પોસ્ટ્સ બ્લોક કરી છે અને 600 થી વધુ એકાઉન્ટ્સ ડિલીટ કર્યા છે. સરકારની કડકતા બાદ Xએ સામગ્રી નિયંત્રણને વધુ મજબૂત બનાવવાનું વચન આપ્યું છે. આ પગલું ઓનલાઈન પોર્નોગ્રાફી અને મહિલાઓને નિશાન બનાવવા અંગે વધતી ચિંતાઓ વચ્ચે લેવામાં આવ્યું છે.
ભારત સરકારે તાજેતરમાં Xના AI ટૂલ, Grok દ્વારા પોર્નોગ્રાફિક અને વાંધાજનક સામગ્રીના ફેલાવા પર ગંભીર ચિંતા વ્યક્ત કરી હતી. સરકારી એજન્સીઓએ જણાવ્યું હતું કે Grokનો ઉપયોગ ફક્ત નકલી પ્રોફાઇલ બનાવવા માટે જ નહીં પરંતુ ઓનલાઈન મહિલાઓને હેરાન કરવા અને નિશાન બનાવવા માટે પણ થઈ રહ્યો હતો. આમાં ઇમેજ એડિટિંગ, સિન્થેટિક સામગ્રી અને ભ્રામક સંકેતોનો સમાવેશ થાય છે, જેમાં મહિલાઓની છબીઓ અને વિડિઓઝનો દુરુપયોગ કરવામાં આવ્યો હતો. સરકારે કડક કાર્યવાહીની ચેતવણી આપી હતી અને X પાસેથી રિપોર્ટ માંગ્યો હતો.
કેટલી પોસ્ટ્સ અને એકાઉન્ટ્સને નિશાન બનાવવામાં આવ્યા હતા?
સરકારી સૂત્રો અનુસાર, Xએ આ કેસમાં આશરે 3,500 વાંધાજનક પોસ્ટ્સને બ્લોક કરી છે. વધુમાં, અશ્લીલ અથવા ગેરકાયદેસર સામગ્રી ફેલાવવામાં સંડોવાયેલા 600 થી વધુ એકાઉન્ટ્સને પ્લેટફોર્મ પરથી દૂર કરવામાં આવ્યા છે. Xએ સરકારને જાણ કરી છે કે ભવિષ્યમાં આવી સામગ્રીને રોકવા માટે તેની સિસ્ટમ અને દેખરેખ મજબૂત બનાવવામાં આવશે. કંપનીનો દાવો છે કે આવી સામગ્રીને હવે વધુ ઝડપથી ઓળખવામાં આવશે અને દૂર કરવામાં આવશે.
આ કેસમાં અત્યાર સુધી શું થયું છે?
2 જાન્યુઆરીના રોજ, ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલયે Xને ગ્રોક સાથે સંકળાયેલી બધી અશ્લીલ, અભદ્ર અને ગેરકાયદેસર સામગ્રીને તાત્કાલિક દૂર કરવાનો આદેશ આપ્યો હતો. મંત્રાલયે ચેતવણી આપી હતી કે આમ કરવામાં નિષ્ફળતા પર IT એક્ટ અને અન્ય કાયદાઓ હેઠળ કાર્યવાહી કરવામાં આવશે. X ને 72 કલાકની અંદર વિગતવાર કાર્યવાહી અહેવાલ સબમિટ કરવા માટે કહેવામાં આવ્યું હતું, જેમાં લેવામાં આવેલા તકનીકી અને વહીવટી પગલાંની વિગતો આપવામાં આવી હતી. 8 જાન્યુઆરીના રોજ, Xએ તેનો અહેવાલ રજૂ કર્યો, જેને સરકારે વિગતવાર અપૂરતો ગણાવ્યો. ત્યારબાદ Xને વધારાના 72 કલાક આપવામાં આવ્યા.
સામગ્રી મધ્યસ્થતામાં આગળ શું બદલાવ આવશે?
સરકારી સૂત્રો અનુસાર, Xએ ખાતરી આપી છે કે તે ભારતીય નિયમો અનુસાર તેની સામગ્રી મધ્યસ્થતા પ્રણાલીને વધુ કડક બનાવશે. કંપનીએ જણાવ્યું છે કે તે હવે વાંધાજનક સામગ્રી, વપરાશકર્તાઓ અને એકાઉન્ટ્સ સામે ઝડપથી કાર્યવાહી કરશે. તે ફરજિયાત રિપોર્ટિંગ અને દેખરેખ માટે વધુ સારી સિસ્ટમો પણ સ્થાપિત કરશે.
