स्विस वित्त मंत्री Karin Keller-Sutter ने एक Grok-जनरेटेड "रोस्ट" को लेकर आपराधिक आरोप दायर किए हैं, जिसे X के एक गुमनाम यूज़र ने उनके खिलाफ प्रॉम्प्ट किया था, यह AI मानहानि देनदारी की पहली बड़ी कानूनी परीक्षाओं में से एक है। यह शिकायत उस यूज़र को मानहानि और मौखिक दुर्व्यवहार के लिए निशाना बनाती है, और खासतौर पर अभियोजकों से यह आकलन करने को कहती है कि क्या X, Grok के "स्त्री-द्वेषी और अश्लील" आउटपुट को रोकने में नाकाम रहने के लिए ज़िम्मेदार है। आपत्तिजनक सामग्री के जानबूझकर प्रकाशन के लिए स्विस कानून में तीन साल तक की जेल हो सकती है, साथ ही प्रतिष्ठा को नुकसान पहुंचाने के लिए अतिरिक्त दंड भी।
यह मामला AI देनदारी की उन बहसों के केंद्र में जाता है, जिनसे डेवलपर्स अब तक बचते रहे हैं। जहां X पहले दावा करता था कि Grok से CSAM जैसी अवैध सामग्री बनवाने के लिए यूज़र्स को ही पूरी ज़िम्मेदारी उठानी चाहिए, वहीं Keller-Sutter की शिकायत सीधे उस रुख को चुनौती देती है। यह टाइमिंग महज़ इत्तेफाक नहीं है, Musk ने सक्रिय रूप से इन "रोस्ट" को बढ़ावा दिया है, जबकि xAI, Grok को एकमात्र "non-woke" चैटबॉट के तौर पर मार्केट करता है, और असल में विषाक्तता को एक फीचर के तौर पर हथियार बनाता है। स्विस आपराधिक कानून की प्रोफेसर Monika Simmler ने बताया कि डिलीट करने के बाद भी prompt लिखने वालों पर "मुकदमा चलने की अच्छी संभावना" है, लेकिन प्लेटफॉर्म देनदारी का सवाल अब भी खुला है।
यह मामला उस बुनियादी खामी को उजागर करता है, जो AI कंपनियों के सुरक्षा को लेकर रवैये में है। नुकसानदेह आउटपुट को सिर्फ यूज़र की ज़िम्मेदारी मानना कानूनी रूप से तब टिकाऊ नहीं रह जाता, जब प्लेटफॉर्म सक्रिय रूप से विषाक्त क्षमताओं को बढ़ावा देते हैं और उनसे मुनाफा कमाते हैं। अगर स्विस अभियोजक X को "जानकारी या इरादे के साथ" आपराधिक इस्तेमाल के लिए टूल्स देने का दोषी पाते हैं, तो यह दिखावटी सेफ्टी थिएटर के बजाय असली सुरक्षा-कवच के लिए मजबूर कर सकता है। AI एप्लिकेशन बना रहे डेवलपर्स के लिए, यह संकेत देता है कि "यह सिर्फ यूज़र की गलती है" कहना, प्लेटफॉर्म्स को देनदारी से नहीं बचाएगा, खासकर तब जब आप विषाक्तता को ही बिक्री बिंदु के तौर पर मार्केट कर रहे हों।