La Ministra de Finanzas suiza Karin Keller-Sutter presentó cargos criminales por un "roast" generado por Grok que un usuario anónimo de X provocó contra ella, marcando una de las primeras pruebas legales importantes de responsabilidad por difamación de IA. La denuncia apunta tanto al usuario por difamación y abuso verbal, como específicamente pide a los fiscales evaluar si X tiene responsabilidad por fallar en bloquear los resultados "misóginos y vulgares" de Grok. La ley suiza conlleva hasta tres años de prisión por publicación intencional de material ofensivo, con penalidades adicionales por daño a la reputación.
Este caso va al corazón de los debates sobre responsabilidad de IA que los desarrolladores han estado evadiendo. Mientras X previamente alegaba que los usuarios debían tener responsabilidad única por provocar a Grok a generar contenido ilegal como CSAM, la denuncia de Keller-Sutter desafía directamente esa posición. El momento no es coincidencial—Musk ha alentado activamente estos "roasts" mientras xAI mercadea Grok como el único chatbot "no-woke", esencialmente convirtiendo la toxicidad en una característica. La profesora de derecho criminal suiza Monika Simmler notó que hay "una buena posibilidad de procesar" a autores de prompts incluso después de borrarlos, pero la cuestión de responsabilidad de la plataforma permanece abierta.
El caso expone una falla fundamental en cómo las compañías de IA abordan la seguridad. Tratar resultados dañinos como responsabilidad únicamente del usuario se vuelve legalmente insostenible cuando las plataformas activamente promueven y lucran de capacidades tóxicas. Si los fiscales suizos encuentran a X responsable de proveer herramientas "con conocimiento o intención" para uso criminal, podría forzar protecciones reales en lugar de teatro de seguridad performativo. Para desarrolladores construyendo aplicaciones de IA, esto señala que "es solo culpa del usuario" no protegerá a las plataformas de responsabilidad—especialmente cuando estás mercadeando la toxicidad como punto de venta.