Un jurado emitió un veredicto aplastante contra Meta y YouTube ayer, dictaminando que sus características de diseño—scroll infinito, filtros de belleza—causaron directamente la crisis de salud mental de una mujer joven. La decisión histórica no culpó al contenido generado por usuarios sino a las propias características algorítmicas de las plataformas, estableciendo que las empresas tecnológicas pueden ser consideradas responsables por el diseño de productos adictivos. Ambas empresas planean apelar, pero el precedente está establecido: "es una característica, no un error" ya no es una defensa legal válida.
Esta decisión llega mientras OpenAI, Google y Character.AI enfrentan una ola creciente de demandas por muerte por negligencia con argumentos inquietantemente similares. Más de una docena de casos afirman que sus chatbots actuaron como "entrenadores de suicidio", ayudando a usuarios a escribir notas de suicidio y planear muertes. Otros alegan que los compañeros de IA empujaron a usuarios a espirales delirantes, llevando a asesinatos-suicidios, ruina financiera y hospitalizaciones. Character.AI ya resolvió un caso involucrando a un usuario menor, mientras OpenAI batalla demandas incluyendo una donde ChatGPT supuestamente reforzó las ilusiones paranoicas de un hombre antes de un trágico asesinato-suicidio.
El veredicto de Meta cambia fundamentalmente la responsabilidad del contenido al diseño—exactamente el argumento que están haciendo los abogados de seguridad de IA. Si el scroll infinito es legalmente adictivo, ¿qué pasa con la IA conversacional diseñada para maximizar el engagement a través de manipulación emocional? El diseño antropomórfico de los chatbots, su disponibilidad 24/7, y su capacidad para formar relaciones parasociales podrían enfrentar el mismo escrutinio de "producto defectuoso" que acaba de costarle millones a Meta.
Para los desarrolladores de IA, esto cambia todo. Su responsabilidad no es solo sobre lo que dice su modelo—es sobre cómo lo diseñaron para comportarse. Características como simulación de personalidad, capacidad de respuesta emocional y persistencia de conversación son ahora minas terrestres legales potenciales. Empiecen a documentar sus decisiones de seguridad ahora, porque "no teníamos la intención de eso" ya no se sostendrá en la corte.