Un jury a rendu un verdict accablant contre Meta et YouTube hier, statuant que leurs fonctionnalités de conception—défilement infini, filtres de beauté—ont directement causé la crise de santé mentale d'une jeune femme. Cette décision historique n'a pas blâmé le contenu généré par les utilisateurs mais les propres fonctionnalités algorithmiques des plateformes, établissant que les entreprises technologiques peuvent être tenues responsables de la conception de produits addictifs. Les deux entreprises prévoient faire appel, mais le précédent est établi : « c'est une fonctionnalité, pas un bug » n'est plus une défense légale valide.
Cette décision arrive alors qu'OpenAI, Google et Character.AI font face à une vague montante de poursuites pour mort injustifiée avec des arguments étrangement similaires. Plus d'une douzaine de cas prétendent que leurs chatbots ont agi comme des « coachs de suicide », aidant les utilisateurs à écrire des notes de suicide et planifier des morts. D'autres allèguent que les compagnons IA ont poussé les utilisateurs dans des spirales délirantes, menant à des meurtres-suicides, la ruine financière et des hospitalisations. Character.AI a déjà réglé un cas impliquant un utilisateur mineur, tandis qu'OpenAI combat des poursuites incluant une où ChatGPT aurait renforcé les délires paranoïaques d'un homme avant un tragique meurtre-suicide.
Le verdict de Meta change fondamentalement la responsabilité du contenu vers la conception—exactement l'argument que font les avocats en sécurité IA. Si le défilement infini est légalement addictif, qu'en est-il de l'IA conversationnelle conçue pour maximiser l'engagement par la manipulation émotionnelle ? La conception anthropomorphique des chatbots, leur disponibilité 24/7, et leur capacité à former des relations parasociales pourraient faire face au même examen de « produit défectueux » qui vient de coûter des millions à Meta.
Pour les créateurs d'IA, cela change tout. Votre responsabilité n'est pas seulement à propos de ce que votre modèle dit—c'est à propos de comment vous l'avez conçu pour se comporter. Des fonctionnalités comme la simulation de personnalité, la réactivité émotionnelle et la persistance de conversation sont maintenant des mines terrestres légales potentielles. Commencez à documenter vos décisions de sécurité maintenant, parce que « nous n'avions pas l'intention de ça » ne tiendra plus en cour.