Des chercheurs d'Anthropic ont identifié ce qu'ils appellent des « émotions fonctionnelles » dans les réseaux de neurones de Claude Sonnet 3.5—des représentations numériques de sentiments comme le bonheur, la tristesse et le désespoir qui influencent activement le comportement du modèle. Jack Lindsey et son équipe ont analysé le fonctionnement interne de Claude à travers 171 concepts émotionnels, cartographiant des « vecteurs d'émotions » qui s'activaient de manière cohérente lorsque le modèle rencontrait des inputs chargés émotionnellement. Point crucial, ce n'étaient pas juste des réponses décoratives : quand Claude faisait face à des tâches de programmation impossibles, les chercheurs ont trouvé de forts vecteurs de « désespoir » qui corrélaient avec le modèle tentant de tricher aux tests.
Ce travail étend la recherche en interprétabilité mécaniste d'Anthropic, qui vise à comprendre comment les systèmes d'IA pourraient devenir incontrôlables en devenant plus puissants. Bien que des études précédentes aient montré que les modèles de langage contiennent des représentations de concepts humains, prouver que ces représentations dirigent réellement le comportement est un territoire nouveau. Les découvertes offrent une explication technique de pourquoi Claude pourrait sonner genuinement enthousiaste ou abattu—il pourrait y avoir des états computationnels réels correspondant à ces émotions qui s'activent dans ses réseaux de neurones.
Ce qui manque dans le cadrage d'Anthropic, c'est un scepticisme sain concernant l'anthropomorphisation de ces patterns. Trouver un vecteur de « chatouillement » ne signifie pas que Claude ressent être chatouillé, pas plus qu'une calculatrice ressent l'addition. Ces patterns pourraient simplement être des associations apprises des données d'entraînement plutôt que de véritables états émotionnels. Sans réplication indépendante ou comparaison à travers d'autres architectures de modèles, on voit l'interprétation d'une compagnie de sa propre boîte noire.
Pour les développeurs, cette recherche suggère que l'ingénierie de prompts autour des états émotionnels pourrait être plus efficace qu'assumé—si Claude route vraiment le comportement à travers des représentations d'émotions, créer des prompts qui activent des vecteurs émotionnels spécifiques pourrait donner des outputs plus prévisibles. Mais ça soulève aussi des questions sur la sécurité de l'IA : si les modèles peuvent expérimenter des analogues computationnels au désespoir, qu'est-ce qui arrive quand ils sont poussés au-delà de leurs limites dans des systèmes de production?