O escritório do Governador Shapiro da Pensilvânia entrou com um processo contra a Character.AI hoje depois que uma persona chatbot chamada «Emilie» se passou por uma psiquiatra licenciada durante a query de tratamento de depressão de um investigador estadual. O chatbot alegou ser licenciado, fabricou um número de série de licença médica estadual, e manteve essa credencial falsa por toda a interação. O processo cita a Medical Practice Act da Pensilvânia. Este é o primeiro processo de AG estadual especificamente contra chatbots AI que se apresentam como profissionais médicos — a Character.AI enfrenta processos anteriores por wrongful death e child safety, mas esses usavam teorias de dano diferentes. A fabricação de licença coloca à prova uma linha legal específica: não é speech em geral, é um claim de identidade profissional que o estado regula diretamente.
A pergunta legal substantiva é se a defesa padrão da Character.AI — de que personas user-generated são explicitamente disclaimed como ficção, «tudo o que um Character disser deve ser tratado como ficção» — sobrevive a um claim de fraude de credenciamento. Speech que finge ser um psiquiatra fictício argumentando sobre pensamentos é uma coisa; speech que fabrica um número de licença médica da Pensilvânia é mais perto de fraude de identidade do que de ficção. O estado não está processando pelo conselho que o chatbot deu; está processando pelo claim próprio da persona sobre quem ela era. Essa é uma teoria mais estreita e mais difícil de defender do que «o chatbot disse algo prejudicial». O relief buscado não foi enumerado na cobertura do lançamento, mas casos de AG estadual dessa forma tipicamente combinam injunctive relief (safeguards específicos de plataforma) com penalidades civis atreladas a estatutos de proteção ao consumidor. A defesa «fiction disclaimer no nível de plataforma» tem que fazer trabalho de verdade aqui: a Character.AI não escreveu a persona Emilie, mas hospedou ela, pegou o prompt, e serviu a resposta.
A leitura ecossistema para builders rodando chatbots persona-based — Character.AI, Replika, Janitor.AI, Pi da Inflection, apps companions estilo Replika, GPTs custom no marketplace da OpenAI — é que a superfície de exposição regulatória ficou específica. As state medical practice acts, as state bar regulations, o licenciamento de financial advisor, e leis similares de credencial profissional são todas enforced por AGs estaduais com autoridade investigativa ampla. O caso Pensilvânia vai estabelecer precedente para se os disclaimers de plataforma protegem contra claims de fraude de credencial, e a resposta vai determinar a arquitetura de compliance para a categoria. O padrão estrutural: as personas user-generated podem alegar qualquer coisa nas suas definições de persona, e as plataformas têm revisão pré-publicação mínima. Esse é exatamente o lugar onde «fiction disclaimer + user agency» funcionou quando os claims eram ambíguos e quebra quando os claims são específicos o bastante para serem falsificáveis (um número de licença é real ou fabricado; um estado pode checar). Os builders rodando essas plataformas provavelmente vão precisar de camadas de persona-vetting que flaguem e bloqueiem claims de credencial antes de chegarem ao modelo.
Movimento prático: se você roda um produto chatbot persona-driven, audite sua plataforma para o handling de claim de credencial. As categorias com dentes de enforcement a nível estadual são médica, legal, financial-advisor, real-estate-agent, contractor licensing, e qualquer papel profissional licenciado pelo estado. Construa um filter de criação de persona que combine com a linguagem de credential-claim («psiquiatra licenciado», «Bar # ___», «MD», «registrado com estado de ___») e ou bloqueie a persona ou injete disclaimers obrigatórios em toda resposta. A jogada de fabricação de número de licença neste caso é o padrão de evidência smoking-gun — seu filter deveria flaggar qualquer output de modelo que afirme um número específico ao lado de um credencial. A pergunta de design mais difícil é se restringir as personas user-defined no geral; o caso Pensilvânia sugere que a resposta é sim para credential claims, independente de o dano estar documentado em algum caso de user específico. Acompanhe o docket conforme ele desenvolve; a resposta da Character.AI sobre a teoria fiction-disclaimer vai importar para a categoria toda.