A Reuters quebrou um exclusivo essa semana: a Meta está implantando a Model Capability Initiative (MCI) para funcionários US. A ferramenta captura movimentos de mouse, cliques, digitações e screenshots periódicos em apps e sites relacionados ao trabalho. A divulgação aterrissou em um memo para um canal de equipe Meta Superintelligence Labs. Enquadramento da Meta: ajudar seus modelos a aprender comportamentos básicos de uso de computador, desde navegar menus suspensos até usar atalhos de teclado, para que agentes futuros possam realizar tarefas de colarinho branco autonomamente.
O padrão ecoa algo já coberto nessas páginas. No início dessa semana o MIT Technology Review reportou sobre Colleague Skill, uma ferramenta GitHub de um engenheiro do Shanghai AI Lab que raspa históricos de chat de Lark e DingTalk para destilar colegas em manuais de fluxo de trabalho reproduzíveis por agentes. Aquela história era bottom-up, com engenheiros individuais destilando seus pares, mais uma ferramenta de backlash (anti-destilação) de outro engenheiro que reescreve documentos de fluxo de trabalho em linguagem genérica não-acionável antes de serem absorvidos. MCI é a versão corporativa top-down do mesmo problema de captura de dados. Mesmo substrato (atividade de computador no trabalho), governança diferente (oficialmente sancionada, centralmente administrada). O porta-voz da Meta Stone disse à Reuters que os dados do MCI não serão usados para avaliações de desempenho e não serão usados para nenhum propósito além de treinamento de modelo.
Duas coisas que valem registrar. Um, o sinal de escassez de dados de treinamento. Meta competindo com OpenAI e Anthropic em enviar produtos de agente autônomo significa competir em dados de treinamento de uso de computador interativo, e esses dados não estão na internet pública. A resposta honesta para como conseguir eles é "nossos funcionários, fazendo seus trabalhos, instrumentados." Todo laboratório fronteira está fazendo alguma versão disso; a versão da Meta é só incomumente explícita, com um nome de ferramenta divulgado e um memo. Dois, o trade-off privacidade-vs-capacidade sendo feito aqui não é novo, mas a escala é. Instrumentação estilo MCI na escala de headcount da Meta produz um conjunto de treinamento que competidores sem o headcount ou a postura legal interna para fazer o mesmo terão dificuldade de igualar. Se as salvaguardas citadas por Stone seguram (sem avaliação de desempenho, sem outro propósito, salvaguardas de conteúdo de tela para material sensível) é a parte que é testada na prática, não em memos.
Duas observações se você roda uma organização AI-forward. Um, o padrão MCI vai pressionar todo laboratório que não o tem. Se você trabalha ou compete com uma empresa construindo produtos de agente, espere que a conversa "deveríamos instrumentar nossos próprios funcionários?" esteja na agenda em dois trimestres se já não está. Dois, a resposta do lado do funcionário importa. A ferramenta anti-destilação do Koki Xu na história do Colleague Skill demonstrou que trabalhadores tratam essas tubulações de captura como input adversarial no momento em que são implementadas. Se você envia tooling estilo MCI internamente, planeje para sua própria mão de obra construir contramedidas. O padrão de captura é real, o padrão de resistência é real, e eles co-evoluirão.