Reuters rompió un exclusivo esta semana: Meta está desplegando la Model Capability Initiative (MCI) a empleados US. La herramienta captura movimientos de mouse, clics, pulsaciones de teclado y capturas de pantalla periódicas en apps y sitios web relacionados al trabajo. La divulgación aterrizó en un memo a un canal de equipo Meta Superintelligence Labs. Enmarque de Meta: ayudar a sus modelos a aprender comportamientos básicos de uso de computadora, desde navegar menús desplegables hasta usar atajos de teclado, para que agentes futuros puedan realizar tareas de cuello blanco autónomamente.
El patrón hace eco a algo ya cubierto en estas páginas. A principios de esta semana el MIT Technology Review reportó sobre Colleague Skill, una herramienta GitHub de un ingeniero del Shanghai AI Lab que raspa historiales de chat de Lark y DingTalk para destilar colegas en manuales de flujo de trabajo reproducibles por agentes. Esa historia era bottom-up, con ingenieros individuales destilando a sus pares, más una herramienta de backlash (anti-destilación) de otro ingeniero que reescribe documentos de flujo de trabajo en lenguaje genérico no accionable antes de que sean absorbidos. MCI es la versión corporativa top-down del mismo problema de captura de datos. Mismo sustrato (actividad de computadora en el trabajo), gobernanza diferente (oficialmente sancionada, centralmente administrada). El portavoz de Meta Stone dijo a Reuters que los datos de MCI no se usarán para evaluaciones de desempeño y no se usarán para ningún propósito que no sea entrenamiento de modelo.
Dos cosas que vale registrar. Uno, la señal de escasez de datos de entrenamiento. Meta compitiendo con OpenAI y Anthropic en enviar productos de agente autónomo significa competir en datos de entrenamiento de uso de computadora interactivo, y esos datos no están en el internet público. La respuesta honesta para cómo obtenerlos es "nuestros empleados, haciendo sus trabajos, instrumentados." Cada laboratorio frontera está haciendo alguna versión de esto; la versión de Meta es solo inusualmente explícita, con un nombre de herramienta divulgado y un memo. Dos, el trade-off privacidad-vs-capacidad que se está haciendo aquí no es nuevo, pero la escala sí. Instrumentación estilo MCI a escala de plantilla de Meta produce un conjunto de entrenamiento que competidores sin la plantilla o la postura legal interna para hacer lo mismo tendrán dificultades para igualar. Si las salvaguardas citadas por Stone aguantan (sin evaluación de desempeño, sin otro propósito, salvaguardas de contenido de pantalla para material sensible) es la parte que se prueba en la práctica, no en memos.
Dos observaciones si corres una organización AI-forward. Uno, el patrón MCI va a presionar a cada laboratorio que no lo tiene. Si trabajas en o compites con una empresa construyendo productos de agente, espera que la conversación "¿deberíamos instrumentar a nuestros propios empleados?" esté en la agenda en dos trimestres si no lo está ya. Dos, la respuesta del lado del empleado importa. La herramienta anti-destilación de Koki Xu en la historia de Colleague Skill demostró que los trabajadores tratan estas tuberías de captura como entrada adversarial en el momento que son implementadas. Si envías tooling estilo MCI internamente, planifica que tu propia plantilla construya contramedidas. El patrón de captura es real, el patrón de resistencia es real, y co-evolucionarán.