OpenAI a recrute Dean Ball, une voix de premier plan dans la politique de l'IA, pour diriger une equipe nouvellement creee qu'elle appelle Strategic Futures, avec une date de debut au 6 juillet. L'objectif declare de l'equipe est d'aider la direction de la societe a reflechir a la politique de l'IA de pointe a un moment ou les gouvernements du monde entier se precipitent pour ecrire des regles pour des systemes de plus en plus capables.
Selon l'annonce, Strategic Futures sera une petite equipe a forte autonomie axee sur un ensemble precis de questions difficiles: le risque catastrophique de l'IA, l'auto-amelioration recursive, la perturbation que l'IA pourrait apporter aux marches du travail, et la relation en evolution entre les societes d'IA de pointe et les gouvernements. Ball relevera directement du directeur de la strategie d'OpenAI Jason Kwon.
Ball arrive a ce poste comme l'un des analystes independants les plus influents du domaine. Il redige le bulletin tres lu Hyperdimensional, a constitue un corpus de recherches en gouvernance de l'IA et en technologie a la Foundation for American Innovation, et a coredige le White House AI Action Plan. Il restera lie a la Foundation for American Innovation comme chercheur principal non resident plutot que de couper entierement les liens.
Ce recrutement s'inscrit dans une tendance plus large chez OpenAI, qui ajoute des noms de premier plan a l'approche d'une entree en Bourse prevue. Il survient juste apres que Noam Shazeer, co-responsable des modeles Gemini de Google, a dit qu'il quitterait Google pour OpenAI, et ensemble ces mouvements suggerent une societe qui fait le plein de puissance de feu a la fois technique et politique en meme temps. Faire venir un penseur serieux des politiques en interne, plutot que de s'appuyer uniquement sur une equipe des affaires externes, est un choix notable.
Ce que cela signale, c'est que la politique est passee au centre de la maniere dont fonctionnent les laboratoires de pointe. A mesure que la reglementation se durcit et que les enjeux de l'IA augmentent, OpenAI parie qu'avoir une personne dont le travail est de reflechir des annees a l'avance a la gouvernance, au risque et a la relation de la societe avec le gouvernement vaut un siege de haut niveau. La reserve est la meme que pour tout recrutement isole: l'influence dependra de la maniere dont l'equipe est utilisee et de la mesure dans laquelle sa reflexion faconne reellement les decisions. Mais la direction, des laboratoires qui professionnalisent leur approche des regles qui les definiront, est le veritable signal.