OpenAI a recrute Dean Ball, une voix de premier plan dans la politique de l'IA, pour diriger une équipe nouvellement créée qu'elle appelle Strategic Futures, avec une date de début au 6 juillet. L'objectif declare de l'équipe est d'aider la direction de la société a réfléchir a la politique de l'IA de pointe a un moment ou les gouvernements du monde entier se précipitent pour écrire des regles pour des systèmes de plus en plus capables.
Selon l'annonce, Strategic Futures sera une petite équipe a forte autonomie axee sur un ensemble precis de questions difficiles: le risque catastrophique de l'IA, l'auto-amélioration recursive, la perturbation que l'IA pourrait apporter aux marches du travail, et la relation en evolution entre les sociétés d'IA de pointe et les gouvernements. Ball relevera directement du directeur de la strategie d'OpenAI Jason Kwon.
Ball arrive a ce poste comme l'un des analystes indépendants les plus influents du domaine. Il redige le bulletin très lu Hyperdimensional, a constitue un corpus de recherches en gouvernance de l'IA et en technologie a la Foundation for American Innovation, et a coredige le White House AI Action Plan. Il restera lie a la Foundation for American Innovation comme chercheur principal non resident plutôt que de couper entièrement les liens.
Ce recrutement s'inscrit dans une tendance plus large chez OpenAI, qui ajoute des noms de premier plan a l'approche d'une entrée en Bourse prevue. Il survient juste après que Noam Shazeer, co-responsable des modèles Gemini de Google, a dit qu'il quitterait Google pour OpenAI, et ensemble ces mouvements suggèrent une société qui fait le plein de puissance de feu a la fois technique et politique en même temps. Faire venir un penseur sérieux des politiques en interne, plutôt que de s'appuyer uniquement sur une équipe des affaires externes, est un choix notable.
Ce que cela signale, c'est que la politique est passée au centre de la manière dont fonctionnent les laboratoires de pointe. A mesure que la réglementation se durcit et que les enjeux de l'IA augmentent, OpenAI parie qu'avoir une personne dont le travail est de réfléchir des années a l'avance a la gouvernance, au risque et a la relation de la société avec le gouvernement vaut un siège de haut niveau. La reserve est la même que pour tout recrutement isole: l'influence dépendra de la manière dont l'équipe est utilisée et de la mesure dans laquelle sa réflexion faconne réellement les décisions. Mais la direction, des laboratoires qui professionnalisent leur approche des regles qui les definiront, est le véritable signal.