Anthropic, un leader américain dans le domaine de l'intelligence artificielle, a récemment proposé un système permettant aux acteurs clés de la technologie de convenir d'un ralentissement, voire d'une suspension temporaire, du développement de l'IA. L'objectif est de permettre à la société de s'adapter aux avancées rapides de cette technologie.
Le cofondateur de l'entreprise, Jack Clark, soulève des préoccupations concernant un risque potentiel de "perte de contrôle". Cette proposition contraste avec la course acharnée aux performances entre les géants technologiques, qui semblent ignorer les défis éthiques, sociaux et environnementaux posés par l'IA.
Dans un texte publié par l'Anthropic Institute, l'entreprise plaide pour la création d'un mécanisme de coordination mondiale permettant aux acteurs du secteur de collaborer plutôt que de se livrer à une compétition acharnée. Faute d'un tel système, les entreprises et les gouvernements pourraient être contraints de prendre des décisions difficiles sous la pression de la concurrence.
- "Pédale de frein" -
Anthropic évoque le traité sur les forces nucléaires à portée intermédiaire (FNI) comme un précédent. Bien que ce cadre ait mis des décennies à se mettre en place, l'entreprise estime que des mesures similaires doivent être prises rapidement pour l'IA, jugée "bien plus difficile à contrôler que des systèmes d'armement".
Jack Clark compare cette situation au boom pétrolier du début du XXe siècle, où des régulations ont été mises en place pour instaurer la confiance. Il a mis en garde : "Actuellement, le secteur de l'IA semble avoir une pédale d'accélérateur, mais pas de pédale de frein".
Cette proposition arrive à un moment où la frénésie financière autour de l'IA est à son comble, illustrée par l'annonce récente de SpaceX, qui envisage une introduction en Bourse historique. Anthropic, ayant vu sa valorisation presque tripler en l'espace de trois mois, prépare également son propre lancement sur le marché.
- "Auto-amélioration" -
Malgré l'intérêt croissant pour sa proposition, Anthropic pourrait rencontrer de fortes résistances, en particulier aux États-Unis, où de nombreux dirigeants de la tech craignent qu'un ralentissement offre un avantage à la Chine. Donald Trump a même évoqué une possible coopération avec la Chine sur la sécurité de l'IA.
Le président américain a signé un décret pour réguler le secteur, permettant d'introduire un contrôle gouvernemental sur les modèles avancés, mais uniquement sur une base volontaire. Anthropic, fondé par d'anciens employés d'OpenAI, se positionne comme un laboratoire axé sur l'éthique et la sécurité, bien qu'il ait été critiqué pour exagérer les risques.
En réponse à ces critiques, Anthropic a restreint récemment l'accès à son modèle le plus avancé, Mythos, afin de renforcer la cybersécurité avant publication. D'autres modèles compétitifs devraient voir le jour dans les semaines à venir.
L'entreprise évoque la notion d'"auto-amélioration récursive", où les systèmes d'IA pourraient potentiellement créer des versions plus avancées d'eux-mêmes avec moins d'intervention humaine. Bien qu'Anthropic demeure prudent quant à l'imminence de cette évolution, elle considère qu'ignorer cette tendance pourrait entraîner des risques considérables.
