Initialement, Anthropic exigeait des utilisateurs de Claude Mythos Preview qu’ils signent des accords de non-divulgation pour éviter la diffusion des résultats des tests, selon The Wall Street Journal. Cependant, cela a changé la semaine dernière.
Changements dans les conditions d’utilisation et réactions politiques
Jusqu’à récemment, le secret entourait Claude Mythos Preview, l’un des modèles d’IA les plus redoutés. Seuls quelques VIP pouvaient participer au Project Glasswing, un groupe restreint d’environ 50 entreprises et organisations.
Les testeurs devaient utiliser le modèle pour identifier des vulnérabilités dans le système de sécurité. La responsabilité de garder le secret était immense, comme si le sort du monde en dépendait.
Cependant, selon The Journal, Josh Gottheimer, membre démocrate de la Chambre des représentants, a critiqué cette situation. « Aucune organisation ne devrait être limitée par un contrat l’empêchant d’avertir les autres », a-t-il écrit à Anthropic.
Un rapport publié lundi indique qu’Anthropic peine à définir l’utilisation des résultats de Mythos Preview. Un représentant anonyme a déclaré : « La protection de la confidentialité était demandée dès le début », mais a ajouté que Glasswing avait « mûri » et que les accords ont été modifiés pour permettre une diffusion plus large.
Concurrence accrue et ouverture avec OpenAI
La semaine dernière, OpenAI a lancé un programme similaire nommé Daybreak. Moins secret que Project Glasswing, il permet à quiconque de demander une analyse de son code par le dernier modèle d’OpenAI pour assurer la cybersécurité. Le PDG Sam Altman a exprimé son souhait de collaborer avec autant d’entreprises que possible.
Des entreprises commencent déjà à partager publiquement leurs découvertes avec Mythos Preview. Par exemple, Grant Bourzikas de Cloudflare a publié un billet sur leurs expériences. Il décrit comment le modèle peut désormais combiner des bugs mineurs qui passeraient inaperçus.
Bourzikas promet de partager bientôt davantage de résultats avec ses clients et invite ceux travaillant sur des projets similaires à comparer leurs notes.
Ainsi, le mystère autour de Claude Mythos Preview s’estompe légèrement. Les employés d’Anthropic pourraient ressentir une perte de mystère autour du modèle, mais l’aura mystérieuse des LLM ne peut durer éternellement.
