security / enterprise
Par parti pris · 1 takes across the edition
Snyk · United States · Les États-Unis interdisent à tout ressortissant étranger l'accès aux modèles les plus puissants d'Anthropic
Analyse du secteur de la sécurité : le jailbreak cité par le gouvernement consistait à demander au modèle de lire un codebase et d'identifier des vulnérabilités logicielles, une capacité qu'Anthropic commercialisait comme une fonctionnalité légitime de développement. Soutient que la suspension établit un précédent : tout modèle d'IA capable de travail de sécurité utile est une cible potentielle du contrôle des exportations.
“Le jailbreak cité consistait à demander à l'IA de passer en revue le code à la recherche de vulnérabilités, la même capacité qu'Anthropic vendait comme une fonctionnalité.”