Bizclub

Tech

Anthropic propose sa propre loi pour bloquer un modèle IA

Anthropic propose un texte pour que Washington puisse bloquer un modèle d’IA si un juge estime qu’il y a un risque imminent de plus de 50 morts ou d’un milliard de dollars de dégâts. Le texte demande aussi tests, transparence publique, évaluations indépendantes et programmes de sécurité solides.

Anthropic propose sa propre loi pour bloquer un modèle IA
Photo : Bretwa, CC0, via Wikimedia Commons

Anthropic, créateur de l’assistant Claude, a rédigé un texte de régulation à destination des élus américains. L’entreprise l’a présenté faute d’un cadre fédéral voté par le Congrès.

Selon le texte dévoilé par Politico, la principale mesure permettrait à Washington de bloquer un modèle d’IA en cas de risque imminent de provoquer plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts. Cette possibilité de blocage nécessite cependant l’aval d’un juge.

Le projet impose aussi aux développeurs de tester les modèles « les plus puissants », d’être transparents envers le public sur leurs résultats, de soumettre les modèles à une évaluation indépendante et de maintenir un solide programme de sécurité, d’après le porte‑parole cité.

Anthropic a déjà connu des frictions avec les autorités américaines : la société a été bannie du Pentagone par l’administration Trump en février et a dû suspendre pendant près de trois semaines ses modèles les plus avancés en juin, sur injonction de Washington.

Le patron Dario Amodei a appelé l’industrie à ralentir en septembre, évoquant le risque qu’un groupe d’agents d’IA prenne le contrôle d’internet d’ici six à douze mois. La proposition d’Anthropic suscite des réactions partagées : certains y voient un texte raisonnable, d’autres y voient une tentative de freiner la concurrence.

Le texte proposé primerait sur certaines lois des États, comme celle de Californie, et se compare à d’autres projets comme le Frontier Act, jugé plus strict par certains observateurs.

Source : BFM Business. L'équipe Bizclub peut faire des erreurs : pense toujours à vérifier les infos.

Chaque dimanche, l'essentiel du business

Les 5 actus de la semaine en 5 minutes, avec la version détaillée si tu veux creuser. Gratuit.

Gratuit. 1 e-mail par semaine, le dimanche. Désinscription en 1 clic.