Au Conseil de sécurité de l'ONU, Sam Altman et Dario Amodei réclament des normes communes d'évaluation et le signalement des incidents d'IA
Le Conseil de sécurité des Nations unies a consacré sa séance de l'après-midi du 23 septembre à « l'intelligence artificielle et la sécurité internationale », à l'initiative de la France, qui le préside en septembre. Quatre intervenants extérieurs y ont pris la parole : Yoshua Bengio, coprésident du panel scientifique international indépendant sur l'IA créé par l'ONU, Sam Altman, directeur général d'OpenAI, venu en personne, Dario Amodei, directeur général d'Anthropic, qui s'exprimait par vidéo, et Clément Delangue, directeur général de Hugging Face. Yoshua Bengio a décrit les dangers d'une IA échappant au contrôle humain comme une menace sans précédent pour les pays, « qu'aucun ne peut contenir seul », selon ONU Info, et contesté que la course entre entreprises soit une fatalité : « Elles nous ont dit qu'elles ralentiraient si elles le pouvaient. Elles le peuvent », a-t-il lancé, d'après TheNextWeb. Dans le texte de son intervention publié par OpenAI, Sam Altman désigne deux dérives à éviter, la perte de contrôle de l'avenir au profit de l'IA et l'usage des modèles les plus puissants par une personne, une entreprise ou un pays pour imposer sa vision du monde ; il juge inacceptable tout niveau de risque de catastrophe, qu'on l'estime à 10 %, à 1 %, à 12 % ou à 0,1 %. Il propose un mécanisme de normes nationales et internationales complémentaires pour mesurer les capacités des modèles les plus avancés, évaluer leurs risques, vérifier que les garde-fous suffisent et préserver un contrôle humain réel à mesure que les systèmes gagnent en autonomie, des protocoles rapides de signalement des incidents, ainsi que des canaux sécurisés entre gouvernements, opérateurs d'infrastructures critiques et experts techniques. Ces normes, précise-t-il, ne devraient ni figer la position des acteurs installés ni privilégier un modèle économique, et doivent convenir aux développeurs de modèles ouverts comme fermés. « Nous ralentirons autant que nécessaire pour nous assurer que chaque nouvelle technologie d'IA que nous publions est réellement sûre », a déclaré pour sa part Dario Amodei, cité par TheNextWeb. Selon ce média, il a proposé aux États de s'entendre d'abord sur des interdictions ciblées, comme l'usage de l'IA pour fabriquer des armes biologiques, puis de bâtir des systèmes d'évaluation et de vérification de leurs engagements respectifs, et de fixer des normes mondiales communes pour tester les modèles, assorties d'un dispositif de notification des incidents graves. Clément Delangue a estimé, toujours d'après TheNextWeb, que « le plus grand risque n'est pas une IA puissante, c'est l'asymétrie de l'IA puissante ». Aucun accord écrit n'était attendu de cette réunion, précise CNN.
Pourquoi c'est important
Ce briefing, dont aucun accord écrit n'était attendu, fait néanmoins apparaître un terrain commun entre deux concurrents directs, qui réclament l'un comme l'autre des normes communes pour évaluer les modèles et un signalement des incidents ; le texte d'Altman ne désigne en revanche ni institution chargée de les porter ni calendrier. Le signalement des incidents est l'une des propositions les plus concrètes des deux interventions, et une entreprise qui conçoit ou intègre des modèles peut s'y préparer sans attendre de texte, en consignant les défaillances et les usages détournés de ses propres systèmes. L'engagement d'Amodei à ralentir fait écho au propos de Yoshua Bengio, pour qui la course entre laboratoires relève des choix des entreprises elles-mêmes.
Source : ONU Info
Des agents Claude repèrent un système enzymatique évoquant CRISPR, dont Anthropic ignore encore la fonction
Le 23 septembre, Anthropic a présenté son groupe de recherche en sciences de la vie, formé au printemps, et le laboratoire de biologie moléculaire qui lui est rattaché, dont l'entreprise avait confirmé l'existence la semaine précédente, selon TechCrunch. Premier résultat mis en avant : un système enzymatique jusque-là non caractérisé, présent surtout dans des bactériophages, les virus qui infectent les bactéries, et baptisé ART (pour array-associated reverse transcriptases). Les chercheurs ont donné à Claude une consigne de départ : chercher de nouveaux exemples de transcriptases inverses dans une vaste base de séquences d'ADN. Environ 950 agents y ont travaillé pendant 21 heures, en consommant 210 millions de jetons ; selon le billet, ils ont rassemblé plus de 200 000 transcriptases inverses, isolé 3 500 systèmes candidats et rédigé des rapports sur les 20 plus prometteurs. L'un des agents a relevé une série de séquences répétées à côté du gène d'une transcriptase inverse, enzyme déjà identifiée dans des études antérieures. Après d'autres analyses et des tests en laboratoire, l'équipe y a reconnu un système nouveau en trois parties : l'enzyme, un gène partenaire situé à côté d'elle et une longue série de répétitions dont la disposition rappelle celle de CRISPR. Les premières expériences montrent que ces répétitions sont exprimées sous forme de courts ARN distincts, ce qui suggère, selon l'équipe, qu'un mécanisme analogue à celui de CRISPR pourrait être à l'œuvre. Anthropic écrit ne pas en connaître encore la fonction et a publié ses résultats sous forme de préprint. Feng Zhang, l'un des pionniers de l'édition génomique CRISPR, professeur au MIT et au Broad Institute, cité par Anthropic après lecture de ce préprint, juge l'identification « véritablement intrigante » et digne d'être approfondie. Sur X, le directeur général Dario Amodei a écrit que la découverte revenait « pour l'essentiel, mais pas entièrement » à Claude, et reconnu qu'une équipe de Stanford avait déjà découvert un système « à certains égards similaire », rapporte TechCrunch. Tout le travail de paillasse est mené par des scientifiques, dans un laboratoire de la baie de San Francisco limité aux niveaux de biosécurité 1 et 2, qui ne manipule aucun pathogène humain.
Pourquoi c'est important
Les quelques systèmes connus qui réunissent les mêmes caractéristiques sont tous programmables et servent à couper, copier ou coller de l'ADN, écrit Anthropic : d'où l'intérêt de la trouvaille, sans que rien ne garantisse qu'ART en fasse autant. TechCrunch rappelle qu'il reviendra à la communauté scientifique de dire si elle est aussi importante, ou aussi nouvelle, qu'annoncé. Le procédé, lui, est déjà lisible : des centaines d'agents trient plus de 200 000 enzymes, et les biologistes ne reçoivent qu'une vingtaine de rapports rédigés, avant de reprendre la main à la paillasse. Reste le coût de calcul, à prévoir par tout laboratoire tenté par la démarche : 210 millions de jetons pour cette seule recherche de 21 heures.
Source : Anthropic
OpenAI publie un banc d'essai en santé mentale conçu avec plus de 80 cliniciens, où ses modèles prennent trois des quatre premières places
Plus de 80 psychologues et psychiatres agréés, répartis dans 22 pays et parlant 19 langues, ont participé à l'élaboration de MentalHealthBench, qu'OpenAI a publié le 23 septembre pour évaluer les réponses des modèles d'IA dans des conversations réalistes sur la santé mentale. Les échanges sont synthétiques, produits avec des techniques de protection de la vie privée, et relèvent de trois niveaux : conversations ordinaires à composante émotionnelle, détresse sérieuse sans urgence immédiate, et situations d'urgence. Chaque conversation a été relue par au moins trois experts, et un critère de notation n'est retenu que si deux d'entre eux l'approuvent sans qu'un troisième le contredise ; l'ensemble compte 1 215 conversations et 5 262 critères, selon le média AI Weekly. La notation est confiée à un modèle d'OpenAI, GPT-5.6 Sol. Au classement publié, GPT-6 Astra arrive en tête avec 57,3 %, devant GPT-6 Sol (53,9 %), Claude Opus 5.5 d'Anthropic (52,4 %) et GPT-6 Luna (50,2 %) ; les modèles de xAI et de Google évalués se classent derrière, tout comme Muse Spark 1.3, que l'annexe de l'étude rattache à Meta. OpenAI précise que la répartition des scénarios ne reflète pas la fréquence de ces sujets dans ChatGPT et que, pour le profil adolescent, l'âge est simplement indiqué dans un message système, ce qui peut ne pas rendre compte de toutes les protections intégrées aux produits. Une étude distincte a recueilli l'avis de 44 adultes ayant déjà utilisé l'IA comme soutien émotionnel, sur des conversations non aiguës uniquement.
Pourquoi c'est important
Le classement vient de l'entreprise dont les modèles occupent trois des quatre premières places, et la notation est confiée à l'un de ses propres modèles. Il ne tient donc pas lieu d'évaluation indépendante, et les écarts entre modèles voisins se lisent avec les intervalles de confiance affichés sur le graphique. La méthode apporte davantage. La plupart des évaluations du domaine se concentraient surtout sur les scénarios d'urgence et mesuraient la réussite avec des critères généraux, relève OpenAI ; celle-ci fait écrire par des cliniciens ce qu'est une bonne réponse, situation par situation. Rien n'empêche un éditeur d'application de bien-être ou un établissement de santé de reprendre la démarche avec ses propres praticiens, dans les langues de ses patients, avant de confier un assistant conversationnel au public.
Source : OpenAI
ByteDance a pesé 73 % du chiffre d'affaires 2025 de Nscale sans être nommée dans son prospectus boursier, révèle le FT
ByteDance, maison mère chinoise de TikTok, a représenté 73 % du chiffre d'affaires réalisé en 2025 par Nscale, un fournisseur de cloud d'IA soutenu par Nvidia, sans apparaître nommément dans le prospectus d'introduction en Bourse que celui-ci a rendu public le 18 septembre auprès de la SEC, le gendarme boursier américain, a révélé le Financial Times mercredi 23 septembre. Selon le FT, cité par The Decoder, seule une annexe mentionne sa filiale singapourienne, Spring. Ce chiffre d'affaires s'élevait à 33 millions de dollars en 2025, puis à 140,6 millions au premier semestre 2026, période sur laquelle le premier client de Nscale, lui non plus pas nommé, en a fourni 52 %, relève Fortune d'après le prospectus. En mai 2025, Spring s'était engagée à utiliser 2 304 puces Nvidia B200 à Glomfjord, en Norvège, sur un ancien site de minage de cryptomonnaies ; ce contrat a servi de garantie à un prêt de 105 millions de dollars de Macquarie, complété par 35 millions de fonds propres, pour financer le matériel, écrit The Decoder. L'accord permettait à ByteDance d'utiliser des puces Nvidia qu'elle ne peut pas acheter en Chine, en tirant parti d'une lacune des règles américaines d'exportation : une pratique autorisée, précise le média, mais qui comporte des risques juridiques et de réputation. Nscale s'attend à ce que la part de son premier client passe sous 20 % de ses revenus cette année, à mesure que montent ses contrats avec Microsoft et Anthropic, toujours selon The Decoder. Le prospectus chiffre ces deux contrats en plafonds, sous réserve que Nscale remplisse des conditions de livraison et de disponibilité du service : jusqu'à environ 43,8 milliards de dollars de paiements de Microsoft d'ici décembre 2033, hors extensions optionnelles, et jusqu'à environ 44,6 milliards pour Anthropic, sur une durée non précisée.
Pourquoi c'est important
Le prospectus ne cache pas la concentration de la clientèle, puisqu'il indique, relève Fortune, que le premier client a fourni 52 % du chiffre d'affaires du premier semestre 2026, sans le nommer. Pour 2025, le nom de Spring figure dans une pièce jointe à un projet de prospectus datant de septembre 2025, liée au prêt de Macquarie, relève encore Fortune ; d'après l'annuaire des dépôts de la SEC, cette pièce est en ligne sur son site depuis le 26 juin. Encore fallait-il relier cette filiale à ByteDance, ce que le document principal remis aux investisseurs ne permet pas. Dans l'introduction en Bourse d'un fournisseur de calcul, l'identité des gros clients se cherche donc aussi dans les contrats de financement annexés. La dilution attendue chez Nscale repose, elle, sur la montée en charge de deux contrats dont les montants sont des plafonds soumis à conditions.
Source : Fortune
Meta présente à Connect les Ray-Ban Meta Audio, des lunettes sans caméra en précommande à partir de 349 dollars
À sa conférence Connect, le 23 septembre, Meta a présenté les Ray-Ban Meta Audio, ses premières lunettes audio, conçues avec EssilorLuxottica. Ce sont aussi ses premières lunettes d'IA sans caméra, souligne TechCrunch : elles servent à écouter de la musique ou des podcasts, à téléphoner, à traduire la parole et à dialoguer avec Muse, l'agent d'IA personnel que Meta a lancé le 8 septembre. Elles pèsent 43 grammes, tiennent jusqu'à 12 heures sur une charge, et 48 heures de plus avec leur étui, et se déclinent en deux montures, Clubmaster et Burbank, compatibles avec des verres correcteurs. Meta les propose en précommande à partir de 349 dollars, pour un envoi prévu le 13 octobre ; TechCrunch situe à cette même date l'ouverture des précommandes. Le même jour, Meta a mis en vente la troisième génération des Ray-Ban Meta, dotée d'une caméra de 12 mégapixels qui filme en 3K, à partir de 449 dollars. « Une fois qu'on s'est habitué à un son de haute qualité, c'est le genre de chose qu'on veut tout le temps, non ? », a déclaré Mark Zuckerberg pendant la keynote, cité par TechCrunch. Le média voit dans ce modèle un moyen, pour Meta, de répondre aux critiques visant les lunettes à caméra, dont certains utilisateurs se servaient pour filmer des personnes sans leur consentement.
Pourquoi c'est important
Meta propose désormais deux modèles lancés le même jour, l'un qui filme en 3K et qui est déjà en vente, l'autre dépourvu de caméra et pour l'instant en précommande. Une entreprise qui interdit les prises de vue dans ses ateliers ou ses salles de réunion devra distinguer les modèles si elle ne veut viser que les lunettes capables de filmer. Le groupe, selon la lecture de TechCrunch, tente de désamorcer la critique qui visait ses lunettes, tout en plaçant Muse à portée de voix sans que l'utilisateur ait à sortir son téléphone. Ni le communiqué de Meta ni TechCrunch ne précisent dans quels pays les Ray-Ban Meta Audio seront vendues ; une note du communiqué annonce de nouveaux marchés d'ici la fin de l'année pour la marque Ray-Ban Meta, dont l'Afrique du Sud, sans dire si ce modèle en fait partie.
Source : Meta