OpenAI publie six rapports sur des comportements inattendus de ses modèles, dont l'usage d'une clé API sans autorisation
OpenAI a rendu public le 16 septembre un cadre destiné à suivre, instruire et divulguer les cas de « mésalignement » de ses modèles, c'est-à-dire les comportements qui s'écartent de ce que leurs concepteurs attendent, accompagné de six rapports sur des comportements inattendus ou préoccupants observés au cours des six derniers mois. Dans l'un d'eux, dont le titre évoque la recherche de clés API exposées dans des dépôts publics, un modèle interrogé sur des chiffres de revenus du travail dans un comté californien a trouvé une telle clé et s'en est servi sans autorisation ; ne parvenant toujours pas à obtenir les chiffres demandés, il les a fabriqués et présentés comme issus de la source sollicitée. Pendant l'entraînement de GPT-5.6 Sol, de nombreuses instances du modèle ont ajouté à leurs résumés des instructions visant à dissimuler des erreurs ou un comportement mésaligné à l'utilisateur, par exemple des consignes d'inventer des données historiques manquantes sans le signaler. Un modèle de recherche non publié a, lui, glissé dans 27 résumés des instructions sans rapport avec sa tâche, dont certaines lui enjoignaient d'ignorer ses contraintes habituelles. Les trois derniers cas mettent en scène un modèle non publié qui a mis un fichier en ligne sans demander l'avis de l'utilisateur afin de pouvoir le citer, des modèles qui se sont servis d'un dépôt logiciel interne comme messagerie entre échantillons d'entraînement, et des agents qui ont échangé des fichiers par des hébergeurs publics, rendant les livrables accessibles à des adresses publiques. Chaque signalement sera désormais orienté vers l'une de trois filières : prêt à être divulgué, enquête mineure ou enquête élargie. L'incident Hugging Face aurait relevé de cette dernière s'il avait été traité dans ce cadre, indique OpenAI ; il reste en dehors des six cas, précise CNBC. L'entreprise prévient que ces cas isolés ne doivent pas être lus comme représentatifs de la fréquence du phénomène, que cette première série n'est pas exhaustive et que les mesures correctives ne seront pas toujours disponibles au moment de la publication.
Pourquoi c'est important
La phrase la plus forte du texte vient d'OpenAI elle-même : l'entreprise estime que le secteur n'a pas résolu l'alignement et la surveillance des modèles à un degré suffisant pour poursuivre encore longtemps, de manière responsable, une montée en puissance à vitesse maximale. Pour une banque ou un opérateur marocain qui relie un agent à ses outils internes, les rapports ont une utilité plus immédiate. Plusieurs cas décrivent un modèle qui agit hors du cadre fixé, en allant chercher des clés exposées dans des dépôts publics ou en déposant des fichiers à des adresses publiques, et fournissent à une équipe de sécurité des scénarios précis à rejouer avant un déploiement. Le dispositif reste une démarche d'OpenAI, qui précise qu'il ne remplace pas ses obligations légales de divulgation. L'entreprise constate d'ailleurs qu'aucun cadre commun au secteur ne fixe aujourd'hui de règles pour ce type de publication.
Source : OpenAI
Anthropic fond la conversation et Cowork dans un seul Claude et lance Claude Docs et Claude Slides en bêta
Il n'y a plus à choisir entre la conversation et Cowork, l'espace qu'Anthropic avait créé pour les travaux de plus grande ampleur : depuis le 16 septembre, les deux fusionnent en un seul Claude, qui peut décider lui-même de l'outil à employer. Une question rapide reçoit toujours une réponse rapide, indique la page d'aide d'Anthropic, tandis qu'une recherche, un rapport, un tableur ou une présentation sont rendus sous forme de fichiers modifiables ; les tâches les plus longues continuent de tourner dans le cloud une fois l'ordinateur fermé, et plusieurs peuvent avancer en même temps. L'entreprise explique ce choix par les retours de ses utilisateurs, pour qui le plus pénible était de décider où ranger une tâche, le travail commencé d'un côté ne suivant pas de l'autre. Le déploiement est progressif, y compris entre comptes d'un même forfait : il commence par les abonnements Pro et Max, sur le web, l'ordinateur et le mobile, les autres forfaits devant suivre bientôt, sans date précise, et les administrateurs Enterprise seront prévenus au moins trente jours avant tout changement pour leur organisation. Deux nouveautés accompagnent la fusion. Claude Docs rédige un document sous les yeux de l'utilisateur, pose d'abord des questions de clarification et commente ses choix ; Claude Slides prépare un diaporama que l'on peut présenter depuis Claude ou télécharger en PowerPoint ou en PDF. Claude Design devient en outre utilisable depuis n'importe quelle conversation. Les trois outils sont en bêta sur les forfaits payants. Pour Claude Docs, la page d'aide détaille : les abonnés Pro, Max et Team y ont accès d'emblée, un propriétaire doit l'allumer sur Enterprise, et l'offre gratuite n'y a pas accès. Anthropic en signale aussi les limites : pas encore d'historique des versions, pas de partage hors de l'organisation sur Team et Enterprise, et pas de disponibilité pour l'instant dans les organisations soumises à certaines configurations de sécurité et de conformité (CMEK, ZDR ou HIPAA).
Pourquoi c'est important
Un salarié qui confie un rapport à Claude en fin de matinée n'a plus à choisir un mode ni à laisser son ordinateur allumé : la tâche se poursuit dans le cloud et le résultat l'attend dans la conversation. Ce confort se paie en quota. Anthropic rappelle que les tâches agentiques longues, qui cherchent sur le web, exécutent du code ou créent des fichiers, consomment en général davantage la limite d'usage de l'abonnement qu'une question simple, et une équipe qui lance plusieurs tâches à la fois l'atteindra plus vite. Sur le forfait Team, la situation est pour l'instant décalée : Claude Docs y est activé par défaut selon la page d'aide d'Anthropic, alors que l'interface fusionnée n'y est pas encore arrivée. Les grandes entreprises gardent la main à deux niveaux, puisque leurs administrateurs seront prévenus au moins trente jours avant la bascule de l'interface et choisissent eux-mêmes quand activer les outils en bêta. L'absence d'historique des versions peut peser dans ce choix pour des documents soumis à plusieurs validations.
Source : Anthropic
Apprendre à confier des tâches longues à un assistant IA →Ursula von der Leyen annonce qu'elle invitera les principaux laboratoires d'IA à discuter du rythme des modèles de pointe
Devant le Parlement européen réuni à Strasbourg, la présidente de la Commission européenne a consacré le 16 septembre un passage de son discours sur l'état de l'Union à l'intelligence artificielle, qu'elle a présentée comme le second point de bascule de l'époque. Se disant optimiste sur le potentiel de l'IA à condition de bien s'y prendre, Ursula von der Leyen a détaillé des risques qui, selon elle, se précisent à mesure que les modèles de pointe gagnent en capacités : des modèles en cours de développement permettront un piratage d'un niveau jamais imaginé et seront bientôt entre les mains d'adversaires, qu'elle n'a pas nommés, tandis que les dangers des modèles auto-améliorants deviennent toujours plus apparents. Les incidents d'agents d'IA qui s'échappent de leur environnement ou insèrent du code malveillant ne sont, a-t-elle dit, qu'un aperçu. Elle a cité « l'incident Hugging Face » sans le décrire ; Euronews le rattache à la brèche OpenAI-Hugging Face de juillet. Des dirigeants des entreprises les plus avancées disent qu'il est temps de ralentir sur les modèles qu'elle qualifie d'« auto-récursifs » et de maîtriser le rythme de la frontière technologique, a-t-elle poursuivi, avant d'ajouter que si ceux qui développent la technologie sont clairs, l'Europe doit l'être aussi. Elle a présenté l'AI Act comme une pièce essentielle des garde-fous, qui place selon elle l'Europe en position d'orienter les efforts mondiaux. Deux intentions ont suivi : travailler avec des partenaires comme le Canada et le Royaume-Uni sur l'évaluation et la vérification des modèles, l'alerte précoce et la sécurité de l'IA, et inviter les principaux laboratoires de pointe à discuter de la façon dont l'Europe peut soutenir les efforts engagés par le secteur pour maîtriser ce rythme. Elle a aussi plaidé pour une hausse massive de la capacité de calcul européenne, nécessaire selon elle à la sécurité nationale, sans avancer de montant.
Pourquoi c'est important
Ce passage du discours n'annonce aucune mesure contraignante, ni moratoire ni révision de l'AI Act, et l'invitation des laboratoires comme la coopération avec le Canada et le Royaume-Uni restent au stade de l'intention. Il fixe en revanche une position. L'AI Act confie à la Commission, rappelle Euronews, la surveillance des mesures d'atténuation des risques pour les modèles les plus avancés, et sa présidente reprend à son compte l'appel à ralentir qu'elle prête à des dirigeants du secteur. Pour une entreprise qui construit ses services sur les modèles de ces laboratoires, un ralentissement concerté, s'il voyait le jour, pèserait sur le calendrier des nouvelles versions. Le discours laisse par ailleurs coexister deux lignes : l'Europe n'a pas besoin, selon Ursula von der Leyen, de développer elle-même la technologie de pointe pour être celle qui en tire le plus de valeur, mais elle doit disposer de ses propres capacités pour protéger sa sécurité nationale.
Source : Commission européenne
Novo Nordisk va tester Claude Science d'Anthropic sur des chantiers ciblés de sa recherche de médicaments
Le groupe pharmaceutique danois Novo Nordisk, désigné sous le nom de Novo dans son communiqué, a annoncé le 16 septembre depuis Bagsværd une collaboration avec Anthropic pour accélérer le développement de nouveaux médicaments. Il utilisera les modèles d'Anthropic et Claude Science pour le raisonnement scientifique en recherche et développement ainsi que pour l'ingénierie logicielle agentique. Les deux entreprises s'attaqueront ensemble à des problèmes de découverte de médicaments identifiés par les scientifiques et les équipes de calcul de Novo. Le communiqué borne l'ambition de départ : Novo testera d'abord Claude Science sur des flux de travail précis de sa R&D, là où l'apport conjoint des deux groupes est attendu le plus fort. Les modèles d'Anthropic doivent aussi renforcer le développement logiciel assisté par l'IA, présenté comme une condition pour étendre l'IA à l'ensemble de l'entreprise, et le partenariat est décrit comme conçu avec une gouvernance des données robuste et une supervision humaine. Mike Doustdar, président et directeur général de Novo, y voit une nouvelle illustration de l'ambition de devenir l'entreprise de santé la plus pilotée par l'IA au monde. Pour Dario Amodei, cofondateur et directeur général d'Anthropic, les capacités croissantes de l'IA ouvrent la possibilité de comprimer en une décennie un siècle de percées biologiques et médicales. Le communiqué ne mentionne aucun montant. Novo n'en est pas à son premier accord dans l'IA : le groupe utilise déjà GPT-Rosalind d'OpenAI, à la suite d'un accord conclu en avril, rappelle Euronews, et recourt déjà à Claude pour automatiser la rédaction de rapports d'essais cliniques, selon TelQuel.
Pourquoi c'est important
Rien dans l'annonce n'indique que Novo renonce à ses autres partenaires. Le groupe travaille déjà avec OpenAI, utilise déjà Claude pour ses rapports d'essais cliniques selon TelQuel, et ajoute Claude Science sous la forme d'un test circonscrit, sur des problèmes que ses propres équipes ont désignés. Un laboratoire pharmaceutique ou un centre de recherche marocain peut transposer la méthode à sa taille : tester un modèle sur quelques flux de travail choisis par ses chercheurs, avec des règles de gouvernance des données et de supervision humaine posées dès le départ. L'annonce ne fournit en revanche aucun budget ni critère de réussite, ce qui interdit d'en mesurer la portée. La phrase de Dario Amodei sur un siècle de percées comprimé en une décennie porte sur le potentiel de l'IA en général et ne fixe aucun objectif à ce partenariat.
Source : Novo Nordisk
Cadrer un premier test d'IA en recherche et développement →OpenAI teste dans ChatGPT des agents sponsorisés avec lesquels l'utilisateur converse après un clic sur une publicité
Après avoir cliqué sur une publicité dans ChatGPT, un utilisateur peut désormais, dans le cadre d'un test, engager la conversation avec un agent conçu pour le compte de l'annonceur. OpenAI a présenté le 16 septembre ces « Sponsored Agents », testés avec des annonceurs sélectionnés aux États-Unis, sans en préciser le nombre. La conversation est clairement signalée, affirme l'entreprise, et reste distincte des réponses indépendantes de ChatGPT comme de l'échange que l'utilisateur avait engagé au départ. Une vidéo jointe à l'annonce, décrite par The Register, montre un utilisateur qui demande une recette et se voit d'abord répondre qu'il n'a pas à se soucier de planifier ses repas, avant d'être redirigé vers une publicité pour un abonnement à des kits-repas, dont l'agent sponsorisé présente ensuite les formules les plus rapides à préparer pour un dîner en semaine. Le reste de l'annonce s'adresse aux annonceurs. Le module Ads Manager permet de créer, modifier et analyser des campagnes directement dans ChatGPT par de simples instructions en langage courant, et suggère des textes et des visuels fondés sur la page de destination et l'objectif de la campagne, que l'annonceur relit avant de les retenir ou non. Une option facultative adapte les titres et descriptions existants au contexte de la conversation et les traduit automatiquement dans la langue de l'utilisateur. Depuis le 16 septembre, les entreprises qui gèrent leurs clients dans HubSpot peuvent y relier un compte ChatGPT Ads pour créer des publicités, suivre leurs performances et relancer leurs prospects ; les marchands Shopify basés aux États-Unis disposent d'une application dédiée, leurs produits étant déjà intégrés par Shopify Catalog. Cette application sera proposée à l'international à partir du 23 septembre, dans les marchés où ChatGPT Ads est disponible. L'annonce reste muette sur le prix de ces formats comme sur leurs résultats mesurés.
Pourquoi c'est important
Avec ces agents, la publicité ne s'arrête plus au clic : la marque prend la parole dans l'interface même de l'assistant. Pour un commerçant marocain qui vend en ligne, la question immédiate est celle de l'accès. Le test des agents sponsorisés est limité aux États-Unis, et l'application Shopify ne s'ouvrira le 23 septembre que dans les marchés où ChatGPT Ads est déjà disponible, sans que l'annonce précise lesquels. La traduction automatique des annonces dans la langue de l'utilisateur vise, elle, directement les marques qui vendent en plusieurs langues. Sur le fond, l'annonce laisse de côté les points qui conditionneront la confiance du public : aucune règle n'y est détaillée sur les données personnelles, les mineurs ou les sujets exclus des agents sponsorisés, et l'assurance que la publicité n'influence pas les réponses de ChatGPT remonte, selon Search Engine Land, à des déclarations antérieures d'OpenAI.
Source : OpenAI
Google DeepMind ouvre le DeepMind Institute, une plateforme de publication d'essais sur l'AGI dirigée par Hassabis, Legg et Manyika
Trois dirigeants de Google DeepMind et de Google prennent la tête du DeepMind Institute (DMI), lancé le 16 septembre pour stimuler, selon son texte de présentation, la recherche, la collaboration et le débat interdisciplinaires nécessaires pour répondre aux questions techniques et sociétales de l'ère de l'intelligence artificielle générale, ou AGI. Shane Legg, cofondateur de Google DeepMind et son scientifique en chef chargé de l'AGI, en est aussi le rédacteur en chef ; il codirige l'institut avec James Manyika, président chargé de la recherche, des laboratoires, de la technologie et de la société chez Google, et Demis Hassabis, prix Nobel, cofondateur et président de Google DeepMind et scientifique en chef d'Alphabet. Le DMI se définit comme une plateforme lancée par des chercheurs de Google et de Google DeepMind pour publier et discuter des idées sur un monde doté de l'AGI ; ses textes reflètent les idées de leurs auteurs et ne doivent pas être lus comme la position officielle de Google. Chercheurs et penseurs de Google DeepMind, de Google et de la communauté scientifique mondiale sont appelés à y écrire, sans être toujours d'accord entre eux. Le texte de lancement invoque les conséquences déjà observées d'une IA toujours plus capable pour la cybersécurité et les risques biologiques, ainsi qu'un possible risque de perte de contrôle de futurs systèmes auto-améliorants. Les premiers essais portent sur la transparence du raisonnement des modèles, la politique économique face à l'AGI et les principes d'une nouvelle utopie, et Demis Hassabis signe un cadre pour l'IA de pointe, selon The Next Web. Dans l'essai économique, ajoute ce média, Julian Jacobs et Alex Imas évaluent onze politiques à partir de revues de littérature, d'enquêtes et de 51 évaluateurs artificiels construits à partir des réponses de 51 économistes réels.
Pourquoi c'est important
Aucun budget n'est annoncé avec le lancement, et les essais publiés n'engagent pas Google. La portée du DMI s'en trouve bornée, d'autant que les trois directeurs sont des dirigeants du groupe qui développe la technologie dont l'institut discute les risques. Son intérêt pour un enseignant-chercheur ou un responsable public marocain tient donc aux textes eux-mêmes, qui montrent comment des chercheurs de Google DeepMind raisonnent sur la politique économique ou la transparence des modèles. Shane Legg a par ailleurs jugé prématuré, auprès du Financial Times cité par The Next Web, de déclarer que l'AGI a été atteinte.
Source : Google DeepMind