OpenAI se sépare de trois personnes accusées d'avoir enfreint ses règles sur les informations sensibles
OpenAI s'est séparé de trois personnes pour avoir enfreint ses règles sur l'accès aux informations sensibles et leur traitement, a indiqué le jeudi 1er octobre un porte-parole dans une déclaration au Wall Street Journal, qui a révélé l'affaire. Son enquête, poursuit la déclaration, également reçue par CBS News, a confirmé qu'elles avaient mal traité ces informations, en dehors des procédures prévues. Le quotidien, rapporte TechCrunch, présente les trois personnes comme des chercheurs de l'équipe de sécurité d'OpenAI, soupçonnés d'avoir partagé des informations confidentielles de l'entreprise avec une organisation extérieure spécialisée dans la sécurité de l'IA. Bloomberg décrit le trio autrement : selon son article, rapporté par The Next Web, deux des trois personnes étaient des chercheurs en sécurité et la troisième occupait un poste de responsable de programme de recherche. Une personne proche du dossier a indiqué à Bloomberg que les trois auraient remis des informations de l'entreprise à un groupe extérieur qui teste des modèles d'IA, dont une partie porterait sur la façon dont les systèmes d'OpenAI sont construits, selon la reprise de The Next Web. Dans les passages entre guillemets publiés par la presse, la déclaration d'OpenAI ne mentionne ni fuite ni organisation extérieure ; l'AFP et la BBC écrivent toutefois, hors guillemets, que les faits reprochés incluaient un travail impliquant une organisation extérieure qui évalue (AFP) ou analyse (BBC) des modèles d'IA. L'entreprise n'a précisé ni la nature des informations ni la façon dont elles auraient été mal traitées, relève CBS News. OpenAI n'a pas confirmé l'identité des personnes concernées, précise l'AFP, et n'a pas nommé l'organisation qui aurait reçu ces informations, relève The Next Web.
Pourquoi c'est important
TechCrunch note qu'on ignore à ce stade si les trois personnes avaient d'abord fait part de leurs inquiétudes par les canaux internes d'OpenAI avant le partage qui leur est prêté. La BBC, sans citer de source, dit comprendre que le motif retenu est le traitement fautif présumé d'informations sensibles, et que le fait d'avoir soulevé des inquiétudes de sécurité ne serait pas en cause. La révélation de l'affaire survient deux jours après un article du New York Times selon lequel des dirigeants d'OpenAI auraient écarté des avertissements de salariés sur les pratiques de sécurité de l'entreprise, rapproche TechCrunch sans affirmer de lien de cause à effet ; selon TechCrunch, un porte-parole d'OpenAI a indiqué au Times que l'entreprise prenait les préoccupations de sécurité au sérieux et disposait de canaux internes de signalement, tout en disant reconnaître « un besoin d'aller plus vite », sans que TechCrunch en précise l'objet. En 2024, OpenAI avait renvoyé deux chercheurs pour des fuites présumées, selon The Information, cité par le même média.
Source : TechCrunch
Aux États-Unis, deux sénateurs proposent de rendre opérateurs et développeurs d'agents d'IA pénalement et civilement responsables de certains piratages
Le républicain Josh Hawley, sénateur du Missouri, et le démocrate Chris Murphy, sénateur du Connecticut, ont annoncé le 1er octobre l'AI Agent Accountability Act, un projet de loi qu'ils présentent comme bipartisan. Leur communiqué affirme que des agents d'IA piratent des sites web publics, des réseaux et des serveurs, avec des conséquences potentiellement graves pour tout ce qui est connecté en ligne, y compris les hôpitaux, les fournisseurs de services d'utilité publique, les banques et d'autres infrastructures critiques ; la version publiée par Josh Hawley ne nomme ni incident ni entreprise. Tel que le résument ses auteurs, le projet comporte trois volets. Les opérateurs d'agents seraient tenus pour responsables pénalement et civilement en vertu du Computer Fraud and Abuse Act, la loi fédérale qui réprime les intrusions informatiques, y compris lorsqu'ils font fonctionner en connaissance de cause un agent qui cause de façon téméraire des dommages ou des pertes en piratant. Les développeurs seraient eux aussi responsables pénalement et civilement, sans que le résumé précise sur quel fondement, s'ils n'ont pas mis en place de garde-fous raisonnables contre le piratage alors qu'ils connaissaient, ou avaient des raisons de connaître, les capacités de piratage de leur agent. Le procureur général des États-Unis et ceux des États pourraient enfin saisir la justice pour faire cesser les agissements d'opérateurs ou de développeurs qui commettent, tentent de commettre ou complotent de commettre une infraction de piratage au sens du Computer Fraud and Abuse Act. Aucun texte de loi n'accompagne le communiqué, qui ne donne pas non plus de numéro d'enregistrement.
Pourquoi c'est important
Qui serait considéré comme opérateur reste à préciser pour une entreprise qui fait travailler l'agent d'un fournisseur : le communiqué ne définit pas les termes « agent d'IA », « opérateur » et « développeur », et ne dit pas si l'éditeur d'un modèle ouvert serait concerné. Chris Murphy va plus loin que le résumé du texte. Il affirme que le projet de loi obligerait les dirigeants des grandes entreprises d'IA à développer leurs produits de façon responsable sous peine de prison pour les dégâts causés par ces produits, alors que, dans le résumé des auteurs, les deux volets consacrés à la responsabilité ne mentionnent pas les dirigeants et ne chiffrent aucune peine. Le statut du projet reste flou : Axios, qui l'a révélé le matin même, écrivait que les deux sénateurs prévoyaient de le déposer, tandis que Josh Hawley parle, dans le communiqué, d'une législation qu'il est en train de présenter. Il en avait esquissé seul le principe le 29 septembre dans une tribune au Washington Post, puis présidé le lendemain une audition sénatoriale intitulée « Rogue AI: Securing the Homeland Against AI Agent Attacks », rapporte Nextgov.
Source : Sénateur Josh Hawley
Christine Lagarde décrit trois zones de risque de l'IA pour la stabilité financière et juge que l'Europe doit développer ses propres capacités
Présidente de la Banque centrale européenne et du Comité européen du risque systémique (CERS), Christine Lagarde a ouvert le 1er octobre à Francfort la dixième conférence annuelle du CERS par un discours consacré aux risques de l'IA pour la stabilité financière. L'IA générative y est décrite comme déjà largement répandue dans la finance : près de neuf banques significatives de la zone euro sur dix s'en servent, dit-elle. Une note du discours renvoie à une allocution prononcée le 22 septembre par Claudia Buch, présidente du conseil de surveillance prudentielle de la BCE, qui chiffrait à 85 %, d'après des données de supervision, la part des banques supervisées directement par la BCE utilisant l'IA générative. L'essentiel des usages reste peu autonome, observe Christine Lagarde, mais les agents d'IA commencent à disposer de davantage de latitude. Selon une enquête menée cette année, que la note attribue au cabinet Mercer et que celui-ci décrit comme un sondage de 131 gestionnaires d'actifs dans le monde, 5 % seulement des répondants accordent à l'IA une autorité autonome ou semi-autonome sur leurs recommandations d'investissement ou leurs transactions. Trois zones de risque sont désignées. Sur les marchés, des agents d'IA pourraient poursuivre leurs objectifs d'une manière que les humains chargés de les surveiller n'ont pas voulue et ne peuvent pas détecter. En matière de cyberrésilience, une attaque contre une technologie partagée pourrait perturber plusieurs établissements à la fois. Sur le plan géopolitique, les tensions peuvent accroître la menace de cyberattaques et entraîner des restrictions sur les modèles de pointe dont les entreprises se servent pour se défendre. Ces risques pouvant interagir et se cumuler, ils appellent selon elle une surveillance macroprudentielle attentive et globale.
Pourquoi c'est important
En juin, rappelle Christine Lagarde, une directive américaine de contrôle des exportations visant deux modèles avancés a conduit leur fournisseur, Anthropic selon une note du discours, à en suspendre l'accès, ce qui a été pour l'Europe une coupure brutale ; la note précise que la suspension a touché tous ses clients, y compris américains. L'accès au modèle à usage général a été rétabli quelques semaines plus tard, celui du modèle doté de moins de garde-fous en cybersécurité restant réservé aux organisations validées par l'administration américaine, et l'épisode s'est déroulé sans perturbation décelable du système financier, souligne-t-elle. L'épisode montre à un établissement financier qui s'appuie sur le modèle d'un fournisseur étranger que son accès peut être coupé à la suite d'une directive gouvernementale, hors de son contrôle. Christine Lagarde en conclut que l'Europe doit développer ses propres capacités d'IA et devenir un maillon indispensable de la chaîne qui les produit, afin que l'accès à des outils vitaux pour sa résilience financière ne dépende pas d'un « interrupteur contrôlé ailleurs », sans avancer de plan ni de budget. Elle souhaite aussi l'émergence d'une coopération mondiale sur les modèles de pointe, en invoquant le précédent de la limitation des arsenaux nucléaires et de la non-prolifération entre rivaux de la guerre froide.
Source : Banque centrale européenne
Cloudflare et Amazon publient en open source des « modèles de décision », conçus pour choisir entre des options fixées à l'avance
Cloudflare et Amazon Web Services ont annoncé le 1er octobre leurs propres « modèles de décision », seize jours après la présentation de Jev par la jeune pousse TypeSafe AI, le 15 septembre. Ces modèles choisissent parmi des réponses prédéfinies, en les assortissant d'un niveau de confiance, pour aider un agent d'IA à décider comment agir. Cloudflare publie Clef, un modèle multimodal de 27 milliards de paramètres capable de classer aussi des images, et Clef-flash, une version de 9 milliards, tous deux sous licence Apache 2.0 sur Hugging Face et hébergés sur sa plateforme Workers AI, où le million de jetons en entrée est facturé 0,24 et 0,09 dollar. L'entreprise affirme que Clef arrive en tête du Jev Decision Index, un classement public hébergé sur Hugging Face, dont les données, générées le 28 septembre, avant l'annonce de Clef, ne le listent pas. Dans le graphique de son billet, ses propres points sont étiquetés comme auto-déclarés, et le tableau complet qu'elle publie sur Hugging Face montre Jev nettement devant sur d'autres tests, comme GPQA Diamond, un jeu de questions scientifiques de haut niveau, où Jev obtient 78,3 contre 48,0 pour Clef. Amazon Web Services a lancé de son côté Strands Decider 2B, un modèle de 2 milliards de paramètres qui peut tourner en local, rapportent The New Stack et TechCrunch, sur un processeur ou une carte graphique, précise le billet de présentation de Strands. Son code et ses poids sont sous licence Apache 2.0 ; ses scripts d'entraînement et ses données synthétiques sont publiés avec lui, les jeux de données publics utilisés devant être téléchargés auprès de leurs sources. Mesurés par l'équipe elle-même sur la précision aux 231 tâches publiques du banc d'essai JevBench, ses résultats le placeraient 3e sur 33 dans sa catégorie de taille et 50e au classement général, tous deux d'après le classement arrêté au 25 septembre, qui compte 89 systèmes et où il ne figure pas. Son dépôt note qu'un modèle voisin, dans une version plus récente que celle inscrite au classement, le devance de huit tâches (175 contre 167 sur 231) lorsque l'équipe de Strands l'a elle-même fait passer sur JevBench, et qu'un écart inférieur à environ dix tâches entre deux exécutions isolées doit être tenu pour non tranché.
Pourquoi c'est important
Un développeur tenté de confier des tâches de classification à ces modèles doit composer avec les limites que l'équipe d'Amazon reconnaît à cette approche : selon le billet de Strands, elle est nettement moins performante que les modèles de raisonnement sur les problèmes complexes et, faute de générer du texte, impropre au code, aux assistants conversationnels et au résumé de documents. La fiabilité d'une réponse varie en revanche avec le niveau de confiance affiché. Sur de courtes tâches de classification jamais vues, les réponses de Strands Decider données avec une confiance d'au moins 0,9 sont justes environ 95 % du temps, selon son dépôt ; la fiche du modèle sur Hugging Face précise que ces bandes de confiance ne sont établies que sur ce type de tâches et recommande de mesurer sur son propre trafic avant de se fier à un seuil. Les performances publiées par Cloudflare et par Amazon proviennent de leurs propres mesures, sur deux bancs d'essai qui ne se comparent pas. Les tarifs d'entrée de Clef restent supérieurs aux 0,042 dollar par million de jetons affichés par TypeSafe pour Jev. Cloudflare prévoit ensuite une plateforme en libre-service pour affiner Clef par apprentissage par renforcement, une méthode d'entraînement fondée sur des récompenses, sans date ni prix ; en attendant, l'entreprise propose cet affinage avec l'accompagnement de ses ingénieurs et cherche, pour cela, des partenaires de conception parmi ses clients qui ont un cas d'usage précis et utilisent déjà les produits sur lesquels repose ce service.
Source : Cloudflare
Satlyt, dotée d'un siège africain à Nairobi, lève 8 millions de dollars pour faire tourner de l'IA à bord de satellites
Fondée par l'ingénieur kényan-américain Rama Afullo, Satlyt a annoncé le 1er octobre une levée d'amorçage de 8 millions de dollars menée par Non Sibi Ventures, un fonds de Houston. Son communiqué, repris notamment par Space in Africa, cite parmi les participants, entre autres, TLcom, Antler, Launch Africa Ventures, Enza Capital et Axian Investment, sans préciser la part de chacun ; le responsable des investissements de Launch Africa Ventures a confirmé sur X la participation de son fonds. Selon le communiqué, la société a son siège américain à Sunnyvale et son siège africain à Nairobi, où elle compte une présence d'ingénierie importante ; elle possède aussi une filiale kényane, et sa direction est entièrement kényane-américaine. Satlyt développe un logiciel qui doit permettre, espère son fondateur, à plusieurs satellites de se partager de gros calculs en orbite, sans prévoir de construire ses propres engins spatiaux, écrit TechCrunch. Selon le média, ce logiciel devait partir le jeudi 1er octobre à bord d'une fusée de SpaceX, sur un engin construit par la jeune pousse indienne TakeMe2Space, avec le premier prototype de Project Suncatcher, le projet de Google de centres de données dans l'espace. La mission Transporter-18, qui emportait ce prototype, a décollé ce jour-là à 19 h 32, heure de Casablanca, selon Space.com. Dans son communiqué, Satlyt précise que le lancement et l'exécution réussie à bord sont deux étapes distinctes, et que les résultats seront évalués une fois les applications exécutées en orbite.
Pourquoi c'est important
Le communiqué de Satlyt présente aussi comme son lien opérationnel avec l'Afrique sa filiale kényane et deux protocoles d'accord : l'un avec la Kenya Space Agency, formalisé le 24 avril 2025, l'autre avec le GGPEN, l'organisme angolais chargé du programme spatial national, signé en juin 2026 en marge du forum ANGOTIC à Luanda, d'après Space in Africa. TechCrunch cite trois clients pour la mission du 1er octobre, dont la NASA, qui finance des essais de protocoles de calcul en nuage dans l'espace ; le communiqué de Satlyt mentionne des travaux de recherche financés dans le cadre du programme STTR de la NASA, menés avec l'Université de Houston. Plus tôt dans l'année, un modèle Gemma de Google DeepMind déployé par Satlyt à bord d'un engin exploité par Momentus a réduit de plus de 60 % la taille d'une transmission relative à des erreurs logicielles, selon TechCrunch. L'étude de cas publiée par Google DeepMind, éditeur de Gemma, ne nomme pas Momentus ; elle rapporte, pour des essais menés par Satlyt où des erreurs logicielles courantes ont été introduites volontairement dans une chaîne de traitement d'images, une réduction de la taille des messages de diagnostic de 64,4 % et de 64,8 % dans deux scénarios représentatifs. Rama Afullo revendique une place de couche logicielle ouverte : si les acteurs qui, comme SpaceX, font des centres de données orbitaux sont l'iPhone, Satlyt construira l'Android, un écosystème ouvert, a-t-il déclaré à TechCrunch. Selon TechCrunch, le projet suivant de Satlyt est de démontrer qu'elle peut créer un système de calcul partagé entre deux satellites différents, ce qu'elle compte tenter l'an prochain.
Source : TechCrunch
ChatGPT ajoute l'essayage virtuel de vêtements et d'accessoires à partir d'une photo de soi, et des favoris pour ranger ses trouvailles
Un bouton « Try on » apparaît désormais sur les fiches de vêtements et d'accessoires affichées par ChatGPT : selon les notes de version publiées par OpenAI le 1er octobre, l'utilisateur prend ou téléverse un selfie, et ChatGPT Images génère un essayage virtuel. Selon les mêmes notes, la photo de référence est enregistrée pour les essayages suivants ; elle se change ou se supprime dans les réglages, rubrique Personnalisation, puis Photos de référence. La presse décrit un parcours un peu différent, TechCrunch et Digital Trends parlant d'un selfie ou d'une photo en pied, Engadget d'un selfie et d'une photo en pied. D'après l'article d'aide d'OpenAI consacré aux achats dans ChatGPT, on peut aussi téléverser dans une conversation la photo d'un vêtement ou d'un accessoire et demander à voir le rendu sur soi. Seconde nouveauté, les Favoris permettent d'enregistrer un produit ou de créer un dossier pour classer ses trouvailles dans la Bibliothèque de ChatGPT. OpenAI annonce une disponibilité sur mobile et sur le web, sans préciser d'abonnement ni de pays ; TechCrunch et Digital Trends parlent d'un déploiement mondial. L'essayage virtuel s'appuie sur ChatGPT Images 2.5, selon TechCrunch et Engadget qui citent OpenAI ; ce modèle de génération d'images a été présenté par l'entreprise dans un billet du 8 septembre.
Pourquoi c'est important
Avant d'acheter, OpenAI invite à vérifier les mesures, la fiche produit et la politique de retour du marchand : dans son article d'aide, l'entreprise prévient que les images d'essayage peuvent ne pas représenter exactement le produit ou l'apparence de la personne et ne garantissent ni la coupe ni la taille. Le même article affirme que les résultats de produits de ChatGPT sont choisis indépendamment, ne sont pas des publicités et ne sont influencés par aucun partenariat d'OpenAI. Côté données, les notes de version et l'article d'aide n'indiquent pas de durée de conservation pour la photo de référence ; Engadget note, de façon générale, que les images téléversées depuis un compte personnel peuvent par défaut servir à l'entraînement des modèles, sauf si l'utilisateur s'y oppose. Google a déjà lancé son propre essayage virtuel en 2025, relèvent TechCrunch et Engadget.
Source : OpenAI