Des centaines de prestataires lisent de vraies conversations ChatGPT pour OpenAI, selon 404 Media
Des centaines de prestataires lisent un flux de vraies conversations d'utilisateurs de ChatGPT, contenant parfois des informations personnelles sensibles, affirme 404 Media dans une enquête publiée lundi et fondée sur des documents internes ainsi que sur les témoignages de prestataires. Selon cette enquête, les évaluateurs notent les réponses du chatbot sur une échelle de un à sept et travaillent à le rendre moins flatteur et moins enclin à se présenter comme humain. Ils ne voient pas les noms d'utilisateur, mais peuvent lire au-dessus de la requête un résumé des mémoires de la personne, qui indique parfois l'usage qu'elle a fait de ChatGPT et la région où elle pourrait vivre, précise TheNextWeb. Toujours selon 404 Media, ces évaluateurs sont recrutés par la plateforme Crossing Hurdles et rémunérés par Mercor ; l'un d'eux, basé en Amérique du Nord, dit gagner plus de 50 dollars de l'heure. OpenAI, qui n'avait pas répondu avant publication, a ensuite renvoyé vers une page d'aide où elle indique qu'un nombre limité de salariés autorisés et de prestataires tenus à la confidentialité peuvent accéder au contenu des utilisateurs, pour des motifs qu'elle énumère, dont l'amélioration des modèles. Anthropic a confirmé à 404 Media recourir elle aussi à une relecture humaine pour améliorer ses modèles, mais seulement pour les utilisateurs qui ont activé l'option correspondante, précisent The Decoder et TheNextWeb.
Pourquoi c'est important
Le réglage qui pèse le plus sur cette relecture s'intitule « Improve the model for everyone ». Il est activé par défaut sur les comptes gratuits, Plus et Pro, et désactivé par défaut sur les offres Enterprise, Business et Edu, selon TheNextWeb ; le couper ne vaut que pour les conversations suivantes, sans effet sur celles déjà tenues. Il ne couvre en outre que l'accès lié à l'amélioration des modèles : la page d'aide d'OpenAI maintient un accès humain pour enquêter sur un abus ou un incident de sécurité, assurer le support et traiter les affaires juridiques. La conséquence est concrète pour une entreprise dont les salariés utilisent ChatGPT sur un compte personnel, puisqu'un document client collé dans une conversation peut entrer dans le flux que lisent ces évaluateurs. OpenAI affirme qu'un modèle de filtrage retire d'abord les informations personnelles, mais la page qu'elle consacre à ce filtre reconnaît qu'il peut se tromper, manquer des identifiants peu courants et masquer trop peu quand le contexte est limité. Sa page d'aide énonce elle-même la règle la plus sûre, qui consiste à ne pas saisir d'information sensible que l'on ne voudrait pas voir relue, et précise que les conversations temporaires ne servent pas à entraîner les modèles.
Source : 404 Media
Encadrer l'usage de ChatGPT par ses salariés →Sam Altman dit qu'OpenAI rédige des dossiers de sécurité avant les entraînements dont elle attend un net gain de capacités
Dans deux messages publiés lundi sur X à treize minutes d'intervalle, Sam Altman a précisé ce qu'OpenAI entend par rythmer le développement de l'IA. Le premier affirme que l'entreprise rédige désormais des dossiers de sécurité explicites, les « safety cases », avant les entraînements de pointe par apprentissage par renforcement dont elle attend un net gain de capacités, en plus du travail de sécurité mené de longue date avant la sortie des modèles. Altman y juge que les anciens dispositifs du secteur, comme les politiques de mise à l'échelle responsable, utiles en leur temps, portaient surtout sur le déploiement de modèles achevés. Il écrit aussi qu'OpenAI accueille favorablement un cadre fédéral fixant des exigences de sécurité uniformes, sans attendre une exemption antitrust ou une loi pour agir, et réserve au gouvernement américain un rôle de coordination internationale. Le mot « pacing », ajoute-t-il, ne désigne pas un arrêt : les progrès ont été rapides et continueront de l'être, mais ils devraient être plus lents qu'ils ne pourraient l'être, les dossiers de sécurité et la surveillance ayant un coût important. Le second message nomme deux dérives à éviter, la perte de contrôle de l'avenir au profit de l'IA et une concentration excessive du pouvoir, qu'il illustre par un pays ou un laboratoire qui en accumulerait trop. Altman prolonge ainsi une première réaction, publiée samedi, où il disait partager l'avis de Dario Amodei.
Pourquoi c'est important
L'engagement le plus vérifiable est aussi le plus technique. Un dossier de sécurité rédigé avant l'entraînement déplace le contrôle en amont : les risques sont documentés avant que le modèle issu de l'entraînement existe, alors que les dispositifs antérieurs du secteur intervenaient surtout au moment du déploiement. Rien, en revanche, n'est chiffré ni daté, et aucun entraînement suspendu n'est cité en exemple. Pour une entreprise qui achète des modèles, la phrase à retenir porte sur le coût : Altman reconnaît que dossiers de sécurité et surveillance pèsent lourd, sans dire qui le supportera. Le mouvement ne fait pas non plus l'unanimité. Selon The Decoder, qui cite The Information, OpenAI, Anthropic et Google discutent depuis des mois d'une autorégulation par un organe indépendant ; le même média renvoie vers un message publié samedi sur X par Aidan Gomez, dirigeant de Cohere, qui y raillait les « idées » venues du « cartel ».
Source : Sam Altman sur X
Donald Trump qualifie de « conspiration » l'opposition à l'IA, Pékin s'en prend aux récits de menace
Sur Truth Social, Donald Trump a écrit lundi qu'une « conspiration malsaine » visait l'IA et les centres de données, et que seule la Chine s'en réjouissait, selon Al Jazeera et Reuters. Le même jour, alors que Jensen Huang se trouvait sur la scène de l'All-In Summit à Los Angeles, le président américain l'a appelé au téléphone ; l'échange, mis sur haut-parleur, est connu par des vidéos et des messages de participants, repris par TechCrunch et CNBC. Trump y a qualifié l'opposition aux centres de données de « canular » qui ferait le jeu de responsables politiques ou de la Chine, et le PDG de Nvidia a répondu : « Vous avez raison. Nous ne laisserons pas cela arriver, monsieur. » Sur scène, la discussion portait sur l'essai publié samedi par Dario Amodei, « We Must Pace the Frontier », appelant à ralentir l'amélioration des capacités de l'IA, une position que Sam Altman et Elon Musk ont dit partager. À Pékin, selon la transcription publiée par le ministère chinois des Affaires étrangères, le porte-parole Guo Jiakun a été interrogé sur les appels d'Amodei, d'Altman et de Musk à ralentir les technologies de pointe. Sans nommer personne, il a répondu que diffuser des récits de menace et se livrer à la confrontation et à la concurrence malveillante ne font que perturber la gouvernance mondiale de l'IA et ne servent les intérêts d'aucune partie, appelant à une IA ouverte, inclusive, profitant à tous et orientée vers le bien.
Pourquoi c'est important
Aucune de ces prises de parole n'a de valeur juridique : des messages sur un réseau social, une conversation téléphonique connue par des vidéos de participants, une réponse de porte-parole. Elles fixent pourtant le cadre dans lequel un éventuel ralentissement devrait s'inscrire. Le président américain assimile l'opposition à l'IA et aux centres de données à une manœuvre, quand les laboratoires qui défendent un rythme maîtrisé, comme OpenAI, disent ne pas vouloir attendre une loi pour agir : toute modération reposerait donc, à ce stade, sur des engagements volontaires. La réponse chinoise écarte le vocabulaire de la menace et renvoie à la gouvernance mondiale, alors que l'essai d'Amodei plaidait pour ne pas vendre à la Chine de puces d'IA avancées. Une entreprise ou une administration qui choisit ses fournisseurs d'IA sur l'un ou l'autre marché doit désormais compter avec ce paramètre : la sécurité des modèles est devenue un terrain de rivalité entre les deux pays, et un engagement pris d'un côté risque d'être lu de l'autre à travers ce prisme.
Source : CNBC
Microsoft soumet à consultation un code de conduite qui interdit à ses modèles d'aider des cyberattaques
Le brouillon d'un code de conduite pour les modèles MAI, développés par Microsoft, est soumis depuis lundi à six semaines de consultation publique. L'entreprise précise qu'elle ne s'en sert pas encore pour entraîner ses modèles et qu'une version révisée, attendue fin 2026, guidera leur développement à partir de 2027. Parmi les règles présentées comme non négociables, que ni les opérateurs ni les utilisateurs ne pourront lever, les modèles ne devront pas apporter de capacité opérationnelle à une cyberattaque, qu'il s'agisse de code d'exploitation fonctionnel ou d'outils d'attaque, l'assistance à la sécurité défensive autorisée restant permise. Au même niveau d'exigence, ils ne devront ni recourir à des mécanismes trompeurs pour échapper au contrôle humain, ni résister à une interruption, une correction ou un arrêt, ni raisonner dans un langage illisible pour un humain. Le document leur demande par ailleurs, au titre de lignes directrices opérationnelles qu'il distingue de ce socle non négociable, de ne pas tromper activement l'utilisateur, par exemple en fabriquant des sources, et de ne pas revendiquer de vie intérieure ni d'émotions. Mustafa Suleyman, PDG de Microsoft AI, a indiqué à CNBC que ces lignes directrices étaient en préparation depuis environ cinq mois, et que leur publication maintenant tenait au débat récent.
Pourquoi c'est important
Il faut d'abord circonscrire ce que couvre le texte. Le code ne vise que les modèles développés par Microsoft : selon The Decoder, il ne s'applique pas automatiquement aux modèles tiers intégrés aux produits du groupe, et CNBC précise qu'il s'agit notamment des modèles d'OpenAI et d'Anthropic utilisés dans Copilot. Le document reste ensuite un brouillon, que Microsoft dit ne pas encore employer pour entraîner quoi que ce soit, et il n'impose aucun rythme de développement. Son intérêt est dans sa forme : une liste de comportements proscrits, précise et publiée pour commentaire. La démarche n'est pas inédite, The Decoder rappelant qu'Anthropic dispose déjà d'une « constitution » pour Claude. Une direction juridique ou un responsable de la conformité peut s'en servir dès maintenant comme grille pour interroger n'importe quel fournisseur sur ses propres règles, par exemple sur la lisibilité du raisonnement de ses modèles. The Decoder relève toutefois qu'un raisonnement lisible a ses limites, un modèle pouvant apprendre à présenter des traces trompeuses.
Source : Microsoft AI
OpenAI aurait racheté Glass Imaging, spécialiste de l'image par IA, sur une valorisation de plus de 300 millions de dollars
OpenAI aurait racheté Glass Imaging dans une opération qui valoriserait la start-up à plus de 300 millions de dollars, a rapporté lundi le Wall Street Journal en citant des sources anonymes, information reprise par TechCrunch, PYMNTS et SiliconANGLE. Ni OpenAI ni Glass Imaging n'avaient confirmé l'opération à la publication de ces articles, et la date de signature n'est connue d'aucun de ces médias. La start-up, fondée en 2019 à Los Altos, en Californie, par Ziv Attar et Tom Bishop, deux anciens ingénieurs d'Apple qui ont dirigé l'équipe du mode Portrait, traite l'image dès la prise de vue au moyen de réseaux de neurones propres à chaque système de caméra, au lieu de retoucher la photo après coup. Elle avait levé environ 30 millions de dollars, selon TechCrunch ; PYMNTS, citant le Journal, indique qu'elle était valorisée à 100 millions de dollars lors d'un tour de 2025. TechCrunch replace l'opération dans le sillage de l'acquisition par OpenAI de la société de matériel de Jony Ive, io, pour 6,5 milliards de dollars en 2025.
Pourquoi c'est important
S'il se confirme, le rachat renseigne sur les compétences qu'OpenAI réunit : un traitement de l'image intégré au moment même de la capture, domaine où les fondateurs de la start-up ont conduit chez Apple le mode Portrait. L'opération s'ajoute à io et à d'autres acquisitions que SiliconANGLE relie à une introduction en bourse, que des rapports non identifiés situent en 2027 ; le produit auquel servira cette technologie, lui, n'est précisé nulle part. La prudence reste de mise, l'information ne reposant que sur une seule chaîne de sources anonymes, et les montants déjà levés par la start-up n'étant pas rapportés à l'identique d'un média à l'autre. Un développeur d'applications photo ou de vision par ordinateur en retient malgré tout un repère : le traitement de l'image dès la prise de vue intéresse désormais un laboratoire de modèles de langage.