1 points par GN⁺ 2023-08-29 | 1 commentaires | Partager sur WhatsApp
  • Face à la demande croissante des entreprises souhaitant déployer ChatGPT en toute sécurité au sein de leur organisation, OpenAI a lancé ChatGPT Enterprise pour les entreprises
  • Les données et conversations des entreprises ne sont pas utilisées pour l’entraînement des modèles, et l’offre propose la conformité SOC 2, le chiffrement au repos et en transit, une console d’administration et le SSO
  • Suppression des limites d’utilisation de GPT‑4, performances jusqu’à 2 fois plus rapides, contexte 32k et analyse avancée des données illimitée
  • Neuf mois après le lancement de ChatGPT, des comptes enregistrés avec des domaines d’e-mail d’entreprise ont été constatés dans plus de 80 % des entreprises du Fortune 500
  • À venir : personnalisation via connexion aux données de l’entreprise, ChatGPT Business en self-service pour les petites équipes, amélioration de l’analyse et de la navigation pour le travail, et outils par métier

ChatGPT Enterprise, pensé pour le déploiement en entreprise

  • OpenAI a lancé ChatGPT Enterprise
  • Le produit réunit sécurité et protection de la vie privée de niveau entreprise, une expérience ChatGPT plus puissante, une fenêtre de contexte pour traiter des entrées longues, l’analyse avancée des données et des fonctionnalités adaptées aux organisations
  • L’objectif est d’adapter un assistant IA professionnel à l’organisation tout en protégeant les données de l’entreprise

Une demande confirmée au sein du Fortune 500

  • Au cours des neuf mois qui ont suivi le lancement de ChatGPT, des comptes ChatGPT enregistrés ont été constatés dans plus de 80 % des entreprises du Fortune 500
    • Ce chiffre se base sur les comptes associés à des domaines d’e-mail d’entreprise
  • Les dirigeants d’entreprise demandaient une manière plus simple et plus sûre de déployer ChatGPT dans leur organisation
  • Parmi les premières entreprises utilisatrices figurent Block, Canva, Carlyle, The Estée Lauder Companies, PwC, Zapier
  • Les principaux cas d’usage incluent la rédaction de communications plus claires, l’accélération des tâches de codage, l’exploration de questions business complexes et l’aide aux travaux créatifs
  • Klarna souhaite renforcer les capacités de ses employés et l’expérience client, qui accompagne 150 millions d’utilisateurs actifs dans le monde, grâce à l’intégration de ChatGPT Enterprise

Sécurité, confidentialité et fonctions d’administration

  • Dans ChatGPT Enterprise, les entreprises possèdent et contrôlent leurs données business
  • OpenAI n’utilise pas les données business ni les conversations de ses clients pour entraîner ses modèles, et les modèles n’apprennent pas non plus à partir de l’historique d’utilisation
  • La configuration de sécurité comprend :
    • Chiffrement des données au repos : AES 256
    • Chiffrement en transit : TLS 1.2+
    • Conformité SOC 2
  • La nouvelle console d’administration prend en charge les déploiements à grande échelle en entreprise
    • Gestion groupée des membres
    • SSO
    • Vérification de domaine
    • Tableau de bord d’analyse pour les insights d’utilisation
  • Des informations supplémentaires sur le traitement des données sont disponibles sur la page privacy et le Trust Portal

GPT‑4, analyse de données et fonctions de workflow

  • ChatGPT Enterprise supprime les limites d’utilisation de GPT‑4
  • Les performances de GPT‑4 sont fournies jusqu’à 2 fois plus rapidement
  • Le contexte 32k permet de traiter des entrées plus longues, des fichiers et des questions de suivi
    • OpenAI décrit cela comme la capacité à traiter des entrées ou fichiers 4 fois plus longs
  • Les fonctionnalités d’analyse avancée des données peuvent être utilisées sans limite
    • Cette fonctionnalité était auparavant connue sous le nom de Code Interpreter
    • Parmi les cas d’usage : traitement de données de marché par des chercheurs financiers, analyse de résultats d’enquêtes par des marketeurs, débogage de scripts ETL par des data scientists
  • Des modèles de chat partageables peuvent être utilisés pour des workflows adaptés à l’organisation
  • Si une organisation doit étendre OpenAI avec des solutions entièrement personnalisées, le prix inclut des crédits gratuits pour l’utilisation de l’API
  • Asana indique que ChatGPT Enterprise a réduit le temps de recherche de ses équipes de 1 heure par jour en moyenne
  • Canva cite divers cas d’usage, notamment la résolution de bugs par les ingénieurs, le clustering de données non structurées par les analystes de données, et la rédaction de formules de tableur par les analystes financiers

Fonctionnalités disponibles et extensions prévues

  • ChatGPT Enterprise est disponible pour les clients entreprises dès le jour du lancement
  • Les principales fonctionnalités proposées à tous les clients enterprise sont les suivantes :
    • Les prompts des clients et les données de l’entreprise ne sont pas utilisés pour entraîner les modèles d’OpenAI
    • Chiffrement des données au repos et en transit
    • Conformité SOC 2
    • Console d’administration, gestion groupée des membres, SSO, vérification de domaine, tableau de bord d’analyse
    • Accès illimité à GPT‑4
    • Performances de GPT‑4 jusqu’à 2 fois plus rapides
    • Analyse avancée des données illimitée
    • Fenêtre de contexte de 32k tokens
    • Modèles de chat partageables pour collaborer au sein de l’entreprise et construire des workflows communs
    • Crédits gratuits pour l’API OpenAI afin d’étendre des solutions entièrement personnalisées
  • Les fonctionnalités en préparation sont les suivantes :
    • Customization : connecter les applications déjà utilisées afin d’étendre en toute sécurité les connaissances de ChatGPT avec les données de l’entreprise
    • Availability for all team sizes : ChatGPT Business en self-service pour les petites équipes
    • Power tools : Advanced Data Analysis et browsing plus puissants, optimisés pour le travail
    • Solutions for your function : outils pour des métiers spécifiques comme analyste de données, marketeur ou support client
  • OpenAI prévoit d’onboarder autant d’entreprises que possible dans les prochaines semaines
  • Les entreprises souhaitant démarrer peuvent obtenir plus d’informations sur le site web de ChatGPT Enterprise et être mises en relation avec l’équipe commerciale

1 commentaires

 
GN⁺ 2023-08-29
Avis sur Hacker News
  • En déclarant clairement que les données des entreprises ne serviront pas à l’entraînement et en mettant en avant la conformité SOC 2, il devient plus facile pour de nombreuses entreprises d’être rassurées et d’intégrer ChatGPT à leurs processus de travail.
    En discutant avec des entreprises pour leur vendre une plateforme d’applications LLM, on comprend vite à quel point elles sont sensibles au partage des données. Dans les organisations qui n’avaient pas bloqué l’accès à ChatGPT, les employés collaient déjà beaucoup de données sensibles, et j’ai aussi vu quelques sociétés déployer chatbot-ui avec l’offre OpenAI d’Azure, parce qu’Azure affirme ne pas utiliser les données des utilisateurs (https://learn.microsoft.com/en-us/legal/cognitive-services/o...)
    Pour répondre aux préoccupations de ces entreprises en matière de confidentialité, nous avons ajouté la prise en charge d’Azure OpenAI à notre plateforme, et nous avons aussi publié notre moteur en open source afin de permettre des déploiements on-premise (LLMStack - https://github.com/trypromptly/LLMStack)

    • Mon entreprise fait partie du Fortune 500 et compte 80 000 employés à temps plein, avec une politique qui interdit l’utilisation des outils d’IA ou de LLM.
      La grande inquiétude mentionnée dans cette politique est le risque d’utiliser involontairement la propriété intellectuelle d’autrui présente dans les données d’entraînement. Le fait que nos données entrent dans l’outil nous préoccupe, mais le fait que l’outil contienne déjà quelque chose dans ses données que nous utiliserions sans autorisation pose aussi problème. Comment prouver que cela n’arrivera jamais ? La seule méthode qui me vienne à l’esprit serait de fournir une liste exhaustive de tous les éléments sur lesquels l’outil a été entraîné.
    • Je me demande comment vous comptez commercialiser le produit. Il existe énormément de fournisseurs d’applications cloud sous forme de chatbot bâties au-dessus de l’API ChatGPT ou de l’API Azure, et j’ai même vu des cas où l’on demande aux utilisateurs de saisir leur clé d’API.
      Les entreprises resteront très méfiantes à l’idée de mettre leurs données dans ce type de plateforme multi-tenant. Même avec du chiffrement, j’ai l’impression que cela ne suffira pas. Pour l’entreprise, il semble falloir une pile LLM privée virtuelle totalement isolée.
    • Beaucoup d’entreprises traitent les données d’autres entreprises, et comme celles-ci n’autorisent pas le partage de données, l’affirmation selon laquelle les entreprises adopteront ChatGPT en toute confiance comporte de grosses exceptions.
    • Dans mon entreprise, ChatGPT, et même Bing, sont bloqués au niveau du pare-feu. J’espère qu’on pourra désormais les utiliser.
    • Nous maintenons une certification SOC 2 depuis plusieurs années, et je considère qu’elle est surtout cosmétique et peu efficace comme indicateur de la posture de sécurité.
      Le cadre SOC 2 est complexe et coûteux à respecter, ce qui peut pousser les organisations à se concentrer sur le fait de cocher des cases plutôt que sur la mise en place de contrôles de sécurité réellement utiles. SOC 2 n’est pas une bonne mesure universelle pour comprendre la culture de sécurité d’une organisation, et il est inquiétant que ce soit plus ou moins le mieux dont nous disposions aujourd’hui.
  • Ne pas entraîner les modèles avec les données des entreprises est une condition de base pour les produits de machine learning destinés aux entreprises. Google le fait aussi, par exemple.
    Pour être pris en considération dans des secteurs plus fortement réglementés, il faudra aussi monter d’un cran en matière de conformité. Cela ne semble pas encore aller jusqu’à la conformité HIPAA, et l’étape suivante sera probablement la définition de frontières géographiques pour les données en transit, avec l’obligation que le matériel utilisé par l’institution se trouve dans une juridiction donnée. Cela paraît ennuyeux, mais c’est un moyen simple d’élargir le marché adressable.
    Cela dit, pour l’instant, il est très probable que l’offre soit tout simplement insuffisante. Rien qu’en traitant la première vague, la capacité sera saturée. Je me demande aussi s’ils proposeront des services de traitement par lots qui tournent pendant que les employés des entreprises dorment.

    • OpenAI fournit un BAA à certains clients.
    • Je croyais que les données envoyées à l’API n’étaient déjà pas utilisées pour l’entraînement. J’avais compris que seul le produit ChatGPT grand public utilisait les données pour l’entraînement, et que la contribution des entrées de l’API se faisait sur opt-in.
      https://help.openai.com/en/articles/5722486-how-your-data-is...
      Cela dit, pour une entreprise qui utilise le produit grand public en interne, payer pour se désinscrire afin que les entrées ne soient pas utilisées pour l’entraînement semble raisonnable.
  • À mon avis, les modèles ChatGPT violent pratiquement toutes les licences open source. Même la licence MIT exige une attribution ; avant de contester cela, j’aimerais qu’on me montre ne serait-ce qu’une seule mention de licence d’un projet open source.
    Avec le soutien de Microsoft, je ne sais pas ce qui se passerait s’ils rompaient leurs promesses et entraînaient sélectivement sur les données de concurrents ou de petites entreprises potentielles.
    Concrètement, qu’est-ce qui pourrait les en empêcher ? La plupart des entreprises n’ont pas la puissance de feu nécessaire pour se battre contre OpenAI soutenu par Microsoft. Comment garantir qu’ils ne puissent pas enfreindre cela, et, de façon réaliste, comment les tenir responsables ? Pour moi, cela revient simplement à dire « faites-nous confiance ». Y a-t-il des raisons de voir les choses autrement ?

    • Si tu dis que les modèles ChatGPT violent toutes les licences open source parce qu’ils ont utilisé des œuvres protégées par le droit d’auteur comme données d’entraînement, je pense que le point de départ est mauvais.
      Corrige-moi si je me trompe. Aux dernières nouvelles, la question de l’utilisation de données protégées par le droit d’auteur est juridiquement très floue et évolue dans une zone grise. En outre, je ne pense pas que beaucoup de licences open source interdisent explicitement d’utiliser leur code comme données d’entraînement. Le problème ne se limite pas au fait que d’autres entreprises n’ont pas les ressources pour affronter Microsoft/OpenAI ; même si elles les avaient, il n’est pas évident qu’un tribunal jugerait que Microsoft/OpenAI est en tort.
      Je ne dis pas que je prends le parti de Microsoft/OpenAI dans ce débat, mais je ne pense pas que le sujet soit aussi clair que tu le présentes.
    • Microsoft, Amazon et Google ont déjà les données de leurs concurrents dans leur cloud. Ils pourraient aussi truquer le chiffrement pour obtenir l’accès aux disques de leurs clients.
      De plus, la plupart des employés utilisent le cloud Google Workspace ou Office 365 pour stocker et partager des fichiers confidentiels. Qu’est-ce qui rend OpenAI différent au point d’être plus inquiétant ?
    • À ce que je comprends, le train est déjà parti. Quelques zones grises juridiques bancales ne suffiront probablement pas à l’arrêter.
  • Je pensais que les éléments proposés aux clients entreprise — à savoir le fait de ne pas utiliser les prompts des clients ni les données de l’entreprise pour entraîner les modèles d’OpenAI, l’accès illimité à l’analyse avancée des données (ex-Code Interpreter), et une fenêtre de contexte de 32k tokens pour des entrées, fichiers et questions de suivi 4 fois plus longs — étaient déjà possibles pour les clients non entreprise. Je me trompe peut-être, ou quelque chose a changé

    • Je pense que la vraie fonctionnalité est là : « Nous ne nous entraînons pas sur vos données métier ni sur vos conversations, et nos modèles n’apprennent pas de votre utilisation. ChatGPT Enterprise est également conforme SOC 2 et toutes les conversations sont chiffrées en transit comme au repos »
    • J’ai l’impression d’avoir manqué ce passage : ChatGPT Enterprise est conforme SOC 2 et toutes les conversations sont chiffrées en transit comme au repos. Une nouvelle console d’administration permet de gérer facilement les membres de l’équipe, et la vérification de domaine, le SSO ainsi que les insights d’utilisation permettent des déploiements à grande échelle au niveau de l’entreprise
      Le product-market fit semble assez solide. Le produit (ChatGPT) était prêt, mais pas pour l’entreprise ; maintenant il l’est. Cela devrait générer beaucoup de leads commerciaux
    • À ma connaissance, les complétions de chat de l’API garantissaient déjà une certaine confidentialité depuis un moment. ChatGPT, l’application de chat qu’OpenAI exploite au-dessus de ses modèles de chat, continuait à être utilisé pour l’entraînement, et je pense que c’est pour cela qu’il est peu coûteux pour les consommateurs
      Cette annonce permet aux entreprises d’autoriser leurs employés à utiliser ChatGPT tout en réduisant les préoccupations liées à la confidentialité des données
    • Qu’en est-il de la conservation des prompts saisis et des réponses produites pendant quelques jours pour surveiller les abus ? Ils ne le font pas en version entreprise ? Avec Microsoft Azure OpenAI Service, il faut obtenir une exemption pour que rien ne soit conservé
    • C’est bien que les prompts des clients et les données de l’entreprise ne soient pas utilisés pour entraîner les modèles d’OpenAI. Mais peuvent-ils revendre ces données à des data brokers ?
  • C’est intéressant, mais je suis un peu déçu que ce lancement n’inclue pas de fine-tuning sur les corpus documentaires des entreprises. On dirait simplement un ChatGPT un peu plus pratique et plus respectueux de la vie privée. Est-ce que je rate quelque chose ?

    • C’est dans la section « bientôt disponible » tout en bas : « Personnalisation : connectez les applications que vous utilisez déjà pour enrichir en toute sécurité les connaissances de ChatGPT avec les données de votre entreprise »
    • Pour injecter des connaissances dans le modèle, on n’utilise pas le fine-tuning sur un corpus de documents, on utilise la recherche
      L’import de documents via Code Interpreter est déjà pris en charge, et ils ajoutent des connecteurs vers les applications où se trouvent les documents. Je ne vois pas trop ce qu’on peut attendre de plus
    • La génération augmentée par recherche mérite qu’on s’y intéresse. Un bon article d’introduction avait été posté ici il y a environ 1 à 3 semaines
  • Le message de cette vidéo a clairement mal vieilli : https://www.youtube.com/watch?v=smHw9kEwcgM
    En résumé, cela a peut-être vraiment tué beaucoup de startups

    • J’ai aussi pensé à cette vidéo de Y Combinator. La prédiction était à côté de la plaque, et il devient évident qu’OpenAI est en fait un concurrent direct de la plupart des startups qui utilisent son API. La plupart des startups du type « discuter avec mes données » vont probablement mourir avec ce mouvement
    • Si toute une startup ne faisait qu’ajouter une UI par-dessus l’API ChatGPT, il y a de fortes chances qu’elle n’ait jamais eu tant de valeur que ça, et sa fermeture ne serait pas une perte significative pour l’industrie dans son ensemble
    • Il existe une intuition business répandue selon laquelle une grande entreprise laissera des opportunités commerciales à de multiples sociétés satellites qui adaptent certaines fonctions dérivées de sa proposition de valeur à des niches spécifiques
      Mais la plupart ressemblent plutôt à « API OpenAI + prompt placé devant + interface utilisateur + marketing ». Le problème, soulevé dès le lancement de l’API GPT-3 il y a trois ans, est qu’il est difficile pour une startup d’apporter une valeur largement supérieure à celle fournie par l’API elle-même. Il est donc relativement facile pour OpenAI de reprendre directement ce business, plus que dans les cas passés où des modèles de startups similaires s’étaient construits autour d’autres grandes entreprises
    • Les startups qui utilisent ChatGPT en interne font en quelque sorte de l’étude de marché gratuite pour OpenAI. La même chose s’est produite quand des gens expérimentaient la complétion de code avec GPT-3 avant d’être rapidement remplacés par Copilot
      Si vous créez une startup IA et que vous avez besoin d’un LLM, il faut utiliser Llama ou un autre modèle que vous pouvez contrôler et héberger vous-même. Toute autre option revient quasiment à se suicider
  • Il est écrit « accès illimité à l’analyse avancée des données (ex-Code Interpreter) », mais Code Interpreter était un nom assez mauvais. Pour quelqu’un qui n’a pas étudié l’informatique, ça ne voulait pas vraiment dire grand-chose
    Mais alors, quel est le nouveau nom ? « Analyse avancée des données » ressemble plus à la description d’une fonctionnalité dans une liste à puces qu’à un nom

    • D’après une anecdote lue sur Internet, je crois que c’était sur le Twitter d’Ethan Mollick, Code Interpreter était meilleur que GPT-4 même pour des tâches qui ne relevaient pas de l’interprétation de code. Quelque chose du genre : c’était plus proche de GPT-4.5
      C’était peut-être un aperçu expérimental, et il est possible que seules les entreprises y aient désormais accès. De toute façon, je n’y avais pas accès
    • Sur mon compte, il s’affiche maintenant comme « Advanced Data Analysis » au lieu de « Code Interpreter ». On dirait que c’est le nouveau nom
    • Je voyais l’ancien nom, puis après avoir actualisé la page il est passé au nouveau. C’est vraiment un nom épouvantable. Ils auraient dû demander des suggestions à ChatGPT
  • Cela pourrait-il être lié à la disparition soudaine de ce dépôt ?
    https://github.com/microsoft/azurechatgpt
    Discussion précédente :
    https://news.ycombinator.com/item?id=37112741

    • Ça avait l’air d’être un excellent projet. J’espère qu’il reviendra
      Il existe quelques très bons projets open source dans ce domaine. Ils ne sont pas exactement identiques, et beaucoup se concentrent sur les LLM locaux, comme Llama2 ou Code Llama sorti la semaine dernière
      https://github.com/jmorganca/ollama (télécharger et exécuter des LLM en local, j’en suis le mainteneur)
      https://github.com/simonw/llm (accéder à des LLM cloud et locaux depuis la ligne de commande)
      https://github.com/oobabooga/text-generation-webui (interface web prenant en charge plusieurs backends)
      https://github.com/ggerganov/llama.cpp (moteur rapide d’exécution de LLM en local)
      https://github.com/go-skynet/LocalAI (fournit une API compatible OpenAI)
    • Toute l’activité s’est arrêtée il y a quelques semaines. Avant sa suppression ou son passage en privé, il était très actif et comptait près de 5 000 événements d’étoiles et de surveillance
      Malheureusement, je n’ai pas indexé le code. Les insights sont consultables sur https://devboard.gitsense.com/microsoft/azurechatgpt
      En toute transparence, c’est mon outil
    • On dirait qu’il a été déplacé
      https://github.com/matijagrcic/azurechatgpt
    • Aucun rapport. Ce projet n’était qu’une implémentation de référence de « discuter avec mes données via l’API /chat », et son nom prêtait vraiment à confusion
    • À en juger par la discussion précédente, il semble avoir été supprimé parce que le nom et la description prêtaient beaucoup trop à confusion. Les gens l’ont étoilé parce que c’était un dépôt publié par Microsoft appelé « azurechatgpt », alors qu’en réalité ce n’était qu’un exemple d’interface frontend de chatbot pour interagir avec l’API OpenAI
  • Je pensais que Microsoft était occupé à viser le marché entreprise, mais OpenAI a annoncé un produit pour les entreprises. J’ai l’impression qu’ils ne s’entendent pas si bien que ça

    • Est-ce qu’ils vendent le même produit sous deux marques en même temps ?
      C’est une stratégie commerciale optimale. Cela donne l’impression qu’il y a plus de concurrence et transforme la décision de « dois-je utiliser ChatGPT ? » en « quel fournisseur de GPT dois-je choisir ? »
    • Microsoft est fondamentalement une entreprise du marché intermédiaire. Bien sûr, elle vend aussi aux grandes entreprises, mais ce qui rend Microsoft vraiment impressionnante, c’est sa capacité à vendre à une échelle énorme à toutes les PME du monde grâce à son vaste réseau de partenaires
      OpenAI est une petite entreprise comparée à Microsoft. Elle n’a pas les moyens de constituer un immense réseau de partenaires. Au mieux, elle peut proposer à ses petits clients une gamme de produits avec un support de type forum, et à ses gros clients une gamme de produits d’entreprise avec un support riche. Mais le marché intermédiaire, comme toujours, sera occupé par Microsoft
    • C’est assez intéressant de voir les deux entreprises se copier mutuellement. Bing Chat dispose de GPT-4 with Vision, de l’historique des conversations et d’autres fonctionnalités, tandis qu’OpenAI s’étend vers le B2B
    • Dans mon entreprise, nous utilisons brièvement Bing Enterprise ; il est basé sur ChatGPT-4 et avance la même promesse de garder les données privées. À mon avis, Bing Chat est supérieur à ChatGPT-4 à bien des égards
    • Peut-être qu’ils ont subi des pressions pour compenser davantage leurs coûts d’exploitation. Et les entreprises qui paient déjà pour des produits Microsoft seront sans doute prêtes à payer OpenAI en plus pour jouer la sécurité
  • Je ne comprends pas bien où se termine le segment de marché d’OpenAI et où commence celui d’Azure

    • C’est plus facile à comprendre si l’on voit OpenAI comme un laboratoire de R&D en IA que Microsoft exploite sans charge politique ni réglementaire. De ce point de vue, tout cela revient en fait au même. Je ne vois pas d’autre issue finale pour OpenAI que de devenir une partie de Microsoft
    • Il y aura sans doute des chevauchements. Si vous êtes client Azure, vous utiliserez Azure ; sinon, vous utiliserez OpenAI