Les grandes entreprises prévoient d’utiliser davantage de modèles d’IA à poids ouverts, moins coûteux, alors que la hausse des factures les pousse à rechercher des solutions moins chères tout en conservant les modèles fermés pour les tâches difficiles.
L’enquête de Capgemini, publiée le 12 novembre, a révélé que près de six dirigeants sur dix s’attendent à ce que leur organisation accroisse son utilisation de l’IA à poids ouverts au cours de l’année à venir. La pression sur les coûts est déjà manifeste : 59 % des personnes interrogées ont déclaré que leurs dépenses en IA au cours de l’année écoulée avaient largement dépassé leurs prévisions ou leur budget. En moyenne, elles dépassaient les prévisions ou le budget de 24 %.
Plus de la moitié des personnes interrogées, soit 53 %, ont déclaré que les coûts de l’IA les préoccupaient, contre 45 % l’année précédente. Selon Capgemini, les modèles à poids ouverts coûtent en moyenne 87 % moins cher par jeton que les modèles fermés. En septembre, les modèles à poids ouverts représentaient 72 % de l’activité sur la plateforme du fournisseur d’IA OpenRouter, mais seulement 27 % des dépenses, selon l’étude.
L’enquête a porté sur 500 cadres supérieurs d’organisations dont le chiffre d’affaires annuel dépasse 1 milliard de dollars, réparties dans 10 pays. La tendance semble être à l’utilisation d’une combinaison de modèles, plutôt qu’au remplacement complet des modèles fermés. La moitié des personnes interrogées ont déclaré qu’elles continueraient à utiliser des modèles fermés pour les tâches complexes lorsque leur surcoût se justifie.