Stora företag planerar att använda fler AI-modeller med öppna vikter och lägre kostnader när stigande utgifter får dem att söka billigare alternativ, samtidigt som de behåller slutna modeller för svåra uppgifter.
Capgeminis undersökning den 12 november visade att nästan sex av tio chefer räknar med att deras organisationer kommer att öka användningen av AI-modeller med öppna vikter under det kommande året. Kostnadspressen är redan tydlig: 59 % av de svarande uppgav att deras AI-utgifter under det senaste året låg betydligt över förväntningarna eller budgeten. I genomsnitt låg utgifterna 24 % över förväntningarna eller budgeten.
Mer än hälften av de svarande, 53 %, uppgav att AI-kostnader oroade dem, en ökning från 45 % året innan. Enligt Capgemini kostar modeller med öppna vikter i genomsnitt 87 % mindre per token än slutna modeller. I september stod modeller med öppna vikter för 72 % av aktiviteten hos AI-leverantören OpenRouter, men bara 27 % av utgifterna, enligt undersökningen.
Undersökningen omfattade 500 högt uppsatta chefer vid organisationer med en årsomsättning på över 1 miljard dollar i tio länder. Skiftet verkar gå mot att använda en blandning av modeller, snarare än att helt ersätta de slutna modellerna. Hälften av de svarande uppgav att de skulle behålla slutna modeller för komplexa uppgifter när den extra kostnaden var motiverad.