AI Pioneer's Deepseek onthulde: onthulling echte ontwikkelingskosten

De Deepseek's verrassend goedkope AI -model daagt de industrienormen uit. Het bedrijf beweert zijn krachtige Deepseek V3 -neurale netwerk te hebben getraind voor slechts $ 6 miljoen, met slechts 2048 GPU's, die concurrenten aanzienlijk ondermijnt. Dit cijfer is echter misleidend.

afbeelding: ensigame.com

Deepseek V3 maakt gebruik van innovatieve technologieën: Multi-Token Prediction (MTP) voor verbeterde nauwkeurigheid en efficiëntie; Mix van experts (MOE) , met behulp van 256 neurale netwerken, om de training te versnellen en de prestaties te verbeteren; en multi-head latente aandacht (MLA) om zich te concentreren op cruciale zinselementen, het minimaliseren van informatieverlies.

afbeelding: ensigame.com

In tegenstelling tot hun eerste claim, onthulde de semianyse dat de feitelijke infrastructuur van Deepseek is aangetoond dat ongeveer 50.000 NVIDIA -hopper GPU's, wat een totale investering van ongeveer $ 1,6 miljard en operationele kosten van $ 944 miljoen vertegenwoordigt. Deze enorme investering, in combinatie met hoge salarissen voor zijn onderzoekers (van meer dan $ 1,3 miljoen per jaar), is in tegenspraak met het lage trainingskostenverhaal.

afbeelding: ensigame.com

De unieke structuur van Deepseek, als dochteronderneming van het hoogvlieger hedgefonds, maakt het directe eigendom van datacenters en zelffinanciering, het bevorderen van behendigheid en snelle innovatie mogelijk. Dit staat in contrast met concurrenten die afhankelijk zijn van cloud computing. Het cijfer van $ 6 miljoen weerspiegelt alleen PRPU-kosten voor de training, exclusief onderzoek, verfijning, gegevensverwerking en infrastructuur. De totale investering van Deepseek in AI -ontwikkeling overtreft $ 500 miljoen.

afbeelding: ensigame.com

Hoewel het succes van Deepseek het potentieel van een goed gefinancierde onafhankelijk AI-bedrijf toont, is de claim "Revolutionaire Budget" een te vereenvoudiging. Hun concurrentievoordeel komt voort uit substantiële investeringen, technologische doorbraken en een zeer bekwaam team. Zelfs met deze aanzienlijke uitgaven blijven de kosten van Deepseek echter nog steeds aanzienlijk lager dan die van zijn concurrenten, met eerdere modeltrainingskosten voor $ 5 miljoen (R1) in vergelijking met Chatgpt's $ 100 miljoen (chatgpt4o).