బ్యాటరీ లోడ్: AI శిక్షణ వర్సెస్ ఇన్‌ఫెరెన్స్

GPU ర్యాక్‌ల కోసం బ్యాటరీ బ్యాకప్ పరిమాణాన్ని నిర్ణయించే AI ఆపరేటర్ సాధారణంగా ఒక సంఖ్యతో ప్రారంభిస్తారు: kWలో సగటు పవర్. ఈ సంఖ్య ప్రశ్నలో సగం మాత్రమే సమాధానం ఇస్తుంది. ఒక శిక్షణ క్లస్టర్ మరియు ఒక ఇన్‌ఫెరెన్స్ ఫ్లీట్ రెండు వేర్వేరు ఆకారాల్లో శక్తిని లాగుతాయి – ఒకటి చదునైనది మరియు నిరంతరం, మరొకటి చిన్న శిఖరాలతో – మరియు ఆకారం బ్యాటరీ ఏమి చేయాలో నిర్ణయిస్తుంది: అది ఎంత పీక్ కరెంట్ భరించాలి, ప్రతి డిశ్చార్జ్ ఎంత లోతుగా ఉంటుంది, మరియు మాడ్యూళ్ల సంఖ్యను శక్తి నిర్ణయిస్తుందా లేక పవర్ నిర్ణయిస్తుందా. డేటా సెంటర్లు 2024లో సుమారు 415 TWh విద్యుత్ వాడాయి, ఇది ప్రపంచ డిమాండ్‌లో సుమారు 1.5%, మరియు IEA 2030 నాటికి సుమారు 945 TWh ఆశిస్తోంది (IEA, April 2025). ఈ పేజీ రెండు లోడ్ ప్రొఫైళ్లను వివరిస్తుంది, ప్రతి ఒక్కటి LiFePO4 ర్యాక్ బ్యాటరీ నుండి ఏమి కోరుతుంది, మరియు సైజింగ్ ప్రతిపాదన కోసం LJY Energyకి ఏమి పంపాలి.

శిక్షణ సమయంలో, GPUలు గంటలు లేదా రోజుల పాటు దాదాపు పూర్తి వినియోగంలో నడుస్తాయి: పవర్ వక్రత దాదాపు చదునైనది, ఎత్తైనది మరియు నిరంతరం, మరియు ఒక్క అంతరాయం శిక్షణను ఆపి గంటల చెక్‌పాయింట్లను కోల్పోయేలా చేస్తుంది. ఒక్క శిక్షణ ర్యాక్ సుమారు 40 kW లాగవచ్చు – నాలుగు DGX H100 సర్వర్లు – ఇది సాధారణ కార్పొరేట్ ర్యాక్ 7-12 kW కంటే చాలా రెట్లు ఎక్కువ. ఇన్‌ఫెరెన్స్ ఆకారం దీనికి వ్యతిరేకం: ప్రశ్నలు క్రమరహితంగా వస్తాయి, GPUలు ప్రతి ప్రశ్నలో శిఖరాన్ని చేరుకుంటాయి మరియు మధ్యలో నిష్క్రియంగా ఉంటాయి, కాబట్టి వక్రత తక్కువ సగటు కంటే పైన శిఖరాల శ్రేణి. ఇన్‌ఫెరెన్స్ ఇప్పటికే AI కంప్యూటింగ్‌లో సుమారు 80-90%, మరియు 2030 నాటికి ఇది AI శక్తి అవసరాలలో సుమారు 75% చేరుకుంటుందని IEA ఆశిస్తోంది (IEA, April 2025). రెండు ఆకారాలు బ్యాటరీ నుండి వేర్వేరు విషయాలను కోరుతాయి: శిక్షణ బ్యాటరీ మొత్తం బ్రిడ్జింగ్ విండోలో నిరంతర పవర్ ఇవ్వాలి, సగటుకు దగ్గరగా శిఖరంతో, నిరంతర పవర్ kW గుణించిన నిమిషాల ద్వారా నిర్ణయించబడే బ్రిడ్జింగ్ శక్తి, మితమైన నిరంతర C రేటు, దీర్ఘ అంతరాయాల్లో లోతైన డిశ్చార్జ్, స్థిరమైన వోల్టేజ్ మరియు సమాన వేడి; ఇన్‌ఫెరెన్స్ బ్యాటరీ వోల్టేజ్ పడకుండా వేగవంతమైన శిఖరాలను గ్రహించాలి, సగటు కంటే చాలా ఎక్కువ శిఖరంతో, పీక్ పవర్ kW గుణించిన నిమిషాల ద్వారా నిర్ణయించబడే బ్రిడ్జింగ్ శక్తి, అధిక చిన్న కరెంట్ పల్స్‌లు, చిన్న సంఘటనల్లో పాక్షిక డిశ్చార్జ్ మరియు లోడ్ శిఖరాలను అనుసరించే వేడి పల్స్‌లు. సైజింగ్ శిక్షణలో నిరంతర పవర్ kW నుండి మరియు ఇన్‌ఫెరెన్స్‌లో పీక్ పవర్ kW మరియు శిఖర వ్యవధి నుండి ప్రారంభమవుతుంది. ఇన్‌ఫెరెన్స్ ఫ్లీట్‌లు కూడా వినియోగంతో పెరిగే ధోరణిని కలిగి ఉంటాయి, మరియు మాడ్యులర్ ర్యాక్ బ్యాటరీ వాటితో పాటు పెరుగుతుంది: లోడ్ పెరిగేకొద్దీ మాడ్యూళ్లు సమాంతరంగా జోడించబడతాయి, బ్యాటరీని మార్చడానికి బదులు.

యునైటెడ్ స్టేట్స్‌లో డేటా సెంటర్ మౌలిక సదుపాయాల మ్యాప్
ఫోటో: DOE/National Renewable Energy Laboratory (NREL), Wikimedia Commons, Public domain (చిన్నదిగా చేసినది, WebP). వివరణాత్మక చిత్రం మాత్రమే, ఇది LJY ఉత్పత్తి కాదు.

సూచన విలువలు

డేటా సెంటర్ల విద్యుత్ వినియోగం, 2024415 TWh
ప్రపంచ విద్యుత్ డిమాండ్‌లో వాటా1.5%
2030 నాటికి డేటా సెంటర్ల అంచనా విద్యుత్ వినియోగం945 TWh
ఒక శిక్షణ ర్యాక్ పవర్ వినియోగం, ఉదాహరణ40 kW
సాధారణ కార్పొరేట్ ర్యాక్ పవర్ వినియోగం7–12 kW
AI కంప్యూటింగ్‌లో ఇన్‌ఫెరెన్స్ వాటా80–90%
2030 నాటికి AI శక్తి అవసరాల్లో ఇన్‌ఫెరెన్స్ అంచనా వాటా75%
సైజింగ్ ఉదాహరణలో శిక్షణ వరుస8 kW
సైజింగ్ ఉదాహరణలో ఇన్‌ఫెరెన్స్ శిఖరం16 kW

సైజింగ్ లోడ్ ఆకారంతో ప్రారంభమవుతుంది, కాపీ చేసిన ఆంపియర్-గంట సంఖ్యతో కాదు: LJY యొక్క 51.2V ర్యాక్ మాడ్యూల్ పేజీ బ్యాటరీ నిర్మించబడే ర్యాక్ మాడ్యూళ్లను జాబితా చేస్తుంది, మరియు మాడ్యూళ్ల సంఖ్య కొలిచిన kW మరియు బ్రిడ్జింగ్ నిమిషాల నుండి వస్తుంది మరియు ప్రతి ప్రాజెక్ట్‌కు ధృవీకరించబడుతుంది.

సైజింగ్ ఉదాహరణ

8 kW శిక్షణ వరుసకు 15 నిమిషాల బ్రిడ్జింగ్ కోసం సుమారు 2 kWh ఉపయోగించదగిన శక్తి అవసరం. సమాంతరంగా అనుసంధానించబడిన 2 100 Ah మాడ్యూళ్లు దీన్ని నెరవేరుస్తాయి: అవి నిరంతరం సుమారు 10 kW ఇస్తాయి మరియు 10.24 kWh నిల్వ చేస్తాయి, కాబట్టి పవర్ మరియు శక్తి రెండూ మార్జిన్‌తో అవసరాన్ని నెరవేరుస్తాయి. ముందు నిరంతర పవర్ kW ప్రకారం పరిమాణాన్ని నిర్ణయించండి, తర్వాత బ్రిడ్జింగ్ నిమిషాలను kWhలో తనిఖీ చేయండి. వరుస తర్వాత పెరిగితే సమాంతర మాడ్యూళ్లను జోడించండి; బ్యాటరీ ఇప్పటికే ఇన్‌స్టాల్ చేసినదాన్ని మార్చకుండా విస్తరిస్తుంది. అదే 8 kW సగటుతో కానీ 16 kW శిఖరాలతో ఉన్న ఇన్‌ఫెరెన్స్ వరుసకు అదే శక్తి అవసరం, కానీ పీక్ కరెంట్ భరించడానికి రెట్టింపు మాడ్యూళ్లు అవసరం – మాడ్యూళ్ల సంఖ్యను శిఖరం నిర్ణయిస్తుంది, సగటు కాదు.

ప్రతిపాదనకు ముందు ఏమి పంపాలి

  • శిక్షణ లేదా ఇన్‌ఫెరెన్స్ లోడ్, కొలిచిన సగటు మరియు పీక్ పవర్ kWలో
  • జనరేటర్ ప్రారంభమయ్యే ముందు అవసరమైన బ్రిడ్జింగ్ నిమిషాలు
  • Uలో అందుబాటులో ఉన్న ర్యాక్ స్థలం మరియు UPS లేదా ఇన్వర్టర్ మోడల్

లెక్కింపును అభ్యర్థించండి

లోడ్ ప్రొఫైల్ పంపండి – శిక్షణ లేదా ఇన్‌ఫెరెన్స్ – kWలో సగటు మరియు పీక్ పవర్, అవసరమైన బ్రిడ్జింగ్ నిమిషాలు, Uలో అందుబాటులో ఉన్న ర్యాక్ స్థలం మరియు UPS లేదా ఇన్వర్టర్ మోడల్‌తో. LJY Energy మాడ్యూళ్ల సంఖ్య, సమాంతర కనెక్షన్ మరియు కమ్యూనికేషన్ సెట్టింగ్‌లను ధృవీకరిస్తుంది, తర్వాత డెలివరీ షరతులతో బ్యాటరీకి కొటేషన్ ఇస్తుంది. మేము షెన్‌జెన్ నుండి OEM/ODM బ్యాటరీల డెలివరీని సమన్వయం చేస్తాము; మేము ఫ్యాక్టరీ కాదు, మరియు ప్రతి ఆర్డర్ ఉత్పత్తికి ముందు లిఖితపూర్వకంగా ధృవీకరించబడుతుంది.

విశ్వవిద్యాలయ డేటా సెంటర్‌లో సర్వర్ ర్యాక్‌లు
ఫోటో: Christopher Bowns, Wikimedia Commons, CC BY-SA 2.0 (చిన్నదిగా చేసినది, WebP). వివరణాత్మక చిత్రం మాత్రమే, ఇది LJY ఉత్పత్తి కాదు.

ర్యాక్ బ్యాటరీ లెక్కింపును అభ్యర్థించండి · WhatsApp +86 159 8945 0735