Gyorsabb több kisebb telephely átalakítása, mint egy hatalmas adatközpont felépítése? A cég tárgyalásokat folytat a Brightspeeddel, miután ötletét felvetette az anyavállalatnak, az Apollo Global Managementnek.
A Brightspeed internet- és telekommunikációs szolgáltató állítólag tárgyalásokat folytat az Nvidiával több épületük apró adatközpontokká alakításáról. A The Information szerint az Nvidia felvetette az ötletet az Apollo Global Management vezetőinek, a Brightspeed anyavállalatának, akik ezután felkérték őket, hogy írásos terveket nyújtsanak be az internetszolgáltatónak. Az Nvidia eleget tett a kérésnek, és most további információkat, adatokat, valamint helyszíni látogatásokat kért a Brightspeed meglévő infrastruktúrájának egy részéhez.
A telekommunikációs vállalatnak körülbelül 130 épülete van országszerte, amelyek közül sok már megépült az adat- és hangforgalom kezelésére, és rendelkezik az Nvidia szerverek futtatásához szükséges energiaellátási infrastruktúrával. Források szerint a mesterséges intelligencia technológiai óriás becslése szerint ezek a telephelyek együttesen körülbelül 1 gigawatt számítási kapacitást tudnának biztosítani, amely több mint 2200 Supermicro Vera Rubin NVL72 rack befogadására alkalmas lenne, amelyek egyenként 72 Rubin GPU-t és 36 Vera CPU-t tartalmaznak. Bár ezek a telephelyek már képesek ezeket a GPU-kat működtetni, ez még mindig nem egy plug-and-play megoldás, mivel az Nvidiának továbbra is telepítenie kellene a hűtőrendszereket és az egyéb támogató architektúrát. Ezekhez továbbra is engedélyekre és a helyi önkormányzat jóváhagyására lenne szükség, de valószínűleg kevesebb bürokráciával és ellenállással szembesülnének, mint ha egy adatközpontot a nulláról építenének fel.
Az Apollo Global Management már jelentős összegeket fektetett be a mesterséges intelligencia hardverek piacára, a vagyonkezelő cég egy 40 milliárd dolláros megállapodást kötött a SpaceX-szel, amelynek értelmében körülbelül 360 000 Vera Rubin GPU-t kapnak 5000 NVL72 rackben. Bár jelenleg nem világos, hogy kik lesznek a Brightspeed létesítményeiben telepített mesterséges intelligencia chipek tulajdonosai, a javaslat segíthet az Apollónak helyet találni a megrendelt Nvidia chipeknek, hogy azokat a lehető leghamarabb üzembe helyezhessék. Ez sokkal jobb megoldás, mint évekig várni egy adatközpont jóváhagyására, miközben a közösség ellenállásába ütközünk, még a helyi önkormányzat jóváhagyását követően is.
Több ilyen kis adatközpont fenntartása is egy olyan megoldás, amelyet az OpenAI és az Anthropic is fontolgat, különösen mivel a nagyobb létesítmények késésekkel és a közösségek negatív reakcióival szembesülnek, ahol működnek. Bár egy nagy, homogén klaszter felépítése egy helyen előnyösebb a betanításhoz, az Nvidia képviselői ezeket a kisebb helyszíneket „következtető hálózatként” írták le, amelyek segítenek a meglévő AI-modellek futtatásában. Ez különösen fontos, mivel az AI-ügynökök, amelyek ötször-tízszer több tokent használnak, mint az emberek, egyre népszerűbbek.
A meglévő létesítmények használatára való áttérés az újak nulláról történő építése helyett ismét figyelmet kapott, különösen azután, hogy az amerikaiak elsöprő többséggel az adatközpontok ellen szavaztak a félidős választásokon. Bár az Egyesült Államokban bevezetett több mint 300 adatközpont-tilalom csak három meglévő projektet késleltetett, attól tartanak, hogy a tilalmak és moratóriumok még nehezebbé teszik az új adatközpont-fejlesztések elindítását, és megnehezítik a mesterséges intelligencia cégek számára, hogy a jövőben biztosítsák a mesterséges intelligencia modelljeik működtetéséhez szükséges számítási kapacitást.
Tovább a cikkre: tomshardware.com
