A pilotprojektek végén viszont alacsony azon vállalatok aránya, amelyek az egész üzletre sikeresen ki tudják terjeszteni az MI-megoldásokat. Az informatikai vezetőnek rengeteg apróságra kell figyelnie, ha sikert akar elérni.
Továbblépés az MI-pilotokból
A generatív mesterséges intelligencia és az emberek házasságában a mézesheteknek immár vége. A valóságban kiderült, hogy viszonylag könnyű generatív MI-pilotprojekteket elindítani – de ezeket sikerre vinni már egészen más történet. A megoldások teljes vállalkozásra történő kiterjesztését rengeteg apróság akadályozhatja. A McKinsey adatai szerint a szervezetek csupán 11 százalékának sikerül nagyobb léptékben, teljes szervezetre kivetítve is kihasználni az MI jelentette előnyöket.
Összeállításunkban a McKinsey tanulmányára alapozva hét alapigazságot árulunk el a generatív MI-vel kapcsolatban – ezek segíthetnek igazán termőre fordítani a technológiát.
Hagyjuk figyelmen kívül a zajt!
A legtöbb üzleti és technológiai vezető tudja, hogy a pilot projektek és kísérletezések idejének már vége, azonban mindez nem látszik a vállalati valóságban. A generatív MI terjedése ellenére még mindig kevés, valós hasznot hozó gyakorlati megvalósítást látni.
Ezt a problémát csak súlyosbítja, hogy a döntéshozók félrevezető következtetéseket vonnak le a kísérletekből – például teljes vállalatra kiterjedő alkalmazást szeretnének kierőltetni egy chatinterfész-pilotból. A sikeresnek minősített pilotról aztán gyorsan kiderül, hogy a vállalat kevésbé fontos részére alkalmazták.
A pilotok kiterjesztésének kudarca többnyire arra vezethető vissza, hogy az erőforrásokat és a vezetői figyelmet több tucatnyi kezdeményezés között aprózzák fel. És ez sajnos nem újdonság. Ugyanezt láthatták és tapasztalhatták a vállalatok más feltörekvő technológiák esetében, legyen az felhő vagy analitika. Ne kövessük el ugyanezeket a hibákat az MI-vel kapcsolatban is!
A CIO legfontosabb döntése: megtalálni és leállítani azokat a pilotokat, melyek csak viszik a pénzt, majd az egész szervezetre kiterjeszteni azokat, amelyek technikailag kivitelezhetők, fontos változásokat indukálnak, miközben a kockázatuk alacsony.
Az a lényeg, hogy az elemek hogyan működnek együtt
Nagyon sok technológiai beszélgetés arról szól, hogy dönteni kell az MI-megoldásokat létrehozó komponensekről (nyelvi modellekről, API-król, egyebekről). A tapasztalat azonban azt mutatja, hogy viszonylag könnyű egyenként kiválasztani az összetevőket – de integrálni őket már korántsem egyszerű. Ez a generatív MI méretezésének másik legnagyobb akadálya.
A gond az, hogy nem egyértelmű a nagy léptékű működés esetére is kitalálni az integrációt. Több komponens van (nyelvi modellek, vektor adatbázis, prompt könyvtárak, adatforrások), számba kell venni a megbízhatóság fokát és ismerni kell a meglévő protokollokat (például a hozzáférési jogokat). Ahogy egy új komponens kerül az egyenlegbe, az az összes meglévő részre hatással lesz, exponenciálisan növelve a projekt komplexitását.
A rendszer akkor működik jó, ha végponttól-végpontig automatizált. A lényeg a teljességen van, hiszen a legtöbb esetben a vállalatok a munkafolyamatnak csupán egyes elemeit automatizálják. Az igazi értéket viszont az képviseli, ha a teljes folyamatot emberi beavatkozás nélkül, teljes automatizáció mellett le tudjuk futtatni.
Vegyük kézbe a költségeket!
Az MI-projektek bonyolultságának komoly pénzügyi vonzatai is lesznek, ha nem figyelünk oda a költségekre. A költségek kezelése is meghatározza a nagyléptékű projektek sikerességét. Ha megértjük, melyek a fontos pénzügyi elemek, akkor már nyertes helyzetbe kerültünk. A nyelvi modellek például általában csak a költségek 15 százalékáért felelősek, mert az LLM-ek ára jelentősen csökkent, és idővel további csökkenés várható.
A legnagyobb költség a változásmenedzsment. Tapasztalatok szerint az MI fejlesztésére fordított minden egyes dollár mellett 3 dollárt kell költeni változásmenedzsmentre, miközben a hagyományos digitalizációs projektek esetében ez az arány 1:1. Az ezen a téren jól teljesítő vállalatoknak komoly teljesítménymenedzsment-infrastruktúrájuk van, és odafigyeltek a nem műszaki kollégák oktatására is. Ugyanakkor a felhasználókat már első naptól beavatják a fejlesztés folyamatába (például egyszerűen azzal, hogy chat interfészt állítanak hadrendbe a generatív MI-hez). A legjobb kollégáikat pedig bevonják a modell tanításába, ezzel biztosítva, hogy a modellek pontosan és gyorsan tanuljanak.
Számolni kell azzal is, hogy a működtetési költségek sokkal magasabbak, mint a generatív MI fejlesztése. A modellt és adatforrást is karban kell tartani, Európában pedig a kockázat kezelése és compliance biztosítása igényel sok emberi munkát. Léteznek költségcsökkentő megoldások, de a folyamatok optimalizálásával sokat kell foglalkozni.
Fékezzük meg a technológia túlburjánzását!
Sok csapat saját ötleteket fejleszt a vállalaton belül és gyakran fel is állítja saját környezetüket. Az eredmény? A vállalatnak több párhuzamos infrastruktúrát kell támogatnia. A generatív MI méretezésének egyik leggyakrabban emlegetett akadálya a „túl sok platform”.
De melyik szolgáltatót, eszközöket vagy modelleket válassza a vállalat? A lényeg, hogy ne töltsünk túl sok időt lényegtelen döntésekkel (például szinte mindegy, hogy melyik LLM-et használja a vállalat, hiszen nem olyan nagy a különbség közöttük). Szánjunk viszont időt a lényeges kérdésekre: például, hogy miként építsük fel az infrastruktúrát és az alkalmazásokat, hogy szükség esetén rugalmasan válthassunk szolgáltatót vagy modelleket.
Értéket teremtsen a csapat, ne csak modelleket!
Még mindig nagy probléma, hogy a vállalatok a generatív technológiát technológiai fejlesztésként és nem üzleti prioritásként kezelik. A múlt technológiai fejlesztései már megmutatták, hogy az értékteremtés nem csak a technológia kérdése. Ahhoz, hogy a generatív MI-nek tényleges hatása legyen a szervezeten belül, szükség van olyan csapatok kialakítására, amelynek tagjai túllátnak a technológián és üzleti szemmel közelítenek a projekthez.
A szélesebb körű szervezeti integráció biztosítására több megközelítés is létezik: egyes vállalatok kiválósági központokat állítanak fel, amelyek priorizálják a felhasználási eseteket. Más vállalatok több csapat között osztják meg a stratégiai és taktikai feladatokat. Hogy kinél mi működik, az a vállalattól függ. A lényeg, hogy a központosított csapat megteremtse a technológia és az üzlet közötti együttműködést, és eléggé fegyelmezett legyen, hogy a már kipróbált protokollok mentén sikerre vigye a projektet.
A jó adatot keressük, ne a tökéleteset!
A jól működő generatív MI-megoldásoknak tiszta és pontos adatokra van szükségük. Sok esetben a generatív MI működését nagymértékben javítja az adatok célzott kiválasztása: az adatok címkézése például nagy hatással van a generatív MI válaszaira. Ugyanakkor érdemes időt fordítani a tartalmi források fontosságának megjelölésére, hiszen ezzel segítünk a modellnek megérteni a különböző adatforrások relatív értékét – itt a szakértők tudása felértékelődik.
A generatív MI-modellek instabilak, a vállalatoknak karban kell tartani a platformokat, amikor új adatok adnak hozzá – ami elég gyakori eset és meghatározza a modell működését. Azok a vállalatok vannak itt előnyben, amelyek már sok energiát fektettek adattermékek kifejlesztésébe, hiszen nekik már jól szervezett adatforrásaik vannak a modell fenntartásához.
Elképzelhető például, hogy egy vállalatnál a kutatás-fejlesztési csapat, a mérnökök, a kereskedők és az ügyfélszolgálat mind különböző módokon írta le ugyanazt a terméket. Amikor a csapatok a generatív MI-be táplálták az adatokat, komoly konfliktusok alakultak ki, és nehéz volt a modellnek használni az adatokat. A kérdést úgy lehet megoldani, hogy a szervezet egyetlen verziót készít az adatból, és mindenki, még a generatív MI is azt használja.
Használd újra vagy dobd ki!
Az újrahasznosítható kód 30-50 százalékkal gyorsítja az MI-megoldások fejlesztését. Azonban a jelentős eredmények hajhászása miatt a csapat gyakran az egyéni felhasználási esetre összpontosít, amelyek nem méretezhetőek. A CIO feladata a keresztirányú fejlesztésekre tenni a hangsúlyt, amelyek több felhasználási forgatókönyvet lefednek.
Az újrahasznosítás azonban nem azt jelenti, hogy absztrakt generatív MI-képességeket kell fejleszteni, amelyeket senki sem használ, még ha technikai szempontból könnyen bevethetőek is. Az újrahasznosítható eszköz fejlesztésének hatékonyabb módja, ha a vállalat átnéz három-öt felhasználási lehetőséget, és összegyűjti a közös szükségleteket, funkciókat. Ezeket a közös részeket úgy kell kifejleszteni, hogy könnyen újrahasznosíthatóak legyenek. Egy európai bank például átnézte, hogy milyen funkciót tudnának hasznosítani több területen és ennek alapján kifejlesztettek egy szintetizáló modult, egy fordító modult és egy érzelmeket elemző modult.
A CIO-k azonban nem várhatják el, hogy mindez magától megtörténik. Ki kell jelölnie a feladatokat, meg kell határoznia, ki a platform gazdája, és hogy ki milyen szerepkörben és minőségben tud hozzájárulni a vállalati értékteremtéshez.