A futó alkalmazásnak környezet kell
A szerveradminisztrációban ugyanaz érdekel, mint a fejlesztésben: megérteni, melyik rész miért van ott, és hogyan kapcsolódik a többihez. Egy szolgáltatás nem a forráskódnál ér véget. Futtatási környezet, hálózati hozzáférés és más komponensek is tartoznak hozzá.
Debian rendszereken alkalmazások telepítésével és kezelésével, Docker konténerekkel, Caddy alapú webes proxykkal és helyben futó nyelvi modellek környezetével foglalkoztam. Ezek a munkák a fejlesztői és az üzemeltetői nézőpontot hozzák közelebb egymáshoz.
Konténerek egy tényleges szerveren
A Docker jól elkülöníti az alkalmazás futtatásához szükséges részeket, de a konténer továbbra is egy konkrét szerveren működik. A Debian környezet adminisztrációja és a konténeres alkalmazások kezelése ezért együtt volt jelen a munkámban.
Ebben a környezetben a komponensek kapcsolata legalább olyan fontos, mint egyetlen alkalmazás konfigurációja. Érdemes látni, mi fut, mire támaszkodik, és hogyan jut el hozzá a kérés. E nélkül egy működő parancs még nem ad teljes képet a szolgáltatásról.
A kérés útja a szolgáltatásig
A Caddyvel végzett proxybeállítások a webes hozzáférést kapcsolják a háttérben futó alkalmazásokhoz. A fejlesztés közben egyszerűnek tűnő elérési út a szerveren több komponensen haladhat át.
Az ehhez kapcsolódó adminisztráció segít abban, hogy az alkalmazást a környezetével együtt nézzem. Ha egy szolgáltatás nem érhető el úgy, ahogy várnám, a saját folyamata mellett a kérés útját is végig kell követni.
Saját környezet a modellekhez
A lokális LLM-szerverkörnyezetek telepítése külön kísérletezési terület. Itt a nyelvi modell futtatása is saját infrastruktúrán történik, így a modell mellett a kiszolgáló környezettel is foglalkozni kell.
Ezeket a rendszereket saját AI-futtatáshoz és kísérletezéshez használom. A helyi futtatás nem tesz minden feladatot automatikusan egyszerűvé: éppen attól érdekes, hogy a szoftver és az üzemeltetési környezet kapcsolatát közvetlenül lehet vizsgálni.
A fejlesztésben sokat segít, ha azt is látom, mi történik az alkalmazással a saját gépemen túl.