Du har hørt om teknisk gjeld.
Det er det som skjer når du bygger noe raskt, hopper over delene som tar tid, og ender opp med å betale for det senere.
Tregere utvikling. Feil som er vanskelige å spore. Kode som fungerer, men som ingen lenger fullt ut forstår.
Hallusinasjonsgjelda er en nyere versjon av det problemet. Og det er én som de fleste som bygger med AI akkurat nå, ikke har tenkt på ennå.
Hva det faktisk er
Når et AI-verktøy genererer kode, tenker det ikke gjennom problemet slik en utvikler gjør. Det forutsier hva neste logiske resultat bør se ut som, basert på mønstre det lærte under opplæringen. Det meste av tiden er prediksjonen god. Koden kjører. Den gjør det du ba om.
Men noen ganger fyller AI-en inn hull. En tilkobling til en ekstern tjeneste som den antar fungerer på en bestemt måte. En sikkerhetskontroll som ser riktig ut, men som aldri ble ordentlig testet. En del logikk som håndterer normaltilfellet perfekt, men som bryter sammen når noe uventet skjer.
Ingenting av dette dukker opp når du kjører demoen. Det er den typen ting som dukker opp uker eller måneder senere, når ekte brukere bruker produktet på måter ingen forutså.
Det er hallusinasjonen. Gjelda er alt du bygger på toppen av den før du finner ut av det.
Hvorfor det er vanskeligere å oppdage enn vanlig teknisk gjeld
Med vanlig teknisk gjeld vet du vanligvis at noe er galt. Koden er rotete, arkitekturen gir ikke mening, ting er trege. Utviklere kjenner det på kroppen. Det er frustrerende, men det er i det minste synlig.
Hallusinasjonsgjelda ser ofte fin ut. Koden er ren, godt strukturert, følger de riktige mønstrene. Ingenting signaliserer et problem. Problemet er ikke hvordan det ser ut – det er antagelsene under som ingen sjekket.
Studier viser at AI-generert kode inneholder alvorlige sikkerhetshull i nesten halvparten av testede tilfeller. Ikke fordi koden ser ødelagt ut, men fordi den passerer grunnleggende kontroller mens den bærer på problemer som bare dukker opp under reelle forhold.
For en voksende virksomhet er dette det som gjør hallusinasjonsgjelda farlig. Etter hvert som du skalerer, etter hvert som flere funksjoner legges til, etter hvert som ekte brukere begynner å presse systemet på uventede måter, begynner disse usjekket antagelsene å bety noe. Og da er de begravet under måneder med arbeid.
Mønsteret vi ser gang på gang
Som et programvareselskap som jobber med gründere som bygger på AI, har vi begynt å se et mønster.
Produkter som ser flotte ut på overflaten. Demoer som kjører jevnt. Men når du ser på hva som faktisk er under, blir bildet mer komplisert.
Logikk bygget på hvordan en tredjeparts tjeneste ble antatt å oppføre seg – ikke hvordan den faktisk oppfører seg. Innloggingsflyter som fungerer fint under normale forhold, men som aldri ble testet skikkelig. Datahåndtering som følger et mønster AI-en har sett før, men som skaper problemer i situasjoner den opprinnelige utvikleren aldri tenkte på.
Menneskene som bygde disse produktene, var ikke uforsiktige. De beveget seg raskt – som er nettopp hva AI-verktøy er laget for. Problemet var at ingen noen gang stoppet opp og spurte: gjør dette faktisk det vi tror det gjør? Hva antar det? Hva skjer hvis de antagelsene er feil?
Når det spørsmålet aldri stilles, lanseres koden. Og alt som bygges på toppen av den, bærer det samme uverifiserte fundamentet.
Risikoen som ikke snakkes nok om
De fleste samtaler om risikoene ved vibe coding fokuserer på sikkerhetshull, manglende infrastruktur, apper som ikke er klare for ekte brukere. Det er reelle problemer.
Men det dypere problemet er enklere enn det.
Når AI skriver noe og et menneske godkjenner det uten virkelig å forstå det, eier ikke det mennesket koden.
De godkjente den, de lanserte den.
Men når noe går galt, vet de ikke hvor de skal begynne, fordi resonnementet bak koden aldri var deres. AI-samtalen som produserte den, er borte.
Dette er grunnen til at vi hos Rocksoft sier at AI-hastighet trenger ingeniørskjønn for å faktisk fungere. Ikke for å bremse ting ned, men for å sikre at det som bygges, er noe du kan stole på.
AI genererer – ingeniører gjennomgår – ingenting går live uten et menneske som kan forklare hvorfor det fungerer og hva som skjer når det ikke gjør det.
Det er kjernen i vår AI Engineering Partner-tjeneste. Ikke fordi AI skriver dårlig kode – den er rask og ofte svært god – men å forstå hva koden antar er et menneskelig arbeid. Å hoppe over det er slik hallusinasjonsgjelda bygger seg opp.
Hvordan stoppe det fra å bygge seg opp
Svaret er ikke å slutte å bruke AI-verktøy. Svaret er å bygge en prosess rundt dem.
Hver bit AI-generert kode trenger et menneske som forstår den godt nok til å eie den. Ikke bare noen som sjekket at den kjører, men noen som kan forklare hva den gjør, hva den antar, og hva som skjer når de antagelsene settes på prøve.
Det er vanskeligere enn det høres ut når du beveger deg raskt og alt ser fint ut. Men det er mye enklere enn å nøste opp en kodebase full av problemer seks måneder etter lansering, når ekte brukere har funnet kanttilfellene og ingen husker hvorfor den opprinnelige koden ble skrevet slik den ble.
Teamene som får dette riktig, er ikke de som beveger seg tregere. De er de som bygger de riktige vanene før de setter opp farten.
Hvis du allerede bygger med AI og er usikker på hva som er under, ta kontakt med oss.
