Kategori: AI i praktiken
-
Att köra kod som en språkmodell skrivit — utan att bli hackad
Att skriva i prompten att modellen inte får generera skadlig kod är ingen säkerhetsåtgärd, det är en artighetsfras. Fyra lager som var för sig går att ta sig förbi.
-
Slides som skriver sig själva medan jag pratar
Taligenkänningen fungerade första kvällen. Det svåra var nästa fråga: ska det här bli en slide? Om omdöme som produkt, och om att bygga något som inte får dö framför publik.
-
Mailagenten och skyddsnäten som inte litar på modellen
En språkmodell som svarar på riktiga supportmejl. Det intressanta är inte modellen — det är de två skyddsnäten runt den, byggda för att fungera även när den har fel.
-
Uppgraderingen som tystade 94 procent av jobbet
Jag bytte bildmodell mot en nyare och bättre. Nästa körning hoppade över 680 av 720 objekt — och rapporterade att allt gått bra. Om timeouts som blir tysta filter.
-
Sjuttio miljarder parametrar, åtta minuter per svar
Modellen fick plats på två gamla kort. Att den ryms betyder bara att den inte kraschar — rätt fråga är hur stor modell man kan köra tillräckligt snabbt för att faktiskt använda.