{"id":22,"date":"2026-07-13T19:00:00","date_gmt":"2026-07-13T17:00:00","guid":{"rendered":"https:\/\/airex.se\/blogg\/mailagenten-skyddsnat\/"},"modified":"2026-07-13T19:00:00","modified_gmt":"2026-07-13T17:00:00","slug":"mailagenten-skyddsnat","status":"publish","type":"post","link":"https:\/\/airex.se\/blogg\/mailagenten-skyddsnat\/","title":{"rendered":"Mailagenten och skyddsn\u00e4ten som inte litar p\u00e5 modellen"},"content":{"rendered":"\n

Fem dom\u00e4ner har supportadresser. Bakom var och en sitter en spr\u00e5kmodell som l\u00e4ser inkommande mejl och fattar ett av tre beslut: svara<\/strong>, skicka vidare till en m\u00e4nniska<\/strong> eller arkivera<\/strong>.<\/p>\n\n\n\n

Den har gjort det i m\u00e5nader, p\u00e5 riktiga kunder. Det intressanta med den \u00e4r inte modellen \u2014 det \u00e4r de tv\u00e5 skyddsn\u00e4ten runt den, som \u00e4r byggda f\u00f6r att fungera \u00e4ven n\u00e4r modellen har fel<\/em>.<\/p>\n\n\n\n

Vad som \u00e4r farligt med ett automatiskt svar<\/h2>\n\n\n\n

Det uppenbara felet \u00e4r att svara dumt. Det \u00e4r obehagligt men \u00f6verlevbart \u2014 en kund som f\u00e5r ett konstigt svar skriver oftast igen.<\/p>\n\n\n\n

Det verkligt farliga felet \u00e4r det tysta: att ett riktigt mejl klassas som skr\u00e4p och arkiveras. Ingen f\u00e5r veta. Kunden tror att du l\u00e4st det. Du vet inte ens att det kommit. Felet uppt\u00e4cks veckor senare, n\u00e4r n\u00e5gon fr\u00e5gar varf\u00f6r de aldrig fick svar \u2014 om ens d\u00e5.<\/p>\n\n\n\n

All design utg\u00e5r fr\u00e5n det. Ett d\u00e5ligt svar \u00e4r ett problem. Ett borttappat mejl \u00e4r ett haveri.<\/p>\n\n\n\n

Skyddsn\u00e4t ett: modellen f\u00e5r inte kasta n\u00e5got som redan bed\u00f6mts<\/h2>\n\n\n\n

Innan agenten ser mejlet har det redan passerat ett vanligt spamfilter. Det filtret \u00e4r statistiskt, v\u00e4l bepr\u00f6vat och g\u00f6r en bed\u00f6mning: skr\u00e4p eller inte.<\/p>\n\n\n\n

Regeln \u00e4r enkel: har spamfiltret sl\u00e4ppt igenom mejlet f\u00e5r agenten inte arkivera det.<\/strong> Vill modellen \u00e4nd\u00e5 g\u00f6ra det blir beslutet i st\u00e4llet ”skicka vidare till m\u00e4nniska”.<\/p>\n\n\n\n

Det \u00e4r en avsiktlig f\u00f6rs\u00e4mring. Det ger fler mejl i inkorgen \u00e4n n\u00f6dv\u00e4ndigt. Men det g\u00f6r den enda o\u00e5terkalleliga \u00e5tg\u00e4rden \u2014 tystnad \u2014 om\u00f6jlig att n\u00e5 genom ett modellfel. Tv\u00e5 oberoende system m\u00e5ste vara \u00f6verens innan n\u00e5got f\u00f6rsvinner.<\/p>\n\n\n\n

Skyddsn\u00e4t tv\u00e5: allt som g\u00e5r fel blir en m\u00e4nniskas problem<\/h2>\n\n\n\n

Modeller \u00e4r op\u00e5litliga p\u00e5 ett s\u00e4tt som skiljer sig fr\u00e5n vanlig mjukvara. De kan svara l\u00e5ngsamt. De kan svara med n\u00e5got som ser ut som svaret men inte g\u00e5r att tolka maskinellt. De kan vara nere.<\/p>\n\n\n\n

Varje s\u00e5dant utfall \u2014 timeout, trasigt svarsformat, modellen svarar inte \u2014 ger samma resultat: mejlet vidarebefordras till en m\u00e4nniska. Aldrig ett standardsvar, aldrig ett nytt f\u00f6rs\u00f6k i all o\u00e4ndlighet, aldrig tyst arkivering.<\/p>\n\n\n\n

Det viktiga \u00e4r att ingen del av skyddsn\u00e4tet \u00e4r beroende av att modellen fungerar.<\/strong> Det \u00e4r vanlig kod med vanliga villkor. Man kan inte skydda sig mot en op\u00e5litlig komponent med hj\u00e4lp av samma komponent \u2014 och det \u00e4r precis vad man g\u00f6r n\u00e4r man ber modellen bed\u00f6ma sin egen s\u00e4kerhet.<\/p>\n\n\n\n

Modellbytet, och varf\u00f6r det gjordes<\/h2>\n\n\n\n

Agenterna gick l\u00e4nge p\u00e5 en modell som var bra p\u00e5 resonemang och m\u00e4rkbart s\u00e4mre p\u00e5 svenska. Det uppt\u00e4cktes inte i n\u00e5got test. Det uppt\u00e4cktes n\u00e4r jag l\u00e4ste ett utg\u00e5ende svar och hittade ord som inte finns: beframstalar<\/em>. G\u00e4rviska g\u00e4rna<\/em>. Detaljjerna<\/em>.<\/p>\n\n\n\n

Beslutet var r\u00e4tt: svara vidarebefordra eller arkivera \u2014 logiken fungerade. Spr\u00e5ket var pinsamt. Och det \u00e4r en helt egen kategori av fel, som ingen automatisk kontroll f\u00e5ngar, eftersom texten \u00e4r v\u00e4lformad, grammatiskt trolig och fullst\u00e4ndigt obegriplig.<\/p>\n\n\n\n

Alla fem dom\u00e4ner byttes till en annan modell. L\u00e4xan \u00e4r att utv\u00e4rdering av en modell m\u00e5ste ske p\u00e5 det spr\u00e5k och i den ton den faktiskt ska anv\u00e4ndas i.<\/strong> En modell som resonerar utm\u00e4rkt p\u00e5 engelska kan producera nonsens p\u00e5 svenska utan att n\u00e5gon m\u00e4tsiffra reagerar.<\/p>\n\n\n\n

Kunskapen ligger utanf\u00f6r modellen<\/h2>\n\n\n\n

Varje dom\u00e4n har en egen textfil med fakta om just den verksamheten \u2014 vad tj\u00e4nsten g\u00f6r, vanliga fr\u00e5gor, vad som g\u00e4ller kring priser och villkor. Den matas in i systemprompten.<\/p>\n\n\n\n

Det betyder att den som ska uppdatera vad agenten kan inte beh\u00f6ver r\u00f6ra kod, prompt eller modell. Det \u00e4r en textfil. Den kan skrivas av den som kan verksamheten i st\u00e4llet f\u00f6r den som kan tekniken, och det \u00e4r hela po\u00e4ngen \u2014 annars blir varje fakta\u00e4ndring ett utvecklings\u00e4rende.<\/p>\n\n\n\n

S\u00e5 vet du att det funkar<\/h2>\n\n\n\n

L\u00e4s utg\u00e5ende mejl med egna \u00f6gon, regelbundet.<\/strong> Inte statistiken \u00f6ver hur m\u00e5nga som besvarats \u2014 sj\u00e4lva texten. Spr\u00e5kfelen ovan hade kunnat p\u00e5g\u00e5 i m\u00e5nader bakom en gr\u00f6n m\u00e4tare.<\/p>\n\n\n\n

R\u00e4kna arkiveringarna.<\/strong> Det \u00e4r den enda kategorin ingen klagar p\u00e5, och d\u00e4rf\u00f6r den enda som kan g\u00e5 fel utan att n\u00e5gon m\u00e4rker det. G\u00e5r siffran upp ska man bli misst\u00e4nksam, inte n\u00f6jd.<\/p>\n\n\n\n

Provocera fram ett modellfel.<\/strong> St\u00e4ng av modellen och skicka ett mejl. Hamnar det hos en m\u00e4nniska fungerar skyddsn\u00e4tet. F\u00e5r du ett standardsvar, eller ingenting alls, \u00e4r det inte ett skyddsn\u00e4t utan en f\u00f6rhoppning.<\/p>\n\n\n\n

Vad jag tar med mig<\/h2>\n\n\n\n

Fr\u00e5gan ”kan man lita p\u00e5 modellen?” \u00e4r fel fr\u00e5ga. Svaret \u00e4r nej, och det spelar mindre roll \u00e4n man tror. Den r\u00e4tta fr\u00e5gan \u00e4r: vad h\u00e4nder n\u00e4r den har fel, och vem m\u00e4rker det?<\/strong><\/p>\n\n\n\n

Ett system d\u00e4r modellens v\u00e4rsta utfall \u00e4r ”en m\u00e4nniska f\u00e5r titta p\u00e5 det” t\u00e5l en d\u00e5lig dag. Ett system d\u00e4r modellens v\u00e4rsta utfall \u00e4r tystnad g\u00f6r det inte \u2014 oavsett hur bra modellen \u00e4r i genomsnitt.<\/p>\n\n\n\n

Det \u00e4r ocks\u00e5 d\u00e4rf\u00f6r jag v\u00e5gar ha det h\u00e4r i drift mot riktiga kunder. Inte f\u00f6r att jag litar p\u00e5 modellen, utan f\u00f6r att jag vet vad som h\u00e4nder n\u00e4r den inte f\u00f6rtj\u00e4nar det.<\/p>\n\n","protected":false},"excerpt":{"rendered":"

En spr\u00e5kmodell som svarar p\u00e5 riktiga supportmejl. Det intressanta \u00e4r inte modellen \u2014 det \u00e4r de tv\u00e5 skyddsn\u00e4ten runt den, byggda f\u00f6r att fungera \u00e4ven n\u00e4r den har fel.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[],"class_list":["post-22","post","type-post","status-publish","format-standard","hentry","category-ai-i-praktiken"],"_links":{"self":[{"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/posts\/22","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/comments?post=22"}],"version-history":[{"count":0,"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/posts\/22\/revisions"}],"wp:attachment":[{"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/media?parent=22"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/categories?post=22"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/airex.se\/blogg\/wp-json\/wp\/v2\/tags?post=22"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}