Anv\u00e4ndaren laddar upp ett kalkylblad och skriver vad som ska \u00e4ndras med egna ord. En spr\u00e5kmodell skriver Python-kod. Koden k\u00f6rs mot filen.<\/p>\n\n\n\n
L\u00e4s den sista meningen igen. Det \u00e4r en av de mest riskabla konstruktioner man kan bygga, och den blir vanligare f\u00f6r varje m\u00e5nad \u2014 f\u00f6r den \u00e4r ocks\u00e5 oerh\u00f6rt anv\u00e4ndbar.<\/p>\n\n\n\n
Den vanligaste ”l\u00f6sningen” \u00e4r att skriva i systemprompten att modellen inte f\u00e5r generera skadlig kod.<\/p>\n\n\n\n
Det \u00e4r ingen s\u00e4kerhets\u00e5tg\u00e4rd. Det \u00e4r en artighetsfras. En prompt \u00e4r indata, och indata kan p\u00e5verkas \u2014 texten i kalkylbladet \u00e4r ocks\u00e5 indata, och en cell kan inneh\u00e5lla instruktioner. Modellen kan aldrig vara s\u00e4kerhetsgr\u00e4nsen, eftersom det \u00e4r modellen som \u00e4r den op\u00e5litliga komponenten.<\/strong><\/p>\n\n\n\n Gr\u00e4nsen m\u00e5ste ligga i vad koden kan<\/em> g\u00f6ra, inte i vad n\u00e5gon bett den l\u00e5ta bli.<\/p>\n\n\n\n Ett: l\u00e4s koden som kod, inte som text.<\/strong> Innan n\u00e5got k\u00f6rs parsas den genererade koden till ett syntaxtr\u00e4d, och allt som importerar utanf\u00f6r en sn\u00e4v lista avvisas \u2014 kalkylbladsbibliotek, textbehandling, n\u00e5gra standardmoduler, punkt.<\/p>\n\n\n\n Att i st\u00e4llet s\u00f6ka efter textstr\u00e4ngen Tv\u00e5: byt ut filhanteringen.<\/strong> Inne i sandl\u00e5dan \u00e4r den vanliga funktionen f\u00f6r att \u00f6ppna filer ersatt med en egen som l\u00f6ser upp s\u00f6kv\u00e4gen och v\u00e4grar allt utanf\u00f6r tv\u00e5 kataloger: en att l\u00e4sa fr\u00e5n och en att skriva till. Koden kan inte r\u00f6ra n\u00e5got annat p\u00e5 filsystemet, oavsett vad den f\u00f6rs\u00f6ker.<\/p>\n\n\n\n Tre: en container som inte kan s\u00e5 mycket.<\/strong> Det h\u00e4r \u00e4r den riktiga gr\u00e4nsen, och den \u00e4r byggd av operativsystemet snarare \u00e4n av min kod:<\/p>\n\n\n\n Po\u00e4ngen med den uppr\u00e4kningen \u00e4r att varje rad st\u00e4nger en utfallskategori<\/em>, inte ett specifikt angrepp. Jag beh\u00f6ver inte f\u00f6rutse vad koden f\u00f6rs\u00f6ker g\u00f6ra.<\/p>\n\n\n\n Fyra: en m\u00e4nniska ser skillnaden.<\/strong> Resultatet presenteras som en diff p\u00e5 cellniv\u00e5 \u2014 exakt vilka rutor som \u00e4ndrats, fr\u00e5n vad till vad \u2014 innan anv\u00e4ndaren laddar ner n\u00e5got. Ingen fil ers\u00e4tts automatiskt.<\/p>\n\n\n\n Det sista lagret \u00e4r det jag skulle vara minst villig att offra. De tre f\u00f6rsta skyddar mot skadlig kod. Det fj\u00e4rde skyddar mot n\u00e5got mycket vanligare: kod som \u00e4r fullst\u00e4ndigt ofarlig och g\u00f6r helt fel sak.<\/p>\n\n\n\nFyra lager, f\u00f6r att vart och ett g\u00e5r att ta sig f\u00f6rbi<\/h2>\n\n\n\n
import os<\/code> \u00e4r meningsl\u00f6st; det finns ett dussin s\u00e4tt att n\u00e5 samma modul utan att skriva orden. Ett syntaxtr\u00e4d beskriver vad koden faktiskt g\u00f6r, inte hur den ser ut. Men \u00e4ven en vitlista g\u00e5r att kringg\u00e5 via omv\u00e4gar i spr\u00e5ket \u2014 vilket \u00e4r hela sk\u00e4let till att det finns tre lager till.<\/p>\n\n\n\n\n