Įsivaizduokite, kad sakote savo namams, ką tiksliai norite, kad jis veiktų paprasta anglų kalba, ir stebėkite, kaip programinė įranga rašo pati. Jokių pamokų, jokių „Stack Overflow“ triušių skylių, jokio kūrėjo samdymo. Išmaniųjų namų entuziastams AI kodavimo įrankiai palengvina automatizavimo kūrimą.
Tačiau dėl šio patogumo kyla pavojus, kurio dauguma naudotojų niekada nepastebi: tas pats agentas, kuris ką tik sujungė jūsų šviesas, termostatą ir durų spynas, taip pat galėjo palikti spragą jūsų namų tinkle, kurią gali praeiti visi interneto vartotojai.
Kas yra „vibe“ kodavimas ir kodėl jis plinta?
Vibe kodavimas apverčia tradicinį kūrimo procesą ant galvos. Užuot eilutę eilutę kurę tikslias instrukcijas, vartotojai aiškia kalba aprašo, ko nori, o visa kita, įskaitant kodo generavimą, testavimą ir kartais įdiegimą tiesioginėje aplinkoje, leidžia dirbtinio intelekto agentui.
Patrauklumas akivaizdus, ypač išmaniųjų namų entuziastams, kurie nori sudėtingos automatikos, bet neturi profesionalių programavimo žinių. Tokios platformos kaip „Home Assistant“ padėjo lengviau nei bet kada sukurti sudėtingas procedūras, jungiančias termostatus, kameras, durų spynas ir energijos sistemas.
Dirbtinio intelekto kodavimo agentai tai daro toliau, pašalindami paskutinę kliūtį – būtinybę rašyti bet kokį kodą. Tai, kas anksčiau užtrukdavo savaitgalį pamokų, dabar gali užtrukti popietę pokalbiui su AI.
Kaip palyginti du pagrindiniai agentai?
Šiuo metu šioje erdvėje dominuoja du įrankiai, o jų skirtumai svarbūs visiems, svarstantiems juos naudoti namų automatizavimo kontekste. Anthropic’s Claude Code veikia kaip vietinis agentas, pirmiausia terminalas, kuris yra giliai integruotas su Git ir sukurtas ilgalaikiam kontekstui svarstyti didelėse kodų bazėse.
Claude Code vykdo prieigą prie kodo / failų vietoje terminalo seansuose, tačiau Anthropic teigia, kad tie patys seanso duomenys teka per Anthropic API per TLS. „OpenAI Codex“ pagrįsti agentai laikosi kitokio požiūrio: veikia debesyje pagrįstose konteinerių smėlio dėžėse ir teikia pirmenybę greitam kodo generavimui ChatGPT ir IDE ekosistemose.
Kur prasideda saugumo problemos?
Pagrindinė vibe kodavimo problema namų automatizavimo kontekste yra ta, kad dirbtinio intelekto agentams paprastai suteikiama plati prieiga prie failų sistemos, kad galėtų atlikti savo darbą. Vietinių automatizavimo scenarijų tvarkymui, tilto programinės įrangos konfigūravimui arba konteinerinių daiktų interneto sąrankų valdymui reikalingi leidimai, kurie netinkamose rankose gali atskleisti visą vietinį tinklą.
Kai agentas klaidingai identifikuoja biblioteką, haliucinuoja priklausomybę arba netinkamai sukonfigūruoja ugniasienės taisyklę atlikdamas įprastą pertvarkymo užduotį, rezultatai gali būti rimti.
Atidengtas šliuzas, nutekėjęs API kredencialas arba atviras prievadas gali likti nepastebėti kelias dienas ar savaites. Skirtingai nuo žmogaus kūrėjo, kuris peržiūros metu gali pastebėti klaidą, AI agentas elgiasi užtikrintai, net jei klysta.
Ar kuriama kokia nors gynyba?
Anthropic pripažino problemą ir pradėjo eksperimentuoti su funkcija, vadinama Claude Code Security, atlikdama ribotas tyrimų peržiūras. Tikslas yra leisti agentui nuskaityti pažeidžiamumų kodų bazes, kai jis veikia, iš esmės nukreipdamas įrankį prieš save kaip gynybinę funkciją.
„Anthropic“ sako, kad „Claude Code Security“ nuskaito kodų bazes, patikrina išvadas ir siūlo pataisas, kurias galėtų peržiūrėti žmogus. Kol kas nėra lygiaverčio į vartotoją nukreipto apsaugos sluoksnio, skirto Codex pagrindu veikiantiems agentams.
„OpenAI“ smėlio dėžės vykdymo aplinka pagal numatytuosius nustatymus suteikia tam tikrą izoliaciją, apribodama tam tikros rūšies žalą, tačiau nepašalina rizikos, kad nesaugus kodas bus nustumtas į tiesioginę aplinką, kai vartotojas nukopijuos arba patvirtins išvestį.
Mažai žinomas faktas: Claude Code turi bypassPermissions režimą, tačiau Anthropic dokumentai įspėja, kad jis turėtų būti naudojamas tik izoliuotose aplinkose, pvz., konteineriuose ar virtualiosiose mašinose, nes praleidžia įprastus leidimo raginimus.
Ką iš tikrųjų turėtų daryti išmaniųjų namų vartotojai?
Saugos ekspertai dabar rekomenduoja tai, ką jie vadina „Zero Trust“ metodu, visiems, kurie naudoja dirbtinio intelekto agentus namų automatizavimui kurti. Frazė reiškia būtent tai, kaip skamba: nemanykite, kad joks AI sukurtas kodas yra saugus vien todėl, kad jį sukūrė įrankis.
Kiekvienas sugeneruotas kodas turi būti peržiūrėtas izoliuotoje aplinkoje, kol jis nepaliečia nieko, kas prijungtas prie durų spynų, apsaugos kamerų ar energijos valdymo sistemų.
Praktiškai tai reiškia, kad reikia vengti pagundos suteikti AI agentams šakninę arba administracinę prieigą prie namų serverio. Smėlio dėžės aplinkos, pvz., virtualioji mašina arba talpyklinis „Home Assistant“ bandomasis egzempliorius, turėtų būti pirmoji bet kurio agento sugeneruoto scenarijaus paskirties vieta.
Mažos vertės automatizavimas, pvz., apšvietimo grafikų koregavimas, kelia daug mažesnę riziką nei konfigūracijos, kurios liečia tinklo nustatymus, išorinius API kredencialus arba prieigos kontrolės sistemas. Šių jautrių užduočių laikymas tiesiogiai žmogaus kontroliuojamas vis dar yra saugiausias būdas, net jei jis vyksta lėčiau.
Didesnis namų automatikos vaizdas
Vibe kodavimas niekur nedingsta. Našumo padidėjimas yra realus, įrankiai sparčiai tobulėja, o išmaniųjų namų ekosistema tik darysis sudėtingesnė ir labiau tarpusavyje susijusi. Klausimas ne tas, ar naudoti šiuos įrankius, o kaip jas naudoti nepaverčiant patogumo įsipareigojimu.
Išmaniųjų namų mėgėjas, įsikūręs Ohajo valstijoje, naudojo AI įrankius / atmosferos kodavimą, kad sukurtų pasirinktines savo namų serverio integracijas. Proceso metu AI konfigūracija netyčia atidarė tinklo prievadą tiesiai į viešąjį internetą be tinkamų autentifikavimo protokolų.
TL; DR
- „Vibe“ kodavimas leidžia vartotojams generuoti programinę įrangą naudojant aprašus paprastomis kalbomis, todėl išmaniųjų namų automatizavimas tampa prieinamas, bet taip pat pašalinamas žmogaus peržiūros veiksmas, kuris užfiksuoja saugos klaidas.
- „Claude Code“ veikia lokaliai ir teikia pirmenybę privatumui, o „OpenAI Codex“ agentai priklauso nuo debesies infrastruktūros ir sukuria reikšmingai skirtingus rizikos profilius namų serverių naudotojams.
- Saugumo tyrinėtojai patvirtino kritinius agentinio kodavimo įrankių spragas, įskaitant trūkumus, leidžiančius nuotoliniu būdu vykdyti kodą ir neleistiną prieigą prie duomenų paveiktose sistemose.
- Autonominės funkcijos, pvz., Claude Code’s Routines, leidžia agentams nuolat dirbti be patvirtinimo, pašalinant paskutinį priežiūros sluoksnį, kuris kitu atveju galėtų padaryti pavojingą klaidą.
- „Anthropic“ teigia, kad „Claude Code Security“ yra ribota tyrimo peržiūra, kuri nuskaito kodą ir siūlo pataisas žmonėms peržiūrėti.
Šis straipsnis buvo sukurtas naudojant dirbtinio intelekto pagalbą ir žmogaus redagavimą.
Jei jums patiko tai, jums taip pat gali patikti:
