DeepSeek ima agenta, ki dela sam. Ampak samo, ko mu dovoliš

Vir, odlomek za odlomkom

Prepis, preveden z umetno inteligenco iz angleščine.

1. u1 0:00 Uvod
2. u2 0:00 Torej, pretekli konec tedna je DeepSeek izdal nekaj, čemur mnogi pravijo odgovor na Claude Code. To je agent, ki deluje na repozitoriju GitHub. Spremlja prijavljene težave in zahtevke za združitev, in ko ga nekdo iz vaše ekipe prosi, naj nekaj naredi, odpre svojo sejo, opravi delo in se vrne z zahtevkom za združitev. Čeprav je že to samo po sebi zanimivo, to pravzaprav ni

   

3. u3 0:23 tisto, o čemer želim govoriti tukaj. Resnično zanimivo se mi zdi, kako so ga zgradili. Vse skupaj je le nabor vtičnikov, vstavljenih v njihovo izvajalno ogrodje za agente. Da bi razumeli, zakaj je to pomembno, se moramo vrniti in si dejansko ogledati samo ogrodje. Ko je torej DeepSeek Carnis izšel
4. u4 0:39 Povzetek ogrodja DeepSeek Harness
5. u5 0:41 avgusta, o njem pravzaprav nisem poročal. Iskreno, razlog je bil preprosto ta, da sem bil tako zaposlen z igranjem z njim in nenehnim preizkušanjem novih zamisli, da sem snemanje videa kar odlagal, ker se mi je zdelo, da bi rad pokazal toliko stvari. Celotna arhitektura vtičnikov v tem ogrodju se mi zdi res odlična in omogoča cel kup stvari, kakršne omogoča tudi ta novi Super Agent.

   

6. u6 1:03 Seveda je medtem o njem poročalo veliko ljudi. Postal je eden od projektov z največ zvezdicami na GitHubu letos. V tem videu bom torej nekako nadoknadil zamujeno in si ogledal nekaj novosti, ki so jih dejansko zgradili na tej osnovi. Dobro, torej novost, ki jo je DeepSeek

   

7. u7 1:15 Kaj je Super Agent
8. u8 1:17 predstavil, se imenuje Super Agent. Poleg objavljenega repozitorija so na X napisali tudi članek z naslovom Raziskovanje zasnove Super Agenta: proti bolj avtonomnemu agentskemu sistemu. V članku in repozitoriju zelo odkrito povedo, da gre za raziskovalni prototip.
9. u9 1:34 To ni uradni izdelek podjetja DeepSeek. Omenijo celo, da je nastal iz njihovega vsakodnevnega razvojnega dela ter da so številne zamisli in tehnične rešitve dejansko napisali sami programski agenti. Osnovna zamisel je naslednja: namesto da odprete sejo in se pogovarjate z agentom, agent spremlja okolja, v katerih vaša ekipa že dela. V primeru, ki so ga

   

10. u10 1:56 zdaj predstavili, sta to GitHub in aplikacija Feishu, nekakšen ByteDanceov ekvivalent Slacku. Ko ga nekdo z ustreznim dovoljenjem za nekaj prosi, odpre delovno nalogo, zažene svojo sejo v svoji mapi, opravi vse delo in odgovori v prvotnem pogovoru.
11. u11 2:18 V tem odgovoru je nato običajno tudi zahtevek za združitev. V marsičem si lahko to predstavljate kot nadgradnjo zamisli o tovarnah programske opreme, samodejnem ustvarjanju programske opreme in podobnem, o čemer zadnjih nekaj mesecev govori veliko ljudi. Pri DeepSeeku pravijo, da so interno

    

12. u12 2:37 različico tega neprekinjeno uporabljali. Reproducirala in odpravljala je prijavljene napake ter odgovarjala na komentarje pri pregledu kode. Dejansko je izboljševala tudi samo ogrodje DeepSeek. Preden torej
13. u13 2:49 Model ali ogrodje: kaj je pomembnejše?
14. u14 2:49 pokažem, kako vse to dejansko deluje, vam želim pokazati, zakaj je plast ogrodja tako pomembna. V VentureBeatovem podkastu Beyond the Pilot, ki ga sovodim, smo pred kratkim intervjuvali več zanimivih ljudi, med njimi tehnološka direktorja podjetij Instacart in Box. Obe epizodi bosta objavljeni v naslednjih nekaj tednih.
15. u15 3:10 Eno od vprašanj, ki sem ga zastavil obema, pa je bilo pravzaprav: kaj je zdaj pomembnejše, model ali ogrodje? Oba sta se postavila na stran ogrodja. Celotna intervjuja si oglejte sami, saj sta bila pogovora fascinantna, a očitno se je zdaj velik del inovacij od samega modela preselil k dejanskim ogrodjem.
16. u16 3:31 Morda se bo to v prihodnosti, ko dobimo boljše modele, spet obrnilo, trenutno pa morate spremljati, kam se razvijajo ogrodja. Dobro, z ekipo trenutno poskušamo razširiti vsebine, ki jih pokrivamo, in povečati število videov. Zelo bi nam pomagalo, če kanal podprete s klikom na gumb za naročnino.
17. u17 3:49 Vemo, da večina med vami gleda veliko videov, pa še vedno niste naročeni. Kakorkoli, vrnimo se k temu, zakaj je ogrodje tako pomembno.
18. u18 3:53 Primerjalni preizkus Frontier Harness
19. u19 3:56 To sta graf in tabela rezultatov Frontier Harness. To niso moje številke. Izvirajo iz primerjalnega preizkusa Frontier Harness Eval, pri katerem so vzeli en model, Kimi K3, in ga pognali skozi devet različnih ogrodij za programske agente, skupaj v 12 konfiguracijah. Codex, Claude Code, Pi, OpenCode, DeepSeek Harness in tako naprej.
20. u20 4:20 Nato so mu dali istih 30 nalog, z istim modelom in istim časom izvajanja. Edina stvar, ki se je spremenila, je bilo ogrodje. Lahko bi sicer trdili, da primerjava ni povsem poštena, da je Claude Code optimiziran za svoje modele, Codex pa za svoje, vendar je res zanimivo videti dobljene rezultate.
21. u21 4:38 Codex je bil na prvem mestu s 66,7-odstotno uspešnostjo. Če pa pogledate naslednjo vrstico, sta DeepSeek Harness v konfiguraciji creator in Claude Code oba dosegla 63,3 %. Enaka uspešnost, enak model, vendar je izvajanje z DeepSeek Harness stalo le približno 3,28 $ na uspešno opravljeno nalogo, s Claude Code pa približno 18,34 $.
22. u22 5:05 V celotni tabeli je bila razlika med najcenejšo in najdražjo konfiguracijo dejansko približno 17,5-kratna. Pri sklepanju na podlagi teh konkretnih konfiguracij bi bil previden. Gre za 30 nalog, zato je ena naloga vredna približno tri in tretjino točke. Razlika med Codexom in DeepSeekom je tukaj dobesedno le ena naloga. Vendar
23. u23 5:27 mislim, da širša ugotovitev drži: ogrodje ni le ovoj. Spreminja stroške, predpomnjenje, hitrost in uspešnost, tudi kadar model ostaja enak. Če torej ocenjujete model, bi ga poskusil preizkusiti v dveh ali treh ogrodjih, preden se odločite, ali je sploh dober.
24. u24 5:47 Sicer bi lahko model krivili za nekaj, za kar je dejansko odgovorno ogrodje.
25. u25 5:52 DeepSeek Harness: vse je vtičnik
26. u26 5:52 Dobro, kaj torej je DeepSeek Harness in zakaj je tukaj tako uspešen? DeepSeek Harness oziroma DSH je izšel 13. avgusta skupaj s prvo izdajo DeepSeek V4 Pro. Ima licenco MIT in spletni uporabniški vmesnik. Začnete lahko z enim samim ukazom npx, na voljo pa je tudi namizna aplikacija. Ni vezan na modele DeepSeek.

    

27. u27 6:13 Mislim, da je to res pomembno poudariti. Deluje z drugimi ponudniki in celo s končnimi točkami, združljivimi z OpenAI. Ključno geslo, ki vse to nekako povzema, pa je, da je vse vtičnik, in to mislijo povsem dobesedno. V večini agentskih ogrodij imate jedro, agentsko zanko, klice
28. u28 6:33 modela, obravnavo orodij, vtičniki pa so nekako pripeti ob strani. V DSH je sam usmerjevalnik vtičnik, register orodij je vtičnik, dnevnik seje je vtičnik. Celo sama agentska zanka je vtičnik. Pod vsem tem je
29. u29 6:49 Cordis
30. u30 6:51 ogrodje Cordis, za katerim stoji članek treh raziskovalcev s Pekinške univerze. DeepSeek je to ogrodje poimenoval programska paradigma za prostorsko-časovno sestavljivost. Sliši se zapleteno, a osnovni zamisli sta pravzaprav precej preprosti. Prva je tisto, čemur pravijo časovna sestavljivost.
31. u31 7:11 Ko odstranite komponento, se vse, kar je naredila, popolnoma razveljavi. Če je vtičnik registriral orodje ali se pripel na dogodek, se ob njegovi odstranitvi vse to razveljavi. Najpreprosteje si to predstavljate tako, da lahko nekaj zelo čisto odklopite. Drugi element je prostorska sestavljivost.
32. u32 7:29 Komponente navedejo svoje odvisnosti, izvajalno okolje pa jih aktivira ali deaktivira, ko se te odvisnosti pojavijo ali izginejo. Stvari lahko torej varno priklapljate in tudi varno odklapljate. Zakaj agentsko ogrodje to potrebuje? Ker se sistemi nenehno spreminjajo. Menjate modele, dodajate orodja, stvari vklapljate in
33. u33 7:49 izklapljate glede na dovoljenja, in če vsaka od teh sprememb za sabo pušča ostanke, zelo hitro nastane nered. To smo videli tudi, ko so ljudje z obratnim inženirstvom ugotavljali, kako deluje Claude Code. Vsi, ki trenutno izdelujejo agentska ogrodja, delajo tako hitro, da preprosto pogosto za njimi ostaja odvečna koda.
34. u34 8:09 Kako je to torej videti v praksi? Delujoči DSH je pravzaprav drevo vtičnikov, ki se ob zagonu sestavi iz plasti. Najprej pridejo paketi, torej zapakirani nabori vtičnikov z njihovimi konfiguracijami. Nato vaši profili popravijo datoteko YAML z imenom cordis.patch. Sledi popravek na ravni domače mape in nato vse, kar
35. u35 8:29 podate v ukazni vrstici. Vsaka plast lahko torej po identifikatorju cilja katerikoli vtičnik in zamenja njegovo konfiguracijo ali vstavi nove. Imajo celo ukaz za izpis konfiguracije, ki preprosto izpiše celotno drevo, iz katerega se vaš sistem zaganja, vsako vrstico v njem pa je mogoče preglasiti. V uporabniškem vmesniku imajo štiri načine in ti delujejo enako.

    

36. u36 8:51 Na voljo so standard, PTC, minimal in creator, tudi ti pa so le različni nabori vtičnikov. Način creator je nekakšen logični vrhunec tega pristopa. V klepetu lahko opišete vtičnik, agent pa ga bo napisal, namestil in nato preveril, ali je dejansko aktiven.
37. u37 9:09 To si lahko predstavljate tako: medtem ko so se vsi osredotočali na nenehno učenje modelov, to prinaša nenehno učenje v ogrodje. Vedeti je vredno še, da osrednji repozitorij trenutno ne sprejema zunanjih zahtevkov za združitev. Ljudi namesto tega usmerjajo v razprave in izdelavo vtičnikov, kar je pri takšni zasnovi pravzaprav povsem smiselno, kajne?
38. u38 9:32 Če ni jedra, ki bi ga popravljali, prispevate z vtičniki. In to nas vrne k Super Agentu. Če odprete njegov repozitorij, je ena prvih datotek, ki jih boste videli, datoteka YAML cordis.patch, ki je v bistvu celotna integracija. Vstavi osrednji vtičnik Super Agent, vtičnik za spremljanje GitHuba in
39. u39 9:52 privzeto še vtičnik za spremljanje Feishuja. Če teh ne uporabljate, jih seveda lahko izklopite. Super Agent pa deluje tako, da za izvajalce določi ločen prednastavljeni nabor. Predstavljate si ga lahko kot standardni nabor DSH, iz katerega so odstranili kup stvari. Brez postavljanja vprašanj uporabniku, brez načina načrtovanja, brez pridobivanja spletnih vsebin, brez zaganjanja
40. u40 10:13 podagentov in tako naprej. Lupina je nastavljena tako, da se vsak ukaz, ki teče dlje kot pet sekund, premakne v opravilo v ozadju. Tako dolgotrajna gradnja izvajalcu ne prepreči, da bi med delom opazil nov komentar. Ena od nadležnih stvari pri Claude Code in Codexu je očitno ta, da morate, ko se enkrat zaženeta, sedeti in čakati, da jima lahko
41. u41 10:34 posredujete novosti, morda pa želite vmes vnesti poziv, ker ugotovite, da gresta v napačno smer. Pri tem agentu torej gledate precej drugačen sistem. Zgrajen je iz konfiguracij in vtičnikov. Ogrodja niso razvejali, in prav to je bistvena prednost zasnove DSH, o kateri smo pravkar govorili. Sam DSH pa je dejansko že imel

    

42. u42 10:53 Ekipe agentov v primerjavi s Super Agentom
43. u43 10:55 eksperimentalno funkcijo ekip agentov s seznamom članov, tablo nalog in poštnim predalom. Zakaj torej zgraditi to? Ekipe agentov si lahko predstavljate kot usklajevanje agentov znotraj ene naloge. Super Agent pa je namenjen obravnavi številnih neodvisnih nalog, ki prihajajo iz zunanjega sveta, morda v daljšem obdobju, pa tudi od
44. u44 11:17 številnih različnih ljudi, ki tam objavljajo. Dejansko rešuje drugačen problem kot funkcija ekip. Zanimiva praktična podrobnost je še, da lahko usmerjevalniku in izvajalcem dodelite različne modele. K temu se vrnem čez trenutek. Če pogledamo arhitekturo, ima ta v osnovi dve plasti.
45. u45 11:36 Na vrhu je ena dolgotrajna seja, ki ji pravijo usmerjevalnik. Ta skrbi za vse interakcije z ljudmi, ohranja širši kontekst in razdeljuje delo različnim vtičnikom ali agentom. Pod njim so izvajalski agenti, vsak v svoji izolirani seji. Izvajalcem ni nikoli treba neposredno govoriti z ljudmi.
46. u46 11:55 Poročajo usmerjevalniku. Ta opravlja vso komunikacijo. Vse, kar pride od zunaj, je sprožilec: nova prijavljena težava, komentar pri pregledu, sporočilo v klepetu in tako naprej. Vsak sprožilec najprej prestane preverjanje, ki je navadna koda, sploh ne model. To omogoča deterministično preverjanje, ali je ta
47. u47 12:15 oseba sploh na seznamu tistih, ki smejo komentirati ali vložiti zahtevek za združitev in podobno. Pomaga tudi odgovoriti na vprašanja, na primer ali so dejansko nagovorili agenta. Šele ko so ta preverjanja uspešna, si model zadevo ogleda in odloči, ali gre za pravo delo. Če gre, postane zahtevek s tako imenovanim mandatom.
48. u48 12:35 To je zapis o tem, kdo je delo naročil, po katerih pravilih, kako daleč sme delo iti in tako naprej. Zahtevek in mandat se nato predata izvajalcu. Imajo pa tudi zelo zanimivo podrobnost: ko izvajalec prevzame zahtevek, se naroči na ta pogovor. Ko torej nekdo komentira zahtevek za združitev, ki ga je odprl, gre ta komentar
49. u49 12:55 neposredno k izvajalcu. Usmerjevalnik popolnoma preskoči. S tem preskokom orkestracijske plasti in neposrednim posredovanjem prihranite ogromno žetonov in podobno. Ko so to v svojih poskusih izklopili, se je število odločitev usmerjevalnika dejansko povečalo za 30 %, z njim pa seveda tudi količina žetonov. Meni pa je tukaj najbolj zanimiv del
50. u50 13:17 usmerjevalnik kot ozko grlo. Predpostavili bi, da bi bila ena osrednja seja, ki vse usklajuje in razdeljuje, ob večji aktivnosti preobremenjena. Izkazalo pa se je, da je nekako ravno nasprotno. Ko sprožilci prispejo med sklepanjem usmerjevalnika, se naberejo in se nato skupaj obdelajo v naslednjem klicu.
51. u51 13:39 Ker so nalogo usmerjevalnika zasnovali z dolgim vhodom in kratkim izhodom, lahko te stvari paketno obdeluje zelo poceni. V DeepSeekovem obremenitvenem preizkusu so pogostost sprožilcev povečali s približno enega na minuto na približno 40 na minuto. Povprečna velikost paketa se je povečala z enega na 2,8.
52. u52 13:58 Res je, vsak klic je postal nekoliko počasnejši, s približno 2,5 sekunde na 3,9 sekunde. Toda čas na odločitev je zaradi paketne obdelave dejansko padel s 6,4 sekunde na 1,6 sekunde. Pod obremenitvijo je torej postal učinkovitejši. Pravijo tudi, da je delo usmerjevalnika pogosto preprostejše, kot bi pričakovali, in da ga lažji model običajno opravi brez težav.
53. u53 14:21 To je nekako v nasprotju z razširjenim razmišljanjem, da mora imeti orkestrator najboljši model, podagenti pa lahko shajajo s preprostejšimi. Izkazalo se je, da ta usmerjevalnik ne potrebuje niti orodja Bash, zato lahko na splošno uporablja hiter in poceni model. Močnejši model lahko dejansko uporabite za nekatere izvajalce, in to vsekakor želim v prihodnje bolj preizkusiti z odprtimi
54. u54 14:43 modeli. Poleg tega imajo filozofijo, ki se mi zdi res uporabna. Načelo je: porabiti čim manj človeške pozornosti in zagotoviti čim več vrednosti. Zdi se mi, da je pri gradnji agentov temu res težko nasprotovati. Želite si agenta, ki ukrepa le, ko ga za to prosi pooblaščena oseba ali ko
55. u55 15:05 mu to dejansko dovoli pravilo, ki ga je napisala ekipa. Zanimivo je, da se celo delo, ki ga nihče ni naročil, začne v načinu, v katerem agent zgolj beleži, kaj bi naredil. Nato sam preveri, ali bi to dejansko delovalo, in se oglasi šele, ko obstaja rezultat ali odločitev, ki jo mora nekdo sprejeti. Resnično mislim, da lahko iz tega vsi
56. u56 15:27 odnesemo veliko naukov za gradnjo svojih agentov.
57. u57 15:30 Omejitve: prototip, samo GitHub, sintetični preizkusi
58. u58 15:30 Dobro, kaj torej manjka? Naj omenim nekaj zadržkov. Prvič, to je prototip, in to zelo jasno povedo. Objavljena koda ni enaka njihovi interni različici. Nekatere zasnove v članku so dejansko prihodnje usmeritve, ki jih v repozitoriju še ni. Kolikor vidim, stvari, kot je nadzorna seja, morda še niso povsem izvedene, in prepričan sem, da manjka še kaj.
59. u59 15:53 Drugič, vse skupaj je precej ozko zastavljeno. Gre za en repozitorij GitHub, niso ga nastavili za delo s Slackom ali e-pošto. A to me pravzaprav ne skrbi preveč. Ker je v osnovi vse vtičnik, so vključili tudi zbirko receptov za dodajanje lastne izvorne kode, zato predvidevam, da bomo zelo hitro videli izpeljanke tega s številnimi drugimi integracijami.
60. u60 16:12 Tretji razlog za nekaj zaskrbljenosti pa je, da so poskusi s Super Agentom, na katerih temeljijo objavljeni primerjalni rezultati, dejansko potekali s sintetičnimi delovnimi obremenitvami v poenostavljenem okolju. Sami pravijo, da je to v bistvu le preliminarna referenca, pri tistih 30 nalogah pa gre zgolj za majhen vzorec.
61. u61 16:32 Te razvrstitve zato jemljite le kot grobo vodilo. Zadnja pomembna stvar, zaradi katere velja biti nekoliko zaskrbljen, je varnost. Vbrizgavanje pozivov, uhajanje poverilnic, dovoljenja med napravami in podobno navajajo kot težave, ki jih še niso povsem rešili. Zato je seveda smiselno biti nekoliko previden pri uporabi, če pa to uporabljate z lokalnimi modeli v povsem zaprtem
62. u62 16:53 okolju, vas verjetno ni treba pretirano skrbeti. Dobro. Na splošno se mi Super Agent zdi res zanimiv izdelek, še zanimivejši pa je kot dokaz zasnove. DeepSeek je na svojem ogrodju zgradil precej drugačen agentski sistem zgolj z nekaj datotekami s popravki in vtičniki, ne da bi
63. u63 17:14 se sploh dotaknili jedra ogrodja. Zame je širše sporočilo predvsem to, kako močno in hitro se ogrodja trenutno razvijajo.
64. u64 17:23 Bodo ogrodja postala zgolj vtičniki?
65. u65 17:23 Kakorkoli, kot vedno sem povezave do repozitorijev, članka in primerjalnega preizkusa dodal v opis. V komentarjih mi povejte, kaj menite. Ali prihodnost ogrodij vidite v takšnih sestavljivih vtičnikih, kjer različni ljudje na različne načine uresničujejo različne zamisli in nismo odvisni le od istih vmesnikov programskih agentov, kot smo jih poznali doslej?

    

66. u66 17:46 Kot vedno, če se vam je video zdel uporaben, kliknite »Všeč mi je« in se naročite. Se slišimo v naslednjem videu. Za zdaj pa nasvidenje.