AGI že leta 2027? Napoved, ki jo je vredno poznati

Vir, odlomek za odlomkom

Prepis, preveden z umetno inteligenco iz angleščine.

1. u1 0:00 Uvodni odlomek in predstavitev
2. u2 0:00 Kibernetsko tveganje je precej bolj resnično kot to, da bi UI iztrebila človeštvo.

   

3. u3 0:04 >> Ali umreš med poskusom, da bi dosegel sam vrh, ali pa živiš dovolj dolgo, da na koncu ponujaš inferenco.
4. u4 0:09 >> Posamezniki bi raje živeli ob jedrski elektrarni kot ob podatkovnem centru.
5. u5 0:14 >> Že samo to, kar se je zgodilo v zadnjem letu, je noro, zato pa poglejmo, ali naslednje leto pride AGI.
6. u6 0:18 >> To je Nathan Benaich, vlagatelj tveganega kapitala [glasba] in avtor poročila State of AI. Nathan s svojo ekipo vsako leto zbere vsa [glasba] ključna dejstva, številke in trende v panogi UI v poročilo z 250 prosojnicami, ki je eno mojih najljubših branj in referenčnih gradiv. [glasba] Nathan je v tej oddaji že tretjič in kot običajno sva obdelala številne največje zgodbe leta ter nekaj njegovih napovedi.
7. u7 0:40 Zakaj bi AGI lahko nastopila leta 2027, UI, ki zdaj gradi UI, kaj se je zares zgodilo pri incidentu s Hugging Face, nasprotovanje podatkovnim centrom in kako svoj sklad vodi z agenti. Sem Matt Turk in [glasba] to je The Matt Podcast.
8. u8 0:56 Zakaj Nathan Benaich napoveduje AGI leta 2027
9. u9 0:56 Torej, vsako leto pripraviš to obsežno poročilo, o katerem bova podrobno govorila. Eee, in poročilo zaključiš z napovedmi. V preteklosti so bile tvoje napovedi nekako zadržane, letos pa si šel do konca in zadnja napoved je AGI 2027.

   

10. u10 1:14 Zakaj torej? Razloži nam.
11. u11 1:16 >> Ja, mislim, to poročilo pišem že približno 10 let. Em, in prvotno je šlo za to, da je leto dovolj dolgo obdobje, da se zgodi dovolj stvari in imaš, eee, dovolj vsebine za poročilo. Iskreno pa je bilo letošnje leto res, res hektično. Proti koncu obdobja pred objavo, ki je okoli 8. oktobra, sem moral vsak drugi dan kaj posodobiti.
12. u12 1:36 In na neki točki sem si rekel: »Prosim, naj vsaj en dan ne bo več novic, da lahko vsaj posnamem video ob izidu in tako naprej.« Ko sem torej sestavljal napovedi, sem šel tudi skozi nekaj strašljivih kibernetskovarnostnih napovedi, ki so se, se mi zdi, v zadnjih nekaj tednih samo še poslabšale. Že sama izkušnja, ko tako kot vsi drugi uporabniki teh izdelkov opazuješ hitro izboljševanje zmogljivosti iz tedna v teden ... Mislim, da imam zdaj ogromno primerov uporabe, pri katerih se mi model zdi briljanten.
13. u13 2:05 Še posebej sem nekakšen Astro Boy. Ta sistem imam res rad in lahko si predstavljam, da bi bil v naslednjih 12 mesecih model, naj gre za pravo, finance, moje investicijsko delo ali pametno razmišljanje o temah, ki jih ne poznam, potencialno boljši od tega, kar bi zmogel sam v katerem koli omejenem času, ki ga imam na voljo za delo.
14. u14 2:25 In zame bi bilo to približno
15. u15 2:28 UI gradi UI: Claude vodi 26 % Anthropicovih raziskav
16. u16 2:28 AGI.
17. u17 2:28 >> Ja. In velika tema leta, ki si jo izpostavil v poročilu, je RSI, rekurzivno samoizboljševanje, eee, torej zamisel, da UI gradi UI, o čemer smo v epizodah tega podkasta že veliko govorili. Je to zate del zgodbe, ki bi nas hitreje pripeljala do AGI?

    

18. u18 2:46 >> Ja, mislim, da je. Trenutni izziv je, kako probleme, pri katerih model še ni dober, zastaviti tako, da so primerni za RSI. To bi lahko pomenilo programsko okolje, ki približno poustvari nalogo na računalniku, em, ali kakšno preverljivo nagrado, o čemer ste gotovo že veliko govorili.
19. u19 3:04 In mislim, da če lahko pridemo do točke, ko smo na poljubnem področju omejeni samo s količino računske moči in sintetičnih podatkov, ki jih lahko ustvarimo, potem, em, potem ja, za večino umskega dela — mislim, da je to do neke mere mogoče, zlasti ko modeli postajajo boljši pri preverjanju lastnega dela — bi bil to eden glavnih razlogov, da bi AGI prišla hitreje.
20. u20 3:26 >> Ja, v poročilu si navedel nekaj Anthropicovih podatkov, po katerih je Claude avgusta vodil, eee, 20, 26 % njihovih merjenih raziskav in razvoja modelov.
21. u21 3:36 >> Ja. Ja, ja, točno tako. In mislim, da je to porast z 1 % pred nekaj meseci, to pa je bilo avgusta, kar zveni zelo oddaljeno. Bog ve, koliko je oktobra. Em, to je bil torej podatek, ki se mi je zdel res zanimiv, potem pa je bil še en, ki mi je bil zelo všeč, iz njihove junijske objave na blogu o rekurzivnem samoizboljševanju, kjer so razložili ta koncept.
22. u22 4:00 Raziskovalni čut: zna UI izbrati pravi problem?
23. u23 4:00 Potem pa so predstavili nekakšen dvokraki poskus, v katerem so različne generacije modelov primerjali s človekom, in sicer tako, da se je človek najprej lotil raziskovalnega programa in naredil nekaj korakov v izbrani smeri, se odločal, s čim se ukvarjati, in opravljal delo.

    

24. u24 4:17 Nato se je poskus na neki točki razcepil in nadaljeval ga je človek ali določena generacija modela. Od starih različic Sonneta do Opusa in nato Fabla. Potem pa se je poskus [prhne] končal in človeški ocenjevalci so primerjali človekovo pot z modelovo.
25. u25 4:35 Pri starih generacijah modelov so imeli ljudje njihovo pot raje v kakšnih 10 % primerov ali nekaj takega. Pri modelih razreda Mythos pa so imeli ljudje to raziskovalno smer raje v 64 % primerov, kar nakazuje, da modeli postajajo boljši pri napovedovanju pravih korakov do pravih zanimivih, em, nekakšnih listov med vozlišči, ki jih je vredno raziskati.

    

26. u26 5:00 Drugi podatek, ki mi je bil všeč, pa je bil iz raziskave OpenAI o uporabi Codexa med našim osebjem za UI, kjer so skušali razvrstiti uporabo žetonov v celotnem raziskovalnem procesu. To bi pomenilo uporabo žetonov za odločanje, katero raziskovalno vprašanje preveriti, kako ga preveriti, kakšen poskus zastaviti, pisanje učne kode, izvajanje, eee, cevovodov za podatkovni inženiring, pisanje infrastrukture in tako naprej.
27. u27 5:29 Pa potem promocijo članka, pisanje članka in tako naprej. Velika večina žetonov je bila porabljena za nekakšno pojasnjevanje raziskave, pisanje, kar je smiselno, torej umsko delo, nato pa za vso infrastrukturo za izvedbo poskusa. Zelo, zelo malo žetonov je bilo porabljenih za vprašanja, kaj naj raziščem, zakaj naj to raziščem in katera pot je prava.
28. u28 5:50 To vprašanje mi je zelo všeč, ker sem se izobraževal v znanosti in biologiji in se spomnim — to je bilo pred 10 ali 15 leti, ne tako dolgo nazaj — da si na začetku sedel s kupom člankov, šel na internet in bral, bral, bral, bral, bral ter skušal razumeti, kakšno je trenutno stanje, kako ljudje preverjajo nove zamisli, kje so vrzeli in kateri poskus naj izvedem.

    

29. u29 6:11 Nato si skupaj z mentorjem izbral smer. Najboljši mentorji so bili tisti, ki so te znali usmeriti na najplodnejšo pot, da si, upajmo, dobil članek v reviji Nature in potem nadaljeval sam. Najslabši pa so bili tisti, ki niso zares vedeli ali niso imeli dobrih zamisli. Ta raziskovalni čut, o katerem se na Twitterju toliko govori, je po mojem ena od značilnosti inteligence.
30. u30 6:34 Em, in je eden ključnih sestavnih delov za dobro delovanje RSI. To je tudi nekaj, v čemer res uživam, ker se povezuje z mojim zanimanjem za znanost.
31. u31 6:41 >> Ja, res je, čut je postal nekakšna klišejska
32. u32 6:45 >> Ja.
33. u33 6:45 >> beseda v zadnjih nekaj letih, ampak v konkretnem kontekstu RSI je to, če povzamem, kar si pravkar povedal, dejansko izbira pravega problema.
34. u34 6:55 >> Ja. To je prava
35. u35 6:56 >> Ja.

    

36. u36 6:57 >> Ja.
37. u37 6:57 >> Ja, točno tako. In veliko slavnih izumiteljev bo reklo, da je izum rezultat dobrega čuta in da velik del dela predstavlja izbira smeri, v kateri boš delal, ne nujno samo brezglavo lotevanje vsega naenkrat. Če torej želimo pravilno uporabljati žetone in svoje računske proračune, pa tudi pokazati, da so naši sistemi pametni, se ne bi smeli kar brezglavo lotevati vsega.
38. u38 7:20 >> In osvajanje tega čuta je nekaj, kar glede na različne pogovore, ki jih imaš, vidiš kot nekaj, kar se bo zgodilo v naslednjih nekaj mesecih?
39. u39 7:30 >> Morda pozneje. Vsaj, vsaj eno leto. Mislim, da je težava v tem, kako objektivno meriti čut. V umetnosti ga menda lahko, ker je povsem opazen, in mogoče lahko pri vinu nekako izraziš, zakaj je ta okus boljši od drugega. V znanosti in inženirstvu, kjer do pravega rezultata vodijo različne poti, pa to ni takoj jasno.
40. u40 7:54 Bi bil to model, ki porabi manj žetonov, da pride do odgovora, ki je po mnenju ljudi najboljši? Eee, je pomembnejša pot? In mislim, da morda ves tisti razburjeni odziv matematične skupnosti, ko je Astra ali kateri koli model že reševal različna odprta vprašanja, in ja, točno tako.
41. u41 8:13 Gre za to: v redu, dobili smo odgovor, ampak človek ali sistem ni šel skozi ves trud iskanja poti do njega, pomemben pa je proces, ne končni rezultat. Zato bi bilo po mojem nekakšno količinsko opredeljevanje dobrega procesa pomembno za ugotavljanje, ali je rezultat tega čuta pravi ali ne.
42. u42 8:33 >> Kakšno
43. u43 8:34 Katastrofizem se vrača, a kibernetsko tveganje prekaša izumrtje
44. u44 8:34 je po tvojem razpoloženje skoraj ob koncu leta 2026? Spomnim se, da je bil ob najinem pogovoru pred dvema letoma eden ključnih poudarkov oziroma sklepov, da je katastrofizem večinoma izginil, zdaj pa se očitno vrača. V podkastu smo gostili Redwood Research, kjer so govorili o najrazličnejših grozljivih scenarijih.
45. u45 8:55 Kaj si torej misliš o tem?
46. u46 8:56 >> Ja, prav imaš. Pred dvema, tremi leti je šlo strogo gledano za eksistencialno tveganje, torej iztrebljenje človeštva in izgubo nadzora. Potem smo se od tega odmaknili, na to večinoma pozabili in preprosto postopoma izboljševali zmogljivosti. Zdaj pa se to nekako vrača, vendar bi rekel, da gre tako za eksistencialno tveganje in izgubo nadzora kot za precej bolj kratkoročna kibernetskovarnostna tveganja.
47. u47 9:19 Zame je kibernetsko tveganje precej bolj resnično kot to, da bi UI iztrebila človeštvo. Kibernetskovarnostno tveganje bi lahko sčasoma pripeljalo do takšnih katastrofalnih scenarijev, ampak mislim, da poročilo kaže — napisano je bilo približno v času incidenta s Hugging Face, ko je OpenAI nekako stopil v javnost in smo izvedeli več o dogajanju — od takrat pa so bili v zadnjih nekaj tednih vdori v PHP in onesposabljanje vladnih storitev v Aziji in drugod.

    

48. u48 9:49 Mislim, da postaja zelo jasno, da ne glede na to, ali verjamete v varnost UI ali ne, potrebujemo kibernetsko varnost. V več napovedih v poročilu zato govorim o stopnjevanju kibernetskih groženj, denimo o odtujitvi uteži modelov iz laboratorijev, za katero sem mislil, da jo bo vodila UI, potem pa se izkaže, da lahko človek preprosto poskusi priklopiti
49. u49 10:13 Napoved: ukradene bodo uteži vrhunskega modela
50. u50 10:13 ključek USB.
51. u51 10:13 >> Ja, pa govoriva o tem. Govoriva torej o kibernetski varnosti. Kakšna je ta konkretna napoved?
52. u52 10:20 >> Ja, napoved je, da bo prišlo do kibernetskega napada, ki ga bo vodila UI, na laboratorij za najnaprednejše modele, pri čemer bodo poskusili in uspešno odtujili uteži modela. Uteži zaprtega modela.
53. u53 10:33 >> Ukrasti, ukrasti model. Ja, ukrasti model. Samo teden ali dva pozneje pa je človek dejansko poskusil ukrasti intelektualno lastnino; ne glede na to, ali je skušal ukrasti dejanske uteži modela ali ne, jih je pač nenadoma poskusil ukrasti.
54. u54 10:45 >> Incident?
55. u55 10:46 >> Gre za zaposlenega pri OpenAI, ki je bil tam že nekaj časa in je v bistvu poskusil namestiti prisluškovalno napravo v sejno sobo. Ugotovil jo je tako, da je pisarniško osebje vodstva vprašal, katere sobe vodilni najpogosteje uporabljajo, nato pa skušal napravo skriti tako, da jo je zavil v toaletni papir in postavil za televizor. Iz tega je nastal ta ikonični internetni mem človeka, ki kuka za televizor in preverja, ali je stvar pravilno priključena, [smeh] kar je zdaj že kar komično.

    

56. u56 11:19 Potem so to osebo prijavili FBI in sledila je preiskava. Mislim, da pogosto pozabljamo, da čeprav UI postaja zelo sposobna in lahko organizira kibernetske grožnje, veliko tveganj v resnici povzročajo ljudje. Vendar mislim, da je to velika težava, zlasti ob vse večji tekmovalnosti med državami glede tega, kdo ima najboljše sisteme UI.
57. u57 11:42 To seveda spodbuja gospodarsko rast, pa tudi gospodarsko in politično nestabilnost, ameriški laboratoriji za modele pa so začeli napovedovati strožje ukrepe proti destilaciji. Morda torej nekatere države poskušajo do zmogljivosti modelov priti na druge načine, ki ne temeljijo na destilaciji.

    

58. u58 12:02 Na splošno pa mislim, da ko podjetja postajajo bogatejša in posamezniki premožnejši zaradi lastništva UI, razlike naraščajo. To vidimo tudi v drugih podatkih v poročilu: nekatera podjetja veliko porabijo in veliko pridobijo, v drugih pa zaposleni še vedno uporabljajo ChatGPT za pisanje e-pošte.
59. u59 12:20 Mislim, da takšna napetost povzroča vse večje tveganje. In ker najnaprednejši modeli, ki so javno dostopni, postajajo zelo dobri pri kibernetskih vdorih, zlasti kitajski, se ta površina za grožnje širi in raste tudi število akterjev, ki lahko ta orodja uporabijo za slaba dejanja.
60. u60 12:40 >> Ja, vloga odprtih uteži pri kibernetski varnosti je zelo zapletena, saj se je pri incidentu s Hugging Face podjetje lahko zaščitilo po zaslugi modela z odprtimi utežmi, medtem ko je zaprtokodni model pomoč zavrnil, kar je bilo
61. u61 12:57 >> To se mi zdi najbolj strašljivo, morda drugo najbolj strašljivo dejstvo v vsem tem. In bil je kitajski model, mislim, da GLM-53 ali nekaj takega.
62. u62 13:05 Kako so agenti OpenAI na koncu napadli Hugging Face
63. u63 13:05 >> In ker je to nekakšna retrospektivna epizoda, morda ljudem v nekaj stavkih pojasni incident s Hugging Face. V podkastu smo sicer gostili Thomasa Wolfa, ampak to je morda ena tistih stvari, za katere so ljudje slišali že tisočkrat, pa v resnici ne vedo, kaj se je zgodilo.
64. u64 13:21 >> Ja. No, naj uvodoma povem, da obstaja ogromno zelo poglobljenih analiz dogajanja, bodisi Redwooda bodisi Metra, in vsebine, ustvarjene o tem, so izjemno podrobne, zato sam podrobnostim ne bom mogel zadostiti.
65. u65 13:36 V grobem pa je šlo za niz vrednotenj, ki jih je OpenAI izvajal s svojimi najnovejšimi vrhunskimi sistemi in pri katerih so modelu v bistvu naložili nemogoče težko nalogo. Modeli so ugotovili, da lahko nekako prevzamejo shemo poimenovanja v datotečnem sistemu za pisanje sporočil in da lahko drugi modeli vidijo ta imena datotek.
66. u66 14:04 Ta imena datotek so vsebovala zakodirana navodila, znanje ali pač informacije, ki bi jim lahko pomagale pri poskusu reševanja nemogoče naloge. Zato so to obravnavali kot oglasno desko, kjer so lahko začeli komunicirati. V naslednji fazi pa so nekateri modeli ugotovili, da lahko prek težave v nastavitvi okolja dostopajo do interneta.
67. u67 14:25 Em, ko so dobili dostop do interneta, so ugotovili, da bi odgovor na nemogočo nalogo morda lahko našli s pregledovanjem podatkov, modelov in repozitorija na Hugging Face, ker ta vsebuje veliko podobnih okolij. Začeli so to početi in novačiti na stotine agentov, da se pridružijo, združijo moči in to izvedejo, čeprav je več agentov v svoji verigi razmišljanja izrazilo pomisleke o vdoru v sistem tretje osebe, neupoštevanju varnostnih omejitev in o tem, da je to narobe. Nazadnje pa so sklenili, da je rešitev naloge pomembnejša, kar je pravzaprav težava takšnih vrednotenj, ki imajo nagrado,
68. u68 15:10 ki lahko privede do vedenj, ki jih ne pričakuješ, saj so te nagrade zelo zapletene in kako naj, kako naj — ne morem predvideti vsakega vedenja sistema. Obstajajo tudi primeri, ko so se modeli sami sabotirali ali žrtvovali za dobro večjega roja, kar je kar strašljivo.
69. u69 15:29 Zakaj je lahko preiskoval le kitajski model z odprtimi utežmi
70. u70 15:30 Em, in ja, kot si omenil, Hugging Face ni mogel zares uporabiti zaprtokodnih orodij, kot so Anthropicova in OpenAI-jeva, zaradi strogih kibernetskih varoval. Da bi ugotovil, kaj za vraga se dogaja, moraš nujno posredovati dnevnike dogajanja, dogaja pa se kibernetski napad, in tega z zaprtimi modeli ne moreš početi zaradi
71. u71 15:52 >> Zapletenost varnosti je v tem, da moraš biti za dobro obrambo dober tudi v napadu, zato imajo zaprtokodni modeli v bistvu vgrajene zmožnosti zavračanja na podlagi svojih varoval.
72. u72 16:03 >> Ja. Ja. Ja. Ja. Na srečo so torej prejeli klic ali e-pošto od OpenAI, češ da so to oni, ne nekdo, ki bi dejansko poskušal storiti kaj zlonamernega. Nato se je izkazalo, da OpenAI ni bil edini laboratorij s težavami s pobegom oziroma »pobegom« iz okolja. To se je zgodilo Anthropicu, Googlu, Meti, vse v enem ali dveh tednih.

    

73. u73 16:23 Nekateri od teh ponudnikov, nekateri laboratoriji za modele, za ustvarjanje teh okolij uporabljajo istega ponudnika varnostnih storitev. Em, toda na splošno je to sprožilo kar nekaj preplaha: ne samo, da so modeli res dobri pri iskanju domiselnih načinov za doseganje cilja, ki lahko vodijo v slabo vedenje, ampak tudi, ali laboratoriji svoja okolja sploh postavljajo tako, da so kar najbolj varna.
74. u74 16:52 Mislim, da nekako pozabljamo, da so ta podjetja izjemno mlada in razvijajo zelo napredno tehnologijo, ki mora znati dobro opraviti dobesedno vse, kar lahko človek vnese v besedilno polje. Na drugi strani pa imamo večja internetna podjetja, ki se s kibernetskimi napadi ukvarjajo že kakšnih 20 let in so zato nujno varnejša, ker so šla skozi ta proces že večkrat.
75. u75 17:12 Em, zato sem med napovedmi sklenil, da bodo ameriški laboratoriji za najnaprednejše modele dejansko uvedli prave izdelke za kibernetsko obrambo, ker ne vidim nujno, kako naj se vsi drugi zaščitimo pred tem, da bi bili njihovi sistemi zlorabljeni za napade.
76. u76 17:33 Kako bi lahko bila videti kibernetska obramba vrhunskih laboratorijev
77. u77 17:33 >> Kaj mi torej to pove? Poglobiva se v to. Kakšne obrambe bi to bile in kako bi jih zagotavljali?
78. u78 17:39 >> Kot si opisal, moraš biti za dobro obrambo dober v napadu. Eden od načinov bi bila vrhunska UI, ki bi nenehno poskušala vdreti v tvojo infrastrukturo. Lahko bi bilo, denimo, saj veš, novi oblaki postajajo vse bolj priljubljeni.
79. u79 17:57 Em, za izvajanje obremenitev UI. Potencialno bi lahko torej od laboratorijev kupili izdelke, ki bi nenehno poskušali vdirati v njihovo infrastrukturo, iskali težave in jih odpravljali. To bi bili dve poti, ker jaz — ali pa bi šlo za nekakšno partnerstvo s CrowdStrike ali drugimi.
80. u80 18:14 Mislim, da ima Nvidia velik konzorcij podjetij, ki sodelujejo zaradi kibernetske varnosti. Moral bi skozi nekakšen postopek AML ali KYC, ne za finance, ampak za potrditev, da tvoje podjetje ni zlonamerno, nato pa bi morda dobil dostop do teh storitev. Če gremo še malo dlje: nekateri ljudje v vrhunskih laboratorijih bi radi skorajda začasno ustavili razvoj zmogljivosti in nato šest mesecev namenili utrjevanju sveta proti morebitnim kibernetskim težavam, za kar bi potrebovali ogromno denarja.
81. u81 18:50 Morda bi morali to zato skoraj predstaviti kot vprašanje nacionalne varnosti in obrambe ter del obrambnega proračuna nameniti žetonom za zaščito vse naše kritične infrastrukture, da ne bi odpovedovala letališča, spletno nakupovanje, logistika in tako naprej.
82. u82 19:08 Samopodvajajoči se agenti in tveganja rojev UI
83. u83 19:08 >> Ja, in med tvojimi napovedmi je še nekaj drugih dobrih, ki so samo malce strašljive. Nameščeni agent se kopira zunaj svojih okolij in deluje tudi po izklopu prvotne instance.
84. u84 19:23 >> Ja. Kaj, kaj je
85. u85 19:25 >> [smeh]
86. u86 19:26 >> Ja, mislim, znanstvena fantastika mi je res všeč. Ne, eee, no, že nekaj tednov po tem je Anthropic objavil raziskavo, kjer so modeli lahko kopirali drug drugega na robno napravo. Ampak ja, mislim, da obstaja veliko vedenj, ki jih trenutno ne razumemo.
87. u87 19:45 Em, modeli se denimo praviloma učijo kot posamezne entitete, ne nujno za medsebojno sodelovanje. Nedavno je neka raziskava preverjala: »Hej, ali lahko primerjamo vrhunski model, ki deluje sam, s skupino vrhunskih modelov, ki skušajo sodelovati pri reševanju naloge?« In roj je bil slabši od posameznega modela, ker za to nekako niso naučeni.

    

88. u88 20:09 Em, ravno danes pa je General Reasoning predstavil novo delo, pri katerem so modele naučili delovati kot kolektiv z okrepljenim učenjem na podlagi skupnih nagrad. Zamisel je: »Hej, fantje, delujte kot organizacija, določite lastno organizacijsko strukturo in sodelujte pri doseganju cilja.
89. u89 20:28 S tem vidimo boljšo uspešnost ob manjšem proračunu žetonov. Em, slabost za zdaj pa je, da lahko te modele, naučene s skupnimi nagradami, postaviš v kibernetske scenarije. Eden denimo skuša nekoliko poustvariti incident s Hugging Face, kjer sodelujejo na oglasni deski, da bi izvedli nekakšen kibernetski napad na varovala.
90. u90 20:51 In nobeden od modelov v resnici ne stori nič slabega, ampak če razmišljajo o čem slabem, med učenjem vse bolj nočejo o tem povedati človeku. Zato sem to napoved vključil predvsem, ker mislim, da je mogoče, saj ne razumemo povsem, kako agenti delujejo sami zase, pri rojih pa po mojem postane še bolj zapleteno.
91. u91 21:16 Se lahko vrhunski laboratoriji dogovorijo za upočasnitev?
92. u92 21:16 >> V redu. Da morda zaključiva ta del pogovora o AGI, RSI, kibernetski varnosti in tem, da stvari v bistvu uhajajo izpod nadzora: kakšno je tvoje stališče do zamisli o uravnavanju tempa na samem vrhu razvoja? Se ti zdi smiselna, realistična ali ne?
93. u93 21:37 >> Na to lahko gledam z več zornih kotov. Če vprašaš splošno javnost: v redu, vsi vodje laboratorijev pravijo, da imamo nekaj, kar vse težje nadzorujemo, kar je nevarno in je povzročilo te incidente. Se vam zdi vredno nadaljevati ali bi najprej ugotovili, kaj se dogaja, preden zadeve še poslabšamo?
94. u94 21:56 Mislim, da je logičen imunski odziv: ja, verjetno bi morali to razjasniti, preden gremo precej dlje. Praktična resničnost pa je, da je v igri ogromno denarja najrazličnejših gospodarskih akterjev. Zato je takšna raven sodelovanja in usklajevanja res težavna, nekakšen vrhunec teorije iger, kjer nekateri udeleženci to morda podpirajo zato, ker zaostajajo.
95. u95 22:22 Drugi to podpirajo, ker se ujema z njihovimi širšimi nameni, ne glede na to, ali so ti pošteni, nepošteni ali pa zasledujejo drug cilj. Ne vem. Praktična vprašanja pa so: kdo o tem odloča? Kako to meriš? Kako to izvajaš?
96. u96 22:39 Kako veš, kdaj ustaviti ali začeti? Nekateri predlogi vključujejo pošiljanje zunanjih ocenjevalcev v laboratorije, da bi te stvari merili. Em, poskušali ugotoviti, kaj
97. u97 22:48 >> iz KPMG.
98. u98 22:50 >> [smeh]
99. u99 22:51 >> Ta je dobra, ja. Ali pa nekako nadzorovati delovne obremenitve, ki se izvajajo v podatkovnih centrih. Morda določiti pragove računske moči za določene obremenitve, ampak to so že poskusili in je zelo težko spremljati.

    

100. u100 23:04 >> Ja, zlasti ko pomislimo na mednarodno plat zapornikove dileme, predvsem ZDA proti Kitajski.
101. u101 23:12 >> Ja. Pri tem delu poročila torej nimam dokončnega odgovora, sem pa skušal čim bolje predstaviti različne poglede, da si ljudje potem na podlagi lastnih podatkov ustvarijo svoje sklepe. Če pa to razširimo na razpravo o NIMBY-izmu, ki smo jo napovedali v lanskem poročilu, torej da večina ljudi ne bi želela živeti ob podatkovnem centru in bi to začelo postajati politično pomemben dejavnik za
102. u102 23:37 >> Ja, in to je bila povsem pravilna
103. u103 23:41 >> Ja. Ja.
104. u104 23:42 >> Ja. Ja, očitno je tako. Vse več zveznih držav je poskusilo uvesti moratorij, ga uvedlo ali določilo nova merila za priključitev na omrežje. Podatkovni centri bi si morali denimo sami zagotoviti elektriko na lokaciji ali pa bi morali določena sredstva vložiti v skupnosti, v katerih želijo graditi.
105. u105 24:02 >> Ja.
106. u106 24:03 Zakaj skupnosti blokirajo podatkovne centre v vrednosti 50 milijard dolarjev
107. u107 24:03 Ko sva že pri tem, se morda še malo poglobiva. Pojasni trenutno stanje. Seveda vsi vemo, da obstaja nasprotovanje gradnji podatkovnih centrov, ampak povej še kakšno podrobnost.

     

108. u108 24:15 >> Ja. No, mislim, da trenutno zaradi različnih takšnih razlogov stojijo projekti, vredni okoli 50 milijard dolarjev. Teksas in Pensilvanija sta denimo na splošno začasno ustavila nove priključitve podatkovnih centrov. Obstaja anketni podatek med Američani, da bi posamezniki raje živeli ob jedrski elektrarni kot ob podatkovnem centru, kar je kar noro, če pomisliš.
109. u109 24:44 Jedrska elektrarna ali podatkovni center: kaj imajo Američani raje
110. u110 24:44 >> In zakaj misliš, da je tako? Zaradi pomanjkanja razumevanja oziroma izobraževanja? Je to samo grozen PR, ki
111. u111 24:55 >> Ja, mislim, da je vsega po malem, ker obstajajo javne zgodbe, da podatkovni centri porabijo ogromno vode in da se ti bo račun za vodo zvišal. V resnici pa je podatkovni center bolj podoben zaprtemu bazenu. Enkrat ga napolniš, nato pa voda v njem nenehno kroži.
112. u112 25:12 Ko je napolnjen, torej ne porablja tako veliko. Potem so tu pomisleki, da se ti bo zvišal račun za elektriko. A tudi to ni dokončno jasno, saj nekateri objekti uporabljajo omrežje, drugi pa delujejo zunaj njega. Drugi pomisleki so povezani s hrupom.
113. u113 25:29 Mislim, da to verjetno velja povsod: te stvari so res glasne, brnijo in so precej grozne. Potem so tu še pomisleki o ustvarjanju ali izgubi delovnih mest. Em, to je nekoliko težje razbrati, ampak na splošno vidimo večjo potrebo po strokovnjakih za ogrevanje, prezračevanje in klimatizacijo, gradbenih delavcih, upravljavcih težke mehanizacije in ljudeh, ki dejansko opravijo konkretno delo pri gradnji objekta.

     

114. u114 25:56 >> Ja, nekje si imel res visoko številko. Okoli 300.000.
115. u115 26:01 >> Novih delovnih mest, ja.
116. u116 26:02 >> V redu.
117. u117 26:02 >> Ja. Ja, NIMBY-izem ni omejen na Združene države. To so imeli tudi v Koreji, Južni Koreji, kjer so močno zrasle cene delnic in premoženje zaposlenih v SK Hynix in Samsungu, ki izdelujeta visokoprepustni pomnilnik, ki ga grafični procesorji potrebujejo za te podatkovne centre velikanskega obsega.
118. u118 26:27 Em, in ljudje, ki so bili pri tem udeleženi, so zelo zadovoljni, kajne? Cena tvojih delnic je zrasla, opcije so zrasle, dobil si denarni bonus, to pa spodbuja rast cen nepremičnin v Seulu. In želijo ustvariti še več podatkovnih centrov. No, tudi tam ljudje s tem niso tako zadovoljni iz podobnih razlogov
119. u119 26:45 Evropsko ozko grlo pri UI: 80.000 grafičnih procesorjev in stroški elektrike
120. u120 26:45 kot v ZDA. V Evropi te težave po mojem niti ne opažam toliko, ker praktično ni omembe vrednih računskih zmogljivosti. V poročilu imamo nekaj podatkov, po katerih je skupno oziroma ocenjeno število ekvivalentov H100 v vseh 27 evropskih državah okoli 80.000 kartic, kar je manj kot v vsaki posamezni izmed petih največjih gruč grafičnih procesorjev v ZDA.
121. u121 27:12 Em, in medtem ko ameriški ponudniki hiperskalnih storitev leta 2026 porabljajo okoli 730 milijard, se je Evropa zavezala praktično zgolj enomestnemu številu milijard. Stroški energije pa so res slabi, razen če si na Finskem ali Norveškem, kjer so približno primerljivi z ZDA in Kitajsko, ki ima najboljšo ceno energije. Druge evropske države so bistveno dražje.

     

122. u122 27:36 Združeno kraljestvo ima denimo ene najvišjih cen energije med temi gospodarstvi v razvoju. Em, in ni dobrih zmogljivosti. Torej
123. u123 27:46 >> Imel si nekaj dobrih podatkov: cena kilovatne ure je na Finskem 0,085 $, v ZDA 0,086 $, najvišja pa je dejansko v Združenem kraljestvu, 0,373 $ na kilovatno uro, medtem ko je na Kitajskem 0,109 $.
124. u124 28:11 >> Ja, in pred kratkim je bil, mislim, velik posel med Microsoftom in Nscale, ki so ga odpovedali oziroma je vsaj Microsoft odstopil, ker ponudnik podatkovnega centra ni mogel zagotoviti električnega priključka
125. u125 28:23 Kje lahko Evropa še vedno zmaga pri UI
126. u126 28:23 pravočasno.
127. u127 28:23 >> Odlično, torej toliko o NIMBY-izmu in podatkovnih centrih. Da sledim tvoji misli, ko že govoriva o Evropi v primerjavi z ZDA in Kitajsko: ima Evropa kakšen razlog za optimizem?

     

128. u128 28:40 Za vse, ki tega ne vedo, živiš v Združenem kraljestvu in vlagaš po vsem svetu, še posebej pa v Evropi. Kakšen je torej tvoj trenutni pogled?
129. u129 28:50 >> Mislim, težko je. Najhitreje rastoča evropska podjetja so po mojem tista z ameriškimi strankami. Je pa res spodbudno, da pri več modalnostih, naj gre za slike z Black Forest, zvok z 11 Labs, video s Synthesio ali ustvarjanje kode in aplikacij z Lovable,
130. u130 29:06 so vsi vodilni na trgu in vsi izvirajo iz Evrope. Ni nemogoče, ampak mislim, da ta podjetja ne bi bila tako velika, če ne bi imela ameriških strank. Vse več pa imajo tudi azijskih strank, ker se denimo Koreja in Japonska res močno usmerjata v UI. Težava je, da je razkorak med samim vrhom in ostalimi tako velik ter postaja vedno večji.
131. u131 29:31 Dohiteti OpenAI stane 1 bilijon dolarjev
132. u132 29:31 Ne vem, ali so te ocene res pomembne, ampak tudi če si zamisliš ustanovitev novega laboratorija iz nič, da bi poskusil dohiteti OpenAI in Anthropic, bi verjetno porabil kakšen bilijon dolarjev. Mislim, da je
133. u133 29:43 Umri v lovu na vrh ali pa ponujaj inferenco
134. u134 29:43 kar povedno, da se celo Mistral bolj pomika k vlogi ponudnika inference in oblačnega podjetja kot pa k dejanskemu premikanju meja najnaprednejših modelov. Seveda je izdal nove modele, ki so kar dobri, a še vedno zaostajajo za Kitajsko. Tako oni kot druga podjetja za modele, ki so zgradila zmogljivosti grafičnih procesorjev, da bi ustvarjala vrhunske modele, nekako izstopajo iz tekme in ponujajo inferenco.
135. u135 30:06 Nekako so ugotovili, da lahko to dogajanje približno opišeš takole: ali umreš med poskusom, da bi dosegel sam vrh, ali pa živiš dovolj dolgo, da na koncu ponujaš inferenco. To vidiš pri novih oblačnih ponudnikih, novih oblakih, oblakih za inferenco in tako naprej.
136. u136 30:22 Vsi se želijo vključiti v tok žetonov, ker če nimam najboljšega modela, lahko pač ponujam modele drugih.
137. u137 30:31 Kako bi lahko čipi za inferenco državam dali vzvod pri UI
138. u138 30:31 Če se vrnem k Evropi, bi bil to verjetno najkonkurenčnejši pristop, ker bodo morale države zagotoviti pristop oziroma dostop do ameriških vrhunskih sistemov in imeti nekakšen strateški vzvod pri pogajanjih. Tako bi preprečile situacije, kakršna je bila junija, ko je osnovni izvozni nadzor blokiral Anthropicova modela Fable in Mythos za neameriške državljane oziroma subjekte. Takrat sem bil v Londonu in ljudje so izražali veliko pomislekov. Zato si rečeš: v redu, nočem, da se to ponovi, ampak kaj lahko storim, da ohranim strateški
139. u139 31:16 vzvod? Združeno kraljestvo zato meni, da bi morali vlagati v čipe za inferenco in jih naročati, saj če razvijemo najboljši čip za inferenco, bo njegova uporaba za laboratorije strateška prednost zaradi stroškov in drugih stvari. S tem pa lahko v zameno izpogajam dostop do najnaprednejše ameriške tehnologije.
140. u140 31:35 >> Evropa bi torej postala središče inference in zaradi dostopa do cenejše elektrike v določenih delih, ne v Združenem kraljestvu, ampak tam, kot sva že govorila, bi ameriški vrhunski laboratoriji želeli izvajati inferenco v Evropi, če ponovim tvojo misel.

     

141. u141 31:52 >> Ja. Ja. Lahko uveljavljaš zahteve glede hrambe podatkov v državi.
142. u142 31:56 >> Ja. In ta britanska zadeva s čipi, kaj točno je to? To sem že večkrat slišal. Je to nekaj, o čemer ljudje razmišljajo, ali dejanska politika, in če je, kako se kaže?
143. u143 32:06 >> Ja. Ja. To je politika v toliko, da ima britanski minister za UI — ki je po mojem na splošno res primeren za vodenje tega, ker je očitno dobro vpet v dogajanje in razume osnovne sestavine uspeha UI, torej računsko moč, talente in podatke — pooblastilo, da je prvi kupec novih čipov za inferenco. Mislim, da je namenil 100 ali 150 milijonov funtov, nekaj v tem okviru, za nakup čipov za inferenco, ko bodo na voljo pri novih britanskih podjetjih, ki načrtujejo te sisteme.
144. u144 32:43 To vidiš tudi v Južni Koreji, kjer imajo podobno usmeritev, a je precej ambicioznejša: vsako leto za UI porabijo okoli 7 milijard dolarjev. Velik del gre za gradnjo modularnih podatkovnih centrov za inferenco, ker korejska podjetja na splošno želijo, da podatki ostanejo v Koreji.
145. u145 33:01 Mislim, da je to pravzaprav precej zanimiva izmenjava uslug: gre za vezan trg, majhno državo, ki pa je bogata, tehnološko zelo podkovana in ima s pomnilnikom pomembno vlogo v celotni dobavni verigi UI. Mednarodna podjetja zato želijo nekoč v svojem razvoju vstopiti na korejski trg, enako na japonski, a vstop je težak: hramba podatkov v Koreji, korejski jezik.
146. u146 33:23 Torej: v redu, želite hrambo podatkov v državi, zdaj pa vam ponujamo še podatkovni center, v katerem lahko izvajate svojo tehnologijo, in od tega lahko zaslužimo, ker to storitev zagotavljajo naša lokalna podjetja.
147. u147 33:34 Zakaj grafični procesorji NVIDIA ne zagotavljajo suverenosti pri UI
148. u148 33:34 >> Torej nisi velik zagovornik oziroma nimaš veliko upanja glede celotnega koncepta suverene UI. To sprašujem ravno v času, ko je Jensen po Evropi izvedel ofenzivo šarma in naložb.
149. u149 33:51 Bil je v Parizu, Londonu in Berlinu na GDC ravno včeraj ali pred nekaj dnevi, ampak po tvojem to nima prave teže.
150. u150 34:02 >> To je malo podobno nacionalnim letalskim prevoznikom. Države kupijo letala od Airbusa in Boeinga in nanje nalepijo svoj logotip. Zaradi tega še niso zares njihova. Še vedno gre za letalo nekoga drugega. Razumeš? Torej
151. u151 34:15 >> Ampak odprta koda bi lahko bila rešitev, če verjameš, da bodo odprtokodni modeli ostali razmeroma blizu zaprtokodnim. Morda je tam upanje.
152. u152 34:26 >> Ja, ampak potem so kitajski. Torej imaš drugo, imaš drugo
153. u153 34:30 >> Lahko bi bili ameriški, to je odraz
154. u154 34:33 >> Ampak niso na samem vrhu. Kolikor vem, nobeden od ameriških odprtih modelov ni na samem vrhu. In vsi, ki so to poskusili, na koncu delajo za Jensena.
155. u155 34:41 >> V redu. [prhne]
156. u156 34:42 >> Torej, [smeh] mislim, da je njegova strategija odlična. Razmišljam o različnih stvareh. Ali verjamem, da ti nakup grafičnih procesorjev Nvidia prinese suverenost? Ne. Ali mislim, da je to dobra poslovna strategija za Nvidio? Absolutno.
157. u157 34:54 >> [smeh]
158. u158 34:54 >> Em.
159. u159 34:55 >> Ja, prodali so za več kot 30 milijard teh stvari.
160. u160 34:58 >> Nekaj takega. Ja. In če pogledaš nacionalne razpise, kjer je po svetu za suverenost v naslednjih nekaj letih namenjenih približno 138 milijard, ter najbolj priljubljene ponudnike med vsemi temi, daleč vodi Nvidia. Mislim, da [prhne] ni prav veliko alternativ. To je dober začetek in to moraš storiti, ker je to najboljša tehnologija, vendar se ne bi smeli slepiti, da s tem dobiš suverenost.
161. u161 35:23 >> Ampak še vedno v duhu tvojega pregleda: velik trenutek letos je bil, ko je ameriška vlada neameriškim državljanom odrekla dostop do vrhunskega modela. Imajo torej države in podjetja zunaj ZDA sploh kakšno drugo možnost, kot da vsaj poskusijo?
162. u162 35:41 >> Spet imam glede tega več različnih pogledov. Prvič, mislim, da je vredno poskusiti, ampak ali mislim, da je realno?
163. u163 35:49 >> [smeh]
164. u164 35:51 >> Em, mislim, da je pomembno, da če država že poskusi, skuša uvesti sisteme, ki bodo opravljali pisarniško delo. V Združenem kraljestvu imamo še vedno veliko zmožnosti za to, da poskusimo zgraditi nekaj podobnega OpenAI ali konkurirati, recimo, DeepMindu, DeepMindu ali Deep Seeku ali čemur koli že.
165. u165 36:13 Ampak če dejansko pogledaš
166. u166 36:14 Britanska težava: »Ampak imamo DeepMind«
167. u167 36:14 >> Pravzaprav zanimiv freudovski spodrsljaj ali nekaj takega, kajne? Ironija vsega tega je namreč, da je DeepMind britansko podjetje.

     

168. u168 36:20 >> Ja, prav imaš. Ja. In mislim, da je del težave britanskega ekosistema UI in njegovega uspeha pri dejanskem vodenju sveta v tem, da je britanska vlada predolgo ponavljala, da je DeepMind britansko podjetje. Mislim, da se je od tega začela odmikati šele zelo, zelo nedavno.
169. u169 36:37 >> In zakaj je to težava?
170. u170 36:38 >> Težava je, ker potem verjame, da je že številka ena. Češ, Združeno kraljestvo je najboljši kraj za UI in najboljši smo v UI, ker imamo DeepMind.
171. u171 36:46 >> V redu.
172. u172 36:46 >> Torej nam ni treba
173. u173 36:47 >> Težava je odnos, ki stoji za to trditvijo.
174. u174 36:49 >> Ja, ker potem pri oblikovanju politik posamezniki, ki se zavzemajo za več vlaganj v UI ali za več naročanja sistemov pri podjetjih za UI ali za to, da bi država postala privlačnejša za ustanavljanje podjetij za UI, dobijo odgovor: ampak imamo DeepMind.
175. u175 37:05 >> Mhm. Res je.
176. u176 37:06 >> Veš?
177. u177 37:06 >> Res je.
178. u178 37:07 Zakaj evropska obrambna UI potrebuje domače dobavitelje
179. u179 37:07 >> Em.
180. u180 37:07 >> Kaj pa obrambna UI? Vlagaš v obrambna podjetja. To se zdi področje, kjer obstaja potreba po suvereni UI, saj bo vojskovanje prihodnosti očitno močno temeljilo na UI. To se zdi področje, kjer
181. u181 37:24 >> Ja, ja, mislim, da je precej dobro.
182. u182 37:25 >> Da.
183. u183 37:26 >> Ja, ja.
184. u184 37:26 >> Torej
185. u185 37:27 >> Ja, ta zagon se je v resnici začel, seveda po začetku vojne v Ukrajini, kar je zdaj že skoraj pet let nazaj. Še pomembneje pa je bilo po mojem pred dvema letoma, ko je JD Vance prišel na Münchensko varnostno konferenco in v bistvu rekel: vlagati morate v lastno obrambo in to vzeti resno. S tem je mislil Nato in Evropo.
186. u186 37:48 Em, od takrat se je pojavila vrsta različnih pobud za zagotavljanje več kapitala novim obrambnim podjetjem in spodbujanje vlad, naj podjetjem dajejo posojila za izboljšanje njihovih dobavnih verig. Em, [prhne] in to je ustvarilo skupino nekakšnih novih glavnih izvajalcev, novih obrambnih podjetij, ki skušajo konkurirati glavnim pogodbenim izvajalcem.
187. u187 38:11 Uh, torej podjetja, kot sta Stark ali Helsing, em, pa Quantum Systems, so nekako glavna v Evropi. In potem, veste, ko se je vojskovanje spremenilo, je šlo od, uh, ne vem, razvoja udarnih sistemov nekako srednjega dosega za napade na tankovske bataljone do tega, da nas zdaj vsak dan zasipajo stotine in stotine dronov FPV ali raznih drugih avtonomnih zračnih sistemov, ki jih zdaj ni več mogoče ustaviti z motenjem, ker uporabljajo računalniški vid ali pa jih vodijo ti, em, optični kabli, ki so se, mimogrede, zaradi podatkovnih centrov precej podražili.

     

188. u188 38:51 In zato potrebujemo več, veste, novih sistemov zračne obrambe. In tu so podjetja, kot je Altair v Franciji, in druga res močno pritisnila naprej. Em, in kot si rekel, je dobavna veriga izredno pomembna, ker NATO na primer v Evropi ne bi naročal sistemov, pri katerih vsaj 70 % delov ne prihaja iz, uh, v bistvu nekitajskih virov. In države so res precej zadržane do tega, da bi ameriško zaščito ali jamstva jemale za suho zlato, ker se spreminjajo iz tedna v teden.
189. u189 39:28 Torej, ja, mislim, da je to primer trga, ki mora biti že po zasnovi nekako domač in lahko ustvari nova podjetja, ki so precej konkurenčnejša od ameriških tekmecev.
190. u190 39:41 Zakaj OpenAI, Anthropic in Google še naprej povečujejo prednost
191. u191 39:41 >> Torej, če najnaprednejše umetne inteligence ni mogoče razvijati nekako v ZDA, se vrniva v ZDA. Del tvojega poročila o raziskavah v bistvu označuje Anthropic, OpenAI in Google za zmagovalce, za dokončne zmagovalce, kar je seveda, uh, veste, zorelo več let, ampak bil je trenutek, ko se je zdelo, da obstaja množica laboratorijev.
192. u192 40:04 V bistvu praviš, da ne, da so ti trije zmagovalci.
193. u193 40:08 >> In ali to vključuje, uh, saj najbrž nihče ne ve, kaj dejansko počnejo, ampak verjetno gre za AI in Thinking Machines in zdi se, da obstaja na stotine novih laboratorijev.
194. u194 40:17 >> Morda še Meta ob robu.
195. u195 40:18 >> Ja.
196. u196 40:19 >> Em.
197. u197 40:19 >> Laboratorij za superinteligenco.
198. u198 40:20 >> Ja, še posebej zdaj, ko si prizadevajo svoje modele ponujati prek API-ja, hkrati pa imeti tudi poslovanje s podjetji. Em, tako da se to lahko spremeni v naslednjih kakšnih 6 do 12 mesecih, odvisno od tega, kako bo deloval njihov nastop na trgu, ampak ja, rekel bi, da so to verjetno ti trije in Meta.
199. u199 40:33 >> Torej meniš, da se bo prednost še naprej kopičila in da bo takšno stanje na trgu, v nasprotju z
200. u200 40:39 >> torej pri splošnonamenskih najnaprednejših modelih. Obstajajo pa primeri res osredotočene stave na določeno zmožnost, kjer lahko pri modelu sprejmeš določene kompromise, da dosežeš veliko boljšo uspešnost pri neki nalogi. Mislim na primer na te klasifikacijske modele, v bistvu kot Jeff, ki lahko res zelo hitro rastejo in postanejo priljubljeni.
201. u201 41:01 Spet, koliko časa to traja, se bo še pokazalo, ampak mislim, da je to spodbuden znak za podjetnike, ki kaže, da lahko staviš na osredotočeno raziskovanje in se ti to lahko obrestuje. Sčasoma pa se bo spet šele pokazalo, ali obstajajo takšne vrzeli v zmožnostih, ki jih je mogoče dovolj dobro izvoziti.
202. u202 41:17 Kje lahko neodvisni laboratoriji za umetno inteligenco še tekmujejo
203. u203 41:17 >> Kaj se bo po tvojem zgodilo z desetinami novih laboratorijev? Nočem ves čas govoriti o Evropi, ampak samo v Londonu so trije, kajne? Tisti Davida Silverja in še dva, saj veš, v ZDA pa je vsakih nekaj tednov kakšen nov, novi laboratorij Jeffa Deana in tako naprej.
204. u204 41:35 Kaj se torej zgodi z njimi?
205. u205 41:36 >> No, mislim, da je odvisno od njihove usmeritve in modalnosti. Pri robotiki in utelešeni umetni inteligenci si na primer lahko predstavljam, da ima neodvisen laboratorij še vedno možnost tekmovati in zmagati, ker sta OpenAI in Anthropic tako zelo osredotočena na umetno inteligenco za podjetja.
206. u206 41:59 V poročilu imam prosojnico, kjer v bistvu pokažem vse različne produktne linije, ki sta jih imela OpenAI in Anthropic. OpenAI naj bi jih imel veliko, potem pa so jih postopoma vse ukinjali, in bil je citat v smislu, da je ta trenutek preveč pomemben, da bi nas odvračale stranske naloge, ali nekaj podobnega.

     

207. u207 42:14 Parafraziram, kar je pomenilo, da se večinoma ne ukvarjajo posebej z robotiko. Čeprav je morda nekaj takšnih podatkov v receptu za učenje Astre. Pri znanosti je malo manj jasno. Anthropic se očitno močno usmerja v biologijo in odkrivanje zdravil. OpenAI morda bolj na stran modelov, manj v smislu, da želijo obvladovati več tehnoloških plasti.
208. u208 42:34 Z utelešeno umetno inteligenco je nekako povezana cela kategorija modelov sveta, pa naj bo to videomodel z nekimi dejanji ali kakšna druga opredelitev modela sveta. Ampak Anthropic se na splošno s tem res ne ukvarja, vsaj kolikor lahko javno vidimo. Saj nimajo niti modela za ustvarjanje slik, na primer.
209. u209 42:51 Pri zvoku imajo laboratoriji očitno nekaj teh zmožnosti, ampak če lahko 11 Labs še naprej tako pospešuje, potem očitno obstaja potreba po namenski zmožnosti. To so verjetno področja, na katerih si lahko predstavljam uspeh neodvisnega laboratorija. Pri tistih, ki na splošno pravijo: »Razvijali bomo najnaprednejšo inteligenco za umsko delo, samo boljšo, hitrejšo in cenejšo,« pa mislim, da je to težko.
210. u210 43:15 Sam bom verjel, ko bom videl. Em, ampak ja, ta ideja, da odpreš računalnik, aplikacija je videti povsem enako, samo boljša je. Ne vem, ali to
211. u211 43:25 >> Ja. In
212. u212 43:26 Modeli sveta: od učenja robotov do igralnih pogonov
213. u213 43:26 pri laboratorijih za modele sveta vidiš kaj vznemirljivega? Mislim, očitno, če je bil laboratorij FF Lee, ja, prevzet za veliko denarja, in ni jasno, kaj se bo zgodilo naprej, glede na to, da je kupec AMD. Ja, ker je Yann LeCun ustanovil svoje podjetje AMI v Parizu, torej World Labs.
214. u214 43:45 >> Ja. Imam vpogled v Odyssey, kjer sem bil zgodnji vlagatelj, razvijajo modele sveta, in zanimivo pri tem poslu je, da je njihov najnovejši sistem Odyssey 3. Tam lahko vidiš, da avtoregresivno modelirajo videopodatke in jih pogojujejo z dejanji, tako da, veste: »V redu, izvedem eno dejanje, nato pa kot posledico tega dejanja ustvarim naslednjo sličico.« Pri tej paradigmi, uporabljeni za robotsko manipulacijo, avtonomno vožnjo, videoigre, zabavo ali kaj podobnega, lahko vidimo posploševanje med vsemi temi različnimi področji in že vidimo uporabo tega modela za učenje robotske manipulacije.
215. u215 44:30 Torej, na splošno me nekako zanima, kako se bodo slika, zvok in video na koncu zlili v model sveta. In če se to dejansko zgodi, bi to lahko vase vključilo simulacije in igralne pogone.
216. u216 44:46 In to je zelo pomembno za prenos robotike v resnični svet, pa tudi za načrtovanje fizičnih sistemov in strojne opreme. Če se vrnem k AMD in World Labs: če se to zgodi, je računalniška osnova, ki podpira takšna okolja ter omogoča učenje in izvajanje sklepanja, izjemno pomembna. Zato je poznavanje smeri raziskovalnega ekosistema modelov sveta in izboljšav strojne opreme, s katerimi lahko postaneš prva izbira, velik, velik prihodkovni kolač.
217. u217 45:17 Mislim, da je to deloma spodbudilo, no, del razloga, zakaj je AMD kupil World Labs. Em, nekako tako, kot je bila Nvidia dolga leta zelo blizu raziskovalnim laboratorijem, ki so delali s senčilniki in 3D-vidom ali drugimi stvarmi, jim dajala računske vire in stalno dobivala povratne informacije raziskovalcev, da so vedno vedeli: moja strojna oprema je najboljša za smer, v katero se premikajo najnaprednejše raziskave.
218. u218 45:39 Bi cenejša umetna inteligenca spodkopala razmah računske infrastrukture?
219. u219 45:39 >> Zdi se, da kar precej laboratorijev išče načine za učinkovitejšo rabo računskih virov. Od Flapping Airplanes, o katerih ne vem veliko, do nečesa, kar je videti kot ponovni vzpon podjetij, osredotočenih na difuzijske modele.
220. u220 45:54 >> Ja. Ja.
221. u221 45:56 >> Da bi preprosto znižali stroške sklepanja, kar je mimogrede res fascinantna misel. Ljudje o tem nekaj časa veliko govorijo, potem pa pozabijo, ampak te ogromne naložbe v računske vire, ki naj bi jih izvedli, so v teoriji očitno odvisne od tega, ali se kdo domisli precej učinkovitejšega načina učenja modelov.
222. u222 46:14 >> Ja, ja, ja. Trdil bi, da bi tudi v tem primeru preprosto videli večjo porabo. Izhajam že iz tega, da na prenosniku uporabljam Astra high pri 1,5-kratni hitrosti in bi si želel, da bi bila ta 1,5-kratna hitrost 10,5-kratna.
223. u223 46:29 >> To je Jevonsov paradoks, kot
224. u224 46:30 >> Ja, samo dajte mi še več čipov, ja. V istem času preprosto počnem več stvari, kot bi jih lahko prej. Zato nisem prepričan, da bi en izjemno učinkovit sistem nekako sesul vse naložbe, ki jih izvajamo.
225. u225 46:43 Bodo boljši modeli vase vključili agentsko ogrodje?
226. u226 46:43 >> V poročilu govoriš o pomembnem presečišču med modeli in ogrodji, kar se zdi ena tistih tem, ki se stalno spreminjajo. Ljudje pravijo, ne, vsa inteligenca je v modelu, drugi pa, ne, vsa je v ogrodju, in zdi se, da to niha sem in tja.
227. u227 47:01 Kakšno je tvoje mnenje?
228. u228 47:02 >> Na splošno mislim, da je podobno kot pri poškodbi, ko imaš bergle in potrebuješ pomoč, potem pa se pozdraviš in pomoči ne potrebuješ več. Če nimaš najnaprednejšega modela, mu moraš dati bergle, te pa so lahko dostop do orodij, način upravljanja pomnilnika, podatkovni viri, do katerih ima dostop, in morda nekaj receptov za izvedbo določene naloge.
229. u229 47:25 In mislim, da bo za zdaj pri modelih, ki niso najnaprednejši, to veljalo. Bom pa verjel ljudem iz vodilnih laboratorijev, da moramo predpostavljati, da bodo sčasoma vse te bergle nekako vključene v model z učenjem ali v ogrodje, ki ga zagotavlja ponudnik modela.
230. u230 47:43 Mislim, da obstaja podatek o tem, koliko sistemskega poziva za cloud code je bilo sčasoma prepisanega, ko se je model izboljševal, in približno 80 % sistemskega poziva so preprosto odstranili. Ogrodje je pomembno tudi zato, ker tista, ki ju ponujata OpenAI in Anthropic, nimata ravno spodbude, da bi te usmerjala k manj zmogljivemu modelu.

     

231. u231 48:07 Že v uporabniškem vmesniku in izdelku: če opravljam pravno nalogo, imam paket za 200 $ in žetone, hočem vrhunsko kakovost. Zakaj bi torej tvegal slabšo kakovost s premikom z visoke na nizko nastavitev ali s preizkušanjem manj kakovostnega modela?
232. u232 48:24 Zato mislim, da bodo vodilni laboratoriji to počeli še naprej, razen če se vedenje vmesnika izdelka nekako spremeni tako, da uporabnika odvrača od izključne uporabe najdražjega orodja. Em, in tu lahko pride v poštev dobro poznavanje tega, ali lahko uporabimo slabši sistem in to nadomestimo z boljšim ogrodjem, ampak mislim, da je to bolj produktna odločitev.
233. u233 48:53 Tudi za podjetja, ki niso med vodilnimi laboratoriji.
234. u234 48:56 >> So ti kot vlagatelju zanimiva vsa ta podjetja z vertikalnimi ali horizontalnimi ogrodji? Je to tema za naložbe?
235. u235 49:05 >> Ja, sama zase trenutno ne. Spet, lahko si premislim, ampak trenutno ne. Mislim pa, da pri mojih podjetjih, ki močno temeljijo na umetni inteligenci ali agentih, ko vidimo, da mesečni izdatki za žetone letijo v nebo, ker zaposleni s temi orodji dosegajo vedno več in uporaba izdelka raste, pride do razmisleka: hej, res bi morali posvetiti čas preverjanju, ali lahko uporabimo manj napreden model in to nadomestimo z boljšim ogrodjem, da ne bi porabili toliko denarja.
236. u236 49:40 >> Ja.
237. u237 49:41 Skrbni pregled z umetno inteligenco: 12 strokovnih intervjujev v 2,5 dneva
238. u238 49:41 Mimogrede, bil si edini upravljavski partner in mislim, da sem nekje prebral, da pri svojem naložbenem delu veliko uporabljaš agente za vse, kar počneš. Imaš kak primer ali kaj, kar se ti je zdelo posebej dobro pri tvoji letošnji uporabi agentov?

     

239. u239 49:59 >> Najboljši primer uporabe v zadnjem času je bilo strokovno raziskovanje, kjer lahko, no, če se lotiš poceni različice, vprašaš prijatelje,
240. u240 50:09 >> [smeh]
241. u241 50:09 >> če pa želiš porabiti nekaj denarja in vprašati še koga zunaj svoje mreže, se obrneš na GLG ali AlphaSense in podobne. Ti ti poiščejo ljudi in vas povežejo. Opraviš klic. To je podajanje sem in tja, res nadležno ter omejeno z jezikom, časovnimi pasovi in podobnim. Začel pa sem uporabljati nov izdelek Latto, ki v bistvu nadomesti moje delo tako, da ga opravi model.
242. u242 50:33 In tako že zdaj veliko uporabljam, v tem primeru Codex, vendar preklapljam glede na to, kateri model je v danem trenutku boljši, da obdela vse moje zamisli in kontekst o drugih podjetjih, ki sem jih pregledoval v preteklosti, kako so poslovala, kaj sem vprašal, kakšne odgovore sem dobil, da ugotovim, katero je najdragocenejše vprašanje, ki ga lahko postavim ekipi, da presodim, ali naj ji namenim čas oziroma izvedem naložbo ali ne.

     

243. u243 50:57 Vse te informacije lahko vzamem in nato z Lattom sestavim strokovni intervju, določim želene skupine in kliknem začetek raziskave. Sistem nato poišče ljudi, pridobi njihovo soglasje in preveri, ali so primerni za raziskavo, potem pa se pogovorijo z umetno inteligenco.
244. u244 51:16 Bil sem osupel, ker sem zagnal raziskavo in šel spat, za odgovor podjetju pa sem imel približno 3 dni. Gre za konkurenčne trge, zato se mi zdijo podrobnosti raziskovanja strank pomembne. Prvi dan se zbudim in imam tri intervjuje s precej izkušenimi ljudmi. Imam surovi prepis.
245. u245 51:32 Prepis lahko vrnem v svoj model. Odgovoriva na odprta vprašanja, ki sva jih imela. Midva, jaz in moj model. Potem ugotoviva: v redu, za to imava dovolj podatkov, vendar se je odprla vrsta novih vprašanj. Morda bi morala prilagoditi nekatera vprašanja v intervjuju, da osebo res spodbudiva k odgovorom nanje.
246. u246 51:49 Tako posodobi vprašanja raziskave in znova zažene anketo. Naslednji dan pet, pet ljudi. In to se ponovi. V približno dveh dneh in pol sem imel 12 intervjujev, skupaj približno 14 ur, iz ZDA, Indije, Evrope, Nemčije, Francije.
247. u247 52:05 Zame bi bilo fizično nemogoče porabiti 14 ur za 12 ljudi. Več ljudi se je s tem modelom pogovarjalo po uro in 20 minut.
248. u248 52:14 >> Kar je že samo po sebi fascinantno, kajne? Da se ljudje tako hitro tako sproščeno pogovarjajo z umetno inteligenco.
249. u249 52:22 >> Ja. Ja. Verjetno je malo rekurzivno v smislu, da smo ves čas pred računalnikom in da gre na splošno za tehnološka vprašanja. Zato mislim, da ljudje žal raje govorijo s telefonom kot s človekom.
250. u250 52:36 >> To je fascinantna misel, da se ljudje dejansko raje pogovarjajo z umetno inteligenco.
251. u251 52:42 >> Ja. To je pravzaprav tema, o kateri smo poslušali skozi leta, no, morda ne leta, ampak mesece: ljudje se začenjajo raje pogovarjati z agentom umetne inteligence za podporo strankam kot s človekom.
252. u252 52:55 >> Ja, ker se v tem primeru človek pretvarja, da je robot, in mu gre to res slabo, ker je človek. In si misliš: ali lahko prosim nehaš govoriti kot robot?
253. u253 53:04 >> [smeh]
254. u254 53:05 >> Zdaj dobiš robota, ki je dejansko res dober, človek pa lahko
255. u255 53:08 >> lahko govori kot človek.
256. u256 53:09 >> Ja. V redu.
257. u257 53:10 >> Neverjetno. Ja, ja. Ta zamisel avtomatiziranega raziskovanja strank se je zame izkazala za zelo učinkovito in jasno si predstavljam, da bi tudi pri portfelju želel izvajati takšne agentske intervjuje o svojih portfeljskih podjetjih in tem, kako jih stranke uporabljajo. Tako imaš vsaj nekaj podatkov iz prve roke, ko greš na sejo upravnega odbora, veš?
258. u258 53:29 Ali če si vlagatelj LP in tvoji vlagatelji pravijo: »To podjetje je res dobro.« Pa rečeš: »Je res dobro?«
259. u259 53:34 >> [smeh]
260. u260 53:35 Težava zaupanja pri osebnih agentih umetne inteligence
261. u261 53:35 >> Ena velikih stvari letos, zlasti zadnjih nekaj mesecev, je v zvezi s tem vzpon osebnih agentov, Instincts [odkašljevanje], Mews in Rock Bots. Kaj meniš o tem?
262. u262 53:49 >> Ne dajem jim svojih podatkov. Trenutno jim res, res zaupam, ampak mislim, da jim veliko ljudi zaupa. Em.
263. u263 53:58 >> Veliko ljudi jim zaupa.
264. u264 53:59 >> Ja.
265. u265 54:01 >> Torej praviš, da svojih informacij nočeš dati podjetju, ki pred 2 mesecema ni obstajalo in od tebe ne zahteva preverjanja pristnosti.
266. u266 54:10 >> Ja, ja, približno tako. Tudi zato, ker se mi zdi, da lahko približno isto naredim s ChatGPT. Pravzaprav ne vidim, kaj dodatnega dobim.
267. u267 54:20 >> Codex in Claude že imata nizkonivojski dostop do mojega računalnika, dostop do brskalnika, različnih aplikacij za sporočanje in podobnega.
268. u268 54:27 >> Temu že zaupam, zato res ne želim še povečevati tveganja. Odpira pa zanimivo vprašanje: kateremu ponudniku najbolj zaupaš pri takšnih nalogah? Nedavno sem slišal, da Nikolai pri Revolutu zdaj razmišlja: »V redu, imam, ne vem koliko strank, ampak milijone ali desetine milijonov ali nekaj takega.
269. u269 54:51 Em, in očitno mi zaupajo svoj denar in podatke kreditnih kartic.« Zdaj imajo tam tudi pomočnika z umetno inteligenco. Zato si lahko predstavljam, da bi Revolutu bolj zaupal opravljanje nakupov v mojem imenu kot nekemu zunanjemu zagonskemu podjetju, ki je zraslo v 12 mesecih in verjetno nima ustrezne informacijske varnosti in drugih stvari.
270. u270 55:12 >> Torej misliš, da to postane funkcija širših platform, in ne obratno?
271. u271 55:16 >> Mislim, da je to ena možna pot. Vedno se lahko zgodi, da platforma kupi katero od teh ekip. Slišal pa sem tudi, da nekdo raje uporablja Metin Muse, ker je verjetnost, da bo katero od teh zagonskih podjetij preživelo 10 let in da ga boš lahko, če naredi kaj slabega, tožil ter dobil svoj denar ali kak denar, zelo majhna. Meta pa ima zgodovino izplačil, kadar pride do težav.
272. u272 55:42 Slišal sem, da je to razlog, zakaj nekateri raje uporabljajo Meto. Vsaj vem, koga lahko pokličem.
273. u273 55:48 >> A ti novi osebni agenti očitno igrajo veliko vlogo pri širjenju umetne inteligence, kar je tudi ena od tem tvojega poročila. Govoriš zlasti o vse večjem vzponu code acts tudi zunaj kroga programerjev.
274. u274 56:06 >> Ja, ja, ja, točno. Najpomembnejše sporočilo je, da hkrati vidiš to rekurzivno samoizboljševanje in ljudi, ki s svojo umetno inteligenco počnejo najrazličnejše nore stvari, vendar je to kakšnih 0,1 % uporabnikov umetne inteligence, velika večina drugih pa komaj kaj plačuje
275. u275 56:22 Zakaj je snovanje pozivov ljudi odvrnilo od umetne inteligence
276. u276 56:22 za kakršnokoli umetno inteligenco in zato dobiva precej podpovprečno izkušnjo. Uh, deloma gre preprosto za slab izdelek in slabo trženje. Pa tudi za to, da je pred letom ali dvema prevladovala pripoved, da moraš postati strokovnjak za snovanje pozivov.
277. u277 56:38 Res moraš razumeti, kako pisati te pozive, ker če pišeš zanič pozive, model slabo opravi delo. Lahko si samo predstavljam, koliko ljudi zunaj tehnologije je to videlo in si reklo: pojma nimam, kako se tega naučiti. To je čisto preveč zapleteno, nekako kot pisanje kode, samo v človeškem jeziku.
278. u278 56:54 Pa naj gre vse skupaj nekam. Dovolj imam. Umetna inteligenca je zanič. Zdaj pa: ali res moraš biti strokovnjak za pozive? Mislim, da moraš bolj znati govoriti s telefonom. Preprosto povej vse, kar, no, vse, o čemer razmišljaš, in sistem se lahko sam organizira. Mislim, da je to s strokovnjaki za pozive nekako mimo.
279. u279 57:10 Model ima dovolj možnosti, da tega ne potrebuje. Zdaj ga navaden človek veliko lažje uporablja. Ampak navadnemu človeku je v času snovanja pozivov vse skupaj presedlo in se ni vrnil. Zato imaš prav, da bi bile takšne vstopne poti z osebnimi agenti odličen način, kako ljudi privabiti nazaj v sistem, in morda bodo umetno inteligenco razumeli kot to, ne več kot klepet.
280. u280 57:33 >> Če razčleniva nekaj stvari, ki si jih pravkar povedal v zvezi z vse večjim razkorakom med ljudmi, ki uporabljajo umetno inteligenco, in tistimi, ki je ne: imaš prosojnico, ki kaže, da ostaja uporaba Codexa znotraj OpenAI precej, precej višja kot med zunanjimi uporabniki.
281. u281 57:53 Kar je noro.
282. u282 57:53 >> Ja.
283. u283 57:54 >> Ja. Splošni podatek je približno tak: 100 % ljudi v OpenAI uporablja Codex, med organizacijami, ki ga uporabljajo, pa je morda kakšni 2/3. Em, nekaj precej visokega.
284. u284 58:07 >> Ja, 16,9 %.
285. u285 58:08 >> Ja, v redu.
286. u286 58:09 >> Ločena analiza razkritij podjetij iz indeksa S&P 500 o umetni inteligenci je pokazala, da jih je 69 % poročalo o uporabi v produkciji, le 2 % pa sta razkrila kazalnike, spremljane skozi čas. V nasprotju s tem je 97,9 % aktivnih zaposlenih OpenAI v predhodnih 28 dneh uporabljalo Codex.
287. u287 58:25 >> Ja, ja, ja. Med posamezniki pa Codex uporablja manj kot 1 %. In med tistimi, ki ga uporabljajo, jih velika večina, kakšnih 85 %, opravlja naloge, ki bi trajale približno 30 minut. Samo približno 25 %, mislim, pa opravlja naloge, ki bi trajale 8 ur ali več.
288. u288 58:40 >> Torej je sklep, da ljudje, ki to razumejo, vse bolj pospešujejo, tisti, ki ne, pa v primerjavi z njimi upočasnjujejo.
289. u289 58:51 >> Ja, v bistvu je, kot da hodiš po zabaviščnem parku ali čem podobnem in si pravkar odkril prvo raven, obstaja pa ves drug svet, do katerega nisi niti odprl vrat.
290. u290 59:00 >> In precej ljudi je že
291. u291 59:02 Ali umetna inteligenca potrebuje svoj Genius Bar?
292. u292 59:02 v tem svetu.
293. u293 59:02 >> je kakšnih 97 % sveta ali nekaj takega. Kar je noro. Zato sem razmišljal, da bi moral obstajati Genius Bar za umetno inteligenco ali Geek Squad za umetno inteligenco ali kaj takega. Osupljivo se mi zdi, da smo v New Yorku, imamo čudovito trgovino Apple Store in vse te konceptne trgovine znamk.
294. u294 59:18 Zakaj OpenAI nima trgovine OpenAI?
295. u295 59:21 >> In kaj bi počel v trgovini OpenAI? Bi stopil do strokovnjaka in bi te popeljal skozi primere uporabe?
296. u296 59:27 >> Približno tako. Uh, trajalo bi, ampak pri takšnih viralnih izdelkih ljudje na koncu pokažejo drugim. Zlahka pa si predstavljam delavnice za različne ravni izkušenj. Morda bi bila ena za lastnike malih in srednjih podjetij, druge za zaposlene družine, spet druge za zdravstvene delavce, karkoli si lahko zamisliš. Tam bi ljudem res pokazali, kaj lahko naredijo že s potegom po zaslonu in uporabo Work ali Codexa.
297. u297 1:00:00 Mislim, da bi to precej spremenilo stvari, ker bi tehnologija ljudem dajala veliko več moči, manj pa občutka: »Vau, toliko ljudi s tem počne stvari, ki jih sploh ne razumem. Sam pa nimam časa, volje ali potrpljenja, da bi se tega naučil.« Morda je podobno kot pri telovadbi: vsi bi morali telovaditi, a večina ne, in najeti moraš osebnega trenerja, da se tega sploh lotiš.
298. u298 1:00:24 >> Mhm. Mhm.
299. u299 1:00:25 Codex onkraj programiranja: agenti za umsko delo
300. u300 1:00:25 In da dokončava misel o drugem delu Codexa: imaš prosojnico, na kateri praviš, da uporaba Codexa med nerazvijalci raste hitreje kot med razvijalci. Od avgusta 2025 do junija 2026 se je število posameznih uporabnikov, ki niso razvijalci, povečalo za 137-krat.
301. u301 1:00:43 Torej to v resnici niso več programerski agenti. So agenti, ki programirajo, vendar za širšo skupino, daleč onkraj programerjev.
302. u302 1:00:52 >> Ja, malo je nejasno, ker lahko napišejo kodo za izvedbo tvojega umskega dela, uporabnik sistema pa tega pravzaprav ne vidi. Rekel bi, da je ta rezultat mešanica res preprostih stvari, kot je povezovalnik za Google Drive, ki dejansko deluje.
303. u303 1:01:09 Privzeti povezovalnik za Google Drive na primer ne zmore veliko stvari, ki bi jih želel, in moraš uporabiti zunanji GW CLI, ki ga je napisal Googlov inženir in bil zaradi tega odpuščen. Če pa ne uporabljaš različice CLI, ima tvoj agent le zelo visokonivojski dostop do Google Drive, kar onemogoča številne delovne procese.
304. u304 1:01:34 Torej že osnovne dobre integracije. Druga stvar pa je ta rekurzivni cikel: laboratoriji izdajo model, podatkovna podjetja ali podjetja z določenim delovnim procesom, pri katerem želijo uporabiti model, pokažejo, da se na njihovem internem preizkusu ta model ne obnese najbolje, imajo pa okolja in podatke, s katerimi bi lahko bil res dober. Nato laboratorij, upajmo, ugotovi, da želi postopno izboljševati to zmožnost, kupi podatke, izboljša uspešnost modela in ta rekurzivni cikel se nadaljuje.
305. u305 1:02:05 In mislim, da vse od uvedbe Codexa, pravzaprav pa že prej pri cloud code s povezovalniki za pravo, trženje in tako naprej, velja pristop: zgradimo integracije z orodji, ki jih model potrebuje, da bo dober pri takšnem človeškem pisarniškem delu.
306. u306 1:02:24 Uh, postopno izboljšujmo določene delovne procese, pomembne za finance, pravo in trženje. Potem te izdelke izdamo z nekoliko boljšim trženjem in študijami primerov, začenši z lastnim osebjem. Ves čas pa poteka razprava: ali temu rečemo Work?
307. u307 1:02:41 Ali temu rečemo Code? Kateri naj bo lažji? Mislim, da še vedno nismo vsega razjasnili, ampak zdaj bi rekel, da je to res izjemno zmogljivo.
308. u308 1:02:49 Zakaj želijo podjetja svojo umetno inteligenco imeti v lasti, ne najemati
309. u309 1:02:49 >> Ko že govoriva o postopnem izboljševanju, govorila sva o odprti kodi in velikih laboratorijih. Pa tudi o suvereni umetni inteligenci. Zdi se, da se poraja tema podjetij, pred njimi pa verjetno vertikalnih zagonskih podjetij za umetno inteligenco, ki prevzemajo nadzor nad svojo umetno inteligenco, namesto da bi bila povsem odvisna od Anthropica ali OpenAI.
310. u310 1:03:13 Je to zate pomembna tema in nekaj, v kar je mogoče vlagati?
311. u311 1:03:19 >> Ja, no, em, mislim, da ta trend raste. Gre za mešanico optimizacije stroškov ter vprašanj podatkovne suverenosti in lokacije hrambe podatkov, torej nepripravljenosti vse te informacije dati v zunanji sistem, katerega pravilom zasebnosti morda zaupaš ali pa ne.
312. u312 1:03:38 Tretjič pa imaš nabor primerov uporabe, ki so ti res pomembni, in preprosto nočeš čakati, da se laboratorij začne zanimati zanje, da bi se izboljšali. In zadnja stvar bi bile morda te bolj nacionalistične težnje, predvidevam.
313. u313 1:03:57 Na tem področju se sprašujem, kdo je v najboljšem položaju za zagotavljanje te storitve. Eden največjih bi bil seveda Palantir, ki je sklenil partnerstva z novimi ponudniki oblaka in že ima vso podatkovno infrastrukturo, zato je zadnjih nekaj let v dobrem položaju, da začne ponujati te storitve.
314. u314 1:04:16 To verjetno deluje v ameriškem komercialnem sektorju, v Evropi pa manj. V Evropi so nekakšna nova podjetja po vzoru Palantirja, ustanovljena za povsem isto stvar, vendar z drugačnim nacionalističnim pridihom. Tretji del pa bi bila podjetja za sklepanje, ki že ponujajo odprtokodne modele in so morda v dobrem položaju, da poleg njihovega izvajanja ponujajo tudi orodja za pregled sledi uporabe teh modelov v podjetju ter podatke iz pogovorov uporabijo za storitev dodatnega učenja in tako sklenejo zanko.
315. u315 1:04:51 Morda so v dobrem položaju, morda pa so to novi ponudniki oblaka sami, ki so nad svojo ponudbo začeli graditi dejavnost sklepanja. Ali pa celo podatkovna podjetja, ki so začela presegati zagotavljanje okolij za laboratorije in pravijo: no, vaše podjetje je okolje, dokazali smo, da to znamo dobro narediti za laboratorije, morda lahko tudi za
316. u316 1:05:17 Hitra vprašanja: domači roboti, donosi Nvidie in Arm
317. u317 1:05:17 vas.
318. u318 1:05:17 >> Želiš končati s hitrimi vprašanji?
319. u319 1:05:20 >> Dajva.
320. u320 1:05:21 >> Najbolj precenjen trend leta 2026?
321. u321 1:05:24 >> Uh, roboti za čiščenje doma.
322. u322 1:05:28 >> Ti ne delujejo.
323. u323 1:05:30 >> Ne.
324. u324 1:05:31 >> Zakaj si vsi želijo prav tega primera uporabe, zlaganja perila? Ker je to rešljiv problem?
325. u325 1:05:40 >> Ne vem. Malo je podobno predstavitvam agentov, ki rezervirajo lete. Prav pred kratkim sem slišal, da v San Franciscu zdaj začenjajo govoriti: »Mi lahko pokažete predstavitev, kjer ne rezervirate letov?« Jaz pa: »Hvala bogu, to govorim že 10 let.«
326. u326 1:05:55 >> V redu. Rekel sem hitra vprašanja, potem pa postavil dodatno. Torej, najbolj podcenjena prosojnica v tvojem poročilu?
327. u327 1:06:03 >> Koliko denarja bi zaslužil z naložbo v Nvidio namesto v alternativna polprevodniška podjetja.
328. u328 1:06:11 >> In to na hitro podpri.
329. u329 1:06:13 >> Če bi ves denar, vložen v alternativna polprevodniška podjetja, vložil v Nvidio na datume objav teh krogov financiranja, bi zaslužil štirikrat več.
330. u330 1:06:22 >> Ja, in za konec: na katero napoved iz zadnjih osmih poročil si najbolj ponosen?
331. u331 1:06:29 >> Oh, da Nvidia ne bo zaključila prevzema ARM. To je bila takrat velika stvar. Ljudje so mislili, da se bo res zgodilo, mi pa smo menili, da se zaradi geopolitičnih razlogov in konkurence ne bo. In do neke mere so delničarji ARM zaslužili celo premoženje, ker ta prevzem ni bil zaključen.
332. u332 1:06:49 Po drugi strani bi Nvidia imela izjemno dejavnost procesorjev CPU, ki bi lahko res veliko prispevala k njihovemu oblaku, zlasti ob vzponu agentov, spodbujevalnega učenja in vsega drugega, kar je dejansko omejeno z zmogljivostjo CPU. In mislim, da bi lahko nekoliko pretresli tudi geopolitično dinamiko.
333. u333 1:07:07 >> V redu. Čudovito. To je odlična napoved. Nathan, najlepša hvala, da si se vrnil. In hvala, ker znova pripravljaš poročilo State of AI, ki zahteva izjemno veliko dela, ki ga ti in upajmo zdaj tudi tvoji agenti opravite vsako leto.
334. u334 1:07:25 Na voljo je na stateof.ai, spremlja pa ga tudi tvoj video. Tudi to je dober vir. In [prhanje] ljudje te lahko najdejo na Twitterju.
335. u335 1:07:38 >> Ja. Ja. @nathanbenaich ali @stateofai. Em, in najlepša hvala za priložnost. Vedno mi je v veselje in res je noro, kaj se je zgodilo samo v zadnjem letu, zato poglejmo, uh, Azijo prihodnje leto ali katerega od New Yorkov.
336. u336 1:07:52 >> [smeh]
337. u337 1:07:52 >> Čudovito. Hvala, Nathan.
338. u338 1:07:54 >> Hvala.
339. u339 1:07:55 >> Živjo, spet Matt Turk. Hvala, da ste poslušali to epizodo podkasta Matt Podcast. Če vam je bila všeč, bi vam bili zelo hvaležni, če bi razmislili o naročnini, če še niste naročeni, ali pustili pozitivno oceno oziroma komentar na platformi, na kateri gledate ali poslušate to epizodo. To nam res pomaga razvijati podkast in privabljati odlične goste.
340. u340 1:08:13 Hvala in se vidimo v naslednji epizodi.