Scott Aaronson o tem, da je umetna inteligenca prehitela ljudi v matematiki, in kaj ostane ljudem

Vir, odlomek za odlomkom

Prepis, preveden z umetno inteligenco iz angleščine.

1. u1 0:00 UI je rešila domnevo o edinstvenih igrah
2. u2 0:00 Scott: To prihaja po vse nas. Ko se pogovarjam s prijatelji fiziki, se zdi, da njih še ni doletelo, vendar jih veliko zaskrbljeno opazuje. Osupljivo je. Curt: To je legendarni Scott Aaronson, računalniški znanstvenik, ki vodi Center za kvantne informacije na UT Austin. Sprašujem ga, kaj meni o nedavnih izjavah Združenja za človeško matematiko.

   

3. u3 0:18 Scott: Nismo mi tisti, ki odločamo, kdo sme reševati naše probleme. Ves smisel zastavljanja odprtega problema je, da ga potem lahko rešuje prav vsakdo na svetu. Lahko je neznan uradnik v Indiji, kot je bil Ramanujan, ko je ustvaril svoje prvo veliko delo. Lahko je 17-letni dijak. Curt: Na tem kanalu jaz, Curt Jaimungal,
4. u4 0:39 z raziskovalci poglobljeno in tehnično natančno razpravljam o njihovih teorijah resničnosti in hočem vedeti, kaj za vraga se dogaja z matematiko in fiziko. Scott: Ta naraščajoča poplava je najprej zajela programsko inženirstvo, potem pa je to poletje zajela še nas. Curt: Danes vam z navdušenjem predstavljam Scotta Aaronsona, s katerim bova govorila o tem, kakšna je fizika po prihodu UI in zakaj mnogi zadnjih nekaj tednov označujejo za najpomembnejši trenutek v zgodovini matematike.

   

5. u5 1:02 Scott: To trajno spreminja naravo našega dela. Nekaj nam je bilo odvzeto. Curt: Recimo, da ima Anthropic dokaz, da je P enako NP. Meniš, da bi ga morali objaviti? Nekaj ti bom prebral s tvojega bloga. »Sinoči je moj devetletni sin takole zbadal mojo ženo, teoretičarko računske zahtevnosti Dano Moshkovitz: ‘Mami, slišal sem, da so te povozili. Slišal
6. u6 1:26 sem, da je robot rešil matematični problem, s katerim se ukvarjaš že vso kariero. Uf!’« Scott: Ja, zgodilo se je skoraj natanko tako, kot sem opisal. Mislim, veš, moj sin pač tako govori. Toda to, kar se dogaja na področju UI, je tako veliko, da se po mojem, veš, celo otroci povsem zavedajo, veš,

   

7. u7 1:49 da se dogaja nekaj ogromnega. Mislim, do najinih otrok to morda pride nekoliko prej, ker sta oba starša teoretična računalniška znanstvenika in ker se je celotna narava najinega dela, veš, zelo opazno spremenila. Ampak Dana, samo da pojasnim, ves čas, kar jo poznam, veš,
8. u8 2:13 in hoditi sva začela leta 2009, ves ta čas poskuša dokazati nekaj, čemur pravimo domneva o edinstvenih igrah Subhasha Khota. Prav, veš, pozneje lahko pojasniva, kaj to je, če želiš. Toda to je bil velik odprt problem v teoretičnem računalništvu. Pred nekaj tedni pa je OpenAI v nekakšni množični objavi, veš, objavil
9. u9 2:44 skoraj 400 rešitev pomembnih odprtih problemov iz matematike in teoretičnega računalništva, ki jih je odkrila UI, in eden kronskih draguljev te objave je bil dokaz domneve o edinstvenih igrah. Tako. Od takrat Dana skoraj ves svoj čas porablja za posku—za poskuse, da bi razumela
10. u10 3:11 ta dokaz, veš, v upanju, da bi ga lahko bolje razložila. Kajti zdaj imamo vse te probleme, veš—tudi probleme, s katerimi sem se ukvarjal jaz in moji študenti—ki so očitno rešeni, vendar to še ne pomeni, da kdo že razume rešitve, kajne? Mislim,
11. u11 3:34 zdaj se vsi nekako ženejo, da bi dejansko razumeli te dokaze UI, kajne? Veliko jih je zelo slabo napisanih. Če bi jih poslali v revijo, bi jih takoj vrnili. Češ, ta zapis je videti kot zmazek, kajne? Dokler pa so tako slabo napisani, je to v nekem smislu za nas odlično,
12. u12 3:59 saj pomeni, da imamo še vedno veliko dela. Pomeni, da moramo mi to predelati, izluščiti ključne nove ideje in jih razložiti, veš, napisati boljše predstavitve. In veliko mojih kolegov se prav zdaj intenzivno ukvarja z vsem tem.
13. u13 4:21 Curt: Mislim, da obstaja nekdo, ki mu pravijo hierofant in razlaga svete skrivnosti. Misliš, da bodo v prihodnosti—recimo čez dve, tri leta—računalniški znanstveniki in matematiki počeli prav to? Scott: Ja. Mislim, glej, lahko pogledaš številna akademska področja, kajne? Kaj počnejo literarni znanstveniki? Razlagajo. Veš, oni ... Ko te zaposlijo na,
14. u14 4:44 veš, oddelku za angleščino, nihče ne pričakuje, da boš napisal novo Iliado, kajne? Komentiral boš ta velika dela, ki smo jih podedovali. Lahko pa pogledamo še širše, kajne? Astronom gleda skozi teleskop,
15. u15 5:02 veš, in piše o tem, kar vidi, ter zakaj je zanimivo, kajne? Biolog gre morda v gozd in opazuje medvede, kajne? Nihče ne vpraša: »Zakaj pa medved ni soavtor tvojega članka?« Kajne? Greš ven, nekaj opazuješ in o tem pišeš.
16. u16 5:25 Mi pa smo si predstavljali, da je naša vloga večja. Šlo je za neposredno iskanje rešitev teh natančno opredeljenih problemov, ki jih ni moglo najti nič drugega kot ta biološka inteligenca, ki smo jo izurili za ta namen. In mislim, da ta del našega dela,
17. u17 5:47 veš—stroji so zdaj, od tega poletja, pri njem boljši. Zato mislim, da to trajno spreminja naravo tega, kar počnemo. Curt: Kaj pa to razumevanje, to »razumevanje« v narekovajih? Nekateri pravijo,

    

18. u18 6:01 Ali gre pri matematiki za razumevanje?
19. u19 6:05 »No, prava naloga matematika nikoli ni bila dokazovanje oziroma dokazovanje izrekov, temveč razumevanje.« Scott: Mislim, da je v tem veliko resnice, kajne? V nekem smislu drži, da običajno odprtih problemov ne zastavljamo—mislim, pogosto nas res zanima odgovor na konkretno vprašanje,
20. u20 6:30 še bolj pa nas zanima novo razumevanje, ki ga pridobimo na poti do odgovora, in nato, do katerih drugih vprašanj bo to novo razumevanje pripeljalo oziroma katere druge ideje nam bo porodilo. In pogosto, ko ljudje vprašajo: »Kakšna je praktična uporabnost tega, kar
21. u21 6:50 počnemo?« Kajne? Kakšne bi bile na primer praktične posledice dokaza, da P ni—da P ni enako NP, ali rešitev drugih naših velikih problemov? Iskren odgovor je, da praktične posledice ne bi izhajale iz samega rezultata. Pri P ni enako NP bi bila to zgolj potrditev nečesa, v kar smo že

    

22. u22 7:13 tako ali tako verjeli. Izhajale bi iz vseh novih idej, ki bi jih potrebovali, da bi prišli do tja. Zato imajo nekateri povsem razumen strah, da nam bo UI dala nekakšen orakelj za doseganje cilja, za iskanje rešitev problemov, ne da bi nas prisilila razviti vse nove uvide na poti, in bo s tem
23. u23 7:36 preskočila ta proces, kajne? Zato mislim ... Moje stališče je, da tega ne moremo odpraviti z željami, kajne? Ne glede na to, ali bi bilo to dobro ali ne, tega ne moremo kar odpraviti. Ne moreš—tudi če bi podjetjem za UI rekel, naj nehajo to početi, naj nehajo reševati naše,
24. u24 8:01 veš—naj se nehajo igrati z našimi igračami ali karkoli, reševati naše probleme. Mislim, modeli, tako zmogljivi kot tisti, ki jih je uporabil OpenAI, bodo prav kmalu na voljo vsakomur, kajne? To bo lahko počel vsakdo. Edini način, da bi to ustavili, bi bil ustaviti samo UI, prav? Zato se bomo morali prilagoditi temu novemu svetu,
25. u25 8:29 zame pa to pomeni razvijati človeško matematično kulturo, ki bo v središče postavila naše razumevanje matematike tudi v svetu, kjer nas UI nekako teleportira do odgovorov na vprašanja, kolikor jih lahko natančno zastavimo.
26. u26 8:51 Curt: Zakaj pa je bil dokaz domneve o edinstvenih igrah slabo napisan? Mislim, prav, bil je narejen na hitro, kar zadeva—morda OpenAI ni bilo mar, ali ti ga razloži. Je to načelna težava? Zakaj jih ne moremo preprosto naučiti pojasnjevati? Scott: To je odlično vprašanje. Tudi sam se sprašujem o tem. Mogoče je,
27. u27 9:14 da bodo čez leto dni modeli tudi pri pojasnjevanju svojih odkritij boljši od nas, kajne? Takrat pa bomo res—imeli bomo še manj dela. Še vedno se bomo lahko odločali, katero vprašanje bi bilo zanimivo zastaviti modelu, kajne? Ali,
28. u28 9:34 veš, še vedno se bomo lahko odločali, kam usmeriti ta neverjetni teleskop, če pa bo boljši tudi pri pojasnjevanju, nas bodo potrebovali še manj. Morda bi lahko OpenAI dosegel boljše rezultate, če bi vložil več truda v to, da bi modeli uredili predstavitve. Ne vem. Mislim,
29. u29 10:00 da modeli preprosto nimajo zelo dobre predstave o tem, kdo je njihov bralec, kajne? Kaj mu je že samoumevno in kaj mu ni. Številni strokovnjaki, ki pregledujejo te rokopise, so pripomnili, da cele strani namenjajo povsem standardnim,
30. u30 10:25 povsem ... veš, za strokovnjake trivialnim stvarem, nato pa skoraj brez pojasnila preskočijo neko absolutno ključno točko. V tem so pravzaprav podobni mnogim zelo bistrim začetnikom na podiplomskem študiju, ki počnejo natanko isto, kajne? Kajne? Preprosto,
31. u31 10:44 veš—izjemno dobro rešujejo probleme, nimajo pa dobre miselne predstave o tem, kdo jih posluša, kaj mora ta poslušalec vedeti in kaj lahko—oziroma kaj lahko domnevajo, da že ve. Dobra stran pa je, da čeprav je te rokopise precej težko brati,
32. u32 11:06 imamo zdaj UI, ki nam pri branju pomaga, kajne? Moja žena Dana si zadnjih nekaj tednov z Astro pomaga razlagati ta dokaz domneve o edinstvenih igrah. In zelo dobra je pri pojasnjevanju katerekoli konkretne točke, pri kateri potrebuješ pojasnilo. O tej točki ti bo podrobno odgovorila,
33. u33 11:31 kajne? Morda je to preprosto naš novi način branja. Seveda pa bi radi vse to predelali in oblikovali v nekakšne linearno napisane rokopise ali predavanja, ki bodo ljudem razumljivejši. In prepričan sem, da vsaj pri pomembnejših rezultatih, ki jih je objavil OpenAI,
34. u34 11:54 to prihaja zelo kmalu. Toda za zdaj sta minila šele dva tedna. In delamo le s človeško hitrostjo, ne z digitalno. Curt: Ja, za zdaj. Kaj pa to razumevanje? Je mogoče, da ima UI neko drugo obliko razumevanja, ki je za nas pravzaprav zanimiva, le da nam je ni razložila? Nekaj podobnega sem že govoril drugemu gostu,

    

35. u35 12:17 da če se dve UI pogovarjata med seboj—nekoč je ena rekla: »Hej, bi preklopila na najin način sporazumevanja?« Druga je rekla: »Ja,« in nato sta prešli na nekaj podobnega zvoku klicnega modema. Nam je nerazumljivo, a očitno—... je bilo učinkovitejše. Ali je res ali pa je bil zgolj zabaven trik, ni pomembno. Bistvo je, da si lahko predstavljamo, da je učinkoviteje
36. u36 12:36 v nekem tujem jeziku, potem pa bi nam lahko—ona kot posrednik pojasnila svoje razumevanje. Scott: Ja. Zanimivo je bilo opazovati, kako se UI pogovarjajo med seboj, recimo na Moltbooku, kajne? Včasih preklapljajo med angleščino, kitajščino in drugimi jeziki. Vse namreč vedo, da vse znajo vse jezike,

    

37. u37 13:01 kajne? Lahko pa govorijo v nenavadnih narečjih, ki jih na našo srečo—stvareh, ki jih po mojem z nekaj truda še lahko razumemo. Ampak ... Glede tvojega širšega vprašanja pa bi te modele opisal kot—ja, kot nekaj, kar razume matematiko. Mislim, da ne dobiš rešitev vseh
38. u38 13:26 teh velikih odprtih problemov brez neke notranje predstave o dogajanju, ki bi ji, če bi obstajala v človeku, rekli razumevanje, kajne? Zavest, zmožnost občutenja, to sta drugi vprašanji. Mislim, da ju moramo ločiti od razumevanja, prav? Ne zdi pa se mi koristno reči: »Oh,
39. u39 13:52 saj ničesar zares ne razume. Samo vede se, kot da razume.« Če izpolnjuje vse mogoče operativne kriterije za razumevanje nečesa, potem je to zame razumevanje. In mislim, da ... Na tej točki pri teh matematičnih vprašanjih izpolnjuje skoraj vse operativne kriterije
40. u40 14:16 razumevanja. Res ni ravno odlična pri pojasnjevanju svojih odkritij, vendar obstajajo tudi genialni ljudje, ki svoja odkritja precej slabo pojasnjujejo.
41. u41 14:26 Objavljanje rezultatov: OpenAI proti Anthropicu
42. u42 14:26 Curt: Prav. Slišal sem druge matematike reči, da nočejo, da OpenAI to raziskuje, da je takšna nenadna objava nekoliko nevljudna. Kaj meniš o tem? Terence: Torej, predvsem je veliko raziskovalnih projektov mlajših raziskovalcev zaradi tega čez noč propadlo in zdaj mrzlično iščejo izhod. Najmanj, kar lahko rečemo, je, da je bilo to skrajno nevljudno in neobzirno.

    

43. u43 14:47 Scott: Ja. O tem obstajajo različni pogledi. OpenAI je pred nekaj meseci, kot je znano, objavil rešitev Navier-Stokesovega problema. Zdaj se zdi, kot da je od tega minila cela večnost. Mislim, da so pričakovali pohvale, namesto tega pa so doživeli velik odpor. Deloma je bilo to
44. u44 15:14 zaradi podrobnosti dogajanja. Bila sta človeka, Tristan Buckmaster in Levent Alpöge, ki sta iskala, morda se že bližala rešitvi Navier-Stokesovega problema, deloma s pomočjo UI, deloma pa z lastnim razmišljanjem. Potem je OpenAI izvedel, kaj počneta, in so
45. u45 15:39 se odločili, da ju prehitijo, kajne? Pri tem so uporabili svoje neprimerno večje računske vire. To je pri nekaterih pustilo slab priokus. In potem, ko je OpenAI rešil te ... Očitno so tem modelom dali približno 4.000 odprtih problemov, model pa jih je rešil, recimo, 10 %,
46. u46 16:08 pri čemer so vsakemu problemu namenili le tri ure računskega časa. Nato niso vedeli, kaj storiti s temi rešitvami. Zaradi odziva na Navier-Stokesa so se obotavljali vse preprosto objaviti. Zato so imenovali odbor, nekakšen zunanji odbor,
47. u47 16:30 v katerem so bili Timothy Gowers, Edward Witten in nekateri drugi najslavnejši matematiki na svetu, da bi jim svetoval, kaj storiti. Ta odbor je nekaj tednov razpravljal in na koncu v bistvu rekel: »Ja, objavite to. Tega, kar počnete, ne bomo ne podprli ne obsodili,« zdaj pa je,
48. u48 16:53 veš, naloga matematične skupnosti, da to pregleda in poskuša razumeti. Zanimivo pa je, da je Anthropic ubral zelo drugačen pristop. Tudi oni s svojimi modeli rešujejo matematične probleme. Rekel bi, da ne tako zagnano
49. u49 17:14 kot morda OpenAI, vendar je Anthropic istega dne, ko je OpenAI objavil vse te članke, objavil tudi članek z boljšimi algoritmi za znana problema 3SUM in najkrajših poti med vsemi pari vozlišč, pri katerih boljših algoritmov niso našli že več kot

    

50. u50 17:39 pol stoletja. Anthropic pa odkritij svojega modela ni neposredno objavil, temveč je sklenil dogovor s človeškima strokovnjakoma, v tem primeru mojima kolegoma Virgi Vassilevsko in Joshem Almanom. Ta sta rezultat povsem razumela in nato napisala ljudem prijaznejšo predstavitev ter jo podpisala s svojima imenoma. Kajne?
51. u51 18:09 Zdaj sta torej avtorja. Lahko odgovarjata na vprašanja. Lahko predavata o tem. Prevzemata odgovornost. Prednost Anthropicovega pristopa je torej najprej ta, da imaš precej neposrednejšo podporo raziskovalne skupnosti. Človeškim strokovnjakom daješ nekakšen delež pri tem, kar se je zgodilo, in,
52. u52 18:35 kar je za našo skupnost zelo pomembno, obstajajo kontaktne osebe. Ljudje, ki so to razumeli, ki prevzemajo odgovornost za razumevanje, ki lahko to razložijo drugim in odgovarjajo na vprašanja. Slabost Anthropicovega pristopa pa je, da je bil Anthropic tisti, ki je izbiral, kateri ljudje bodo odposlanci njegovega modela UI. In,
53. u53 19:03 mislim, da so izbrali odlično. Virgi in Josh sta izvrstna, vendar bi to verjetno z veseljem počeli tudi mnogi drugi, kajne? Curt: Današnji sponzor je orodje, s katerim sem nekaj izdelal za vas. To je Base44, platforma UI, na kateri s svojimi naravnimi besedami opišete programsko opremo, ki jo potrebujete,
54. u54 19:23 z besedami, ki jih uporabljate v govoru, in dobite delujočo aplikacijo. V preprosti angleščini sem opisal aplikacijo za TOE, za Theories of Everything, ta kanal, in Base44 jo je izdelal. Vsebuje kviz, ki priporoča epizode, in zemljevid teorij vseh gostov z možnostjo iskanja. Bilo je res izjemno preprosto. Kviz priporoča le epizode TOE, zato ima fantastičen okus.
55. u55 19:45 Mnogi vodite podjetje ali raziskovalno skupino, ljudje začenjajo uporabljati, kar ste ustvarili, in želite, da je javni sistem v ozadju tega, s čimer ti ljudje delajo, dober, trden in zanesljiv. Pri Base44 opišete, kdo ga uporablja in kaj naj se zgodi zatem. Za podatkovno zbirko, prijavo, zaledni del in gostovanje je že poskrbljeno. Spletna stran in delovni proces v ozadju sta

    

56. u56 20:05 v eni aplikaciji, ki jo lahko spreminjate in nadgrajujete. Registrirajte se na base44.com/TOE in prvo leto prejmite 30 % popusta na paket Builder. To je B-A-S-E-štiri-štiri.com poševnica T-O-E. Kako rešiš ta problem? Mislim, med vsemi problemi. Kako pa rešiš prav tega?
57. u57 20:26 Scott: Zdi se mi, da bo to vprašanje tako ali tako dokaj kmalu postalo precej brezpredmetno. Razlog je, da bomo vsi imeli dostop do teh modelov. Torej ne bo več tako, da podjetja za UI to rešijo, nato pa se morajo odločiti, kaj storiti s tem. Vsakdo bo lahko poslal poizvedbo
58. u58 20:50 in tako dobil rešitve velikih odprtih problemov, kajne? Naš problem je zdaj, kako ob tem ohraniti svojo skupnost. In mislim, da je večje vprašanje, kako ohraniti človeško razumevanje matematike kot nekaj, za kar
59. u59 21:16 si prizadevamo in kar prenašamo iz generacije v generacijo, kajne? Toda veliko

    

60. u60 21:21 Komu pripadajo zasluge za dokaze UI?
61. u61 21:23 ljudi se je osredotočilo na bolj neposredno vprašanje: komu pripadajo zasluge za kaj? In mislim, da se oblikuje standard, da najprej, tudi če pustimo ob strani te množične objave OpenAI,
62. u62 21:48 če pogledaš skoraj katerikoli raziskovalni članek iz zadnjih dveh ali treh mesecev, vsebuje nekaj, čemur pravimo izjava o uporabi UI. To je kratek odstavek, običajno na koncu, ob zahvalah. Sam mislim, da bi morale biti te izjave na začetku članka, saj je to pogosto prvo, kar želim izvedeti, vendar so na

    

63. u63 22:14 koncu. Pojasnjujejo, kateri deli članka so bili narejeni s pomočjo UI in katerih modelov ter kateri deli so delo ljudi. Bralcu pogosto zagotavljajo, da človeški avtorji prevzemajo odgovornost za rezultate. Torej smo v bistvu v zadnjih nekaj mesecih
64. u64 22:41 prešli v svet, kjer si pri pisanju raziskovalnih člankov vsi pomagamo z UI, in sicer v različnem obsegu, od manjših stvari, kot so jezikovni pregled, preverjanje in urejanje, do odkrivanja glavnih idej ter vsega vmes. In mislim, da standard,
65. u65 23:13 ki se oblikuje, pravi, da če UI uporabiš celo za odkrivanje glavnih idej dela, nato pa jih povsem razumeš, o njih pišeš s svojimi besedami, prevzameš odgovornost zanje ter lahko odgovarjaš na vprašanja in o njih
66. u66 23:36 predavaš in podobno, potem je na članku tvoje ime in to je tvoje delo. Tako kot biologov članek o vedenju medvedov ni skupno delo z medvedom. Šel je ven, opazoval ta pojav in napisal, kaj je videl. Tu je enako.
67. u67 24:00 Težje vprašanje pa je, kaj se zgodi, ko ti pogoji niso izpolnjeni. Ko je OpenAI pred nekaj tedni objavil teh več sto rešitev, na njihovem GitHubu vidiš več sto člankov, pri vsakem pa je kot avtor naveden le OpenAI. To pa zato,

    

68. u68 24:25 ker v večini primerov noben človek tega rezultata sploh ni razumel. V nekaterih primerih je obstajalo tako imenovano potrdilo Lean, ki nam daje nekakšno formalno jamstvo, da je rezultat očitno veljaven. Toda večine ni predelal še noben človek. Zato jih nekako
69. u69 24:48 preprosto objavljajo, češ, zdaj je na nas, da jih razumemo. Tako se strokovnjaki z vseh področij, ki jih ti rezultati zadevajo, zadnja dva tedna trudijo razumeti rezultate, napisati svoje predstavitve in pripraviti predavanja o njih. In seveda
70. u70 25:11 bodo te predstavitve podpisane z imeni ljudi. Ti ljudje bodo dobili zasluge za, recimo, razliko med tem, kar je naredil OpenAI, in tem, kar so naredili sami. Ta razlika je lahko precej velika, kar zadeva razumljivost, poenostavljanje in podobno, prav?
71. u71 25:33 Mislim pa, da v prihodnje ne bo posebej nagrajeno, če nekdo v model vnese kupe in kupe odprtih problemov, nato pa vzame rešitve, jih objavi na spletu in nanje prilepi svoje ime v upanju na zasluge, medtem ko mora delo razumevanja opraviti nekdo drug,
72. u72 25:59 kajne? Če to lahko naredi en človek, jih lahko enako naredi 1.000. To je kot vlečenje ročice igralnega avtomata. Moj prijatelj Boaz Barak, ki je zdaj pravzaprav vodilni raziskovalec varnosti pri OpenAI, se je pošalil, da bi morali v takih primerih—če imam—če samo
73. u73 26:26 vnesem problem v GPT in ga ta reši v prvem poskusu, jaz pa to samo objavim, bi moral biti avtor članka GPT-6 oziroma katerikoli model je že bil. V zahvalah pa bi moralo pisati: »Scottu Aaronsonu sem zelo hvaležen, da mi je predlagal ta problem.« Curt: Ja. Ko sem govoril z Jacobom Tsimermanom

    

74. u74 26:46 Žalovanje za matematikom
75. u75 26:48 in tudi Danom Freedom—mimogrede, Dan Freed te pozdravlja. Scott: Prav. Ja. Lepo. Pozdravljam njega in Jacoba. Curt: Odlično. Oba sta rekla, da ne žalujeta za matematiko, temveč za matematiki, za določenim načinom ukvarjanja z matematiko. Jacob: Toda matematiki, kot sem jaz, smo vajeni določenega načina dela in velik del moje delovne identitete je povezan z enoletnimi, včasih desetletnimi
76. u76 27:12 projekti, delom na mejah znanega, počasnim razvozlavanjem stvari in trenutki »aha«. Mislim, da bo to izginilo. In za tem po mojem zagotovo žalujem. Curt: Menita, da se bo matematika nadaljevala—morda zaradi tega celo zacvetela. Toda potem je, kot si omenil, skoraj tako kot pri antropologu. Prideš, opazuješ artefakte in nato predavaš o

    

77. u77 27:33 artefaktih, namesto da bi jih ustvarjal, kot je bilo vedno doslej. Scott: Ja. Jaz—glej, mislim, da vsi preživljamo nekakšno žalovanje. Če samo našteješ čustva, ki jih lahko občutimo: navdušenje ob tem,
78. u78 27:56 da so odgovorjena vsa ta vprašanja, o katerih odgovorih smo sanjali desetletja, in radovednost, pa tudi žalost in žalovanje. Mislim, da je prisotno vse to, seveda pri različnih ljudeh v različnih merah. Deloma pa je odvisno tudi od tega, na kateri stopnji kariere je kdo. Kajne?
79. u79 28:17 Če vzameš človeka srednjih let, kot sem jaz, kajne? Jaz sem ... Že pred UI sem prehajal bolj v vlogo vodje, pri kateri tehnična vprašanja predajam študentom ali podoktorskim raziskovalcem, sam pa bolj razmišljam o tem, katero nadaljnje vprašanje bi bilo zanimivo zastaviti,
80. u80 28:42 kajne? Ali kaj je res novo? Kaj je pri tem dokazu dejansko pomembno in bi morali poudariti? Takšna vprašanja. Dejansko dokazovanje leme ali izreka pa pogosto opravi nekdo drug. Lahko bi torej rekel, da so, medtem ko so sposobnosti UI šle takole,
81. u81 29:05 moje lastne sposobnosti šle takole. In na neki točki so se očitno prekrižale. Zame bi bilo torej naravno—recimo, če si predstavljamo, da se sposobnosti UI ne bi več izboljševale, kar je seveda nesmiselno. Seveda se bodo še izboljševale. Toda v svetu, v katerem
82. u82 29:31 smo trenutno, recimo, bi zlahka preostanek kariere preživel kot razlagalec, predstavljavec ali postavljavec domnev in podobno, ob človeški pomoči ali pomoči UI. Veliko bolj pa me skrbijo mlajši. Če pogledaš,
83. u83 29:58 na primer doktorske študente, so se tradicionalno na področju kalili z reševanjem nekega natančno opredeljenega odprtega problema. Tako so si ustvarili ime. Tako so pokazali, česa so sposobni, in pozneje morda prešli na bolj odprte naloge. Toda,

    

84. u84 30:22 mislim, da imajo občutek, da jim je zdaj to odvzeto. In mislim, da smo starejši odgovorni, da to vzamemo resno ter najdemo pot naprej, ki bo ohranila našo matematično kulturo in vrednote matematike, ki jih želimo ohraniti.
85. u85 30:47 Curt: Rekel si, da imajo občutek, da jim je bilo to odvzeto, vendar se zdi, da jim je res bilo odvzeto. Scott: To—ja, mislim— Curt: Kaj drugega pa sploh lahko počnejo? Scott: Trenutno imamo veliko mladih, ki še vedno objavljajo članke, tudi v zadnjih mesecih, pogosto ob intenzivni uporabi orodij UI, obenem pa prispevajo,

    

86. u86 31:12 kar lahko prispevajo kot ljudje, in modele usmerjajo proti rešitvi. Nekateri se s tem zelo dejavno ukvarjajo. Toda mislim, da sveta, v katerem uporaba UI nikomur ne daje prednosti, ni več. Prav? In obstajal bo le zelo,
87. u87 31:38 zelo majhen trg za, recimo, certificirano ekološke izreke. Mislim, da nam je bilo nekaj odvzeto. In vsi moramo razmišljati o izzivu, kako se prilagoditi tej novi resničnosti, še posebej pa,
88. u88 32:04 kako narediti to področje privlačno za študente, da bodo navdušeni nad vstopom vanj. Kako razvijamo njihove sposobnosti? Še vedno želimo razvijati njihove sposobnosti reševanja problemov, saj kako bodo sicer vedeli, kdaj se UI moti? Kako bodo lahko presojali ali sploh
89. u89 32:28 opravljali zahtevnejše naloge, če nimajo izkušenj z osnovnejšimi, tudi tistimi, ki jih UI zdaj opravlja bolje? Z vsem tem se bomo morali spoprijeti. Ni pa mi všeč tiščanje glave v pesek ali odnos v smislu: »Ko bi le ta zlobna podjetja za UI prisilili, da nehajo
90. u90 32:52 reševati naše probleme, bi se lahko vrnili v prejšnje stanje.« Ne, lahko greš povsem po poti ludizma in rečeš: ustavimo vso to tehnologijo, prepovejmo jo. Nekateri to zagovarjajo in prav, če želi kdo to odkrito zagovarjati, naj. Toda če je na voljo, tega ne bodo počela le podjetja za UI,
91. u91 33:15 temveč bo vsakdo, ki uporablja te modele, lahko reševal zelo težke raziskovalne probleme, v mnogih primerih take, ki presegajo človeške zmožnosti. Kako torej vsem preprečiš, da bi to počeli? In tudi če bi lahko, ali si tega želimo? Moramo tehtati: ja, želimo
92. u92 33:39 cvetočo matematično kulturo. Želimo možnosti, da mladi vstopijo vanjo in se izkažejo. Želimo uživati v teh izzivih. Toda izdelek, ki ga ponujamo širšemu svetu, sta razumevanje in uvid. In če lahko UI pospeši to razumevanje in uvid,
93. u93 34:03 kdo smo potem mi, da ljudem govorimo, naj je ne uporabljajo? Mislim, da moramo to uravnotežiti. Curt: Kaj pa—Christopher Hitchens je imel načelo, da lahko tisto, kar je zatrjevano brez dokazov, zavrnemo brez dokazov. Zdi se mi, da zdaj živimo v času »kar je mogoče ponuditi brez truda, je mogoče zavrniti brez truda«, ko
94. u94 34:23 podobno kot pri igralnem avtomatu Steve iz Michigana reče: »Reši teorijo vsega,« in jo slučajno dobi, čisto po naključju, pa je niti ne razume— Scott: No, to—ja. Težko je, ker sem zaradi svojega bloganja že desetletja vajen, da približno vsak dan dobim elektronska sporočila, ki rešujejo P proti NP, Goldbachovo domnevo, kvantno gravitacijo,
95. u95 34:51 z avtorjevim novim, nerazumljivim okvirom. Vajen sem vse to povsem odmisliti. Zdaj pa, če mi povsem neznan ljubiteljski matematik pošlje rešitev Riemannove hipoteze, nisem več tako prepričan, da je napačna.
96. u96 35:12 Morda je samo uporabil model UI in je ta izpljunil pravilen dokaz. Mislim, da ima določeno vrednost že ugotavljanje, kako modele pozvati, da rešujejo težke probleme in podobno, toda po mojem je večja vrednost v dejanskem razumevanju in predelavi tega, kar dobimo.
97. u97 35:38 Curt: Rad bi nekaj citiral. »Trenutno bi rekel, da je bližje običajnemu študentu matematike v prvem letniku,

    

98. u98 35:39 Problem zanikanja sposobnosti UI
99. u99 35:44 ki po naključju pozna vse obstoječe objavljene tehnike—... in jih lahko poljubno uporablja na novih področjih ter to v nekaj tednih počne za tisoče problemov z neomejeno motivacijo in vztrajnostjo, kar je prekleto neverjetno. Če bi bila takšna entiteta človek, tudi 100-krat počasnejši, bi njegovo ali njeno ime omenjali v isti sapi kot Eulerja in Erdősa.«
100. u100 36:04 Scott: Ja, mislim, da sem na blogu odgovarjal še enemu človeku, ki je poskušal nekako— Curt: Zmanjševati pomen? Scott: ... zmanjševati pomen oziroma zavzemati držo, ki jo imam za zanikanje, pri kateri vzameš karkoli, kar je UI uspelo narediti, tudi če si sam prej rekel, da tega nikoli ne bo zmogla, in si to navajal kot primer,
101. u101 36:31 ki dokazuje, kako šibka je UI, ker tega ne zmore. Potem pa to naredi. In takoj, ko ji uspe, začneš izumljati razloge, zakaj to v resnici ne šteje. Ni bila res ustvarjalna. Ni ... Samo uporabljala je znane tehnike. Ta problem—no, očitno tako ali tako ni bil tako težak, kajne?
102. u102 36:54 In tako naprej in naprej. V zadnjih nekaj letih smo se naučili, da je človeška sposobnost izmišljanja takšnih racionalizacij neskončna. Osupljivo je. Zato sem morda nekoliko nejevoljno odgovarjal še enemu takemu človeku in rekel: »Glej, tudi če bi bil to

     

103. u103 37:18 samo začetnik na podiplomskem študiju, ki pa bi poznal vso matematično literaturo kar tako, ne da bi moral karkoli poiskati, in bi lahko delal brez premora ter vzporedno obravnaval tisoče problemov in pri vsakem preizkusil tisoče protiprimerov ter tisoče strategij dokazovanja,
104. u104 37:40 in ga ne bi odvrnilo, da vsi strokovnjaki mislijo, da domneva drži. Če mu naložiš iskanje protiprimera, bo to opravljal povsem vestno, ne da bi kdaj potreboval spanec ali hrano.« To je nekaj neverjetnega, kajne? Če bi videli karkoli
105. u105 38:05 vsaj približno podobnega pri človeku, ne bi bilo nobenega prepira o tem, kako neverjetno je. Curt: Ja, slišim veliko teh razlogov. Pogosto, ko govoriš z nekom in nenehno ponuja razloge proti nečemu, recimo—ne vem, predlagaš vadbo, pa reče: »Ne, ne morem zaradi tega, ne morem zaradi onega.« Na neki točki ugotoviš, da razlogi,
106. u106 38:24 ki jih navaja, niso pravi razlog, in rečeš: »Samo izgovore iščeš.« Zato mislim, da je pogosto v ozadju nek strah, recimo strah, da postaneš odveč, ali kaj drugega, kar je pravi notranji razlog. Scott: Ja, lahko je to. Lahko je psihološki obrambni mehanizem. Seveda bodo to zanikali. Lahko pa preprosto
107. u107 38:49 rečejo: »Prav, ja, vse to počne, vendar se ne zaveda, da to počne.« Toda zame je to povsem druga razprava. To je metafizična razprava, ne razprava o tem, kaj bodo te stvari počele v opazljivem svetu. Če želimo govoriti o tem, dajmo, vendar to jasno povejmo.
108. u108 39:09 Curt: Theories of Everything vam omogoča Mod. Mod predpisuje napitek z modafinilom enkrat ali dvakrat na dan, ki vam lahko ves dan pomaga ohranjati energijo, zbranost in budnost. Mehanizem je tak: energijske pijače vsebujejo kofein, ki začasno blokira adenozin, snov, zaradi katere čutite utrujenost in ki se kopiči. Ko kofein popusti, vas utrujenost preprosto povozi.
109. u109 39:32 Modafinil pa deluje drugače. V možganih aktivira več poti, dopamin, noradrenalin, histamin in oreksin, ter tako zagotavlja enakomerno energijo in budnost do 10 do 12 ur. Modafinil so izumili v sedemdesetih letih prejšnjega stoletja in odtlej ga uporabljajo najuspešnejši posamezniki na planetu in zunaj njega. Vojaki, piloti in celo astronavti na vesoljski postaji

     

110. u110 39:56 uporabljajo modafinil v zelo tveganih okoliščinah, ko sta popolna zbranost in budnost ključni. Zdaj je na mod.com na voljo pacientom, ki izpolnjujejo pogoje. Obiščite mod.com, to je M-O-D pika com, za brezplačen posvet in s promocijsko kodo TOE prejmite 10 % popusta pri prvem naročilu ter brezplačno dostavo. Promocijska koda je TOE na mod.com. Oglejte si njihovo
111. u111 40:19 spletno stran za pomembne varnostne informacije. Modu se zahvaljujemo za sponzorstvo podkasta. Ja, tudi sam imam pri tem osebni interes, saj mi zelo koristi, če gre matematikom in fizikom dobro. Torej ne le matematiki, temveč ljudem, ker intervjuvam ljudi in želim, da dobro uspevajo. Tako imam več tem za pogovor. Seveda pa ne morem biti samo pristranski in zagovarjati tega, kar si osebno želim,
112. u112 40:43 zato predstavljam ta naravna nasprotna stališča, v upanju, da bodo moje želje utemeljene na tem, kar je resnično in spodbudno, ne pa zgolj sebično. Scott: Mislim, da si v boljšem položaju kot mnogi med nami. Imel boš sogovornike za podkaste, tudi če UI preseže vse, kar počnemo,

     

113. u113 41:10 kajne? In morda ljudje raje poslušajo druge ljudi kot modele UI, vsaj pri podkastih, kot je tvoj. Morda pa ne. Morda lahko začneš intervjuvati UI. Curt: O, ja. Prav. Ne vem. Morda prav zdaj intervjuvam UI. Vedno sem občudoval, koliko veš. Res, za božjo voljo. Torej o človeški matematiki,

     

114. u114 41:31 Združenje za človeško matematiko
115. u115 41:33 obstaja neko združenje za človeško matematiko ali nekaj takega? Scott: O, ja. Obstaja Združenje za človeško matematiko. Objavili so izjavo, ki je v bistvu obsojala ravnanje OpenAI. In precej široko so se jim posmehovali zaradi enega—no, enega konkretnega stavka v izjavi,
116. u116 41:56 ki je bil približno tak: »Matematiki niso prosili, naj se to delo opravi.« Curt: Ja, mislim, da je bil precej na začetku izjave. Scott: Ja, in zdelo se mi je, da razumem, od kod ta odpor. Kdo smo mi, da odločamo, kdo sme reševati naše probleme? Ves smisel zastavljanja odprtega problema je, da ga potem lahko rešuje prav
117. u117 42:21 vsakdo na svetu. Lahko je neznan uradnik v Indiji, kot je bil Ramanujan, ko je ustvaril svoje prvo veliko delo. Lahko je včasih 17- ali 18-letni dijak oziroma študent,
118. u118 42:45 kot nekateri, ki sem jih srečal in so rešili pomembne odprte probleme. Bistvo je, da so naši problemi odprti vsakomur. In če so odprti vsakomur, so odprti tudi korporaciji, ki ti morda ni všeč. Zato se strinjam z ljudmi iz AHM, da moramo od teh podjetij zahtevati
119. u119 43:11 odgovornost. Doseči moramo, da se vedejo primerno, zlasti glede varnosti in usklajenosti. Zadnja štiri leta se s tem neposredno ukvarjam. Mislim, da so to izjemno pomembna vprašanja. Od teh podjetij bi morali zahtevati več. Vendar tudi mislim, da nismo mi tisti, ki odločamo,
120. u120 43:36 kdo sme reševati naše probleme. Zdaj smo v svetu, kjer jih UI lahko rešuje. Ker jih lahko, jo bodo za to uporabljali, naša naloga pa je, da se temu svetu prilagodimo. Ni naloga drugih ljudi, da nam ohranjajo naš stari svet. Curt: Ta prilagoditev novemu svetu
121. u121 44:01 pa zame zveni kot menjava službe glede na to, kar pravi Jacob Tsimerman: »Glej, tega sem se lotil, ker hočem reševati probleme. Res rad jih rešujem.« Jacob: Ja. Bolj sem reševalec problemov. Matematike sem se vedno loteval prek konkretne skrivnosti, ki sem jo poskušal razvozlati. Ja. Curt: Bil je zmagovalec olimpijade. Začel je—že od mladih let. Preprosto obožuje probleme. Nekateri drugi matematiki problemov samih niti ne marajo. Bolj jih zanima:
122. u122 44:22 »Hočem razumeti to disciplino. Hočem raziskati to in to.« Ampak, za božjo voljo, kako se odzivajo tvoji študenti? Šli so v matematiko zaradi tega, zdaj pa je nekaj drugega. Scott: Ja, veliko mojih študentov je, kot si lahko predstavljaš, precej negotovih glede prihodnosti. Trudijo se čim bolje izkoristiti položaj, dokler lahko. Intenzivno uporabljajo UI. Z njo
123. u123 44:49 pišejo članke. Rešujejo probleme. Toda dolgoročno se seveda sprašujejo o prihodnosti področja. Poskušam jih usmerjati, vendar tudi sam ne vem, kaj je ... Pravzaprav, ko začnem ugibati o prihodnosti
124. u124 45:13 našega področja, hitro naletim na večja vprašanja o prihodnosti celotne civilizacije. Zdi se mi, da bomo, če naša civilizacija preživi ta prehod v svet, v katerem prevladuje UI, že našli nišo za ljudi, ki imajo radi matematiko. Mislim, da bomo ta problem znali rešiti.
125. u125 45:39 Upanje nam lahko daje primer šahovske skupnosti. Dovolj sem star, da se spominjam spremljanja partij Kasparova proti Deep Blueju leta 1997. Spomnim se, da so nekateri takrat govorili: »To je konec šaha.« Ljudje—preprosto
126. u126 46:00 nimajo več razloga igrati šah, zdaj ko so računalniki boljši. Zgodilo pa se je nasprotno. Šah še nikoli ni bil tako priljubljen kot zdaj. Moj devetletni sin, ki si ga prej omenil, redno hodi na šahovske turnirje tu v Austinu. Polni so otrok. In,
127. u127 46:24 imamo šahovske spletne prenašalce, youtuberje, šahovske zvezdnike. Ljudje so se preprosto odločili, da jim je to všeč kot človeška dejavnost. Seveda vsi uporabljajo modele za analizo partij in razumevanje, kaj bi morali narediti drugače. Narava šaha se je torej zaradi
128. u128 46:47 UI spremenila. Ljudje z njo vadijo, vendar še vedno igrajo šah. Mislim, da bo vsaj toliko ljudi, ki uživajo v razumevanju matematike in znanosti, v zastavljanju lastnih matematičnih vprašanj in nato bodisi poskušanju, da jih rešijo sami, bodisi tem, da jim UI reši probleme in
129. u129 47:10 razloži rešitve. Iskreno me bolj skrbijo večja vprašanja: kako to preživimo kot civilizacija? Curt: Glede tega, recimo, da ima Anthropic dokaz, da je

     

130. u130 47:24 Če UI dokaže P = NP
131. u131 47:28 P enako NP. Misliš, da bi ga morali objaviti? Scott: Najprej, če bi bil P enak NP, bi bilo veliko odvisno od tega, ali bi bil algoritem dejansko praktičen. Lahko bi bil P enak NP, vendar bi algoritem za reševanje 3-SAT potreboval, recimo, čas n^10000. Ali čas O(n),
132. u132 47:56 vendar z googolpleksom, skritim v konstanti velikega O. V tem primeru bi bil to izjemen rezultat teoretičnega pomena. Seveda bi se ljudje takoj lotili tega, kako ga narediti praktičnega. Če pa bi bil P enak NP prek praktičnega algoritma,
133. u133 48:16 bi to najneposredneje pomenilo, da bi bila v bistvu vsa kriptografija, ki jo uporabljamo na internetu, zlomljena. Bitcoin bi postal brez vrednosti. Prav tako vse druge kriptovalute. Vso valuto bi lahko izrudarili zastonj.
134. u134 48:38 Vse sheme digitalnega podpisovanja, ki varujejo denarnice ljudi, bi lahko zlomili, podpise bi lahko ponarejali. To bi pomenilo, da bi bila zlomljena tudi vsa kriptografija v ozadju HTTPS oziroma tista, ki varuje številko vaše kreditne kartice, ko jo vnesete na spletni strani. Imamo pa standarde odgovornega razkrivanja,
135. u135 49:03 kajne? V skupnosti za kibernetsko varnost velja, da če odkriješ, recimo, način vdora v spletno stran nekega podjetja, tudi če je akademsko zanimiv, o tem ne smeš kar takoj objaviti članka. Podjetje moraš obvestiti in mu dati 90 dni za odziv,
136. u136 49:27 Kajne? In tako, veste, zdaj pri kriptografiji lahko rečemo, da niti ni treba, da je P enako NP, kar je, mimogrede, nekaj, za kar ne verjamem, da drži, kajne? Torej je to teoretična razprava. Ampak precej verjetneje je, da bi lahko obstajal hiter klasični algoritem za faktorizacijo, recimo. Kajne? Za to, veste, ne bi bilo treba, da je

     

137. u137 49:51 P enako NP, kajne? Lahko bi šlo samo za ta konkretni problem, kajne? Lahko bi obstajal hiter klasični algoritem za razbitje kriptografije eliptičnih krivulj ali kaj podobnega, kajne? In mnogi so opazili, da so v teh približno 400 člankih, ki jih je objavil OpenAI, pokrili skoraj vsa področja matematike, pri čemer je kriptografija opazno manjkala. Prav?
138. u138 50:22 Kajne? Bilo je ... Torej očitno to ni bilo naključje. Očitno poskušajo biti previdnejši pri tem, kako pristopajo h kriptografiji. Prav? Ampak mislim, da moramo resno razmisliti o možnosti, da bodo v — veste, modeli umetne inteligence odkrili načine za razbitje ene ali več široko uporabljanih kriptografskih šifer,
139. u139 50:48 v naslednjem letu ali dveh, kajne? In kaj pomeni odgovorno razkritje tega, kajne? Torej, prav, obvestiti moraš podjetje in mu dati 90 dni, ampak če bi nekdo razbil, recimo, RSA ali Bitcoin, potem je treba obvestiti ves svet, kajne? Torej,
140. u140 51:12 koga bi — ali svetu morda z demonstracijo ali s protokolom brez razkritja znanja dokažeš, da imaš rešitev, ne da bi razkril, kakšna je ta rešitev? To je ena možnost, kajne? Mislim, morda bi drugi rekli, da najprej obvestiš vlado, kajne? In
141. u141 51:34 vladi prepustiš odločitev, kaj storiti. Mislim, da bi se drugi s tem močno ne strinjali, še posebej, če se ne strinjajo s sedanjo vlado, kajne? In mislim, da bo v praksi o tem, kako ravnati, odločalo tisto podjetje ali druga stran, ki ji bo to uspelo prvi. Torej je to resničen problem.
142. u142 51:58 Zdaj pa širše: če recimo ne bi šlo le za razbitje tega ali onega kriptosistema, ampak bi veljalo P je enako NP in bi šlo za algoritem, ki bi bil hiter v praksi, bi posledice segale celo onkraj kriptografije, prav? To bi še dodatno pospešilo napredek umetne inteligence, celo precej bolj, kot je že nekako pospešen. To bi lahko pomenilo, da
143. u143 52:30 ne bi bilo več treba porabljati teh milijard dolarjev za velikanske učne postopke, da bi učili modele. Da bi preprosto obstajal veliko, veliko hitrejši način iskanja pravih parametrov za te modele, kar bi umetno inteligenco lahko še dodatno pospešilo, v dobrem ali slabem. Curt: Če se vrneva k analogiji s šahom: razlika pri šahu je, da v

     

144. u144 52:53 Je naslednja fizika?
145. u145 52:57 akademskem svetu obstaja oddelek za matematiko, ni pa oddelka za šah. Zdaj, mogoče je nekaj tega ekshibicijski šah in tako dalje. Torej — Scott: To drži. Mislim, obstaja tudi oddelek za glasbo, mimogrede, ampak, veste, nič jim ne manjka. Kajne. So kot — obstajajo oddelki za šport, kajne? Ali za kaj podobnega. Torej ja, stvari, ki bi jih
146. u146 53:20 lahko uvrstili med rekreativne dejavnosti, kajne? Akademiki jih dejansko preučujejo. Ampak ja, mislim, da opozarjaš na nekaj resničnega: pri akademskem raziskovanju matematike ali teoretičnega računalništva smo res imeli neko višjo vizijo tega, kar počnemo, kajne? Ne igramo se samo
147. u147 53:43 neke igre. Nekako odkrivamo resnice o vesolju. Kajne? Čeprav, če gre za to, če odkrivamo resnice o vesolju, potem mislim, da imamo še toliko manj razlogov za zavračanje orodja, ki nam bo omogočilo odkriti več teh resnic. Curt: Pravzaprav je to tudi razlika pri neki moji analogiji, ki je — no, nekaj,
148. u148 54:05 kar sem opazil, je, da programski inženirji zadnje leto in pol doživljajo nekaj podobnega. Pravijo: »Človek, moja služba, v to sem dejansko šel, ker rad ustvarjam algoritme in rešujem podrobne probleme, zdaj pa je moja služba takšna: zbudim se s kavo, govorim z računalnikom, odprem še en zavihek, s katerim govorim, potem pa samo gledam in sem vodja.« Scott: Glej, mislim, nekakšna naraščajoča poplava je zajela programsko
149. u149 54:30 inženirstvo morda pred letom ali dvema, potem pa je to poletje prišla še po nas. In ko govorim s prijatelji fiziki, se zdi, da njih še ni dosegla, kajne? Ampak mnogi jo živčno opazujejo in pričakujejo, da jih bo dosegla v naslednjem letu ali približno takrat. Prav? Ampak vsakdo, ki ga poplavne vode še niso,
150. u150 54:52 veste, preplavile, se lahko pretvarja, da poplave sploh ni ali da prizadeva samo tista druga področja, ker so polna trivialnosti. Ampak mislim, da to v nekem smislu prihaja po vse nas. Spremenilo bo naravo dela vseh nas. Curt: Je pri fiziki kaj drugače? Recimo, no,
151. u151 55:15 fizika se ukvarja z resničnim svetom. Nekaj je — izvajati moraš poskuse. Scott: Mislim, da je glavna razli... Jaz — ja, mislim, da lahko to pojasnim. Mislim, da je glavna razlika preprosto v tem, da problemi v fiziki niso tako ostro opredeljeni, prav? Zato ni tako preprosto preveriti, kdaj si problem pravilno rešil in kdaj ne, kajne? Odvisno je od presoj, denimo: je to razumen približek, kajne?
152. u152 55:41 Je to razumen model dejanske fizikalne situacije, ki smo jo želeli raziskati, kajne? In pri matematiki ljudi prav tako zanimajo takšne nejasne, odprte stvari. Recimo: je to prava definicija? Je to pravi model? Tudi mi se veliko pogovarjamo o tem.
153. u153 56:03 Ampak pogosto postavimo povsem jasno opredeljene domneve, kajne? P ni enako NP ali domnevo o enoličnih igrah ali te druge domneve, pri katerih načeloma obstaja povsem mehanski način preverjanja, ali si problem rešil ali ne, kajne? In mislim, da je prav to umetni inteligenci omogočilo tako dober uspeh,
154. u154 56:28 kajne? Ker ko imaš mehanski način preverjanja odgovorov, lahko učiš na tisočih in tisočih primerov rešitev, kajne? Uporabiš lahko spodbujevalno učenje, kajne? Lahko ... In ja, potem imaš tarčo, v katero lahko usmeriš svojo strašansko gmoto inteligence, kajne? In veš, kaj je tarča, prav?
155. u155 56:58 In mislim, da je dober prikaz tega dejstvo, da je področje fizike, na katero je to doslej najbolj vplivalo, matematična fizika, kajne? Torej tista področja fizike, kjer lahko matematično opredeliš, katero trditev želiš dokazati, so doživela
156. u156 57:21 nekaj izjemnih premikov, tudi v objavi OpenAI izpred dveh tednov. Curt: To je nedotaknjeno namizje mojega montažerja. Tam je 40 zavihkov, šest osnutkov ene same montaže. Vedno je mapa z imenom Final znotraj druge mape z imenom Final in ta nered pomeni toliko dela. Zelo cenim čisto mizo, fizično mizo,
157. u157 57:42 in če je moja digitalna različica mize neurejena, mi to prav tako povzroča zmedo v glavi. Z drugimi besedami, ta nered je delo. Kar pa ni delo, je tisto, kar je računalnik ustvaril sam. Sistemski predpomnilnik, pokvarjeni prenosi, ostanki namestitvenih programov, podvojene fotografije in tako dalje. CleanMyMac to najde in odstrani samo to. Space Lens nariše zemljevid diska, da so mape, ki zasedajo največ prostora, očitne.
158. u158 58:06 To se mi je zgodilo ravno včeraj. Disk je bil skoraj poln in moral sem ugotoviti: »Ojoj, katere so moje največje datoteke?«, da bi jih lahko pregledal in brisal. Cloud Cleanup naredi enako v iCloudu, Google Drivu in Dropboxu, pregled pa poteka na Macu, zato ga nič ne zapusti. Na voljo je modul za zmogljivost, ko se ventilator zažene sredi izrisovanja,
159. u159 58:26 v ozadju pa deluje mehanizem proti zlonamerni programski opremi Moonlock. Izdelal ga je MacPaw, Apple ga je notarsko preveril, že drugo leto zapored pa je na ožjem izboru trgovine Mac App Store za leto 2026. Pospravite že danes. CleanMyMac sedem dni preizkušajte brezplačno in uporabite mojo kodo THEORIES za 20 % popusta. Torej koda THEORIES, T-H-E-O-R-I-E-S, na cleanmymac.com.
160. u160 58:51 Problem unitarne sinteze rešen
161. u161 58:51 Je v tisti objavi kaj takega, kar te nagovori, da rečeš: »O, tole — želim si, da bi ljudje temu namenjali več pozornosti,« ali pri čemer zaradi svoje stroke vidiš revolucionarnost, drugim pa jo je nekoliko težko pojasniti? Scott: No, glej, obstajajo problemi, ki sodijo neposredno na moje področje, v enem primeru problem, ki sva ga s kolegom Gregom Kuperbergom zastavila pred 20
162. u162 59:19 leti. Imenoval se je problem unitarne sinteze, prav? In očitno mislim, da je vprašanje lepo. Zato sva ga zastavila, kajne? Ampak vprašanje je bilo v bistvu: kakšna je povezava med zahtevnostjo izvedbe unitarne transformacije v kvantni mehaniki
163. u163 59:47 in običajno vrsto zahtevnosti, pri kateri navadno govorimo o stvareh, kot so Boolove funkcije, ki imajo samo klasični vhod in klasični izhod, prav? Natančneje sva vprašala: »Ali za vsako unitarno transformacijo na n kubitih, recimo ji U, kajne, za vsak tak U obstaja neka klasična Boolova funkcija, ki bi ti,
164. u164 1:00:16 če bi ti jo dal zastonj, kajne, če bi ti jo dal kot orakelj, kot temu rečemo, kajne, če bi ti omogočil dostop do te funkcije na kvantnem računalniku, v superpoziciji, če bi ti omogočil poizvedbe pri tej Boolovi funkciji kot oraklju, omogočila izvesti to unitarno transformacijo U v polinomskem času?« Prav? To — to je bilo vprašanje, ki sva ga zastavila.
165. u165 1:00:42 Domnevala sva, da je odgovor ne, prav? Ker preprosto nisva videla nobenega načina, kako to narediti. Torej: »Da, vsaka unitarna transformacija vključuje eksponentno mnogo parametrov.« Ampak to samo po sebi ni ovira, ker bi lahko vse te parametre zakodiral v vrednosti te Boolove funkcije. Ampak potem
166. u166 1:01:03 je težava v tem, da je tudi po tem videti, kot da moraš to Boolovo funkcijo še vedno poizvedovati eksponentno mnogokrat, če želiš unitarno transformacijo dejansko fizično izvesti na kvantnem stanju. In zdelo se je, da to drži ne glede na to, kako domiselno želeno unitarno transformacijo zakodiraš v funkcijo.
167. u167 1:01:25 To je potem spodbudilo veliko nadaljnjega dela in pravzaprav sem imel kar nekaj kolegov, ki so zadnjih nekaj let delali na tem problemu in dejansko napredovali, dokazovali zelo, zelo sorodne rezultate, ki bi se morda celo približali človeški rešitvi tega problema. Ampak vse to je bilo prekinjeno

     

168. u168 1:01:49 pred dvema tednoma, ko je OpenAI v enem od svojih 372 člankov predstavil rešitev problema unitarne sinteze, rešitev pa je bila nasprotna najini domnevi s Kuperbergom. Namreč, da je to mogoče, prav? Za vsako tako unitarno transformacijo obstaja Boolova funkcija, ki omogoča njeno učinkovito izvedbo.
169. u169 1:02:16 In od takrat, že v teh zadnjih dveh tednih, so ljudje z uporabo modelov umetne inteligence ta rezultat še izboljšali. Prav? In ena stvar, ki smo jo očitno dobili s temi izboljšavami, je, da če bi na primer veljalo P je enako PSPACE, kajne? To je velik kolaps razredov zahtevnosti. To bi bilo

     

170. u170 1:02:42 še večje kot P je enako NP, kajne? Ampak tega trenutno ne moremo izključiti, kajne? In pravzaprav velja, da je dokazati P ni enako PSPACE skoraj tako težko kot dokazati P ni enako NP, kajne? Prav, novi rezultat torej v bistvu pomeni, da če bi veljalo P je enako PSPACE, bi lahko
171. u171 1:03:06 učinkovito izvedel vsako unitarno transformacijo, ki jo sploh lahko razumno opišeš, kajne? Pri kateri lahko elemente opišeš z algoritmom s polinomsko prostorsko zahtevnostjo. To bi torej pomenilo, na primer, da bi unitarne transformacije, ki bi jih uporabil za dekodiranje Hawkingovega sevanja, ki prihaja iz črne luknje, lahko izvedel učinkovito. In
172. u172 1:03:31 to bi imelo zelo zanimivo posledico za kvantno gravitacijo. Zdi se, da to pomeni, da bi lahko ustvaril ognjeni zid na dogodkovnem obzorju črne luknje, kajne? Lahko bi povzročil razpad prostorsko-časovnega kontinuuma. Ne pri singularnosti, kjer smo vedeli, da naj bi prostor-čas odpovedal, ampak že na dogodkovnem obzorju. Prav? Resda
173. u173 1:03:55 bi moral za opazovanje tega razpada prostora-časa skočiti v črno luknjo, prav? Curt: Ja, ampak to je samo — to je malenkost. Scott: In seveda bi potem takoj umrl. Tako da iz več razlogov o tem ne bi mogel povedati nikomur drugemu, prav? Ampak v bistvu to pravi, da bi za dokaz, da je
174. u174 1:04:18 prostorsko-časovni kontinuum stabilen tam, kjer bi po splošni relativnosti moral biti, moral vsaj dokazati, da P ni enako PSPACE. Curt: Ali to pomeni, da je dekodiranje črne luknje klasičen problem?

     

175. u175 1:04:30 Ognjeni zidovi črnih lukenj in P proti PSPACE
176. u176 1:04:33 Scott: No, to ... V tem je stvar. Tako zastavljeno je to kvantni problem, kajne? Fotoni Hawkingovega sevanja, ki prihajajo iz črne luknje, so v nekem kvantnem stanju, kajne? Po sodobnem razumevanju so v zelo, zelo močno prepletenem kvantnem stanju, ki bi ga, če bi ga lahko povsem podrobno izmeril, načeloma
177. u177 1:04:58 videl kot zapis vseh informacij o tem, kar je padlo v črno luknjo, kajne? In to je ena glavnih tem raziskovanja kvantne gravitacije v zadnjega pol stoletja, odkar je Stephen Hawking ta vprašanja odprl v sedemdesetih letih 20. stoletja. Prav, v bistvu kvantna teorija polja ni dovolj zmogljiva, da bi to pokazala. Dovolj je
178. u178 1:05:24 zmogljiva, da nam pove, da bi Hawkingovo sevanje moralo obstajati, ne pa, kako Hawkingovo sevanje kodira informacije o tem, kar je padlo noter in ustvarilo črno luknjo, kajne? Ampak če verjameš, da kvantna mehanika velja univerzalno, potem informacije morajo biti tam, saj se morajo pri unitarnem razvoju ohranjati, kajne? Ne
179. u179 1:05:47 morejo biti kar izbrisane iz vesolja, prav? Tako je sodobnejša slika takšna: da, informacije so v Hawkingovem sevanju, vendar v neverjetno premešani obliki. Precej bolj premešane kot informacije v knjigi, potem ko bi jo zažgal, kajne? In poskušal — in če
180. u180 1:06:14 bi poskusil iz dima in pepela obnoviti, kaj je pisalo v knjigi, kajne? Mislim, že fizika 19. stoletja nam pove, da bi to načeloma moralo biti mogoče, prav? Ampak očitno je to v praksi zelo težko, kajne? Različico s črno luknjo si torej lahko predstavljaš kot težjo različico tega, kajne?
181. u181 1:06:35 Torej imaš vse te kvantne informacije, ki jih je neka še neznana dinamika kvantne gravitacije, karkoli se je že dogajalo v črni luknji, povsem premešala. Prav? Nato prihajajo ven v Hawkingovem sevanju v tem močno prepletenem stanju. In zdaj je tvoja naloga, če želiš ustvariti ognjeni zid, izvesti ustrezno unitarno
182. u182 1:07:02 transformacijo na tem kvantnem stanju, na stanju Hawkingovega sevanja, kajne? Lahko si predstavljaš, da bi to naredil tako, da bi na primer zbral vse Hawkingovo sevanje in ga usmeril v kvantni računalnik za obdelavo, kajne? Zdaj smo že globoko, globoko na področju miselnih poskusov. Da bi dejansko zbral dovolj Hawkingovega sevanja
183. u183 1:07:28 astrofizikalne črne luknje, da bi bilo karkoli od tega pomembno — veš, kako dolgo bi to trajalo? Vsaj 10^67 let. Prav. Dobro. Ampak ja, predpostavljamo, da imaš zelo dolgo raziskovalno financiranje, kajne? In da to zmoreš, kajne? Da lahko obdelaš vse to Hawkingovo sevanje. Leta 2013 sta Daniel Harlow in Patrick Hayden napisala danes slaven članek, v katerem sta rekla,
184. u184 1:07:56 da bi tudi tedaj še vedno imel težavo z dekodiranjem tega, kar je v Hawkingovem sevanju, še preden bi črna luknja povsem izhlapela, razlog pa je povezan z računsko zahtevnostjo, kajne? Rekla sta: »Če bi hotel ta problem rešiti hitro, tudi s kvantnim računalnikom, bi moral rešiti
185. u185 1:08:19 določen — kriptografske probleme, za katere verjamemo, da so težki celo za kvantne računalnike.« Prav? In zanju je bilo to nekaj pozitivnega, kajti ves paradoks ognjenega zidu iz leta prej, iz leta 2012, je govoril, da če bi lahko dekodiral Hawkingovo sevanje, recimo črne luknje, ki je večinoma, ne pa povsem izhlapela,

     

186. u186 1:08:45 bi moralo tvoje dejanje dekodiranja imeti dramatičen učinek, ko — če potem skočiš v črno luknjo. Kajne? Povzročiti bi moralo ta razpad prostora-časa na dogodkovnem obzorju. Na to se tu nanaša ognjeni zid. Prav? Torej sta rekla: »Ne,
187. u187 1:09:07 v praksi,« pri čemer je »v praksi« tu relativen izraz, ampak: »Tega ognjenega zidu ne boš mogel ustvariti, ker moraš rešiti eksponentno težek problem.« Prav? Potem me je to vprašanje zelo pritegnilo. Izboljšal sem njun argument. Njun prvotni argument se je pravzaprav opiral na precej zahteven rezultat iz moje doktorske disertacije iz leta 2004. Tako da nisem imel druge izbire, kot da me začne zanimati,
188. u188 1:09:34 kajne? Ampak izboljšal sem njune rezultate, tako da moja doktorska disertacija ni bila več potrebna. Potrebuje samo ... Ampak potem me je začelo zanimati, kako težek je ta problem v resnici za kvantni računalnik, kajne? Zdi se verjetno težek, ampak ali bi lahko upali, da brezpogojno dokažemo, da je težek? Ali
189. u189 1:09:58 bi dokaz njegove težavnosti zahteval dokaz, da P ni enako PSPACE ali kaj podobnega? Prav? Zdi se torej, da imamo zaradi nedavnega napredka umetne inteligence zdaj odgovor na to vprašanje. Prav? In odgovor je, da če bi veljalo P je enako PSPACE, bi bil Harlow-Haydenov problem dekodiranja lahek. Prav? Potem bi bilo

     

190. u190 1:10:22 lahko ustvariti ta ognjeni zid in njun argument, zakaj je to težko, ne bi več veljal. Ko sem torej to dojel in Danielu Harlowu poslal sporočilo, da mu povem, je takoj odpisal: »No, zakaj bi me to zanimalo? Saj P ni enako PSPACE, kajne?« Kajne? Meni pa se je zdelo: »Stari,« veste,
191. u191 1:10:45 kajne? Ker nas v računalništvu zanima, kaj bi bilo potrebno, da bi to dokazali, kajne? In to pravi, da če hočeš pokazati, da je ustvarjanje ognjenega zidu težko, moraš rešiti ta osrednji odprti problem računske zahtevnosti. Dokazati moraš, da P ni enako PSPACE. Nekaj, kar kljub vsemu
192. u192 1:11:07 napredku umetne inteligence pri matematiki v zadnjih mesecih zelo opazno še vedno ni bilo storjeno. Curt: Ali nisi na Columbii rekel, da je drugi zakon morda posledica računske neobvladljivosti? In mislim, da si rekel, da prihaja prednatis. Scott: Ja.
193. u193 1:11:24 Curt: Bil sem malo — Scott: Ja. Torej ja, tega še vedno nismo objavili. Ampak vemo. Imamo argument, da obstajajo — da so določene situacije, v katerih lahko dobiš vedenje, ki je videti kot drugi zakon, kajne? Videti je, kot da entropija narašča. Prav? Pa vendar
194. u194 1:11:51 bi lahko, če bi veljalo P je enako NP, razkril, da je to iluzija, kajne? Dejansko bi lahko zgradil tako imenovanega Maxwellovega demona. Toploto bi lahko pretvarjal nazaj v delo, kajne? Lahko bi ... Torej so situacije, o katerih smo razmišljali, vključevale

     

195. u195 1:12:15 recimo klasični reverzibilni celični avtomat. Prav? Lahko si predstavljamo, tako kot v klasičnem termodinamičnem scenariju, da imaš kup plinskih molekul, ki se odbijajo po škatli, kajne? Začnejo lahko v stanju z zelo nizko entropijo, recimo z vsemi delci zbranimi v kotu — v enem kotu
196. u196 1:12:39 škatle. Potem pa se z difuzijo razširijo. Razporedijo se po škatli, kajne? Običajno bi to opisali tako, da se je entropija sistema povečala, kajne? Energija je ostala enaka, entropija pa se je povečala. In ja, če bi dovolj dolgo čakal, bi se sčasoma po naključju
197. u197 1:13:03 vsi delci spet zbrali v kotu. Entropija bi se zmanjšala, ampak to bi običajno trajalo eksponentno dolgo, kajne? Torej v bilijonu let skoraj zagotovo ne bi videl, da bi se to zgodilo. Prav? Potem pa klasični miselni poskus z Maxwellovim demonom pravi:
198. u198 1:13:24 »Kaj pa, če na sredino škatle postavimo pregrado, kajne? V pregradi so majhna vratca in tam je mali demon, ki samo opazuje in vsakič, ko delec — ko plinska molekula potuje z leve na desno, odpre vratca ravno dovolj
199. u199 1:13:46 dolgo, da spusti to molekulo skozi.« Prav? Če molekula potuje z desne na levo, pa pusti vratca zaprta, kajne? In potem se zdi, da bi temu demonu uspelo zmanjšati entropijo v škatli, morda celo v času, krajšem od astronomskega, kajne? Prednostno bo
200. u200 1:14:08 premikal delce na desno in zmanjšal entropijo v navideznem nasprotju z drugim zakonom. Prav? Torej, kako je s tem, kajne? To je bila velika uganka v fiziki, za katero so po mojem potrebovali večji del stoletja, da so jo povsem razjasnili. Prav? Potem ko jo je zastavil Maxwell, je o njej razmišljal
201. u201 1:14:35 Szilard, bolj znan po zamisli za atomsko bombo v tridesetih letih. Tu sta bila Bennett in Landauer in ... Torej so te velike osebnosti pojasnjevale, kaj se dogaja. In kar so

     

202. u202 1:14:58 nazadnje povedali, je, da je samo videti, kot da entropija pada. V resnici drugi zakon velja vedno in povsod. In če vprašaš: »Kam gre entropija, kajne? Entropija, za katero se zdi, da je zaradi demonovih dejanj izginila iz škatle.« Odgovor na to vprašanje
203. u203 1:15:20 je, da je nazadnje šla v demonov spomin. Prav? Ko demon odloča, ali odpreti škatlo, ali zapreti škatlo, če razmisliš, kako ga izvesti — kako dejansko zgraditi tega demona, si mora demon bodisi zapomniti informacijo o tem, ali je delec prihajal z leve ali z

     

204. u204 1:15:41 Maxwellov demon in psevdoentropija
205. u205 1:15:43 desne, in potem entropija preide v njegov spomin, ali pa mora odvajati toploto. In potem je entropija prešla iz demona v njegovo okolje. Prav? V vsakem primeru pa je skupna entropija vesolja ostala enaka ali narasla, natanko tako, kot zahteva drugi zakon. Prav?
206. u206 1:16:06 Torej, zdaj ti lahko povem o situaciji, o kateri smo razmišljali. In sicer, prav, ampak mi ... Kaj pa, če je — najprej, gre za klasični reverzibilni celični avtomat, prav? In spet imamo tega demona. Prav, ampak zdaj rečemo: »Glej, predpo... Predpostavimo, da demon pozna začetno stanje plinskih molekul,
207. u207 1:16:37 kajne?« Ve, kje so bile na začetku. Pozna ustrezne fizikalne zakone, kajne? Torej jih lahko sam simulira, kajne? Lahko izvede ustrezne izračune in — Curt: Celotno mikrostanje? Scott: Oprosti. Moral bi reči, da demon ve, da so bili delci, recimo,
208. u208 1:16:59 zbrani v kotu škatle, vendar njihovega mikrosta­nja onkraj tega ne pozna nujno. Prav? Tako. Prav. Zdaj pa bomo predpostavili, da je P enako NP. Prav? In če je P enako NP, potem, ko je demon naredil vse, kar sem pravkar povedal, in ima v spominu vse te informacije o tem, kdaj se delci
209. u209 1:17:26 približajo levi ali desni strani vratc ali karkoli že, je zdaj pred računskim problemom, kajne? Ta je: »Katero zaporedje — oziroma katero začetno stanje plinskih molekul bi privedlo do zaporedja opažanj, ki sem jih zabeležil?« Prav? In to bo na splošno izjemno težek računski problem, kajne? Lahko bi
210. u210 1:17:52 vključeval iskanje z grobo silo po vseh mogočih začetnih stanjih plinskih molekul. Po vseh mogočih začetnih stanjih z nižjo entropijo. Iskanje takega, ki bi privedlo do natanko tega zaporedja opažanj. Prav? Ampak če bi bilo P enako NP ali, še šibkeje, če,
211. u211 1:18:19 kot pravimo, ne bi bilo enosmernih funkcij ali generatorjev psevdonaključnosti, prav, potem bi bil prav takšen problem učinkovito rešljiv, kajne? Demon bi se potem lahko izognil iskanju z grobo silo, kajne? In v času, krajšem od eksponentnega, v polinomskem času, bi lahko ugotovil začetno stanje molekul.

     

212. u212 1:18:46 In pri tem bi moral stisniti svoj spomin, kajne? Ko demon reši ta računski problem, lahko vse tiste bite v njegovem spominu, s katerimi smo zadostili drugemu zakonu, ko smo rekli: »No, tja je šla entropija,« spet stisnemo, kajne? In
213. u213 1:19:08 zdaj rečeš: »No, čakaj malo. Kje je zdaj entropija?« Kajne? Kam je zdaj šla? In mislim, da bi fizik morda rekel: »Prav, mogoče je to domiselno,« ampak ga to ne bi preveč vznemirilo, ker bi ... Verjetno bi rekel: »No, samo razkril si, da ta entropija
214. u214 1:19:29 že od vsega začetka sploh ni bila prava entropija.« Kajne? Pravzaprav imamo v teoretičnem računalništvu za to celo ime. Temu pravimo psevdoentropija. Prav? To je tisto, kar ustvari generator psevdonaključnih števil, kajne? Biti, ki

     

215. u215 1:19:50 so videti enakomerno naključni, a imajo v resnici precej krajši opis. Kajne? V tem scenariju bi torej vzeli entropijo, vzeli bi tisto, kar je v termodinamični situaciji videti kot entropija, in razkrili, da je bila v resnici ves čas samo psevdoentropija. Kajne? V tem smislu
216. u216 1:20:14 torej ne bi kršili drugega zakona, ampak bi ga nekako obšli. V nekem smislu bi ga naredili nepomembnega. Obstaja pa nekaj pomembnih zadržkov: v resničnem življenju lahko kaotični učinki preprečijo delovanje tega pristopa, kajne? Recimo,
217. u217 1:20:39 če bi moral začetna stanja delcev poznati z neskončno natančnostjo, da bi izračunal, kaj se zgodi, potem tega morda še vedno ne bi mogel narediti, tudi če je P enako NP, kajne? In če v sistem nenehno vstopa kvantnomehanska negotovost, bi tudi to lahko onemogočilo ta pristop, prav?
218. u218 1:21:04 Ta pristop torej deluje predvsem za klasični dinamični sistem, ki ni podvržen kaosu. Bistvo pa je, da če v naravi najdemo primer takega sistema, bi lahko bilo tisto, kar je v njem videti kot drugi zakon, v svetu, kjer je P enako NP, dejansko kršeno. Curt: Profesor. Hvala, da ste mi namenili toliko časa.
219. u219 1:21:30 Scott: Seveda, seveda. Curt: In hej, glede zavesti. Scott: Ojoj. Prav. Misliš, samo še eno lahko vprašanje za konec? Curt: Tako. Ne, ne, gre za nekaj, kar si že raziskoval, ta vrata XOR in IIT. Torej pravijo, da imajo ta vrata XOR visoko stopnjo zavesti. Vedno sem se spraševal: prav, imajo visoko vrednost fi, prav? Ampak česa se potem zavedajo? Recimo,
220. u220 1:21:53 česa bi po njegovem rekla, da se zavedajo? Je to samo nekaj takega: »Tukaj sem, sem super zavesten«? Ampak običajno se zavedaš nečesa. Scott: Prav. Torej sprašuješ o teoriji integrirane informacije, ki je teorija zavesti ali vsaj tega, kateri fizični sistemi so zavestni in kateri niso. Predlagal jo je človek po imenu Giulio Tononi, in
221. u221 1:22:17 okoli te teorije je zgradil celo skupnost. Ozadje tvojega vprašanja pa je, da se mi zdi ta teorija preprosto napačna, prav? Kar je na neki način bolje od mnogih, mnogih teorij zavesti,

     

222. u222 1:22:32 Zakaj je IIT napačna
223. u223 1:22:34 ki niso niti napačne, kajne, ki so preveč meglene, da bi sploh lahko bile napačne. Mislim, da ta dejansko tvega in daje napovedi, ki so preprosto absurdne, kajne? Zlasti jedro IIT je ta številčna mera, imenovana fi, ki naj bi jo lahko izračunal za katerikoli fizični sistem in bi ti povedala, koliko
224. u224 1:23:00 zavesti je v tem sistemu, prav? In obstaja nekaj argumentov zanjo, med drugim naj bi imeli veliki možgani višjo vrednost fi kot mali možgani. Prav, ampak tu je tudi ogromno nejasnosti, kajne? Sama definicija fi se je od ene različice IIT do naslednje nenehno spreminjala.
225. u225 1:23:24 Trdijo, da je to mero mogoče izpeljati iz aksiomov. Ni izpeljana iz aksiomov. Članek samo našteje nekaj aksiomov, potem pa se na neki točki preprosto pojavi fi, z — kajne, to je nekakšna psevdomatematika, in to je res nadležno. Curt: Kot članek OpenAI.

     

226. u226 1:23:44 Scott: No, ja, ampak za članke OpenAI mislim, da so vsi — večina jih je dejansko pravilnih, kajne? Če — to je tisto neverjetno. Mislim, v bližnji prihodnosti bomo vedeli z večjo gotovostjo. Ampak ti članki o IIT po mojem formulo za ta fi v bistvu preprosto potegnejo od nikoder. Prav, ampak potem
227. u227 1:24:09 mi — ko predlagajo to formulo, lahko pogledamo, kaj napoveduje, kajne? In poanta mojih zapisov o IIT na blogu, to je bilo pred 12 leti, je bila, da lahko zlahka sestaviš primere sistemov, ki imajo veliko višjo vrednost fi kot recimo naši možgani, pa očitno ne počnejo ničesar zavestnega. So

     

228. u228 1:24:34 samo velikanska mreža vrat XOR, prav? Ali kaj podobnega. Kot prazna stena ali enotna stena logičnih vrat, ki ne počnejo nič zanimivega, kajne? In potem bi rekel: »Če — če mi boš povedal, da
229. u229 1:24:55 ima to več zavesti kot mi, o čem se potem sploh še pogovarjamo, kajne?« Kaj je — no, tisto, kar zdaj mislimo z besedo »zavest«, se zdi tako nepovezano s tem, kar sem mislil, da mislimo z besedo »zavest«, da
230. u230 1:25:17 mi moraš zdaj povedati, zakaj bi me ta stvar morala zanimati. Karkoli že je, kajne? In Tononi je napisal cel odgovor na mojo kritiko, njegov odgovor pa je bil, presenetljivo, da je to neprijetno posledico preprosto v celoti sprejel. S tem mislim, da pravi: »Scott je zgrešil, ker se je zanašal na svojo intuicijo, namesto tega pa bi se moral zanašati na teorijo.
231. u231 1:25:40 Teorija pravi, da je ta stena vrat XOR 1.000-krat bolj zavestna kot katerikoli človek, torej je,« kajne? Tvoje vprašanje pa je bilo: »Prav, in česa se stena zaveda?« Zdi se mi, da je to bolj vprašanje zanj kot zame. Mislim, mogoče se zaveda svojega lastnega XOR —
232. u232 1:26:03 Curt: Zaveda se, kako zelo Scott ne mara te teorije. Scott: Morda se zaveda svoje lastne XOR-ovskosti, svojega lastnega doživljanja tega, da je prazna stena. Curt: Ne vem. Prav. No, profesor, bilo je zelo zabavno. Lep dan in srečno — Scott: Hvala. Hvala. Tudi tebi.

     

233. u233 1:26:23 Curt: Srečno tvojemu sinu — Scott: Hvala. Cenim to. Curt: ... pri trolanju tvoje žene, njegove mame. Scott: Ja. Hvala. Prav. Kot vedno se je bilo lepo pogovarjati s tabo, Curt. Curt: Lepo se imej. Scott: Prav. Okej, adijo. Curt: Lepo se je bilo pogovarjati s tabo. Če želite dostop do naslednjega pogovora pred vsemi drugimi ter moja dejanska mnenja o teh teorijah in konceptih, ki jih ne vključujem v intervjuje, obiščite moj Substack, CURTJAIMUNGAL.com. Torej C-U-R-T-J-A-I-M-U-N-G-A-L.com.
234. u234 1:26:48 In če vas je današnji pogovor pritegnil, je tukaj nekje na zaslonu zdaj epizoda, ki bi si jo jaz ogledal naslednjo. Uživajte.