Spędzam sobie właśnie przemiły weekend w Belgii. Większość czasu mija mi na leśnych spacerach i próbach zrozumienia belgijskich regulacji dotyczących zbierania grzybów. Flandria to ponoć mykofoby, w Walonii żyją zaś mykofile, tak przynajmniej wstępnie wynika z tego co znalazłem w Internecie. Na dodatek jestem w pobliżu pierwszego w Belgii parku narodowego. Pomyślelibyście, że ma on dopiero kilkanaście lat? Na wszelki wypadek przed ścięciem każdego grzyba rozglądam się na boki, chociaż wciąż pada deszcz i za dużo ludzi w lesie nie ma. Są za to kudłate byczki na bagnach.
Świat saprotrofów pochłonął mnie ostatnio na tyle, że całkiem polubiłem jesień. W tym co robią te grzybki jest coś naprawdę sympatycznego i fascynującego. Taki naturalny up-cycling. Wrośniaki, huby i żagwiowce kolonizują sobie martwą tkankę drzew i wyczarowują z tego cały pakiet leczniczych i pro-zdrowotnych substancji. O tym napiszę pewnie więcej przy innej okazji, dzisiaj chciałbym podzielić się tutaj czymś innym.
Pomiędzy godzinami spędzonymi za kółkiem i spacerkami spędzam czas nadrabiając zaległości w Internetach. Wyleguję się w kurniku (tak się nazywa ta buda do spania nad szoferką) z zepsutym termostatem i śledzę sobie swoje banieczki. I po jednym z filmów relacjonujących ploteczki ze świata AI aż mnie z tego kurnika wyrwało. Jajka nie zniosłem, ale zarzuciłem na nogi laczki i wystrzeliłem do kawiarni w najbliższej miejscowości. Poza hitami z lat 50-tych i 60-tych mają tutaj stałą, przyjemną temperaturę. Ale do rzeczy...
Wiecie co jest ciekawe? Cały system finansowy, jak również najlepsza wobec niego alternatywa, na jaką ludzkość potrafiła wpaść opiera się na nigdy nieudowodnionej teorii matematycznej. Wydawać mogłoby się, że naukowcy to poważni ludzie, logiczne myślenie, ciężar dowodów naukowych, akademicki autorytet. Tymczasem cała kryptografia zabezpieczająca nasze systemy informatyczne opiera się na wierze w nigdy nieudowodnioną teorię. No, ale nie mieliśmy nic lepszego. Na chwilę działa. Na usprawiedliwienie trzeba dodać, że to nie naukowcy budowali ten system. Wiecie kto wymyślił SHA-256?
Algorytm SHA-256 można porównać do maszynki do mięsa. Przekonanie, że żaden człowiek lub potężny komputer nie byłby w stanie ułożyć z kotleta mielonego schabu wydaje się rozsądne. Jednak rozsądek zawiódł już nas wielokrotnie w ciągu ostatnich lat rozwoju sztucznej inteligencji. Skoro odpowiednio zaprojektowany algorytm AI jest w stanie przewidywać budowę białek lub wywołać kryzys egzystencjalny u najlepszych graczy go, to czy stworzenie uniwersalnej aplikacji do rekonfigurowania mielonych w schaby nie jest tylko kolejnym krokiem w rozwoju sztucznej inteligencji? Podobnym zagrożeniem jest splątywanie kolejnych kubitów w komputerach kwantowych, ale to już inna historia.
W banieczce AI ostatnimi dniami wszystko kręci się wokół zawirowań w OpenAI. Trzeba zaznaczyć, że przekaz w dużej mierze opiera się na plotkach i nieoficjalnych przeciekach. Jednak nawet niewielkie prawdopodobieństwo, że te plotki są prawdziwe jest moim zdaniem wystarczające, aby wziąć taki scenariusz pod uwagę. Taka jest waga zagrożenia. Zaznaczę też, że nie mam dosyć zrozumienia informatyki, żeby wejść tutaj w szczegóły techniczne. Natomiast jeśli ktokolwiek na świecie będzie dysponował modelem, który jest dobry z matmy, a na dodatek jest zdolny do meta-kognicji, świat, który znaliśmy zniknie na zawsze. Czy jesteśmy w stanie wyobrazić sobie świat, w którym osiągnięcia tysięcy lat ludzkiej matematyki stanowią ledwie rozgrzewkę dla systemu komputerowego? Nawet jeśli to tylko plotki, to wystarczy jedno miejsce na świecie, w którym pracuje się nad taką technologią. Przodowanie zachodu wydaje się tutaj jakoś marnym pocieszeniem. Pytanie nie brzmi więc "czy?", a "kiedy?"
Wcale nie potrzebujemy też perfekcyjnego modelu, który będzie wypluwał dowody matematyczne drukowane w czasopismach naukowych. Wystarczy, że wydarzy się jedna sytuacja, w której dojdzie do "niemożliwego" włamania do jednego lub drugiego systemu informatycznego. Wystarczy jeden zagadkowo opróżniony portfel BTC, aby wywołać chaos. Można sobie tylko wyobrazić jak zareagują rynki finansowe i rządy. Wiecie gdzie jeszcze zastosowany jest algorytm SHA-256?
Kojarzycie te narracje naukowe mówiące o tym jak to cuda inżynierii będą pomagać chorym i ratować świat? Ten chip w mózgu pozwoli osobom w paraliżu kontaktować się z bliskimi. Dokładne mapowanie dna morza pozwoli lepiej poznać i chronić życie morskie. Ta super rakieta pozwoli nam badać kosmos i poszerzać horyzonty. A potem przychodzi ktoś z większą walizką pieniędzy. Może okazać się, że pierwszym problemem ludzkości jaki rozwiąże sztuczna inteligencja będzie istnienie jakiegokolwiek systemu. I to nawet bez udziału kogoś ze złymi intencjami.
Nie jestem fanem Kaczyńskiego, żadnego z tych popularnych, ale ten cytat jakoś bardzo mi tu pasuje.
Teraz ja mam kryzys egzystencjalny. Taki malutki. Potrzebuję poważnie zrewaluować swoje tezy inwestycyjne i prawdopodobnie zdywersyfikować się bardziej w stronę metali szlachetnych. Nie doszacowałem tego, jak szybko dzieją się rzeczy. W najbliższych dniach bardzo uważnie obserwował będę parę wykresów, żeby zobaczyć jak rynek przyjmuje te plotki i wizję przyszłości AI.
[ENG]
I'm spending a delightful weekend in Belgium. Most of my time is spent on forest walks and trying to understand Belgian regulations regarding mushroom picking. Flanders is supposedly mycophobic, while Wallonia is mycophilic, at least that's what I found on the Internet. Additionally, I'm near the first national park in Belgium. Would you believe it's only around 17 years old? Before cutting any mushroom, I look around, although it's still raining, and there aren't many people in the forest anyway. But there are hairy cattle on the marshes instead.
The world of saprotrophs has recently captivated me so much that I've come to really enjoy autumn. There's something genuinely likable and fascinating about what these organisms do. Wood-decay fungi, hoof mushrooms, and polypores colonize dead tree tissue and create a whole package of medicinal and health-promoting substances from it. I'll probably write more about this on another occasion; today, I'd like to share something else here.
Between hours spent behind the wheel and walks, I catch up on things on the internet. I lounge in the "coup" (that's what they call this sleeping cabin above the truck cab) with a broken thermostat and follow my online bubbles. And after watching one of the videos reporting gossip from the world of AI, I was so intrigued that I had to leave the "coup." I didn't lay eggs, but I threw on my clogs and headed to a café in the nearest town. Besides hits from the 50s and 60s, they have a constant, pleasant temperature here. But to the point...
You know what's interesting? The entire financial system, as well as the best alternative to it that humanity has come up with, is based on an unproven mathematical theory. One might think that scientists are serious people, logical thinking, the weight of scientific evidence, academic authority. However, all the cryptography securing our information systems is based on faith in an unproven theory. Well, but we didn't have anything better, did we? For the time being, it works. It's worth adding that scientists didn't really build entire system. Do you know who came up with SHA-256?
The SHA-256 algorithm can be compared to a meat grinder. The belief that no human or powerful computer could arrange a cutlet from minced pork seems reasonable. However, reason has failed us many times during the recent development of artificial intelligence. If a well-designed AI algorithm can predict the structure of proteins or induce an existential crisis in the best Go players, is creating a universal application for reconfiguring minced meat into cutlets entirely impossible? Another threat here is entangling more qubits in quantum computers, but that's another story.
In the AI bubble these days, everything revolves around the turmoil at OpenAI. It should be noted that much of the story is based on rumors and unofficial leaks. However, even a small probability that these rumors are true, in my opinion, is sufficient to consider such a scenario. That's the weight of the threat. I'll also note that I don't have enough understanding of computer science to go into technical details here. However, if anyone in the world possesses a model that is good at math and capable of meta-cognition, worls we used to know will be doomed. Can we imagine a world where the achievements of thousands of years of human mathematics are just a warm-up for a computer system? Even if these are just rumors, one place in the world working on such technology is enough. Leading in the West seems like a poor consolation here. So the question is not "whether?" but "when?"
We also don't need a perfect model that will spit out mathematical proofs printed in scientific journals. It's enough for one seemingly "impossible" breach of one or another information system to occur. One mysteriously emptied BTC wallet is enough to cause chaos. One can only imagine how financial markets and governments will react. Do you know where else the SHA-256 algorithm is applied?
Remember those scientific narratives about how engineering marvels will help the sick and save the world? This chip in the brain will allow people with paralysis to communicate with loved ones. Precise mapping of the ocean floor will help better understand and protect marine life. This super rocket will allow us to explore space and broaden horizons. And then someone comes along with a bigger suitcase of money. It may turn out that the first problem humanity's artificial intelligence will solve is the existence of any system. And no bad actor is needed this time.
I'm not a fan of Kaczyński, none of those popular ones, but this quote somehow fits here very well.
Now I'm having an existential crisis. Small one. I need to seriously reevaluate my investment theses and probably diversify more towards precious metals. I underestimated how quickly things are happening. I might be panicking a little bit, but nn the coming days, I will carefully observe a few charts to see how the market is reacting to these rumors and the vision of the future of AI.