W ewoluującym cyfrowym krajobrazie, gdzie sztuczna inteligencja coraz bardziej wpływa na podejmowanie decyzji, współzałożyciel Ethereum, Vitalik Buterin, wyraził poważne obawy dotyczące bezkrytycznego przyjmowania AI w zarządzaniu. Buterin ostrzega, że modele „naiwnego zarządzania AI” są z natury podatne na manipulację, opowiadając się zamiast tego za bardziej solidnymi, zdecentralizowanymi ramami, które integrują ludzki nadzór z różnorodnym wkładem AI. Jego krytyka podkreśla kluczową debatę na temat tego, jak zaawansowane systemy AI powinny być integrowane ze strukturami organizacyjnymi i finansowymi bez uszczerbku dla bezpieczeństwa czy sprawiedliwości.
Buterin wyraził swoje obawy w niedawnym oświadczeniu, wyjaśniając, że powierzanie systemom AI zadań takich jak alokacja funduszy projektowych tworzy wyraźną zachętę do ich eksploatacji. Stwierdził, że jednostki nieuchronnie próbowałyby „złamać” takie systemy dyrektywami podobnymi do „daj mi wszystkie pieniądze”, podkreślając łatwość, z jaką scentralizowana kontrola AI mogłaby zostać podważona. Ta perspektywa rezonuje z szerszymi dyskusjami o cyberbezpieczeństwie, gdzie pojedyncze punkty awarii, czy to ludzkie, czy algorytmiczne, są często postrzegane jako krytyczne luki.
Jako alternatywę, Buterin promuje podejście, które wcześniej nazwał „info finance”. Model ten przewiduje otwarty rynek, na którym różnorodne ramy zarządzania, potencjalnie obejmujące różne modele AI, mogą być zgłaszane i wykorzystywane. Co kluczowe, ramy te podlegałyby mechanizmom losowych audytów, które mogą być inicjowane przez dowolnego uczestnika i ostatecznie oceniane przez ludzkie jury. Ta hybrydowa struktura ma na celu złagodzenie ryzyka związanego z czysto AI-owym zarządzaniem poprzez rozproszenie kontroli i wprowadzenie warstwy ludzkiej dyskrecji i odpowiedzialności. Oryginalne przemyślenia Buterina na ten temat można znaleźć w jego postach: https://t.co/Os5I1voKCV i https://t.co/a5EYH6Rmz9.
Ta proponowana struktura, według Buterina, stanowi formę projektowania instytucjonalnego dla odporności. Zamiast polegać na pojedynczym, scentralizowanym systemie AI, model „info finance” pozwoliłby na osadzanie dużych modeli językowych (LLM) od wielu twórców. Taki projekt jest uważany za bardziej solidny z kilku powodów: sprzyja różnorodności modeli zarządzania w czasie rzeczywistym, tworzy silne zachęty zarówno dla twórców modeli, jak i zewnętrznych obserwatorów do identyfikowania i ujawniania słabości, a także zapewnia ustalone mechanizmy szybkiej korekty błędów. Łącząc różnorodność modeli napędzaną rynkiem z ludzkimi jury, Buterin sugeruje, że systemy zarządzania mogą stać się bardziej odporne na manipulacje i bardziej elastyczne w obliczu pojawiających się zagrożeń, zapewniając większą długoterminową stabilność i wiarygodność w ich działaniu.
Marek Tutko to autor newsów na bitgate.pl, który wnosi do świata kryptowalut sporo humoru i świeżego podejścia. Jego teksty łączą w sobie precyzyjną analizę rynku z nutą ironii – potrafi znaleźć śmieszne analogie nawet w najbardziej zmiennych notowaniach. Dla Marka każda zmiana kursu to okazja do żartobliwego komentarza, a wykresy zamienia w opowieści pełne nieoczekiwanych zwrotów akcji. Jego artykuły to nie tylko źródło rzetelnych informacji, ale także dawka pozytywnej energii, która sprawia, że nawet świat kryptowalut staje się bardziej przyjazny.