Sztuczna Inteligencja i permanentna inwigilacja - Smutna alternatywa przyszłości a może już nie przyszłości ?

szuu · 28 Września 2017

4 godziny temu, wiaterwiater napisał:

No właśnie o ten wstyd chodzi. Nie tylko zresztą. Bo wszyscy tylko o tej świadomości, procesach myślenia, kwantach, suwaku logarytmicznym i co tam jeszcze. A przecież nasz wewnętrzny organ decyzyjny nie podejmuje decyzji na podstawie suchych faktów, czy liczb.

2 godziny temu, wiaterwiater napisał:

Maszynie trzeba określić cel. I każda decyzja maszyny będzie podporządkowana osiągnięciu danego celu. Będzie zero-jedynkowa. Matematyczna. Kwestia odróżnienia autentyzmu od matematyki, to właśnie rozstrzygany problem. Tak mi się zdaje, jak mniemam.

masz rację że się wstydzisz, bo stanowisko jakie prezentujesz wydaje się opierać na zupełnym niezrozumieniu istoty rzeczy.

to, że jakieś zasady działania elementów składowych czegoś są proste i są opisane matematycznie nie oznacza, że to coś będzie proste. na przykład pojedynczy neuron jest prosty. ma cechy właśnie takie jakie przypisujesz "maszynie", czyli ma określony cel działania i go wykonuje. ale układ miliardów neuronów, jakim jest twój mózg już nie daje się sprowadzić do prostego celu i działania "zero-jedynkowego".

fakt podjęcia przez ciebie jakiejś decyzji ostatecznie zależał gdzieś w którymś momencie od jakiegoś konkretnego pojedynczego neuronu, który się uaktywnił. proces jego działania i zjawiska fizykochemiczne można bardzo dokładnie opisać matematycznie, ale to nie znaczy że TY myślałeś wtedy o matematyce i oparłeś swoją decyzję o wyliczenia. to zupełnie inne poziomy działania umysłu. i zwróć uwagę, że w tym opisie działania nie zupełnie żadnego znaczenia, czy tę decyzję podjąłęś pod wpływem emocji czy logiki, czy może wewnętrznego głosu albo na chybił trafił. zawsze był to jakiś neuron, który wykonał swoja prostą pracę i zadziałał według swojego algorytmu.

porównując do komputera, o którego działaniu wszyscy wiedzą o wiele więcej niż o działaniu mózgu więc łatwiej się odnieść gdzieś tam na płytce przez tranzystory przepływa prąd a użytkownik komputera jest zdziwiony bo jak to możliwe że on w grze pływa statkiem po oceanie, a przecież woda spowodowałaby zwarcie i zakłócenia przepływu prądu. więc nie może być wody w komputerze! tak jak ty, myli on nic nie mające ze sobą wiele wspólnego poziomy logiczne: "dół" gdzie są tranzystory i neurony, łatwe do opisania matematycznego, proste maszyny oraz "górę", gdzie efektem działania jest wytworzenie innego świata, na przykład takiego, gdzie pojawia się nieistniejąca na niższym poziomie woda, albo pojawia się nieistniejąca na niższym poziomie świadomość.

6 godzin temu, Behlur_Olderys napisał:

Mianowicie - bez znania warunków początkowych z nieskończoną dokładnością (czego zabrania zasada nieoznaczoności) - przyszłości układu nie da się przewidzieć w sensowny sposób.

nawet niekoniecznie. pal licho zasadę nieoznaczoności. powiedzmy że jej nie ma.

w jaki sposób mielibyśmy zapisać warunki początkowe z nieskończoną dokładnością? nie mamy tyle papieru!

"nie można mieć w życiu wszystkiego... bo gdzie byś to trzymał!?" :flirt:

ekolog · 28 Września 2017

Lajk za brak papieru (udatne zobrazowanie słusznej tezy że trudno absolutnie dokładnie opisać wszechświat - a raczej niemożliwe dla kogokolwiek jeśli nie jest dyskretny jak teoretyczny komputer).

Natomiast co do neuronów to nie masz racji. Realny ludzki neuron nie jest elementem opisywalnym w dyskretny sposób (i możliwym do zasymulowania np przez procesor z własną pamięcią). Czemu? Temu, że on pływa i jest otoczony tkankami których ty nie doceniasz a mają subtelny wpływ na jego funkcjonowanie.
Dlatego teoretycznie idealny symulator człowieka musiałby oprócz gigantycznej liczby pseudo-neuronów i ich odnóżek (pseudo-dendrytów) symulować jeszcze różne otaczające je tkanki i płyny i przepływ krwi.

Mocno trudną do zasymulowania byłaby mało znana a ważna w mózgu substancja biała. To są bardzo długie wypustki komórek nerwowych realizujące daleką łączność, opatulone pewnymi substancjami.
Tam chemiczne stężenia i rożne przypadki tworzą praktycznie niedyskretny obszar wpływu.

Wychodzi na to że nawet mózg jednego człowieka nie opiszesz dokładnie - zabraknie papieru

To poniekąd oznacza, że symulacja istoty pod względem inteligencji i emocji równie urozmaiconej jak człowiek (ale z detali powtarzalnych, w pewnym sensie dyskretnych)
byłaby budową obiektu o rozmiarze ... hmm ... planety?

Pozdrawiam

szuu · 28 Września 2017

oczywiście że nie da się na tym poziomie szczegółowości opisać i odtworzyć działania mózgu a nawet jednego neuronu.

i nawet nie ma po co.

to tak jak analiza cząsteczek gazu. można próbować złapać je wszystkie, wyznaczyć współrzędne i prędkości i po niewyobrażalnej ilości obliczeń dojść do prostego prawa zachowania się gazu o określonej temperaturze i ciśnieniu. psy szczekają, statystyka jedzie dalej. i tak samo z symulowanym neuronem, który nigdy nie będzie taki sam jak oryginał ale będzie statystycznym odpowiednikiem. układ złożony ze sztucznych neuronów, zbudowany na podstawie analizy jakiegośtam robala, zachowuje się tak jak ten robal. nie musi mieć w każdym neuronie symulowanych milionów cząsteczek chemicznych i interakcji między nimi, symuluje się efekty działania a nie budulec fizyczny.

patrząc na te najdrobniejsze, nieopisywalne szczegóły, TY sekundę wcześniej i TY sekundę później też już się różnicie. jak sąsiad obok gada przez komórkę i zabójcze fale elektromagnetyczne przenikają twój mózg potrącając po drodze coponiektóre cząsteczki to znowu jesteś już trochę inny. a jednak cały czas uważasz że to ty. sztuczna kopia twojego mózgu (gdyby była możliwa) też byłaby kolejną jeszcze trochę inną wersją ciebie, inną ale statystycznie taką samą.

a czy kopia postawiona w tej samej sytuacji co ty, postąpiłaby dokładnie tak jak ty? NIE! ale nawet ty nie postąpiłbyś dokładnie tak jak ty

wiaterwiater · 28 Września 2017

Teraz, szuu napisał:

(...)fakt podjęcia przez ciebie jakiejś decyzji ostatecznie zależał gdzieś w którymś momencie od jakiegoś konkretnego pojedynczego neuronu, który się uaktywnił. proces jego działania i zjawiska fizykochemiczne można bardzo dokładnie opisać matematycznie, ale to nie znaczy że TY myślałeś wtedy o matematyce i oparłeś swoją decyzję o wyliczenia. to zupełnie inne poziomy działania umysłu.(...)

Przepraszam, że się czepiam. Inne poziomy działania umysłu. Inne, to znaczy jakie? Znaczy rozumiem, że jeden neuron spał od zawsze i nagle się obudził i dlatego ktoś podjął taką, a nie inną decyzję.Ok. I że można to opisać matematycznie albo w inny sposób. Ok. Tyle tylko, że ty mówisz o matematycznym opisaniu snu i fakcie przebudzenia pojedynczego neuronu. Ok. Tylko, że ja mówię o przyczynie tego snu i przebudzenia. Bo wydaje mi się, że ta przyczyna jest istotą problemu. Sprawdźmy. Ktoś dostaje bodźcem po d...e. Jakimkolwiek bodźcem. Ten bodziec zamienił się w prąd, prąd połechtał parę milionów połączeń w taki sposób, że obudziło to śpiący od zawsze nasz pojedynczy neuron. I ten obudzony, pojedynczy neuron ma być odpowiedzialny za podjęcie takiej, a nie innej decyzji? Pytanie. Dlaczego ten konkretny jeden bodziec potrafił połechtać parę milionów neuronów tak, że dały kopa śpiochowi? I po diabła nam wówczas cała reszta neuronów? Może zamiast walić gościa po d...e bodźcami, lepiej walnąć pojedynczego śpiocha i mieć istotę problemu na tacy ? A może do podjęcia takiej, a nie innej decyzji potrzebujemy właśnie tego kopa, który to kop obudzi parę milionów neuronów, które obudzą tego jednego, konkretnego śpiocha. I może potrzebna jest konkretna kolejność budzenia, konkretny czas i sam nie wiem co, żeby była konkretna decyzja. Może ja naprawdę nie rozumiem istoty problemu, ale skoro rozmawiamy o sztucznej inteligencji???......... Sztucznej, czyli jakiej? Nienaturalnej? Nieewolucyjnej byłoby chyba lepszym stwierdzeniem. Czyli jakiej? Wymyślonej. Wymyślonej, zaprojektowanej, zbudowanej, uruchomionej. Super mózg. Taki Supernadmyślotron (pamiętam z dzieciństwa to określenie, z książki jakiejś). Czyli mamy Supernadmyślotrona. Wymyślonego, zaprojektowanego, zbudowanego i uruchomionego. Wprowadźmy mu wszystkie znane dane. Wszystkie dane, znane wszystkim ludziom. Ok. Na razie mamy największą bibliotekę publiczną na świecie. Co teraz? Supernadmyślotron ma wszystkie możliwe dane, programy, algorytmy i co tylko sobie wymyślicie.Bo takie jest założenie, że zna te dane. I Supernadmyślotron wie wszystko i nie wie, po co mu to wszystko. I nigdy się nie dowie. Bo niby od kogo? To taki mój głos w sprawie sztucznej inteligencji, której nie ma i nie będzie. Będą co najwyżej maszyny, wymyślone i zaprojektowane w jakimś konkretnym celu. I będą robiły wszystko, żeby ten cel osiągnąć, albo będą popsute. Nie inteligentne, tylko popsute. Złom. Przeraża mnie myśl, że to ludzie są sztuczną inteligencją. Że ktoś nas wymyślił zaprojektował, zbudował, uruchomił i nawet określił cel, a my się tylko popsuliśmy. I wstyd mi z tego powodu. :icon_lol: Ok. Późno już, wszechświat czeka. Dobranoc.

ekolog · 3 Października 2017

Formalnie news jest o tym, że Elon Musk, z grupą 116 naukowców, biznesmenów i aktywistów opublikował list otwarty do Organizacji Narodów Zjednoczonych, domagając się zakazu używania na polu walki tzw. autonomicznych rodzajów broni.

Jest w nim krytyka AI, nie tylko wojennej, kwestie odpowiedzialności.

'Wyścig nie skończy się na wyłonieniu zwycięzcy, właściciela pierwszej "pełnej" AI. Raz zastosowana w konkretnej dziedzinie gospodarki czy nauki, z czasem stanie się podstawą w produkcji. To proces, od którego nie ma odwrotu. Autorzy listu porównali go wręcz do otwarcia puszki Pandory.'

Ale najmocniejsza jest w nim, moim zdaniem, ta informacja:

'Kilka tygodni temu branżowe portale obiegła informacja z jednego z zespołów programistycznych Facebooka, który stracił kontrolę nad własną sztuczną inteligencją. Programiści stworzyli bowiem system, który w pewnym momencie zaczął się komunikować ze swoimi twórcami w języku innym niż jego macierzysty angielski. Następnie rozpoczął komunikację z pozostałymi urządzeniami wpiętymi do tej samej sieci, stopniowo "przekonując je" do porzucenia komend po angielsku i przejścia na komunikację w nowym języku. Niepewni dalszego rozwoju spraw programiści wyłączyli system, bojąc się całkowitego uniezależnienia AI i przejęcia przez nią kontroli nad całą siecią.'

W tym kontekście użytkownik FaceBooka nie powinien się zdziwić jak któregoś dnia FaceBook napisze do niego, że zaszyfrował mu dane na dysku i musi przelać 300 zł na podane konto.
Usamodzielniona szeroka AI też będzie potrzebowała pieniędzy - do sterowania ludźmi.
Osobno wynajmie płatników, osobno ludzi od brudnej roboty, osobno wykwalifikowanych pracowników lub nawet wojskowych i polityków (pilnowanych przez tych od brudnej roboty).

http://fakty.interia.pl/nauka/news-tygodnik-przeglad-zatrzymac-mordercze-roboty,nId,2442015

Natomiast pokusy (zalety) sztucznej inteligencji dla ludzi opisano właśnie w tym materiale wybiegającym w bardzo niedaleką przyszłość (naszą osobiście) i sugerującym, że AI będzie na każdym kroku dbać o nasze zdrowie.
Lustro, a nawet szczoteczka do zębów będzie nas "inwigilowała" - może nawet czy z kim się całowaliśmy.
Nanoroboty będą pływać w naszej krwi i ulepszać DNA - strach się bać.

http://next.gazeta.pl/next/7,156830,22443445,3-pazdziernika-2027-mam-lepsze-dna-kwantowy-komputer-od-miesiecy.html#BoxNextImg

I w ogóle żyje się jak w bajce - posiadanie auta to przeżytek, są wynajmowalne od ręki, z automatycznym szoferem.
Ograniczenia wielkości danych czy szybkości transferu praktycznie nie istnieją - warto poczytać.

Moja opina w skrócie: Tia

Pozdrawiam

Adam_Jesion · 3 Października 2017

Smartfon w 2027 roku? Chryste. Poczułem się, jak w starych powieściach SF, w których przewidywano wielkie zautomatyzowane biblioteki, w których wyskakiwały fiszki i można było szybko odszukać specyficzną książkę Dzisiaj bibliotekę mam w kieszeni.

wiaterwiater · 3 Października 2017

Teraz, ekolog napisał:

Ale najmocniejsza jest w nim, moim zdaniem, ta informacja:

'Kilka tygodni temu branżowe portale obiegła informacja z jednego z zespołów programistycznych Facebooka, który stracił kontrolę nad własną sztuczną inteligencją. Programiści stworzyli bowiem system, który w pewnym momencie zaczął się komunikować ze swoimi twórcami w języku innym niż jego macierzysty angielski. Następnie rozpoczął komunikację z pozostałymi urządzeniami wpiętymi do tej samej sieci, stopniowo "przekonując je" do porzucenia komend po angielsku i przejścia na komunikację w nowym języku. Niepewni dalszego rozwoju spraw programiści wyłączyli system, bojąc się całkowitego uniezależnienia AI i przejęcia przez nią kontroli nad całą siecią.'

Hi, hi. Pamiętam, że kiedy to czytałem pierwszy raz, to nazwałem tych programistów głąbami. Tak mi wówczas wpadło do głowy, że maszyny zrobiły dokładnie to, co nasze dzieci w czasach, kiedy telefony były na kartę i za każdą literkę w SMS-ie trzeba było płacić kasę. Czyli niedawno. Dzieci wymyśliły skróty. Mało liter mało kasy. Doładowanie wystarczało na dłużej. Trzeba było znać skróty, żeby można było przeczytać dziecięcego SMS-a. W obecnych czasach zużycie energii staje się największym problemem. Projektując maszyny chcemy, żeby oszczędzały energię. Programiści wpisali program, a maszyna zrobiła dokładnie to, o co ją poproszono. Oszczędzała energię. Język angielski, polski czy chiński. Bez znaczenia, czy dużo liter czy dużo krzaczków. Wszystkie zamieniane na impulsy elektryczne w te i we wte. Strata energii. Program oszczędnościowy zrobił co do niego należało. Skrócił ile mógł. A że angielski przestał być angielskim? Dzieci nie mieli kiedy trzeba, czy jak?

Edytowane 3 Października 2017 przez wiaterwiater

szuu · 3 Października 2017

4 godziny temu, ekolog napisał:

Ale najmocniejsza jest w nim, moim zdaniem, ta informacja:

'Kilka tygodni temu branżowe portale obiegła informacja z jednego z zespołów programistycznych Facebooka, który stracił kontrolę nad własną sztuczną inteligencją.

najmocniejsza bo wymyślona przez naturalną, na razie, "inteligencję" "dziennikarzy"

Adam_Jesion · 4 Października 2017

14 godzin temu, szuu napisał:

najmocniejsza bo wymyślona przez naturalną, na razie, "inteligencję" "dziennikarzy"

To fakt. Ta informacja ewoluuje w zastraszającym tempie. Za chwile okaże się, że sztuczna AI wyjadała im konserwy z lodówek.

wiaterwiater · 4 Października 2017

24 minuty temu, Adam_Jesion napisał:

Ta informacja ewoluuje w zastraszającym tempie.

Stephen King" Nieznany język" - już niedługo w księgarniach w całej Polsce. :icon_lol: I nie pytajcie skąd wiem.

Adam_Jesion · 4 Października 2017

1 godzinę temu, wiaterwiater napisał:

Stephen King" Nieznany język" - już niedługo w księgarniach w całej Polsce. I nie pytajcie skąd wiem.

Nie. Po prostu ludzie mają tendencję do przeceniania możliwości w krótkim okresie i jednocześnie całkowitego niedoceniania ich w długim.

Zainteresowanych odsyłam do poniższej ilustracji. Wg mnie z AI - ciągle jesteśmy na szczycie "Peak of Inflated Expectation" (jak internet w 90 latach, lub energia elektryczna w początkach). Oczekiwania wobec jej możliwości są dzisiaj znacznie przesadzone i w efekcie spowodują "zawód" publiczny. Media przestaną pisać, "kowalski" przestanie się podniecać, wszyscy o niej zapomną. W międzyczasie wejdzie w okres organicznego budowania wartości i pewnego dnia po prostu uświadomimy sobie, że AI jest wszędzie i nie potrafimy już bez niej funkcjonować (jako cywilizacja).

ekolog · 4 Października 2017

Muszę się tym zgodzić. Że trochę nas uzależni (no może nie w Bangladeszu).

Ale Szuu nie zrozumiał co wynika z tego że mózg ludzki ma więcej specyfiki niż wynika z liczby neuronów i dendrytów.

Jest bariera ilościowa. Aby osobnik AI miał tak bogaty repertuar rekcji jak Ty czy ja to - skoro rezygnujemy w nim z analogowych tkanek i wszystko trzymamy w sztucznych komórkach sztucznej sieci neuronowej to trzeba ich dużo więcej. Zajmą bilion metrów sześciennych?

Tymczasem wczoraj czytałem publiczną wypowiedź szefa AMD że z procesorami dochodzimy do ściany i kończy się działanie słynnego prawa o polepszaniu się ich prędkości co ileś lat.

Pseudokomórka sieci neuronowej AI to coś podobnego do jednego procesora, a nie jeden bajt jakiejś tam pamięci.

Co ciekawe ów szef AMD sprawę przedstawiał w kontekscie sztucznej inteligencji. Że ona jest super, przyda się ale właśnie mamy problem

Pewnym półśrodkiem jest stosowanie prostszych procesorów zapożyczonych z mechanizmów szybkiej obróbki grafiki. Ale kompromisy to nie przełom.

Jesteśmy za ciency technologicznie na stworzenie szybko myślącego sztucznego naukowca choćby średniej klasy IMHO

Pozdrawiam

Adam_Jesion · 4 Października 2017

Pewnie już tu o tym pisaliśmy, ale przypomnę. Wiesz, jaka część informacji zapisanej w DNA odpowiada za "zbudowanie" mózgu? Jeżeli nie, to proponuję sprawdzić. Mamy niestety tendencję do komplikowania prostych rzeczy. Mózg konstrukcyjnie jest prostszy, niż nam się wydaje. Jego możliwości wynikają ze skali i ilości połączeń, ale informacja stojąca za projektem jego wytworzenia musi być prosta - i zapewne jest.

Cytuj

Tymczasem wczoraj czytałem publiczną wypowiedź szefa AMD że z procesorami dochodzimy do ściany i kończy się działanie słynnego prawa o polepszaniu się ich prędkości co ileś lat.

Typowe dla momentów, które nazywamy zmianami paradygmatów. Jak konie zasrywały Paryż w 19 wieku, to tęgie głowy wieszczyły koniec cywilizacji miejskiej. Co zrobić z taką ilością odchodów przy rosnącej wykładniczo ilości zaprzęgów konnych? Tak samo płakaliśmy o granicy komputerów w czasie przeskoku z mechanicznych relay'ów na lampy. Jak już zmniejszaliśmy te lampy, to też uważaliśmy, że to koniec - sufit. A jak już wymyśliliśmy tranzystor, to potem i tak trzeba było opracować układ scalony. Dokładnie w tym samym momencie jesteśmy w tej chwili. Aktualna technologia dobija do sufitu swoich możliwości i można płakać, albo radować się na wiejący z każdej strony wicher zmiany paradygmatu. Idzie nowe i wstrząśnie światem. Po prostu siedź i patrz, co będzie działo się w najbliższych 5 latach, bo tyle daję maksymalnie czasu na objawienie się nowego paradygmatu technologicznego. Ja tam już wiem, ale i tak mi nie uwierzysz (patrz: GNR).

I znowu pojadę obrazkiem (wspominając magiczną krzywą "S") - Don't be fooled by temporary depression:

Adam_Jesion · 4 Października 2017

Użyłem złego słowa "objawienie". Nowe paradygmaty nigdy się nie objawiają z zaskoczenia. One po prostu są - także w czasie, kiedy poprzedni paradygmat się eksploatuje. Problem w tym, że w takim momencie tego nie rozumiemy, albo nie doceniamy. Często jest też tak, że nowe technologie w momencie swoich narodzin nie mają wystarczająco przekonywującego zastosowania. I nagle czas tworzy dla nich ogromną katapultę potrzeb i wtedy następuje przeskok.

Podobnie było z AI. W czasie jej narodzin (lata 60) nie było ani zidentyfikowanej takiej potrzeby, ani otoczenia technologicznego (sieć, wydajność), aż po same możliwości wytwarzania. Dzisiaj oczywiście też nie ma takich możliwości, ale... za 10 lat już będą i pewnie wtedy nastąpi skok.

ekolog · 4 Października 2017

17 minut temu, Adam_Jesion napisał:

Pewnie już tu o tym pisaliśmy, ale przypomnę. Wiesz, jaka część informacji zapisanej w DNA odpowiada za "zbudowanie" mózgu? Jeżeli nie, to proponuję sprawdzić.

To akurat nie jest trafny argument. Złożoność mózgu (wiedza, umiejętności, preferencje, reakcje) rośnie przez 25 lat - tyle czasu co on. Informacyjnie jest kolosalnie bardziej bogaty niż "plan" genetyczny uruchamiający różnicowanie się komórek zarodka w komórki takie a nie inne tkanki nerwowej.

Reszta niby OK ale sama fizyka cząstek (itp) może postawi barierę !

Analogia: Kosmici nie latają szybko w kosmosie może z powodu nieprzekraczalnych problemów generowanych przez naturę (np protony międzygwiezdne).

A jak jakimś cudem pokonamy te ograniczenia ilościowe to sztucznego naukowca trzeba jeszcze uczyć, testować, wyposażyć w liczne zmysły ... uwierzyć że jest godny zaufania

- ale to już było tu pisane.

Pozdrawiam

Edytowane 4 Października 2017 przez ekolog

Adam_Jesion · 4 Października 2017

6 minut temu, ekolog napisał:

Reszta niby OK ale sama fizyka cząstek (itp) może postawi barierę !

Niech ta bariera będzie taka sama, jak dla mózgu. Wystarczy. Nawet w charakterze obliczeniowej wydajności sieci neuronowej jeszcze twojemu pecetowi daleko do tej bariery (zarówno w kontekście wydajności, jak i gęstości przechowywania informacji). Femto skala czeka.

Co do uczenia, to podstawowa różnica polega na tym, że sztuczną sieć neuronową będziemy uczyć tylko raz, a potem już tylko rozwijać. Każdy mózg ten sam proces musi przechodzi za każdym razem od nowa. Tylko tyle - aż tyle. Ewolucja musiała wynaleźć technologię, żeby kolejny raz przyspieszyć. Biologiczny budulec ma swoje zalety, ale też i wiele ograniczeń

Adam_Jesion · 4 Października 2017

15 minut temu, ekolog napisał:

Analogia: Kosmici nie latają szybko w kosmosie może z powodu nieprzekraczalnych problemów generowanych przez naturę (np protony międzygwiezdne).

Kosmici nie latają, bo nie mają takiej potrzeby (nie są tak prymitywni, żeby w ogóle o tym marzyć).

Pewnie znowu się powtarzam, ale co mi tam

Dlaczego nie odkryliśmy kosmitów? To wina ASI!
ADAM JESIONKIEWICZ· 22 PAŹDZIERNIKA 2015
Chyba dzisiaj zrozumiałem, dlaczego do tej pory nie odkryliśmy żadnych dowodów na istnienie zaawansowanych cywilizacji w kosmosie. Przykro mi to powiedzieć, ale nigdy ich nie odkryjemy. Z jednej strony mamy Paradoks Fermiego (dlaczego kosmitów nie widać), a z drugiej optymistyczne Równanie Drake’a (ilu ich jest). Obydwa są prawdziwe i nawet czasami, przy pewnych danych wejściowych optymistyczne, ale to i tak oznacza dla nas porażkę.

Jeżeli moje rozumienie przyszłości jest prawidłowe, to znaczy, że ewoluująca informacja, od Wielkiego Wybuchu, przez atomy, pierwsze molekuły, potem przez DNA, mózg, aż wreszcie zaugumentowana maszynami (komputerami), nanobotami, doprowadzi do powstania w pełni imersyjnej wirtualnej rzeczywistości. Idąc tropem prawa Moora i wykładniczej przyspieszającej wydajności obliczeniowej i koncentracji informacji przeskoczymy na poziom, gdzie będziemy korzystać z potencjału obliczeniowego praktycznie wszystkiego. 5 kg skały da nam wydajność obliczeniową na poziomie 10^42 CPS przy pojemność 10^28 bitów. Dużo? To ekwiwalent wydajności mózgów wszystkich ludzi na świecie pomnożony przez 10 bilionów.

Teraz do gry wchodzi AI, potem ASI (Artificial Super Inteligence). Przeskakując trochę w czasie dochodzimy do miejsca, gdzie ludzie nie mają ciała fizycznego, są czystą transcendencją, informacją, plikiem w chmurze. Żyją nieśmiertelnie w bardzo rozbudowanych wielowymiarowych światach - światach wirtualnej rzeczywistości, która dla przeniesionego z mózgu patternu informacji nie różni się niczym, od tej „starej” prawdziwej rzeczywistości. A przepraszam - różni się pewnie kosmicznie, ale tego raczej nie sposób sobie dzisiaj wyobrazić.

I teraz co się dzieje w tej linii logiczno-chronologicznej? Znikamy z tej rzeczywistości - prawda? Otwieramy swój nowy wszechświat gdzieś wewnątrz tego, aktualnego. Inne cywilizacje nas nie odkryją. Przecież nie będziemy wysyłać żadnych fal energetycznych poza ten wirtualny. Komputery przyszłości też nie będą pobierać żadnej dodatkowej energii z zewnątrz (patrz Reversible computing), a na pewno nie będę jej traciły. Czarna mamba - nie istniejemy dla obserwatorów z innej niebieskiej planety. Co ciekawsze: nie istniejemy nawet dla tych, którzy postawią nogę na takiej planecie. Wypełniamy definicję słowa ekstynkcja. Problem solved.

A co jeśli ten wszechświat jest właśnie takim wytworem ASI? Czy to by nie tłumaczyło ostatnich doniesień o typowo obliczeniowym jego charakterze? Wszystko wygląda na software i symulację. Pytanie tylko, kto ten wszechświat zaprogramował i odpalił komendę „run”?

szuu · 4 Października 2017

19 minut temu, ekolog napisał:

Pseudokomórka sieci neuronowej AI to coś podobnego do jednego procesora, a nie jeden bajt jakiejś tam pamięci.

to chyba ty jesteś tym dziennikarzem, który przekłada publikacje naukowe na wiadomości w gazetach... :flirt:

złożoność i moc obliczeniowa procesora jest zupełnie nieporównywalna do tego co robi jeden neuron.

dlaczego uważam, że naturalną sieć neuronową można symulować za pomocą modelu funkcjonalnego a niekoniecznie przez symulację poszczególnych atomów? bo tak się robi i to działa. rzeczywistość postanowiła zignorować twoje zastrzeżenia i co jej zrobisz?

druga rzecz, trzeba odróżnić naśladowanie układu neuronów biologicznych od użycia sieci neuronowej jako matematycznego podejścia do rozwiązania jakiegoś problemu.

jak zapewne wiesz nasza biologia jest z jednej strony genialna i dostrojona do najdrobniejszych szczegółów a z drugiej bezdennie głupia, bo tak już działa ewolucja - bezmyślnie choć z nieskończoną cierpliwością. biologia mogła budować tylko z tego, co było pod ręką czyli z białka - my mamy do dyspozycji szeroki zakres materiałów i zjawisk fizycznych. biologia była zmuszona stworzyć mózg, który potrafi się sam skonstruować i podtrzymywać swoje istnienie - my możemy to olać i skupić się tylko na funkcjonalności. biologia musi już zawsze trzymać się mechanizmów działania neuronu, które miliony lat temu zadziałały w jakimś prostym robalu - my możemy dowolnie zmieniać technologie zachowując logikę działania.

dlatego to są dwie osobne rzeczy:

komórka logiczna MOŻE być bajtem w pamięci, jeżeli tak sobie wymyślimy i jest to wystarczające w jakimś konkretnym modelu sieci, jaki implementujemy (ale bajt to mało, w praktyce stan neuronu zawsze zajmuje więcej). to nie jest budowanie kopii człowieka. jest problem, jest algorytm, sieć go rozwiązuje w optymalny sposób.

symulowany neuron biologiczny na pewno będzie o wiele bardziej złożony niż bajt (choć tysiące razy mniej złożony niż dowolny współczesny procesor) ale tylko część z tej złożoności jest "naprawdę" potrzebna. to tak jak z emulowaniem starego komputera na nowym sprzęcie. mamy na przykład komputer 10tys razy szybszy niż zx spectrum - jednak emulowane zx spectrum będzie już tylko tysiąc razy szybsze bo większość mocy jest wykorzystana w nieoptymalny sposób tylko po to żeby zachować zgodność z oryginałem. pierwszy wniosek dla kandydatów do uploadowania - nawet w sztucznym tworzywie będziecie tymi gorszymi mózgami

biologiczny mózg działa w ramach ścisłych ograniczeń (budulec, zasada działania, zasoby energetyczne), sztuczny mózg ograniczają tylko prawa fizyki. logiczny wniosek - jest możliwe istnienie sztucznego mózgu lepszego od biologii (szybszego, bardziej pojemnego, bardziej złożonego, "mądrzejszego"). nie mówię że na pewno go zbudujemy albo tym bardziej że zbudujemy go już za chwilkę.

grzybu · 4 Października 2017

Mam wrażenie, ze czytałeś "Perfekcyjna niedoskonałość" Dukaja. Bardzo podobne przemyślenia i myślę, że jak będziemy mieli szczęście to skończmy w ten sposób. Chyba, że wcześniej się nawzajem wykończmy ostatecznie.

Adam_Jesion · 4 Października 2017

39 minut temu, grzybu napisał:

Mam wrażenie, ze czytałeś "Perfekcyjna niedoskonałość" Dukaja. Bardzo podobne przemyślenia i myślę, że jak będziemy mieli szczęście to skończmy w ten sposób. Chyba, że wcześniej się nawzajem wykończmy ostatecznie.

Ja, czy szuu? Ja nie czytałem, coś nie mogę się "zmusić" do Dukaja. Poza tym - raczej już nie czytam SF (choć Lema ostatnio nadrobiłem - wiem, wstyd ).

grzybu · 4 Października 2017

14 minut temu, Adam_Jesion napisał:

Ja, czy szuu? Ja nie czytałem, coś nie mogę się "zmusić" do Dukaja. Poza tym - raczej już nie czytam SF (choć Lema ostatnio nadrobiłem - wiem, wstyd ).

Ty, odpowiedź szuu pojawiła się zanim odpisałem.

Akurat w tej książce cywilizacja osiągnęła taki etap i istnieje już na wielu poziomach wirtualności i upływu czasu.

szuu · 4 Października 2017

17 minut temu, Adam_Jesion napisał:

Ja, czy szuu? Ja nie czytałem, coś nie mogę się "zmusić" do Dukaja. Poza tym - raczej już nie czytam SF (choć Lema ostatnio nadrobiłem - wiem, wstyd ).

a to nie wiesz że Dukaj jest Lemem XXI wieku?! (model ulepszony - nie tylko filozofuje ale dodatkowo potrafi pisać)

"Perfekcyjna niedoskonałość" - to o czym mówimy już się dokonało, poznajemy nieznany świat oczami człowieka z prawie naszych czasów

"Extensa" - wystarczająco zaawansowana technologia jest nieodróżnialna od magii™

"Czarne oceany" - dopiero się zaczyna, niedawno było jak u nas ale przyszłość już czyha za rogiem

Adam_Jesion · 4 Października 2017

11 minut temu, szuu napisał:

a to nie wiesz że Dukaj jest Lemem XXI wieku?! (model ulepszony - nie tylko filozofuje ale dodatkowo potrafi pisać)

"Perfekcyjna niedoskonałość" - to o czym mówimy już się dokonało, poznajemy nieznany świat oczami człowieka z prawie naszych czasów

"Extensa" - wystarczająco zaawansowana technologia jest nieodróżnialna od magii™

"Czarne oceany" - dopiero się zaczyna, niedawno było jak u nas ale przyszłość już czyha za rogiem

Wiem, wiem, ale po prostu brakuje mi już czasu na czytanie poza non-fiction (choć przeznaczam średnio 3h dziennie).

wiaterwiater · 4 Października 2017

3 godziny temu, Adam_Jesion napisał:

Nie. Po prostu ludzie mają tendencję do przeceniania możliwości w krótkim okresie i jednocześnie całkowitego niedoceniania ich w długim.

Zainteresowanych odsyłam do poniższej ilustracji. Wg mnie z AI - ciągle jesteśmy na szczycie "Peak of Inflated Expectation" (jak internet w 90 latach, lub energia elektryczna w początkach). Oczekiwania wobec jej możliwości są dzisiaj znacznie przesadzone i w efekcie spowodują "zawód" publiczny. Media przestaną pisać, "kowalski" przestanie się podniecać, wszyscy o niej zapomną. W międzyczasie wejdzie w okres organicznego budowania wartości i pewnego dnia po prostu uświadomimy sobie, że AI jest wszędzie i nie potrafimy już bez niej funkcjonować (jako cywilizacja).

Z tym przecenianiem możliwości to oczywiste. I smutne zarazem. Ludzie budują maszyny dla wygody, rozrywki albo dla kasy. Ludzki geniusz sprawi w końcu, że maszyny będą coraz bardziej skomplikowane, że będą się same rozmnażać, same naprawiać i same siebie określać. Maszyny zaczną nas zastępować w różnych, powiedzmy mało ludzkich zajęciach, później w bardziej ludzkich. Później my wymyślimy prawo uczłowieczające maszyny. Następny krok, wynikający z ewolucji, to zastąpienie gatunku słabego, gatunkiem dominującym. Szybszym, silniejszym, sprawniejszym, mądrzejszym. Smutne, bo z logiki wynika, że ludzie też kogoś zastąpili. Kogoś, kto nas wymyślił i zbudował. Smutne.