Skocz do zawartości

Sztuczna Inteligencja i permanentna inwigilacja - Smutna alternatywa przyszłości a może już nie przyszłości ?


Rekomendowane odpowiedzi

  • 3 tygodnie później...

http://mlodytechnik.pl/news/28425-bunt-w-symulatorze

 

Bunt w symulatorze!

Sztuczna inteligencja wymknęła się spod kontroli! Na razie w symulacyjnej grze komputerowej „Elite: Dangerous”, ale to pierwszy taki znany przypadek. Doszło do nieoczekiwanego masowego niszczenia przemierzających kosmos statków za pomocą nowych superbroni.
„Elite: Dangerous”, wydane w grudniu 2014 r., to żywy, ciągle rozwijany i wzbogacany świat, symulacja Wszechświata. Twórcy gry wprowadzili do niej ostatnio wiele nowości, m.in. nowe algorytmy AI (artifficial intelligence – sztucznej inteligencji), które zwiększają jej agresywność i ekspansywność. Nie spodziewali się jednak, że gdy uruchomią aktualizację Engineers, która pozwala m.in. projektować własne podzespoły i broń dla okrętów, ich nowa sztuczna inteligencja wykorzysta ją do zdominowania galaktyki.

Jak to zrobiła? Znalazła luki w systemie i dzięki wykorzystaniu teoretycznie niegroźnych błędów w kodzie sieciowym zdołała zaprojektować oraz wyprodukować superbroń o ogromnej sile rażenia, która w ogóle nie miała prawa pojawić się w grze! Następnie, wyposażona w swoją machinę sądu ostatecznego, rozpoczęła systematyczną rzeź, zarówno innych sztucznych inteligencji, jak i graczy. Nie wiadomo, jakby się to wszystko skończyło, gdyby przytomni twórcy gry nie wyłączyli czym prędzej opcji związanych z produkcją broni. Wprawdzie to tylko wirtualny świat, ale jednak bunt sztucznej inteligencji stał się w nim faktem.

 

oczywiście to nieprawda że to pierwszy przypadek bo w podobnych systemach takie rzeczy dzieją się ciągle, ale tutaj jest to o tyle spektakularne że dotyczy wojny i niszczenia a skutki dotknęły prawdziwych graczy!

  • Lubię 4
Odnośnik do komentarza
Udostępnij na innych stronach

  • 1 miesiąc temu...

"Zostaniemy zredukowani do ziemskiej fauny" :)

Na giełdzie nazwisk znaczących coś w AI wysoko występuje Denis Hassabis współzałożyciel DeepMind Technologies, który obwieszcza powstawanie w tym zakresie "APOLLO XXI wieku".

Jego firmy produkują świetne gry ale też zajmują się różnymi zastosowaniami sztucznej inteligencji korzystającej z tak zwanego "głębokiego uczenia się".

To właśnie jego firma stworzyła AlphaGo - AI które pokonało mistrza świata w GO mimo, że w tej grze nie da się (przynajniej obecnie) policzyć "do końca" wszystkich wariantów i wygrać jak na przykład w kółko i krzyżyk.

Przy okazji artykułu, w którym jest mowa o nim dowiadujemy się, że zaawansowana sztuczna inteligencja nie będzie musiała wysyłać rakiet atomowych lub armii robotów jeśli wpadnie na pomysł praktycznego zniszczenia cywilizacji technicznej.
Zrobi to w banalnie prosty sposób - jak widać na obrazku.

Wybitny fizyk S.Hawking prezentuje podobne obawy co do zaawansowanej AI.

Tylko kto potem będzie naprawiał jej mechanizmy ... ale kto wie co może strzelić do głowy sztucznemu jednak geniuszowi? :D

Może wszystkie cywilizacje w kosmosie rozwijają się cyklicznie czyli kilka razy są cofane w rozwoju przez atak AI i dopiero z czasem mądrzeją odczytując przestrogi z dawnych tekstów, rytów naskalnych, itp ?

http://wyborcza.pl/magazyn/7,124059,20870967,sztuczna-inteligencja-bog-juz-istnieje.html

Pozdrawiam
p.s.
Mimo tych sukcesów, nadal, moim skromnym zdaniem, wychowanie sztucznego mózgu na geniusza jest równie trudne jak wychowanie dziecka na geniusza i trzeba wykonać ogrom pracy wychowawczej, potem weryfikującej odpowiedzialność i niezawodność oraz skasować wiele modeli z wadami technicznymi po drodze.
Taki finalny pełnowymiarowy geniusz (mający pojęcie o całym świecie, a nie tylko o jednej klasie zadań, gier) kosztowałby zatem może milion miliardów Euro, biorąc pod uwage całą historię dochodzenia doń - programy raczej upadną z braku finansowania.

ai_h.jpg

Edytowane przez ekolog
Odnośnik do komentarza
Udostępnij na innych stronach

  • 3 tygodnie później...

Ale czy ta alternatywa (zaawansowana sztuczna inteligencja) na pewno jest smutna?

Może ona właśnie uwolni ludzi od ciężkich fizycznie lub monotonnych psychicznie prac i da im wolność na uprawianie hobby, poznawanie świata, sport, gimnastykę i inne przyjemności ;) na które czasem nie ma czasu nawet w rodzinie.

 

Pozdrawiam

p.s.

Może tytuł wątku warto zmienić na "Sztuczna Inteligencja" bo tym się tu w 99% zajmujemy

i nawet post inicjujący (Wojtka) odsyła do artykułu o "inteligentnym" podpowiadaczu informacji prosto do ucha.

Chociaż można też poszerzyć tytuł oby ujął obawy z 1-szego postu na: "Sztuczna Inteligencja i permanentna inwigilacja"

muskai.jpg

Edytowane przez ekolog
  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

To nie jest pomysł Elona. Bzdura. Idea gwarantowanego dochodu (UBI - Universal basic income) to dosyć stary twór ekonomiczny. W pewnym sensie mocno socjalistyczny, ale oczywiście nigdy nie realizowalny (wiadomo dlaczego). Paradoksalnie, jego wprowadzenie staje się możliwe właśnie w świecie AI i robotów i dlatego dzisiaj się wraca do tego konceptu. Wg mnie nie tylko ma sens, ale też jest jedyną drogą, żeby przetrwać przejściowy okres (kilkadziesiąt lat). Wartość wypracowana przez roboty musi być udziałem wszystkich. Praca zniknie.

 

Czytałeś? https://medium.com/polish/praca-w-%C5%9Bwiecie-sztucznej-inteligencji-czy-powiniene%C5%9B-si%C4%99-ba%C4%87-22ed6e2cc96#.qzkurrk2e

 

https://en.wikipedia.org/wiki/Basic_income

  • Lubię 2
Odnośnik do komentarza
Udostępnij na innych stronach

Paradoksalnie, jego wprowadzenie staje się możliwe właśnie w świecie AI i robotów i dlatego dzisiaj się wraca do tego konceptu. Wg mnie nie tylko ma sens, ale też jest jedyną drogą, żeby przetrwać przejściowy okres (kilkadziesiąt lat).

 

oczywiście mówimy o okresie przejściowym między stanem obecnym i całkowitym pozbyciem się ludzi ^_^

  • Lubię 3
Odnośnik do komentarza
Udostępnij na innych stronach

 

oczywiście mówimy o okresie przejściowym między stanem obecnym i całkowitym pozbyciem się ludzi ^_^

 

Jak już wiele razy mówiłem, w moim futuro-poglądzie nie ma takiego rozgraniczenia. Tzn. nie ma czegoś takiego jak "sztuczna" inteligencja. Jest po prostu inteligencja, a my - ludzie, od samego początku będziemy jej elementem (początkowo augmentacja i interfejsy, a potem po prostu jedna inteligencja). Ja widzę po prostu Super-ludzką inteligencję (ludzie bogowie - tacy z mitologii greckiej, a nie ze współczesnych religii). Z tej perspektywy rozważanie, że coś "zniszczy" człowieka jest trochę idiotyczne. Oczywiście to nie oznacza, że byt zwany biologicznym człowiekiem przetrwa - bynajmniej.

 

Przy okazji, w celach rozrywkowych polecam serial Black Mirror. Opisuje teraźniejszość, dzisiejsze obawy przez pryzmat bliskiej przyszłości (AI, VR, roboty, itp.).

  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

Jak już wiele razy mówiłem, w moim futuro-poglądzie nie ma takiego rozgraniczenia. Tzn. nie ma czegoś takiego jak "sztuczna" inteligencja. Jest po prostu inteligencja, a my - ludzie, od samego początku będziemy jej elementem

 

w demoludach mówiło się, że "klasa robotnicza je kawior ustami swoich przedstawicieli" a teraz z kolei człowiek będzie elementem sztuczno-niesztucznej inteligencji więc może być spokojny o przyszłość ^_^

 

"nie ma czegoś takiego jak "sztuczna" inteligencja" - idąc w klimaty czarnego lustra, te niby-roboty, które mają pracować na wszystkich, to będą po prostu ludzie zainstalowani na stałe przy taśmie fabrycznej :flirt: (może z jakąś modyfikacja mózgu żeby myśleli że są robotami...)

 

ale poważnie mówiąc, coś podobnego istniało już dawno temu, np. starożytność - ludzie nie pracowali, był to obowiązek niewolników, a już dzisiaj w "państwach dobrobytu" da się żyć na jakimś poziomie w ogóle nie pracując. najciekawsze byłoby tu chyba ścieranie się kultur o różnej organizacji ("rzym kontra barbarzyńcy"). i coś co nazwałeś "okresem przejściowym" czyli co zrobić z setkami milionów niepotrzebnych ludzi.

Odnośnik do komentarza
Udostępnij na innych stronach

  • 1 miesiąc temu...

Nie wiem, co ciebie tak zachwyciło. Brak argumentów, trochę bzdur (włącznie z największym wskaźnikiem biedy w Kalifornii - lol). Cegłowski to trochę taki troll - jego największe osiągnięcia to występy na konferencjach, gdzie generalnie krytykuje Dolinę Krzemową, mimo, że sam w niej stara się uczestniczyć (bez sukcesów w dostaniu się np. do znanych akceleratorów).

 

Nie wnikając, czy gość ma rację, czy nie - tak po prostu można o wszystkim rozprawiać, tylko to trochę strata czasu.

  • Lubię 2
Odnośnik do komentarza
Udostępnij na innych stronach

niektóre argumenty sprawiają wrażenie wymyślonych dla jaj ale warto dla samej ich liczby i różnorodności :)

natomiast bieda w kalifornii... nie procentowo ale w liczbach bezwzględnych to rzeczywiście stan z największą liczbą biednych, oczywiście jest też stanem z największą liczbą ludności :P

Odnośnik do komentarza
Udostępnij na innych stronach

  • 1 miesiąc temu...
  • 1 miesiąc temu...

Polecam:
Vilayanur S. Ramachandran "Neuronauka o podstawach człowieczeństwa" - niesamowite historie o mózgu i jego działaniu na podstawie obserwacji uszkodzeń mózgu;
Ray Kurzweil "Nadchodzi osobliwość" - czyli posthumanizm;
Jonathan Haidt, "Prawy umysł" o podstawach moralności,

http://psycholog-pisze.pl/prawy-umysl-jonathan-haidt-recenzja/


Pozdrawiam

p.s.

Przy okazji polecam ZNAKOMITE darmowe KURSY/WYKŁADY

dotykajace i tego tematu niekiedy a też OTW, Mechaniki Kwantowej, software itp

 

https://www.coursera.org/

ai_txt.jpg

Edytowane przez ekolog
Odnośnik do komentarza
Udostępnij na innych stronach

  • 3 tygodnie później...
  • 3 tygodnie później...
  • 4 tygodnie później...

Powiało grozą. Co będzie jak na taki pomysł wpadnie osobnik zaawansowanej AI

 

Polsce się upiekło ale w wielu krajach Europy wczoraj była lokalna katastrofa organizacyjna. Sparaliżowało pracę wielu szpitali.

 

Przypadkowy bohater (informatyk) odżałował 10 euro i altruistycznie uratował pół cywilizowanego świata.

 

http://next.gazeta.pl/next/7,151243,21809011,atak-wannacry-powstrzymal-jeden-czlowiek-wydal-42-zlote-eksperci.html#MT

 

 

Choćby dlatego nie warto iść ludzkości w kierunku świadomego osobnika AI niezależnie już od ogromnych kosztów (szacuję biliony euro) jakie pójdą na kolejne prototypy i prace wychowywania każdego z nich.

 

Pozdrawiam

p.s.

Co ciekawe AI (zwłaszcza rozwijane poza USA) jako potencjalne poważne zagrożenie dla bezpieczeństwa USA raportuje wywiad USA (też głownie w obszarze internetu)

 

http://www.sciencemag.org/news/2017/05/us-spy-agencies-duck-science-climate-change-still-say-it-s-security-threat

 

AI. “Although the United States leads AI research globally, foreign state research in AI is growing,” the report notes. “The implications of our adversaries' abilities to use AI are potentially profound and broad. They include an increased vulnerability to cyber attack, difficulty in ascertaining attribution, facilitation of advances in foreign weapon and intelligence systems, the risk of accidents and related liability issues, and unemployment.”

Internet of Things. Smart devices that communicate with each other—including phones, cars and even electric grids—will bring benefits, the analysis notes. But the technology has also “introduced vulnerabilities into both the infrastructure that they support and on which they rely, as well as the processes they guide … in the future, state and non-state actors will likely use [internet of Things] devices to support intelligence operations or domestic security or to access or attack targeted computer networks.”

 

 

Edytowane przez ekolog
Odnośnik do komentarza
Udostępnij na innych stronach

kierowca przejechał pieszego na pasach. powiało grozą. co będzie jak na taki pomysł wpadnie osobnik zaawansowanej AI?

zamach terrorystyczny w londynie. powiało grozą. co będzie jak na taki pomysł wpadnie osobnik zaawansowanej AI?

gwałtowny wzrost cen serka topionego. powiało grozą. co będzie jak na taki pomysł wpadnie osobnik zaawansowanej AI?

 

^_^

 

Internet Of Things, no coż... chyba wszyscy wiedzą co symbolizuje litera S w akronimie IOT? Security :)

 

natomiast z przedostatniego akapitu można chyba wyciągnąć wniosek, że nic już nie zatrzyma prac na AI, skoro jest to oficjalne uznane za przewagę strategiczną w walce z wrogami kraju. kwestia tylko które z tych prac będą utajnione przez wojsko a co będzie wolno publikować.

Edytowane przez szuu
Odnośnik do komentarza
Udostępnij na innych stronach

  • 3 tygodnie później...

Teraz DeepMind poszuka dla AI dalszych wyzwań.

 

Cóż, do takich, bardzo wąskich (problemowo) zadań AI się nadaje.

 

Nie zmienia to faktu że nauczenie osobnika AI rozumienia świata, moralności, instynktu samozachowawczego, widzenia, wąchania, słyszenia, czucia, ... to zadanie z innej bajki (zapewne niewykonalnej za rozsądną cenę).

 

Pozdrawiam

aiiiiii.jpg

Odnośnik do komentarza
Udostępnij na innych stronach

ja dorzucę przypadek z życia w kraju, których pewnie będzie coraz więcej.

 

Kolega miał wypadek, wjechał w tył samochodu Audi, który z niewiadomych przyczyn zatrzymał sie na drodze.

Kierowca Audi wysiadł i przeprosił bo "samochód sam mu sie zatrzymał".

Samochód zatrzymał się bo miał system, który zatrzymywał samochód kiedy system "doszedł do wniosku" że na trasie jest przeszkoda z którą może dojść do kolizji. Tak wyszło po wstępnej rozmowie z policją.

 

Kolega odmówił przyjęcia mandatu.
Sprawa będzie w sądzie.

Ciekawe jak się skończy.

 

Edytowane przez pki1234
  • Lubię 2
Odnośnik do komentarza
Udostępnij na innych stronach

Madnat dla Audi :P

 

 

u mnie dzisiaj w domu bunt maszyn!

mianowicie robot odkurzacz, pracujący na zasadzie mapowania pomieszczenia i uczenia się konfiguracji pokoju, rozkładu przeszkód oraz czasu pracy potrzebnej do wykonania zadania - no więc zbuntował się i zastrajkował.

 

Posprzątał ładnie połowę pomieszczenia, po czym pojechał do sekcji nr 2 tam stwierdził że nie robi - strajk, postanowił wracać do bazy ładowania, zamieszał się w topografii i długo mu to szło to dokowanie :( dodatkowo bateria niby 100% - a po wyczyszczeniu połowy pomieszczenia powinno być 10%, powrót do bazy, ładowanie i znów do działania od miejsca w którym skończył - czyli z stefy 2.

 

 

Chyba teraz myśli cichym snem robotów o związkach zawodowych - a połowa pokoju nie posprzątana, będę musiał mu jeszcze raz odpalić program i zobaczyć czy to tylko chwilowa czkawka.

Odnośnik do komentarza
Udostępnij na innych stronach

w pewnym dobrze znanym kraju też mieli roboty do sprzątania i ciężkiej pracy fizycznej, po latach okazało się że trzeba im dać prawa wyborcze a później jeden z nich został prezydentem ^_^

 

Ale za to jakie tam mają nocne niebo. Nasi astrofotografowie muszą sporo kasy wydać żeby tam dolecieć i focić.

 

Niemniej trafnie to ująłeś ... najprawdopodobniej, zawsze taniej wyjdzie nauczyć człowieka rozwiązywania skomplikowanych zadań (także w okolicznościach dynamicznych gdzie potrzeba zdrowego rozsądku) niż zbudowanie uniwersalnego umysłowo robota!

 

Ufać można tylko dorosłemu człowiekowi (kobiety od 22-go, a mężczyźni od 24-roku życia bo wtedy kończy się kształtowanie czołowych płatów mózgu gdzie zlokalizowane zostały przez naukowców funkcje związane z odpowiedzialnością) i to sprawdzonemu przez jakiś okres próbny.

NIGDY SZEROKIEJ AI ! To jasne jak słońce :)

 

Pozdrawiam

p.s.

Wybaczcie drodzy forumowicze płci męskiej poniżej 24roku życia - nie nadajecie się nawet do sprzątania w domu Bila Gatesa czy Elona Muska

Edytowane przez ekolog
Odnośnik do komentarza
Udostępnij na innych stronach

Sztuczna inteligencja jest rozpatrywana w coraz to różniejszych dziedzinach życia:

"BlessU-2" ma wywołać debatę na temat ... i możliwości wykorzystania sztucznej inteligencji.

http://www.rp.pl/Spoleczenstwo/170539916-Robot-BlessU-2-blogoslawi-w-niemieckim-kosciele.html

 

 

Pozdrawiam

Edytowane przez ekolog
Odnośnik do komentarza
Udostępnij na innych stronach

AI to zwykły sterownik do czegoś tam . On sam z siebie nic nie zrobi , wszystko jedno czy gra w szachy , steruje pralką , elektrownią atomową, czy jest czymś co gada z człowiekiem symulując myślenie -świadomość .To cały czas jest zwykła maszyna licząca (logiczna). Jeżeli nie ma w programie błędów , maszyneria jest bezwolnym "golemem". Z tą świadomością , czyli z poczuciem istnienia jest problem ( u ludzi). Jest to dziwnie interpretowane, dlatego ludzie widzą zagrożenie w maszynach.

Odnośnik do komentarza
Udostępnij na innych stronach

Dołącz do dyskusji

Możesz dodać zawartość już teraz a zarejestrować się później. Jeśli posiadasz już konto, zaloguj się aby dodać zawartość za jego pomocą.

Gość
Dodaj odpowiedź do tematu...

×   Wklejono zawartość z formatowaniem.   Usuń formatowanie

  Dozwolonych jest tylko 75 emoji.

×   Odnośnik został automatycznie osadzony.   Przywróć wyświetlanie jako odnośnik

×   Przywrócono poprzednią zawartość.   Wyczyść edytor

×   Nie możesz bezpośrednio wkleić grafiki. Dodaj lub załącz grafiki z adresu URL.

×
×
  • Dodaj nową pozycję...

Powiadomienie o plikach cookie

Umieściliśmy na Twoim urządzeniu pliki cookie, aby pomóc Ci usprawnić przeglądanie strony. Możesz dostosować ustawienia plików cookie, w przeciwnym wypadku zakładamy, że wyrażasz na to zgodę.