Sztuczna Inteligencja i permanentna inwigilacja - Smutna alternatywa przyszłości a może już nie przyszłości ?

Krakus · 13 Maja 2020

57 minut temu, dobrychemik napisał:

Robot, który po wywróceniu się nie byłby w stanie się pozbierać o własnych siłach wcale nie dowodzi niedoskonałości swojej inteligencji, ale raczej głupoty konstruktorów. Nie potrzeba dużej inteligencji by mając fizyczną możliwość zmiany swego ułożenia w przestrzeni zrealizować ją. Mrówka po amputacji nóg też sobie nie poradzi, a kto wie, może dzięki lepszej koncentracji na tym, co jej pozostało, jest nawet inteligentniejsza niż jej mobilne siostry?

Ale to nie jest głupota konstruktorów, tylko robot jest zaprojektowany do określonych zadań, a nie wiem czy był projektowany do extremalnych sytuacji, typu wywrócenia go na plecy. W takim razie, robot powinien szukać rozwiązania na miarę jego możliwości SI i zaimplementowanych możliwości technicznych. Jeśli te możliwości są niewystarczające, to wywrócony na plecy - się nie podniesie.. W następnym moim poście pisałem o kreatywności - cechą którą dysponuje człowiek, i szukanie przez SI robota - rozwiązań nawet niekonwencjonalnych. Ta kreatywność jego SI / jeśli ją posiada/ - pomogłaby mu szukać skutecznego rozwiązanie z zaistniałej sytuacji, oczywiście ograniczone możliwościami technicznymi jakie mu dali konstruktorzy. Dochodząc do sedna - zastanawiam się czy SI jest już kreatywna.

szuu · 13 Maja 2020

8 godzin temu, Krakus napisał:

Dochodząc do sedna - zastanawiam się czy SI jest już kreatywna.

a drugie pytanie - czy powinna być kreatywna! :icon_twisted:

pomysł żeby sztuczna inteligencja sterująca robotem, mogącym kopnięciem nogi zabić człowieka lub kierująca samochodem autonomicznym była kreatywna jest jakoś dziwnie niepokojący

czy w ogóle kreatywność robota jest tak bardzo przydatna? one mają robić to co robią "stare" maszyny tylko żeby nie były tak bezdennie głupie że ciągle trzeba patrzeć im na ręce. mają być sprytne jak wytresowane zwierzątko ale w przeciwieństwie do zwierzęcia mają przestrzegać skomplikowanych reguł naszego świata których zwierze nie zrozumie i mają nie mieć psychiki, która jest przeszkodą w pracy

dlatego myślę, że poza systemami eksperymentalnymi, praktycznie budowane roboty będą celowo bardzo mało kreatywne.

choć w ograniczonym obszarze mogą być trochę kreatywne. pytanie zaczęło się od umiejętności wstawania po przewróceniu. ten psokształtny spot tworzy w swoim "umyśle" trójwymiarową mapę otoczenia więc mógłby w nim symulować różne scenariusze zapierania się nogami o przeszkody i może mógłby "kreatywnie" wymyślić że trzeba chwytakiem przesunąć przeszkodę żeby łatwiej wstać - bez wcześniejszego próbowania na oślep. gdyby zrobiło to zwierzę to powiedzielibyśmy że to przejaw inteligencji i wyobraźni. myślę że taka minimalna "kreatywność" jest jak najbardziej możliwa do zaprogramowania w obecnych komputerach spota.

Krakus · 14 Maja 2020

11 godzin temu, szuu napisał:

a drugie pytanie - czy powinna być kreatywna!

pomysł żeby sztuczna inteligencja sterująca robotem, mogącym kopnięciem nogi zabić człowieka lub kierująca samochodem autonomicznym była kreatywna jest jakoś dziwnie niepokojący

No ale stopień zaawansowania SI / i jej kreatywności / powinien być dostosowany do przeznaczenia i do zadań robota lub innego urządzenia. Dla przykładu roboty grające w szachy i wygrywające z najlepszymi szachistami świata, według mnie raczej nie są kreatywne, tylko mają zaawansowane algorytmy, ślepo sprawdzające miliony kombinacji i wybierające te, które dają najbardziej optymalne rozwiązanie - pozwalające im wygrywać. Kreatywność kojarzy mi się bardziej z wyszukiwaniem rozwiązań niekonwencjonalnych. Dla przykładu ludzkiej kreatywności - hitlerowskie komory gazowe, jako przykład niekonwencjonalnego podejścia do eliminacji niepożądanych ludzi w sposób "zmechanizowany". Z tego co pisze Szu - postępowanie robota psa mogłoby już być kreatywne / o ile to jest kreatywność a nie automatyczne wykonywanie implementowanych algorytmów/, przy szukania rozwiązania z sytuacji odwróconego psa robota do góry kołami /.

A kreatywność jak piszą to : Kreatywność (postawa twórcza; od łac. creatus czyli twórczy) – proces umysłowy pociągający za sobą powstawanie nowych idei, koncepcji, lub nowych skojarzeń, powiązań z istniejącymi już ideami i koncepcjami. ... Myślenie kreatywne to myślenie prowadzące do uzyskania oryginalnych i stosownych rozwiązań.

Adam_Jesion · 14 Maja 2020

12 godzin temu, Krakus napisał:

Dla przykładu roboty grające w szachy i wygrywające z najlepszymi szachistami świata, według mnie raczej nie są kreatywne, tylko mają zaawansowane algorytmy, ślepo sprawdzające miliony kombinacji i wybierające te, które dają najbardziej optymalne rozwiązanie - pozwalające im wygrywać.

Krótko, nie. Tak to działało dawno temu, teraz już niekoniecznie. Polecam szczególnie zapoznać się, jak komputer wygrywa w GO.
https://deepmind.com/research/case-studies/alphago-the-story-so-far

Wygrywanie w szachy za pomocą ordynarnego Brute Force, to żadna zabawa

I thought AlphaGo was based on probability calculation and that it was merely a machine. But when I saw this move, I changed my mind. Surely, AlphaGo is creative.

LEE SEDOL
WINNER OF 18 WORLD GO TITLES

PL: Myślałem, że AlphaGo opiera się na obliczeniach prawdopodobieństwa i że jest to tylko maszyna. Ale kiedy zobaczyłem ten ruch, zmieniłem zdanie. Z pewnością AlphaGo jest kreatywny.

Krakus · 15 Maja 2020

9 godzin temu, Adam_Jesion napisał:

Krótko, nie. Tak to działało dawno temu, teraz już niekoniecznie. Polecam szczególnie zapoznać się, jak komputer wygrywa w GO.
https://deepmind.com/research/case-studies/alphago-the-story-so-far

Wygrywanie w szachy za pomocą ordynarnego Brute Force, to żadna zabawa

I thought AlphaGo was based on probability calculation and that it was merely a machine. But when I saw this move, I changed my mind. Surely, AlphaGo is creative.

LEE SEDOL
WINNER OF 18 WORLD GO TITLES

PL: Myślałem, że AlphaGo opiera się na obliczeniach prawdopodobieństwa i że jest to tylko maszyna. Ale kiedy zobaczyłem ten ruch, zmieniłem zdanie. Z pewnością AlphaGo jest kreatywny.

Dzięki za ten przykład, bo dotychczas miałem wątpliwości co do kreatywności SI. No jeśli SI już jest tak kreatywna jak piszesz, to można oczekiwać od niej nowych fundamentalnych odkryć, być może nawet na miarę odkrycia ugięcia czasoprzestrzeni pod wpływem grawitacji, co by przed niejakim Einsteinem, nikomu zdrowemu na umyśle człowiekowi nawet się nie śniło. W takim razie trzeba SI zatrudnić / pewnie już tak się dzieje / do odkrywania kolejnych praw przyrody i zjawisk .... - a czas pokaże jak się sprawuje ich kreatywność, połączona z olbrzymią mocą obliczeniową. Pole do odkrywania - myślę, że jest jeszcze przeogromne a dotychczas zrobiliśmy tylko mały kroczek w poznawaniu Świata, więc SI i jej kreatywność nam tu powinna wiele pomóc. Czekamy też na efekt kumulacji kreatywności człowieka i SI w odkrywaniu Świata - w rozwoju nauki i techniki.

Edytowane 15 Maja 2020 przez Krakus

Adam_Jesion · 15 Maja 2020

To już się dzieje:

https://royalsociety.org/-/media/policy/projects/ai-and-society/AI-revolution-in-science.pdf?la=en-GB&hash=5240F21B56364A00053538A0BC29FF5F

Nawet takie "zabawne" wykorzystane AI do odkrywania nowych rzeczy poprzez analizę starych prac naukowych:

https://thenewstack.io/ai-makes-new-scientific-discoveries-by-analyzing-old-research-papers/

szuu · 15 Maja 2020

9 godzin temu, Adam_Jesion napisał:

[Arcymistrz] : Myślałem, że AlphaGo opiera się na obliczeniach prawdopodobieństwa i że jest to tylko maszyna. Ale kiedy zobaczyłem ten ruch, zmieniłem zdanie. Z pewnością AlphaGo jest kreatywny.

ale gdyby alpha go opierał się na brute force i obliczaniu prawdopodobieństwa(?) i zawdzięczał swoja przewage tylko tym że byłby niewyobrażalnie szybszy od zx spectrum to nieogarniający tych horyzontów białkowy arcymistrz też widziałby tylko genialny ruch i posądzał maszynę o kreatywność

(...i w ogóle co to znaczy "obliczanie prawdopodobieństwa", bo według mnie to jest właśnie to co robi nasz mózg cały czas!)

Adam_Jesion · 15 Maja 2020

19 minut temu, szuu napisał:

ale gdyby alpha go opierał się na brute force i obliczaniu prawdopodobieństwa(?) i zawdzięczał swoja przewage tylko tym że byłby niewyobrażalnie szybszy od zx spectrum to nieogarniający tych horyzontów białkowy arcymistrz też widziałby tylko genialny ruch i posądzał maszynę o kreatywność

(...i w ogóle co to znaczy "obliczanie prawdopodobieństwa", bo według mnie to jest właśnie to co robi nasz mózg cały czas!)

Dokładnie. Brute Force przy odpowiedniej wydajności jest i tak najlepszym rozwiązaniem przy podejmowaniu decyzji. Ewolucja mózgu musiała obejść ograniczenia "wydajności obliczeniowej mózgu" poprzez stworzenie intuicji i pewnie świadomości (o ironio, bo my uważamy to osiągnięcie za coś niezwykłego, metafizycznego i niedostępnego dla komputerów, a w gruncie rzeczy to jest spora niedoskonałość - it's a bug, not a feature ).

No chyba, że w przyszłości komputery kwantowe będą w stanie taki wszechświat sobie symulować i w ten sposób podejmować decyzje (jeżeli da się obliczyć ścieżkę spadającej piłki po schodach, to dałoby się obliczyć każde inne zdarzenie, jeżeli dałoby się symulować zdarzenia na low-level fizyki kwantowej).

Swoją drogą - polecam serial Devs (HBO) - jest dokładnie o tym.

https://hbogo.pl/seriale/devs

Adam_Jesion · 15 Maja 2020

9 minut temu, szuu napisał:

(...i w ogóle co to znaczy "obliczanie prawdopodobieństwa", bo według mnie to jest właśnie to co robi nasz mózg cały czas!)

Nie mów tego głośno, bo 99% osobników Homo Sapiens czuje się obrażona, a wręcz sponiewierana

HAMAL · 15 Maja 2020

:uhm:

dobrychemik · 15 Maja 2020

Gdy arcymistrz dowolnej gry logicznej, np. szachów, potrafi przeanalizować ileś ruchów do przodu to wszyscy naokoło: "ŁaŁ!". Gdy to samo robi komputer to słychać: "Eeee..."

Na jakiej zasadzie arcymistrz podejmuje decyzje o kolejnym ruchu? Wszystko po trochę: analiza obecnej sytuacji i próba porównania ze znanymi, zapamiętanymi schematami, analiza kolejnych, prawdopodobnych ruchów, wreszcie, o ile jego ułomny mózg to ogarnia, doprowadzenie w myśli do znanego sobie SW (sure win). Każda z tych strategii jest wykorzystywana w zaawansowanych programach do gier, ale tylko dlatego, że wykonuje go wtedy komputer, to jest deprecjonowana i traktowana z pogardą. To jak to jest z tą kreatywnością? Kto i kiedy zasługuje na to miano podczas gry w szachy?

HAMAL · 15 Maja 2020

Jak komputer stwierdzi, że mu za gorąco, lub przeszkadza mu słabe zasilanie i przerywa przegrywana partię, wtedy będzie wiadomo, że jest kreatywny

Sam z siebie, a nie zaprogramowany na takie rzeczy !

Edytowane 15 Maja 2020 przez HAMAL

piotrkusiu · 15 Maja 2020

Jak SI zacznie prowadzić badania naukowe i rozgryzie jakiś temat to jak nam (głupkom) potem to wytłumaczy?

Agent Smith · 15 Maja 2020

3 hours ago, dobrychemik said:

Gdy arcymistrz dowolnej gry logicznej, np. szachów, potrafi przeanalizować ileś ruchów do przodu to wszyscy naokoło: "ŁaŁ!". Gdy to samo robi komputer to słychać: "Eeee..."

Na jakiej zasadzie arcymistrz podejmuje decyzje o kolejnym ruchu? Wszystko po trochę: analiza obecnej sytuacji i próba porównania ze znanymi, zapamiętanymi schematami, analiza kolejnych, prawdopodobnych ruchów, wreszcie, o ile jego ułomny mózg to ogarnia, doprowadzenie w myśli do znanego sobie SW (sure win). Każda z tych strategii jest wykorzystywana w zaawansowanych programach do gier, ale tylko dlatego, że wykonuje go wtedy komputer, to jest deprecjonowana i traktowana z pogardą. To jak to jest z tą kreatywnością? Kto i kiedy zasługuje na to miano podczas gry w szachy?

Komputery nie mają intuicji

dobrychemik · 15 Maja 2020

1 godzinę temu, HAMAL napisał:

Jak komputer stwierdzi, że mu za gorąco, lub przeszkadza mu słabe zasilanie i przerywa przegrywana partię, wtedy będzie wiadomo, że jest kreatywny

Sam z siebie, a nie zaprogramowany na takie rzeczy !

Toż przecież szachista też jest tak zaprogramowany, niczym komputer: jak z receptorów w skórze przyjdą odpowiednie sygnały, to rozpoczyna procedurę "jest mi gorąco". Jeśli na dodatek zostanie uruchomiona nadrzędna procedura "chce mi się sikać" to okaże się, że jego proce... jego mózg ma problemy z działaniem i przegrywa.

dobrychemik · 15 Maja 2020

2 minuty temu, Agent Smith napisał:

Komputery nie mają intuicji

Intuicja. Słowo-joker. Co ono oznacza? Wynik procesów myślowych, które częściowo odbyły się poza obszarem świadomości.

Obszary mózgu odpowiadające za świadomość mają takie same podstawy biochemiczne jak cała reszta mózgu. To śmieszne, że wielu ludzi akurat najbardziej dumnych jest właśnie z tych obszarów mózgu, do których nie ma bezpośredniego dostępu ich świadomość. Idąc krok dalej mogliby opiewać swój pień mózgu tak fenomenalnie, MAGICZNiE kontrolujący fizjologię ciała. "Ha! Komputer nie umie w odpowiedzi na niską temperaturę generować sobię gęsiej blachy, a ja umiem robić gęsią skórkę, więc jestem LEPSZY!"

W sumie im więcej intuicji, tym mniej miejsca na świadomą inteligencję. Co wybierasz?

Agent Smith · 15 Maja 2020

1 minute ago, dobrychemik said:

W sumie im więcej intuicji, tym mniej miejsca na świadomą inteligencję.

Powiedz to swojej żonie. Intuicja podpowiada mi, że nie będzie zachwycona.

6 minutes ago, dobrychemik said:

Intuicja. Słowo-joker. Co ono oznacza? Wynik procesów myślowych, które częściowo odbyły się poza obszarem świadomości.

W ludzkich mózgach, poza obszarem świadomości, odbywa się wiele różnych procesów.

Nazywanie ich hurtowo "procesami myślowymi" jest dosyć karkołomne...

HAMAL · 15 Maja 2020

34 minuty temu, dobrychemik napisał:

Toż przecież szachista też jest tak zaprogramowany, niczym komputer: jak z receptorów w skórze przyjdą odpowiednie sygnały, to rozpoczyna procedurę "jest mi gorąco". Jeśli na dodatek zostanie uruchomiona nadrzędna procedura "chce mi się sikać" to okaże się, że jego proce... jego mózg ma problemy z działaniem i przegrywa.

Przeeeeeeeeeeeeegrywaną partię, słowo klucz

szuu · 15 Maja 2020

2 godziny temu, HAMAL napisał:

Jak komputer stwierdzi, że mu za gorąco, lub przeszkadza mu słabe zasilanie i przerywa przegrywana partię, wtedy będzie wiadomo, że jest kreatywny

Sam z siebie, a nie zaprogramowany na takie rzeczy !

23 minuty temu, dobrychemik napisał:

Toż przecież szachista też jest tak zaprogramowany, niczym komputer: jak z receptorów w skórze przyjdą odpowiednie sygnały, to rozpoczyna procedurę "jest mi gorąco". Jeśli na dodatek zostanie uruchomiona nadrzędna procedura "chce mi się sikać" to okaże się, że jego proce... jego mózg ma problemy z działaniem i przegrywa.

proponuję trochę zmodyfikowany test na prawdziwą kretywność: komputer widząc że przegrywa, wymyśla wymówkę że to dlatego że ma słabe zasilanie i jest za gorąco i przekonuje przeciwnika żeby to zaliczyć jako remis

23 minuty temu, Agent Smith napisał:

Komputery nie mają intuicji

albo wprost przeciwnie - to co "wymyślają" nie jest efektem świadomego procesu umysłowego, gdyby ich zapytać dlaczego tak a nie inaczej to nie odpowiedzą - tak działa intuicja. komputery mają wyłącznie intuicję!

powyższe to żart, choć nie do końca: sieci neuronowe, w tym również w komputerach, działają właśnie jak intuicja: na podstawie "doświadczenia życiowego" (nabytego w procesie uczenia sieci) dają odpowiedź i nie jest łatwo wytłumaczyć dlaczego akurat taką.

HAMAL · 15 Maja 2020

Kreatywność to coś więcej niż umiejętność.

Sąsiadka codziennie wieczorem córki wołała do domu, szły pokornie.

Pewnego dnia usłyszałem "a która godzina?" Aha myślę, koniec z usłusznymi biernymi małymi dziećmi

ekolog · 15 Maja 2020

"AlphaGo Zero szybko przewyższyło wydajność wszystkich poprzednich wersji, a także odkryło nową wiedzę, opracowując niekonwencjonalne strategie i kreatywne nowe ruchy, w tym te, które pokonały mistrzów World Go Lee Sedola i Ke Jie." (z materiału podlinkowanego przez Adama).

Prawie każde niebanalne zagadnienie powierza się już samouczeniu, a zatem nie wiemy potem jak to w konkretnych sytuacjach zadziała ale/więc może działać nawet bardziej kreatywnie od człowieka.

Problem tkwi (jak zawsze) w pieniądzach. Symulujemy (w ogólnym sensie) sztuczną tkankę nerwową nie tylko z jej funkcjonalnością zapamiętywania ale też zapominania, osłabiania niektórych "szlaków", itp.

Skoro nawet badania i symulacja jednej czy dwóch komórek nerwowych z ich "wypustkami" kilka lat temu była światowym sukcesem jakiegoś badacza (bodajże z Izraela) a musimy zasymulować powiedzmy bilion komórek to barierą są pieniądze i technologia - do stworzenia czegoś kreatywnego ale nie tak (powiem złośliwie) jednowymiarowego jak gra w GO

Jak pojawią się miliard razy lepsze pamięci, miliard razy szybsze i ktoś z bilionem dolarów to na pewno powstanie kreatywny osobnik Szerokiej AI ale raczej w niezbyt szerokim zakresie życia i wiedzy. Powiedzmy jakiś niezły chemik, weterynarz czy architekt-budowlaniec albo dwuzawodowiec.

Ja bym mu dziecka pod opieką nie zostawił

Siema

p.s.

Pieniądze są problemem także ze względu na czas (wychowywania szerokiej AI) który trzeba opłacić ludziom co to obsługują.

Edytowane 15 Maja 2020 przez ekolog

dobrychemik · 15 Maja 2020

W symulacjach mózgu nie musimy się zbliżać do jego złożoności choćby z powodu jego horrendalnej redundancji. Widać ją choćby w tym, że podczas całego życia codziennie tracimy tysiące neuronów, a i tak dajemy radę to zamaskowywać (w końcu ubytki inteligencji nadrabiamy wiedzą, doświadczeniem, siwizną i okularami dającymi +10 do inteligencji i drugie tyle do charyzmy) i sprawnie funkcjonować nawet w późnym wieku (czyli, wg mojej córki, tak po trzydziestce).

Podejrzewam, że za 100 lat obecne twierdzenia, że SI nie dorówna człowiekowi będą równie śmieszne jak dawne głosy, że człowiek nigdy nie będzie mógł się przemieszczać szybciej niż na rączym koniu, bo nie ma możliwości, by koń zbudowany z żelaza lub drewna i zasilany najdoskonalszymi nawet sprężynami biegał szybciej od prawdziwego.

szuu · 15 Maja 2020

właśnie właśnie, sztuczne myślenie wcale nie musi być kopią naturalnego.

co prawda stworzenie czegoś działającego "na obraz i podobieństwo" ludzkiego mózgu byłoby pokonaniem symbolicznej granicy i na pewno mnóstwo chętnych chciałoby się takim dokonaniem zapisać w historii, ale do praktycznych zastosowań potrzebne są tylko wybrane fragmenty ludzkiego myślenia a nie kopia człowieka.

Adam_Jesion · 15 Maja 2020

3 godziny temu, ekolog napisał:

Jak pojawią się miliard razy lepsze pamięci, miliard razy szybsze

To by znaczyło, że jesteśmy stosunkowo niedaleko. Dzisiejsze komputery z mocnymi GPU (kilkanaście terraflopów "zparalelizowanych" obliczeń) są ponad miliard razy szybsze niż Apple II, a dzieli je zaledwie kilkadziesiąt lat.

bas.sic · 15 Maja 2020

Osobiście wydaje mi się, że najciekawsza jednak jest współpraca między sobą wielu odrębnych maszyn opartych o AI.

Np. eksperymenty Google Brain z 2016 roku dotyczące uczenia od siebie 3 sieci nieuronowych.

Wykorzystanie AI czy ML, DML spotykamy aktualnie na każdym kroku.

Moce obliczeniowe wzrastają i tanieją, ale wydaje mi się, że nie jesteśmy na to mentalnie gotowi.

Podam Wam przykład z mojego ogródka, mamy mechanizmy analityczne oparte o ML wyciągające niezauważalne, niespotykane zależności, ale pozwalające je zmonetyzować.

Otóż okazuje się, że my nie mamy do tych obliczeń zaufania, powstaje pytanie, a dlaczego? Odpowiedz na nie w stylu, bo wyznaczony KPI dla ML jest większy niestety nic nikomu nie mówi.

Aktualnie wykorzystanie AI w biznesie jest bardzo ograniczone i niestety wymaga od zespołów analitycznych dużego HI (Human Inteligence).

Cóż żyjemy w ciekawych czasach...