Skocz do zawartości

Sztuczna Inteligencja i permanentna inwigilacja - Smutna alternatywa przyszłości a może już nie przyszłości ?


Rekomendowane odpowiedzi

Uzupełniając temat od "duchowej" a bardziej konkretnie chrześcijańskiej strony nie mogę się zgodzić iż brak wolnej woli jest faktem. Tak w skrócie wolna wola to możliwość czynienia zarówno dobrych uczynków jak i tych złych. Bóg mógł przecież w czasie stworzenia uniemożliwić człowiekowi popełnianie złych czynów po prostu przez takie ustawienie owej "sieci neuronowej" aby zło było nie do pomyślenia a więc nie do wykonania. Tak więc to że możesz wyjść na ulice i kogoś pobić bo tak ci się ubzdura jest potwierdzeniem że Bóg dał nam wolną wolę. Możliwość czynienia zła. To jak konkretnie przebiega proces decyzyjny nie ma tutaj znaczenia.

Sam proces decyzyjny bazujący na modelu sieci neuronowych i jego "podsłuchiwania" też nie kłuci się z duchowością. Co za różnica czy my będziemy wiedzieć że popełniasz zły uczynek wbijając w kogoś na ulicy nóż. Czy podsłuchując wyładowania nerwów mięśniowych w ręce szykującej się do wbicia noża. Czy może analizując twoje myśli na ileś tam sekund przed. Skoro ty i tak dokonasz tego złego uczynku?   

Bardziej ciekawą kwestią jest możliwość wpływania na ów proces decyzyjny przez jakieś elektrody w mózgu. Zawsze można powiedzieć kazanie w kościele to taka elektroda wszak też informacja dociera do mózgu ale elektrody mogą być skuteczniejsze :) 

W ogóle pewien odłam protestantyzmu, bodajże Kalwinizm, uważa że skoro Bóg jest wszechwiedzący to znaczy że wie jakie uczynki popełnimy za życia. Z czego wynika fakt że nasze zbawienie jest przesądzone już w chwili naszego stworzenia. W sumie tak jakby Bóg odpalał sobie symulacje i widział gotowe wyniki ;)

Odnośnik do komentarza
Udostępnij na innych stronach

17 godzin temu, szuu napisał:

ekolog ma rację, tu nastąpił ważny przełom, sztuczny twór wygrał z człowiekiem w go dzięki elementom działającym i uczącym się według reguł podobnych jak w naszym mózgu.

Nie, to jest absurd. Program wygrał dzięki temu, że napisali go ludzie w taki sposób, aby 'ucząc' się podejmował najlepsze decyzje na podstawie danych historycznych i 'głupiego' przewidywania w milionach kroków do przodu i kilku innych rzeczy. My tak nie potrafimy.

Nie ma to nic wspólnego z regułami czy działaniem ludzkiego mózgu. 

9 godzin temu, Kurak napisał:

Bardziej ciekawą kwestią jest możliwość wpływania na ów proces decyzyjny przez jakieś elektrody w mózgu. Zawsze można powiedzieć kazanie w kościele to taka elektroda wszak też informacja dociera do mózgu ale elektrody mogą być skuteczniejsze :) 

Czasami słysząc kazanie księdza w kościele mam ochotę wsadzić mu elektodę niekoniecznie do mózgu bo to i tak nic nie da ;-). Bo ludzie 'są różne', i mądrzejsi i głupsi. Niezależnie od tego, kto jaką kieckę nosi. 

Ale też nie kumam o co wam chodzi z tą wolną wolą zwłaszcza w kontekście softu ;-). Pewnie należę trochę do tej drugiej grupy :-0).

Nie wiem jak koledzy, ale ja mam wolną wolę. Nigdy tej elektrody 'księdzowi' nie wsadziłem choć ręce swędzą :-P.

  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

Nasz model rozważania nad sztuczną inteligencją (w tym wątku) nijak nie może się równać z ludzkim umysłem.
Widzę zasadniczą różnicę: Dobrze zbudowana sztuczna inteligencja powinna podejmować same dobre decyzje. Po co nam AI, która notorycznie popełnia błędy?
Paradoks, bo umysł człowieka robi to notorycznie. Nasze poczucie wolnej woli potęguje fakt, że mamy w zwyczaju szukać wyjścia, najlepszego rozwiązania, po popełnionym błędzie. Co więcej, ludzki umysł jest w stanie popełniać katastrofalne błędy. Abstrakcyjne błędy. Decyzje pozbawione sensu. Tak się zastanawiam, czy poczucie braku logiki zaraz po złych wyborach i błędach, których można by uniknąć, człowiek nie tłumaczy sobie wolną wolą, przeznaczeniem, pechem, wolą boską itp.

Umysł człowieka jest abstrakcyjny, często pozbawiony umiejętności analizy w trakcie, a także w krótkim czasie po podjęciu decyzji. Często to nasz własny wybór - nie mamy ochoty zastanawiać się jakie konsekwencje spowoduje podjęta przez nas decyzja. A równie często brak "mocy obliczeniowej" - skręcić w prawo, czy w lewo? Zanim zaczniesz analizować wynik podróży, to już trzeba będzie zając mózg czymś innym np: wykonaniem skrętu.

Rozumiem, że gdybyśmy chcieli stworzyć sztuczną inteligencję, to bez tych ułomności. Bez tej abstrakcji ludzkiego umysłu, pierwsza prawdziwa sztuczna inteligencja będzie moim zdaniem kompletnie różna od naszej. Nie wiem, czy będziemy w stanie ją zrozumieć. Czy sztuczna inteligencja będzie kłamać? Człowiek robi to notorycznie. Mówienie czegoś innego niż miało się na myśli to norma. Niesprecyzowanie wypowiedzi - norma.
Nie byłbym taki pewien, czy ze sztuczną inteligencją moglibyśmy się dogadać. A jeśli stworzymy inteligencję na wzór naszej, to nie wiem czy można będzie ją nazwać "inteligencją". "Głupia inteligencja" nie jest nikomu potrzebna.
Tu nie będzie miejsca na tłumaczenie swojej decyzji słowami: "Bo mi tak serce podpowiadało".

Edytowane przez wimmer
  • Lubię 2
Odnośnik do komentarza
Udostępnij na innych stronach

Masz rację. Generalnie oryginalna inteligencja (ludzka) jest dosyć prymitywna, bo uwarunkowana wymaganiami i skutkami ewolucyjnymi. Może się okazać, że "podróbka", którą próbujemy zbudować (już na poziomie projektów narodowych - vide Rosja, Chiny, USA, czy Korea), będzie niewyobrażalnie sprawniejsza i inteligentniejsza. O tym przestrzegają sceptycy, bo dzisiaj już nikt nie wątpi, że to jest do zrobienia. Polemizujemy jedynie nad skutkami.

To co my określamy jako cechy "człowieczeństwa" i automatycznie (andromorficznie) przypisujemy, albo chcemy przypisywać, sztucznej AI - to może być właśnie główny problem w zrozumieniu potencjału AI. Założenie, że inteligencja (kognitywne umiejętności) to jest wszystko, na co stać wszechświat. Szczyt szczytów. Ewolucja zdąży jeszcze udowodnić, jak bardzo się tu mylimy (komputery to też wynik ewolucji - tak samo, jak cały wszechświat, który dziwnym trafem objawia nam bardzo obliczeniowy charakter, że aż boimy się, że jest symulacją).

  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

1 godzinę temu, kjacek napisał:

Nie, to jest absurd. Program wygrał dzięki temu, że napisali go ludzie w taki sposób, aby 'ucząc' się podejmował najlepsze decyzje na podstawie danych historycznych i 'głupiego' przewidywania w milionach kroków do przodu i kilku innych rzeczy. My tak nie potrafimy.

To o czym piszesz, to paradygmat zwany "brute force" i faktycznie, do niedawna był to jedyny model rozwiązywania problemów za pomocą komputerów, jaki znaliśmy. Machine Learning, kognitywne algorytmy, genetyczne algorytmy, etc. nie mają z tym nic wspólnego. Proponuję jednak przeczytać coś w tym temacie, bo to jest naprawdę ekstremalnie interesujące.

Swoją drogą - brute force nie jest złą metodą. Mózg ewolucyjnie musiał poszukać innej drogi i wymyślić "intuicję" (pójść na skróty), czyli de facto statystykę i probabilistykę z elementami losowości (brak danych przykrywa randomizacją), żeby pokonać ograniczenia w mocy obliczeniowej. Brute Force z zasady jest najlepszą metodą, bo zawsze będziemy pewni, że sprawdziliśmy wszystkie możliwe scenariusze i wybraliśmy najlepszy. W kognitywnych paradygmatach już tak nie jest. Obstawiamy intuicyjnie najlepsze rozwiązania. Czasami to działa, czasami nie (vide ludzki mózg i jego decyzje). 

Ostatnio trwa ciekawa debata wynikająca z wykładniczego rozwoju komputerów i nadchodzącego "shiftu" w stronę choćby obliczeń kwantowych. Może się okazać, że stary dobry "brute force" przy tak ogromnych sprawnościach będzie niewyobrażalnie skutecznym modelem do rozwiązywania wielu nierozwiązywalnych problemów, gdzie typowa kognitywna inteligencja będzie bardzo prymitywnym podejściem.

Tak więc proponuję jeszcze nie uśmiercać brute force, bo może się okazać, że w połączeniu z AI rozwali "bank".

  • Lubię 3
Odnośnik do komentarza
Udostępnij na innych stronach

1 godzinę temu, kjacek napisał:

Nie wiem jak koledzy, ale ja mam wolną wolę. 

8 minut temu, Adam_Jesion napisał:

Nie kłam publicznie :P

Jeśli dałoby radę znać wszystkie zdarzenia w otaczającym nas wszechświecie (Demon Laplace'a), to możliwym byłoby odgadnięcie wszystkich decyzji, wyborów i skutków tych wyborów danej osoby, a tym samym całkowite opisanie jej przyszłości. Wtedy okazałoby się, że wolna wola nie istnieje. Wszystko, co się dzieje jest tylko następstwem wyborów, takich lub innych.
I żeby się przypadkiem nie okazało, że kiedyś sztuczna inteligencja o ogromnie niewyobrażalnej mocy obliczeniowej udowodni, że wolna wola to złudzenie, a rządzi tym wszystkim determinizm.

 

  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

Teraz, wimmer napisał:

I żeby się przypadkiem nie okazało, że kiedyś sztuczna inteligencja o ogromnie niewyobrażalnej mocy obliczeniowej udowodni, że wolna wola to złudzenie, a rządzi tym wszystkim determinizm.

Nie musisz czekać na AI. Wg mnie eksperymenty i dowody naukowe nie pozostawiają już dzisiaj żadnych wątpliwości. Wolna wola jest złudzeniem (biochemiczną reakcją na wynik działania sieci neuronowej). Odsyłam do nauki i literatury. 

PS. Zerknij na książkę "Homo Deus", gdzie całkiem fajnie jest rozwinięty ten aspekt w kontekście AI i ewolucji ze 100 stronami przypisów do prac naukowych - stanowi fajny punkt wyjście.

  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

Godzinę temu, kjacek napisał:

Nie, to jest absurd. Program wygrał dzięki temu, że napisali go ludzie w taki sposób, aby 'ucząc' się podejmował najlepsze decyzje na podstawie danych historycznych i 'głupiego' przewidywania w milionach kroków do przodu i kilku innych rzeczy. My tak nie potrafimy.

tak było z szachami. w go ten sposób już nie dał się zastosować bo możliwych sytuacji do przeanalizowania było za dużo.

ale działanie "jak ludzki mózg" nie oznacza od razu "jak świadomy ludzi umysł". elementy "mózgopodobne" wykorzystywane w tego typu systemach są odpowiednikami tych części mózgu, które odpowiadają u nas za nieświadome procesy zapamiętywania, porównywania i klasyfikacji. to ta część umysłu, dzięki której widząc kota, od razu bez zastanowienia wiemy że to kot, i to nawet mimo tego, że nie wygląda identycznie jak wcześniej widzane koty. dotychczasowe podejście, nazwijmy go "szachowym", tu nie działało, bo możliwych obiektów i ich wariantów jest za dużo i nie da się nawet w najszybszym komputerze wszystkiego sprawdzić.

a więc "jak mózg", ale tak naprawdę jak kawałek mózgu, może bardziej jak kawałek mózgu sawanta, genialnego idioty, który zadziwia swoimi zdolnościami, choć nie ma z nim o czym porozmawiać ^_^

 

Godzinę temu, kjacek napisał:

Ale też nie kumam o co wam chodzi z tą wolną wolą zwłaszcza w kontekście softu ;-). Pewnie należę trochę do tej drugiej grupy :-0).

z wolną wolą jest ten problem, że przyjmujemy, że człowiek ma wolna wolę a równocześnie możemy go analizować i rozkładać na coraz mniejsze elementy i wiadomo że te elementy wolnej woli nie mają.

wiemy, że z "głupich" tranzystorów można zbudować komputer, który wygra z każdym człowiekiem w szachy. zdolność gry w szachy pojawia się przez połączenie elementów, które nie potrafią grać w szachy. najwyraźniej wolna wola pojawia się przez połączenie elementów, które nie mają wolnej woli. dziwne!

 

50 minut temu, wimmer napisał:

Nasz model rozważania nad sztuczną inteligencją (w tym wątku) nijak nie może się równać z ludzkim umysłem.
Widzę zasadniczą różnicę: Dobrze zbudowana sztuczna inteligencja powinna podejmować same dobre decyzje. Po co nam AI, która notorycznie popełnia błędy?
[...]
Rozumiem, że gdybyśmy chcieli stworzyć sztuczną inteligencję, to bez tych ułomności.

myślę, że nie porzucono jeszcze nadziei na zbudowanie prawdziwej, idealnej, nieludzkiej sztucznej inteligencji, takiej jak HAL czy Spock :flirt:

użycie elementów "neuropodobnych" i wzorowanych na działaniu zawodnego biologicznego mózgu nie oznacza że całość musi działać jak człowiek, to tylko cegiełki.

 

ale nawet gdybyśmy otrzymali mylący się podobnie jak człowiek sztuczny umysł to ciągle jest wielkie osiągnięcie i może nawet przydatne do niektórych zastosowań.

może być niewolnikiem :P może być skonstruowany żeby myśleć 100 razy szybciej więc wykonywać zadania, których człowiek nie wykona. może być połączony z innymi i działać jako grupa. może być wstawiony do smartfona :)

 

  • Lubię 1
Odnośnik do komentarza
Udostępnij na innych stronach

17 minut temu, szuu napisał:

a więc "jak mózg", ale tak naprawdę jak kawałek mózgu, może bardziej jak kawałek mózgu sawanta, genialnego idioty, który zadziwia swoimi zdolnościami, choć nie ma z nim o czym porozmawiać

Oj tam... są sawanci, z którymi można pogadać (ot różnorodność malfunkcji) :)

 

Odnośnik do komentarza
Udostępnij na innych stronach

6 godzin temu, wimmer napisał:

Jeśli dałoby radę znać wszystkie zdarzenia w otaczającym nas wszechświecie (Demon Laplace'a), to możliwym byłoby odgadnięcie wszystkich decyzji, wyborów i skutków tych wyborów danej osoby, a tym samym całkowite opisanie jej przyszłości. Wtedy okazałoby się, że wolna wola nie istnieje. Wszystko, co się dzieje jest tylko następstwem wyborów, takich lub innych.

A losowosc na najnizszym poziomie, czyli mechanika kwantowa? Losy wszechświata nie są z tego powodu całkiem zdeterminowane. Sa też poglądy, że te zjawiska mogą nieco wpływać na działanie samego mózgu. Może tu sie kryje jakiś zalążek wolnej woli?

Odnośnik do komentarza
Udostępnij na innych stronach

4 minuty temu, MateuszW napisał:

A losowosc na najnizszym poziomie, czyli mechanika kwantowa? Losy wszechświata nie są z tego powodu całkiem zdeterminowane. Sa też poglądy, że te zjawiska mogą nieco wpływać na działanie samego mózgu. Może tu sie kryje jakiś zalążek wolnej woli?

Z tego właśnie wynika probabilistyczny charakter działania mózgu (czyli właśnie losowości). W zasadzie istotne są tylko dwie kwestie: doświadczenie przeszłości (pamięć świadoma/nieświadoma) oraz losowość. 

Czyli dokładnie tak samo, jak w całej ewolucji: pamięć (DNA), losowość (mutacje).

Odnośnik do komentarza
Udostępnij na innych stronach

6 godzin temu, Adam_Jesion napisał:

Z tego właśnie wynika probabilistyczny charakter działania mózgu (czyli właśnie losowości).

Zjawiska kwantowe to chyba jedyne idealne generatory losowe. Hmm, a słyszałeś może o jakiś próbach zbudowania takiego kwantowego generatora liczb losowych? Pamiętam ze studiów kilka zajęć o sposobach na generację takich liczb - to bardzo trudny problem matematyki :) Niby coś tak oczywistego, a jednak trudne.

Odnośnik do komentarza
Udostępnij na innych stronach

5 godzin temu, wimmer napisał:

Dawaj, nie wstydź się. Jestem ciekaw. Ten wątek to jedna z ciekawszych dyskusji na forum.

Tylko ten tytuł niezmiennie mnie męczy :) Chociaż, z drugiej strony, wg prawa prasowego, jeżeli tytuł kończy się znakiem zapytania, to zawsze jest nieprawdziwy :P

Odnośnik do komentarza
Udostępnij na innych stronach

Dnia 9/21/2017 o 23:52, Adam_Jesion napisał:

W tym ostatnia nadzieja :) Jeżeli tak by nie było, to okazałoby się, że nie istnieje nic, co jest losowe.

https://qrng.anu.edu.au/

 

Oprócz kwantów jest jeszcze znane ze "zwykłej" fizyki zjawisko chaosu deterministycznego (popularny "efekt motyla").

Mianowicie - bez znania warunków początkowych z nieskończoną dokładnością (czego zabrania zasada nieoznaczoności) - przyszłości układu nie da się przewidzieć w sensowny sposób. Najprostszy przykład to pogoda, w której jak wiadomo długoterminowe, deterministyczne przewidywanie nie ma sensu, można tylko szacować prawdopodobieństwa, jakieś heurystyki. Ale dotyka to dużej ilości zjawisk opisanych nieliniowymi równaniami różniczkowymi (przepływ cieczy, grawitacja - to name a few).

W każdym razie chaos deterministyczny w świecie rzeczywistym, gdzie pomiary obarczone są błędem de facto skutkuje losowością stanu układu po pewnym czasie. Dlatego działają takie wynalazki jak np. https://www.random.org/ - generator "naprawdę" losowych liczb oparty o szum atmosferyczny. 

Stąd - moim zdaniem - świat jest dużo bardziej losowy, niż to wynika tylko z kwantowego prawdopodobieństwa. Demon Laplace'a musiałby być transcendentny, co budzi jednoznaczne skojarzenia :)

Inna sprawa to sama zasada nieoznaczoności. Kiedy patrzysz na cień książki, to też można jedynie powiedzieć o tym czy jest gruba (jeśli zwrócona jest grzbietem do światła) czy jest długa (jeśli jest zwrócona okładką). Ale nie można określić tych dwóch rzeczy jednocześnie patrząc jedynie na cień. Być może pęd i położenie cząstek też są tylko cieniem dobrze zdefiniowanych wartości, i nie ma żadnej losowości! :)

  • Lubię 2
Odnośnik do komentarza
Udostępnij na innych stronach

Teraz, wimmer napisał:

Dawaj, nie wstydź się. Jestem ciekaw. Ten wątek to jedna z ciekawszych dyskusji na forum.

No właśnie o ten wstyd chodzi. Nie tylko zresztą. Bo wszyscy tylko o tej świadomości, procesach myślenia, kwantach, suwaku logarytmicznym  i co tam jeszcze. A przecież nasz wewnętrzny organ decyzyjny nie podejmuje decyzji na podstawie suchych faktów, czy liczb. To zbyt naukowe. Znaczy, fajnie by było, gdyby tak było, wówczas wszystko moglibyśmy wyliczyć. Tymczasem ta chemia....... Wstydzę się i sam nie wiem dlaczego? Oczywiście. Mogę wymienić milion powodów wstydu. Można te wszystkie powody, bezkrytycznie wklepać zero-jedynkowo do maszyny, można wklepać wszelkie algorytmy licząc, że maszyna sama wybierze wstyd adekwatny do okoliczności. Ale to będzie czyste wyrachowanie, zwykła matematyka. To nie będzie autentyczny wstyd, tylko matematyczny. Tymczasem ja się autentycznie wstydzę, i  będę mój wstyd ukrywać przed światem, będę kluczył, kombinował, będę kłamał, umrę, a nie powiem. Moje życie to balansowanie pomiędzy wstydem, a  tym co mogę, co muszę i tym co chcę.  Wklepcie w maszynę mój wstyd, jeśli on sprawi, że maszyna zmieni decyzję, to nazwę ją sztuczną inteligencją i wreszcie przestanę się wstydzić. :icon_lol::icon_lol::icon_lol:  

Odnośnik do komentarza
Udostępnij na innych stronach

@Wiaterwiater

Otóż to. Ludzie mają emocje, potrzeby, między innymi potrzebę uznania. Są to wartości  które z czasem są dla nich cenne automatycznie. Takie wartości (najpierw racjonalnie wybrane  - dbanie o opinię rodzica, kolegi, ...) utrwalane i utrwalane zamieniają się potrzeby. To niby jest złe ale też dobre. Bo takie potrzeby (też lęk przed wysokością, wężami itp) zabezpieczają człowieka przed niefrasobliwym postępkiem. Tymczasem szeroka AI czyli sztuczny człowiek może będzie reagował poprawnie w "testach" sprawdzających czy jest dobrze wychowany ale  raczej nie będzie miał tych (cennych) automatyzmów emocjonalnych. Stąd kwestia zaufania do AI.

Pozdrawiam

p.s.

Zmiana wartości uświadamianych w potrzeby to nie moja hipoteza tylko teoria znanego psychologa o nazwie Levi, o której gdzieś czytałem.

Edytowane przez ekolog
Odnośnik do komentarza
Udostępnij na innych stronach

1 minutę temu, ekolog napisał:

Otóż to. Ludzie mają emocje, potrzeby, między innymi potrzebę uznania. Są to wartości  które z czasem są dla nich cenne automatycznie. Takie wartości (najpierw racjonalnie wybrane  - dbanie o opinię rodzica, kolegi, ...) utrwalane i utrwalane zamieniają się potrzeby. To niby jest złe ale też dobre. Bo takie potrzeby (też lęk przed wysokością, wężami itp) zabezpieczają człowieka przed niefrasobliwym postępkiem. Tymczasem szeroka AI czyli sztuczny człowiek może będzie reagował poprawnie w "testach" sprawdzających czy jest dobrze wychowany ale  raczej nie będzie miał tych (cennych) automatyzmów emocjonalnych. Stąd kwestia zaufania do AI.

Pozdrawiam

Te same emocje, potrzeby, automatyzmy działają też w drugą stronę i rodzą morderców, pedofilów, gwałcicieli, samobójców, masochistów, piromanów itp.
Lepsza by była AI pozbawiona emocji, bo nie będzie trzeba się zastanawiać, które emocje z puli emocji sobie wybierze i uzna za stosowne ;) 

Odnośnik do komentarza
Udostępnij na innych stronach

Teraz, Behlur_Olderys napisał:

Jeśli patrząc z zewnątrz efekt jest nieodróżnialny, to wydaje się, że nie ma różnicy między wstydem "autentycznym" a "matematycznym" ani jakimkolwiek innym.

 

Niezupełnie. Gdyby tak było, to likwidowalibyśmy problem fizycznie i po sprawie. Decyzje człowieka wynikają z jego doświadczeń, uczuć, pragnień itd. Po co człowiek robi to, czy tamto? Z wyrachowania, zemsty, z miłości, wygody, bo sprawia mu to przyjemność, dla osiągnięcia celu, dla draki albo bez powodu. Maszynie trzeba określić cel. I każda decyzja maszyny będzie podporządkowana osiągnięciu danego celu. Będzie zero-jedynkowa. Matematyczna. Kwestia odróżnienia autentyzmu od matematyki, to właśnie rozstrzygany problem. Tak mi się zdaje, jak mniemam. 

Odnośnik do komentarza
Udostępnij na innych stronach

Dołącz do dyskusji

Możesz dodać zawartość już teraz a zarejestrować się później. Jeśli posiadasz już konto, zaloguj się aby dodać zawartość za jego pomocą.

Gość
Dodaj odpowiedź do tematu...

×   Wklejono zawartość z formatowaniem.   Usuń formatowanie

  Dozwolonych jest tylko 75 emoji.

×   Odnośnik został automatycznie osadzony.   Przywróć wyświetlanie jako odnośnik

×   Przywrócono poprzednią zawartość.   Wyczyść edytor

×   Nie możesz bezpośrednio wkleić grafiki. Dodaj lub załącz grafiki z adresu URL.

×
×
  • Dodaj nową pozycję...

Powiadomienie o plikach cookie

Umieściliśmy na Twoim urządzeniu pliki cookie, aby pomóc Ci usprawnić przeglądanie strony. Możesz dostosować ustawienia plików cookie, w przeciwnym wypadku zakładamy, że wyrażasz na to zgodę.