Efekt Gibbsa, test Grubbsa i inne teoretyczne abominacyje na żywo

[Przemek Majewski]

Znowu szybki post, kilku z Was, np. Sławek @diver pytało mnie, dlaczego mam drizzle w nazwach plików z M33, skoro skala piksela setupu to i tak już chore 0.4"/px. Ano bo używam drizzle x1 by pominąć etap rejestracji, i od razu przejść do spokojnej interpolacji. Nie ratuje to życia, ani nie czyni ogromnej różnicy, ale mam takie przyzwyczajenie. Przedstawiam jakieś dowody, może inaczej spojrzycie na pewne własności Waszych stacków dzięki temu.

 

Ostatnio nudziło mi się trochę, więc postanowiłem sobie sam zakodzić wielowątkowe stackowanie z odrzucaniem, testem Grubbsa, czyli "extreme studentized deviate test". Robi to to samo co i najnowszy Pix, ale po mojemu i sprawnie. Jako bazy użyłem znormalizowanych i zarejestrowanych TIFF-ów z lumi z M33. 100 sztuk, 32 bit float. Na bazie tego wygenerowałem mały snippet stacka, który ładnie mieści się na ekranie z wynikami odrzucania w obustronnym teście Grubbsa z poziomem ufności 5%, i z wstępnym odrzucaniem zerowych wartości (ważne na brzegach stacka, który zresztą jako interesujący pokazuje). Wycinki mają około 300x700 pikseli.

 

Oto co wypluł mój programik:

 

odrzucanie zer (prawy dolny róg) pokazuje gradientem "ile" zerowych wartości było procentowo w stacku. Odrzucanie lewych i prawych outlierów to dwa pozostałe ciemne, a w lewym górnym rogu jest stack. I teraz mała ciekawostka: te pola ditherowanych hot pixeli są takie jakieś dziwne. 

 

Spójrzmy z bliska...

 

 

Co one za kółka mają? Nawet ładne, ale jakieś dziwne, pomyślą eksperci. Miłośnicy teorii sensorów zaraz zaczną wymyślać, jak one urosły takie fajne... ale nic to. To niestety własnie ów zapowiadany fenomen Gibbsa! Spróbujmy znaleźć taki odrzucony piksel. Dzięki mojemu programowi wiem dokładnie co odrzucone, z którego pliku, w którym pikselu. Spójrzmy na ten sam piksel w skaliborwanej klatce, w klatce po rejestracji, oraz w odrzutach wysokich.

 

Mistrz Painta wydał z siebie takie oto: 

 

Oczywiście odrzucanie i tak sobie z tym poradziło i wyrzuciło hot pixel wraz z całym jego gibsowym otoczeniem. Ale nie zawsze musi tak być! Groźba mała, i progres raczej znikomy, ale zawsze to coś ciekawego do pokazania. Dlatego własnie szykuje dłuższy post o drizzle, ale już z dwa miesiące mi to zajmuje i nie mogę skończyć. Doba za krótka. Dziś tylko "szybki pościk". Trzymajcie się!

 

 

[Behlur_Olderys]

To co to jest za interpolacja, że powoduje takie artefakty? Sinc? Cubic?Moim zdaniem gdybyś użył najprostszej (bilinear) to ten efekt by nie wystąpił ale oczywiście to tylko educated guess. A inna sprawa to czy mógłbyś przytoczyć intuicyjne wyjaśnienie różnicy między drizzle X1 a nearest neighbour?

[Przemek Majewski]

2 godziny temu, Behlur_Olderys napisał:

To co to jest za interpolacja, że powoduje takie artefakty? Sinc? Cubic?Moim zdaniem gdybyś użył najprostszej (bilinear) to ten efekt by nie wystąpił ale oczywiście to tylko educated guess. A inna sprawa to czy mógłbyś przytoczyć intuicyjne wyjaśnienie różnicy między drizzle X1 a nearest neighbour?

Oczywiscie!

 

Drizzle x1 i x2, i x3 i każdy inny ma "interpolacje polem przeciecia". Tyle pola ile duzy piksel ma wspolnego z malym, taka jest waga podzialu jasności tego duzego piksela. W wypadku x1 to jest chyba rownowazne z biliniową.

 

I tak masz rację: zwykle jak robie debayer klikam "bilinear" a pozniej robię i tak CFA drizzle. VNG i inne bardziej skomplikowane algorytmy sa do zdjec kolorowego pokoju a nie do astro

 

W tym przypadku byl to pewnie Lanczos, albo ustawienie "auto", gdyż nie przejmowałem się tym i użyłem domyślmych -- a to dlatego ze rejestracja jest dla mnie po to, by obliczyc transformacje miedzy klatkami, a pozniej drizzle'uje. To wszystko jest w moim poście, ktory edytuje jiz dlugo i jest u mnie w draftach. 

 

Zwroc tez uwage, ze to wycinek z ciemnym tłem i dlatego stretch jest bardzo mocny, i kontrast hot pixeli także, stad pierscienie widać naprawde dobrze. Specjalnie dobrany kawałek pod ten problem. Mówi się o tym -- a ja chcialem pokazac, że jest

[diver]

20 godzin temu, Przemek Majewski napisał:

Ostatnio nudziło mi się trochę,

 

20 godzin temu, Przemek Majewski napisał:

Doba za krótka.

 

Jak to jest Przemek, nudzi Ci się (czyli masz za dużo czasu), czy może jednak doba za krótka?

[Przemek Majewski]

48 minut temu, diver napisał:

 

 

Jak to jest Przemek, nudzi Ci się (czyli masz za dużo czasu), czy może jednak doba za krótka?

to pierwsze to ściema. przyłapałeś mnie...

[Przemek Majewski]

49 minut temu, diver napisał:

 

 

Jak to jest Przemek, nudzi Ci się (czyli masz za dużo czasu), czy może jednak doba za krótka?

zamiast mnie skrutynizować to se popacz efekta Gibbsa co jest nie tylko na Wikipedii, ale także nawet jest po prostu.

[diver]

21 godzin temu, Przemek Majewski napisał:

Nie ratuje to życia, ani nie czyni ogromnej różnicy, ale mam takie przyzwyczajenie.

 

Skoro ani "nie ratuje życia" ani "nie czyni ogromnej różnicy" (dla jakości obrazka?), to po cholerę się tym zajmować? Chyba że z naukowej pasji i dociekliwości.

[Przemek Majewski]

@Behlur_Olderys Bartku, przepraszam, musiałem coś zrobić teraz spokojnie usiadłem i przygotowuje Ci krótkie resume, które jest przy okazji wycinkiem z większego opisu. Pytałeś o metody interpolacji, inne, które nie spowodują takiego efektu a będą podobne do drizzle x1. Sugerowałeś bilinear (poprawnie) i pytałeś o nearest neighbour. Więc zróbmy coś krok po kroku.

 

1) Domyślnie programy używają różnych falkowych albo fourierowskich interpolacji i nie chce tu wchodzić w szczegóły tego, ale zaznaczam, że te efekty Gibbsa z tego postu to są "default settings", zbyt leniwy byłem by tam coś zmieniać. Rejestracja dla mnie jest krokiem pośrednim do uzyskania listy odrzucania, i pewnie lepiej bym zrobił gdybym wybrał jakiś "bicubic/spline". To wszystko takie drobnostki, detale, ciekawostki do dyskusji i nie jest to bardzo ważne, jak pisałem wcześniej "wszystko się i tak odrzuciło".

 

2) Bardzo ciekawe jest za to zobaczyć na oczy tę interpolację. Jako start weźmy Gaussowską gwiazdę (duuuużo o tym będzie w docelowym poście), którą posamplowałem w rozsądnym promieniu grubą siatką 3x3. Taki lekki undersampling, typowe w amatorskich zestawach, że skalą w okolicach 2"/px.

 

Idealna gaussowska gwiazda 2D o sigma = 100 jednostek, na siatce pikseli po 160 jednostek każdy. W dodatku nie padła na środek piksela, tylko tam, gdzie czarny "x". Wygląda ona tak:

 

Żółte linie to oryginalne piksele, krzyżyki i kropki (będą wyjaśnione później) to z grubsza środek teoretycznej gwiazdy (czarny x) oraz centroid obliczony "z tego co mamy" (magenta). Czerwone linie to nowa siatka, wycentrowana na wyliczonym centroidzie, i na taką siatkę chcemy "przeinterpolować" gwiazdę. Dodatkowo zaznaczyłem pola przecięcia nowej siatki, z pikselami starej.

 

3) Teraz możemy przypomnieć, że drizzle operuje na wagach, które są właśnie tym polem przecięcia. Czyli jasność nowego piksela jest średnią ważoną jasności przecinających się z nim pikseli z takimi wagami jakie są te pola przecięcia.

 

I teraz to się świetnie uogólnia na dowolna skalę, x1, x2, x3.14, x17 i dowolne rotacje: wystarczy powiedzieć, że duży piksel rozkładamy proporcjonalnie do pól przecięcia z małymi, albo odwrotnie, zależnie która interpretacja nam się bardziej podoba (że małe dostają odpowiedni ułamek jasności większych, z którymi się przecinają).

 

TO BARDZO WAŻNE: w ten sposób widać, że całkowita jasność jest zachowana (suma wag jest 1). Szczególnie więc, gdy mamy jakiekolwiek zacięcie astronomiczne i metrologiczne, a nie tylko graficzne, to bardzo dużo zyskujemy na zachowaniu prawdziwych luminancji gwiazd. Tak, inne metody zmieniają całkowitą jasność nieznacznie.

 

4) Jak więc wygląda nowa gwiazda na czerwonej siatce? Przygotowałem taki kolaż:

 

 

Obserwacje:

• nearest neighbor, jak zresztą metoda mówi, po prostu zapomniało o ułamkowej części piksela, efektywnie ZMIENIŁO POZYCJĘ GWIAZDY, i właściwie z tego powodu nie nadaje się w astronomii, czy metrologii, bo psuje te dane astrometryczne, które wg mnie są fajne
• spline jest bardzo spoko, potrzebuje większego otoczenia (ono u mnie jest, bo w tle jest krata 5x5, ale boki są "prawie czarne", wiec rysuje tylko 3x3)
• metoda polowa i dwuliniowa wydają się identyczne, bo są. jak to udowodnić? pola rosną dwuliniowo w przesunięciu, tak samo jak argument dwuliniowej interpolacji zdefiniowany jako iloczyn dwóch liniowych w zmiennej x i y odpowiednio
• jako inne potwierdzenie:

 

Widać powyżej, że jedna metoda (po prostu ręcznie zakodowana średnia ważona) i druga metoda -- żywcem wzięta z funkcji wbudowanych

dają identyczny rezultat.

 

5) Podsumowanie

 

Widać, że oryginalna gwiazda trochę pociemniała w bilinear/area/drizzle_x1, ale jej jasność została całkowicie zachowana, nie narazimy się też na efekty dookoła. Ale... gdyby gwiazda świeciła idealnie na środek piksela jej jasność byłaby 1.00 (tak to normalizuje, i będzie o tym w długim poście o drizzle). Dla spline jasność skoczyła do 0.95 (prawie idealnie). Oryginalna gwiazda zaś osiągnęła tylko 0.92 saturacji (padała nieco obok środka pikseli, patrz pierwsza ilustracja).

 

Czyli "area mode" nie zmienia całki, ale psuje kształt, za to "spline mode" odzyskuje kształt, ale może zaburzyć sumaryczną jasność. Nearest neighbour psuje pozycje gwiazdy na zdjeciu, a można ja liczyć w ułamkowych pikselach, więc odpada całkiem.

 

6) Na deser dla wytrwałych: co poodrzucał z całego stacka klatek mój test Grubbsa w MATLAB-ie zakodowany, poziom ufności 5%:

 

 

W ten sposób wyprodukowałem swój pierwszy "profesjonalny" stack sam w MATLAB-ie. Jest taki jak najlepiej zrobiony w najnowszym Pixie, i zajęło mi tylko jeden wieczór programowania  

 

PS. Kursor na skrinie nie należy do odrzuconych pikseli XD

PS2. Gwiazdy na zdjęciach to liniowe dane, w realnym zdjeciu ulegną "mocnemu streczu" i zmienią się dla oka znacznie 

 

Edytowane 27 Października 2021 przez Przemek Majewski
uzupełnienie/ps

[Przemek Majewski]

Godzinę temu, diver napisał:

 

Skoro ani "nie ratuje życia" ani "nie czyni ogromnej różnicy" (dla jakości obrazka?), to po cholerę się tym zajmować? Chyba że z naukowej pasji i dociekliwości.

ogromnej nie, ale trochę czyni, do tego to uniwersalny workflow, trudniej się pomylić, detale opisałem wyżej^

 

dobrze, ze dodałeś część z "chyba", bo na gruncie tych przesłanek, to w ogóle czymkolwiek można sie przestać zajmować... byle ciepło było i jeść dali

[diver]

5 minut temu, Przemek Majewski napisał:

Jest taki jak najlepiej zrobiony w najnowszym Pixie, i zajęło mi tylko jeden wieczór programowania  

 

Jest więc powód do radości i satysfakcji. Gratuluję.

[Przemek Majewski]

Teraz, diver napisał:

 

Jest więc powód do radości i satysfakcji. Gratuluję.

Nooo... ale ponad rok nauki tego o co w tym wszystkim "trochę chodzi". Teraz wszystko "takie jasne" nagle

[diver]

6 minut temu, Przemek Majewski napisał:

to w ogóle czymkolwiek można sie przestać zajmować... byle ciepło było i jeść dali

 

Może jednak nie popadajmy w skrajności. Mniejszość ludzi zajmuje się jednak "czymkolwiek".

[diver]

2 minuty temu, Przemek Majewski napisał:

Nooo... ale ponad rok nauki tego o co w tym wszystkim "trochę chodzi". Teraz wszystko "takie jasne" nagle

 

To przygotowanie do napisania własnego, komercyjnego softu?

[Przemek Majewski]

16 minut temu, diver napisał:

 

To przygotowanie do napisania własnego, komercyjnego softu?

Niee... Raczej bym chętnie podłączył się do devepolerki NINA (open project) albo do devów Pixa Ale mam co robić w życiu też, więc umowy by musiały być dobre