První věc se kterou se musíme vyrovnat je atmosféra Země. Světlo je v ní částečně oslabeno bohužel v závyslosti na mnoha faktorech jako je například nadmořská výška pozorovatele nebo výška objektu nad obzorem. Proto se používá redukce pozorování na mimoatmosferické magnitudy. Tedy z měření na zemském povrchu se určuje jaká je hodnota nějaké veličiny mimo atmosféru země.
Ze zkušenosti víme, že světlo se v zemské atmosféře pohlcuje a to tím víc, čím větší dráhu v atmosféře světlo urazí. Navíc se mění jeho barevné složení.
Oba jevy můžeme snadno pozorovat i v běžném životě. Absorpce se projevuje jako zákal v nízkých vrstvách atmosféry a barevné změny zná každý návštěvník zakouřené restaurace kde se vznáší jen modravý kouř.
V případě, že uvažujeme jen pohlcení světla, pak je světelná intensita
při průchodu vrstvou o tloušťce
a hustotě
ztlumena na hodnotu
. Přitom záření prochází prostředím
s účinným průřezem
:
Druhý člen v rovnici s parametrem je korekce na zčervenání
světla kterou lze obvykle mimo město zanedbat. V Brně ale může být
významná. Je tím větší čím více se liší barvy hvězd, čím je objekt
níže nad obzorem a čím je zaprášenější atmosféra.
Metody na určení mimoatmosferické magnitudy hvězdy vycházejí
z této rovnice. Stačí změřit magnitudu určité hvězdy v různých
výškách nad obzorem a vypočíst extinkční koeficient a mimoatmosferickou
magnitudu. Existují dva různé postupy na jejich určení.
Metoda Bouguerových přímek měří tutéž hvězdu v různých časech během stoupání nebo klesání objektu při denní pohybu po obloze. Výhoda této metody je jednoduchost. Stačí používat jen jednu hvězdu ještě nemusíme znát její katalogovou jasnost. Nevýhodou je, že měření zabere mnoho času s v případě, že se během noci mění extinkce dává zcela chybné výsledky.
Metoda která nemá ustálený název doporučuje měřit dvě nebo více polí se známými hvězdami v různých výškách nad obzorem. Přepsání rovnic pak vede na vztah ze kterého jsme schopni určit mimoatmosferickou magnitudu a extinkci. Tato metoda je rychlá a jednoduchá na pozorování takže se často používá. Vyžaduje komplikovanější zpracování. Selhává v případě, že po obloze není extinkce stejná (skryté mraky).