Kalman filitrenin matematik altyapısı

[Zoroaster]

Zaman zaman forumda gürültülerin filitrelenmesi üzerine sorular soruluyor.

Klasik cevap olarak da birileri tarafından ortalama al vs öneriler getiriliyor. Kalman üzerine ise bugüne kadar detaya girene rastlamadım. Gaussian gürültü adı vs geçiyor ama o kadar.

Hee öyledir yok öyle değildir gibisinden destekler ya da itirazlar da olmuyor.

Keşke Kalman filitrelemeyi bilseydim de anlatsaydım. Gene iş başa düştü. Belki bu başlık sayesinde ben de Kalman fillitreleme hakkında bir şeyler öğrenirim diyerekten ya Bismillah diyorum.

Doküman önerisi yada video falan istemiyorum. Elimde üç beş tane orjinal pahalıca kitaplardan var.

Var ama anlamıyorum.

Berat23'ün https://www.picproje.org/index.php/topic,66502.msg520969.html#msg520969 mesajında gaussian gürültüsünden falan bahsetmesi üzerine;

Gürültü nedir?
Aritmetik ortalama nedir? Geometrik ortalama nedir?
Varyans nedir?
Sapma nedir?
Gaussian dağılım nedir?
Beyaz gürültü, pembe gürültü nedir?
Efektif değer nedir?

Benzeri sorularının cevaplarını  araştırıp buraya yazacağım.

Şimdiden uyarayım başlığımı sulandırmayın kavga ederim. Çirkefleşirim. Asabileşirim.

Kalman filitreleme konusunda bir şeyler bilip yönlendirecekler varsa da ağaların eli tutulmaz.

Gürültü nedir?

Bana ait iki tanım.

Gürültü, bir sinyale sonradan dahil olup sinyalimizi orjinal halinden uzaklaştıran bozucu sinyallerdir. Ancak, bir takım etkiler sonucunda sinyal daha üretim aşamasında iken de istenmeyen sinyallerle bozulabilir.

Örneğin mikrofon çıkışında temiz şekilde elde edilen elektriksel sinyal, uzun bir kablo ile korumasız şekilde taşındığında, özellikle ortamdaki 50Hz sinyaller kabloda iletilen sinyalin üstüne binip kablonun öteki ucuna nakledilen sinyalin yapısını bozar.  Bu durumda artık sinyalimiz 50Hzlik bir gürültüye sahiptir.

Dinamik bir mikrofondan alınan sinyale dışarıdan gürültü binmesin diye sinyal korumalı kablo ile taşınarak önlem alınabilir. Ancak mikrofon 50Hz de çalışan bir transformatörün, fluorasan lamba balastının yakınına konumlanırsa bu kez daha sinyal üretim aşamasında gürültüye boğulabilir.

Ya da sensör içindeki elektronik devrenin kendi ürettiği gürültü sensör sinyaline binebilir.

Ne yaparsak yapalım sinyalimizde öyle ya da böyle gürültü olacaktır.

Gürültünün yukarıdaki iki örnekte olduğu gibi tek bir frekansda olması şartı yoktur. Son derece geniş aralıktaki frekanslardan oluşmuş sinyaller de bir araya gelip sinyalimizi bozabilir.

Örneğin girişine hiç sinyal uygulanmamış bir ses amplfikatörünün volume düğmesi sonuna kadar açılırsa hoparlörlerden tıssss ya da hışşş sesi duyulabilir. Bu sesler de elektronik devrelerin ürettiği gürültülerdir ve geniş bir banda yayılmış çok farklı frekanslardaki sinyallerin bir sonucudur.

Kabaca gürültü hakkında fikir edindiğimize göre diğer tanımlara geçebiliriz.

[Zoroaster]

Aritmetik ortalama nedir?

Matematiksel beklenti veya beklenen değer olarak da anılır.

Bir büyüklüğü ölçerek değeri hakkında fikir edinmek istiyor olalım.

Dış etkenlerden izole mükemmel bir ölçüm yapabiliyor olsaydık aynı büyüklüğü her defasında aynı değerde ölçerdik. Fakat gerçekte yapılan ölçümlerde elde edilen değerler arasında farklılıklar oluşur.

Örneğin MCU pil ile dahi beslense basit bir gerilim bölücü üzerinden çipin ADC girişine bu voltaj uygulanır ve peş peşe ölçümler yapılırsa her defasında birbirine yakın fakat farklı değerler okunur.

Yapılan ölçüm sayısı N ve n'inci ölçümde elde edilen değer Y(n) ise N adet ölçümüm aritmetik ortalaması doğru sonuç olarak değerlendirilebilir.

Bu durumda Aritmetik ortalama [latex=inline] A=\frac{1}{N}\sum_{k=1}^{n}Y(k)[/latex]

olacaktır.

Örneğin aynı ölçüm 5 kez yapılıp 2,3,4,3,3 değerleri elde edildi ise bu 5 ölçümün aritmetik ortalaması [latex=inline]\frac{2+3+4+3+3}{5}=3[/latex] olacaktır.

Geometrik ortalama nedir?

Gürültü konusunda bu tanıma ihtiyacımız olduğundan emin olamasam da en azından ansiklopedik bilgi olarak durmasında fayda var.

Eğer yapılan ölçümlerde ölçümlerin oranı önemli ise  bu durumda geometrik ortalamaya başvurulur ve yapılan ölçüm sayısı N ve n'inci ölçümde elde edilen değer Y(n) ise N adet ölçümüm geometrik ortalaması [latex=inline] G=\sqrt[N]{\prod_{k=1}^{n} Y(k)}[/latex] olacaktır.

Örneğin aynı ölçüm 5 kez yapılıp 2,3,4,3,3 değerleri elde edildi ise bu 5 ölçümün geometrik ortalaması [latex=inline]G=\sqrt[5]{2*3*4*3*3}=2.93[/latex] olacaktır.

[Zoroaster]

Varyans nedir?

Yapılan her bir ölçümün, aritmetik ortalamadan uzaklıklarının karelerinin toplamının ortalamasıdır.

Hemen örnekle açıklayalım.

Aynı ölçüm 5 kez yapılıp 2,3,4,3,3 değerleri elde edildi ise bu 5 ölçümün aritmetik ortalamasının [latex=inline]\frac{2+3+4+3+3}{5}=3[/latex] olacağını zaten biliyoruz.

Şimdi her bir ölçüm ile aritmetik ortalama arasındaki farkın karelerini toplayıp sonucun ortalamasını alalım.

[latex=inline]Var=\frac{(2-3)^2+(3-3)^2+(4-3)^2+(3-3)^2+(3-3)^2}{5}=0.2[/latex]

Varyans değeri, ölçüm sonuçlarının ne kadar dağınık olduğu hakkında fikir verir.

Bir başka örnekle konuyu biraz daha açık hale getireyim.

Birbirinin aynı iki ölçüm düzeneği yapalım ve farklı ortamlarda çalıştıralım.

Her iki düzenek de 5 adet ölçüm yapsın ve

1. düzenekte elde edilen veriler 5, 5, 6, 7, 7 olsun.
2. düzenekte elde edilen veriler 4, 4, 6, 8, 8 olsun.

Her iki düzeneğin de yaptığı ölçümlerin aritmetik ortalaması 6 dır.

1. düzenek için varyans hesaplanırsa [latex=inline]Var=\frac{(5-6)^2+(5-6)^2+(6-6)^2+(7-6)^2+(7-6)^2}{5}=0.8[/latex]

2. düzenek için varyans hesaplanırsa [latex=inline]Var=\frac{(4-6)^2+(4-6)^2+(6-6)^2+(8-6)^2+(8-6)^2}{5}=3.2[/latex]

Bu durumda 1. düzeneğin varyansı 2. düzeneğin varyansından daha küçük olduğu için ölçüm sonuçlarının daha az dağınık olduğunu söyleyebiliriz.

Arkadaşlar bu yazıya filitre örnekleri vs yazılarla müdahale edilmemesi konusuna lütfen anlayış gösterin ve bana kızmayın. Bu konu forumumuz açısından çok ama çok önemli. Kalman filitreleme ile ilgili dişe dokunur bir başlığımız yok. Gerek gürültü tanımı olsun gerek ortalama alarak fillitreleme vs olsun o konularda yazacağımız mesajların Kalman'a çok katkısı yok. O konuları bir başka başlıkta tartışalım.

Kalman filitre çoğu lisans eğitiminde ders olarak verilmiyor. Benim gördüğüm kadarıyla da kitaplardan kendi başımıza okuyup anlayabileceğimiz basitlikte bir konu değil. İTÜ, Bilkent ve ODTÜ'de durum ne bilmiyorum.

Öncelikli derdim benim de bu konuyu anlayabilmem. Fakat temel kavramları dahi bilmeyen bir topluluğa birisinin istekli olarak Kalman anlatacağını sanmıyorum. Bu yüzden şu anda yapmaya çalıştığım şey temel kavramları ortaya atmak. Eğer bu başlığa katkıda bulunmak isterseniz filitreleme konusunda vs değil de olasılık teorisi hakkında bir şeyler yazın.

Bakarsınız birisi çıkar ve Kalman Filitreleme konusunun devamını getirir.

[Zoroaster]

Standart Sapma Nedir?

Standart Sapma [latex=inline]\sigma[/latex], varyans değerimizin karekökü olarak tanımlanır.

Daha önce yaptığımız tanım ve açıklamalar çerçevesinde

[latex=inline]A=\frac{1}{N}\sum_{k=1}^NX(k)[/latex]  (Aritmetik ortalama)

[latex=inline]\sigma=\sqrt{\frac{1}{N}\sum_{k=1}^N(X(k)-A)^2}[/latex] (Standart Sapma)

Olarak hesaplanır.

Standart sapmanın karesinin Varyans ile aynı anlama geldiğini görmüşsünüzdür.

Bolca örnek ve grafikle konuyu pekiştirmemiz gerekiyor.

[muuzoo]

@Zoroaster hocam size özel mesaj ile bazı kaynaklar göndermek istemiştim ama beni engellediğinize dair bir uyarı aldığım için mesaj atamadım size. Amacım konuyu bölmek değildi ama faydalı olacağını düşündüğüm bazı kaynakları bir araya getirdim. Özellikle "kalman_lec" klasöründeki sunumların faydalı olacağını düşünüyorum. İyi çalışmalar dilerim.

https://drive.google.com/open?id=0B3OljfdwIkLOclJGOXF5S0pzWms

[Zoroaster]

Özellikle kişi bazında bir engellemem yok.  Sadece özel mesaj almayı kapadım. Dokumanı indirdim sağolasın.

Gürültü ile rastlantısal değişkenler ve olasılık arasında bir bağ kurmamız gerekiyor.

Bir büyüklük ADC ile ölçülürken, büyüklüğün gerçek değeri etrafında değişim gözlenir. Bunun sebeplerinden birisi ölçmek istediğimiz büyüklüğe binmiş gürültüdür.

Örneğin ADC'den 100 olarak okunması gereken değeri her defasında,   98....100 ...103
aralığında bir değer olarak okuduğumuzu varsayın.

Gürültüden dolayı bir sonra okuyacağımız değerin bu aralıkta olacağını biliyoruz fakat kesin değerini bilemiyoruz diye düşünebiliriz. O halde bir zar atıldığını dolayısı ile 1...6 aralığında rastlantısal bir değer elde edildiğini ve buna 97 eklendiğini varsayabiliriz.

Eğer gürültü bu şekilde rastlansal değerler şeklinde değişiyorsa yani bir önceki ve bir sonraki değer arasında bir ilişki kurulamıyorsa gürültünün gelişigüzel/random bir değişken olduğunu söyleyebiliriz. Buna karşın 50 Hzlik şebeke gürültüsü için bir rastgelelikten bahsedemeyiz.

Tüm öğrencilik hayatım boyunca olasılık konusundan haz almadım hiç üstüne düşmedim. Zaten derslerde olasılık üzerine çokda konu gördüğümüzü hatırlamıyorum. Kalman Filitre'yi anlamakta zorlanıyorsam bunun 1. sebebinin olasılık teori ile hiç ilgilenmemiş olmama bağlıyorum.

Bir diğer sebep ise [latex=inline]e^{AT}[/latex] matrisi vs konuların ele alındığı Devre Analizi - IV dersine vermediğim önemden diye tahmin ediyorum.

[Zoroaster]

Gaussian dağılım nedir?

[latex=inline]\mu[/latex] aritmetik ortalama,
[latex=inline]\sigma^2[/latex] varyans olmak üzere;
(Not: [latex=inline]\sigma[/latex] Standart sapma idi.)

Gaussian fonksiyonu [latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex] olarak tanımlanmıştır.

Aşağıdaki grafikte ortalamanın 0 olduğu kırmızı, yeşil ve mavi eğrilerde varyans değerleri grafik üzerinde verilmiştir.
Varyans tanımını hatırlarsanız varyans azaldıkça bir değer civarında kümeleşme olmaktaydı.
(Eğer bu kısmı anlamadıysanız varyans kısmına geri dönün)

Eğer varyans 0 ise tüm değerler aynı demektir.

Grafikte mor eğride ortalama -2 dir.



Bu grafik çana benzediği için Gaussian eğrisine Çan eğrisi de denir.

Eğer dağılım bu şekilde ise ölçülen değerler ya da gürültü, mor eğri harici eğrilerde 0 civarına Gaussian dağılımı yapmış demektir.

Kırmızı grafikte ölçüm sonuçlarının büyük çoğunluğu 0 civarında kümeleşmiştir. Mavi grafikte ise oldukça yayvandır ve ölçülen değerler bir hayli saçılmıştır.

Bu grafiği olabildiğince özümsemeye çalışalım.

Örneğin tüm ölçümler 1 olarak yapılsaydı  yatay eksende 1'den başlayan ince çizgiyi en tepeye kadar çizerdik. Bu durumda ortalamamız 1 ve standart sapmamız 0 olurdu.

[Zoroaster]

Beyaz Gürültü Nedir?

Öyle bir gürültü düşünelim ki frekansı DC'den başlayıp sonsuza kadar uzanan eşit genlikli tüm sinüsel sinyallerin toplamından oluşsun.

İşte arkadaşlar böyle bir sinyal beyaz gürültü olarak anılır.

Eğer bu sinyal filitre edilip içerdiği bazı sinyaller zayıflatılır/yok edilirse bu durumda elde edilen gürültüye renklendirilmiş gürültü denir.

Örneğin pembe gürültü, beyaz gürültünün oktav başına 3dB zayıflatılması ile elde edilir.

(Oktav nedir derseniz, frekansın 2 kat artması ya da azalması durumunda elde edilen frekans aralığıdır.)

[Zoroaster]

Kafa yormanızı istediğim bazı sorular.

Cevapları tartışmayalım ve yazmayalım. Fakat kafa yorun daha sonra cevapları açıklayacağım.

1) Beyaz gürültünün dağılımı nasıldır?

Gaus eğrisi gibi bir eğriden bahsetmek istersek beyaz gürültü için nasıl bir eğri çizmeliyiz?

2) 0...5v PP genlikte Beyaz gürültüden ibaret bir sinyal 8 Bit ADC ile dönüştürülürse ADC'den hangi değerleri okuruz?

3) Efektif değer olarak alışık olduğumuz değer ile standart sapma arasında bir alaka kurdunuz mu?

https://tr.wikipedia.org/wiki/Normal_dağılım#Olas.C4.B1l.C4.B1k_yo.C4.9Funluk_fonksiyonu

[berat23]

Zaman zaman forumda gürültülerin filitrelenmesi üzerine sorular soruluyor.

Klasik cevap olarak da birileri tarafından ortalama al vs öneriler getiriliyor. Kalman üzerine ise bugüne kadar detaya girene rastlamadım. Gaussian gürültü adı vs geçiyor ama o kadar.

Hee öyledir yok öyle değildir gibisinden destekler ya da itirazlar da olmuyor.

Keşke Kalman filitrelemeyi bilseydim de anlatsaydım. Gene iş başa düştü. Belki bu başlık sayesinde ben de Kalman fillitreleme hakkında bir şeyler öğrenirim diyerekten ya Bismillah diyorum.

Doküman önerisi yada video falan istemiyorum. Elimde üç beş tane orjinal pahalıca kitaplardan var.

Var ama anlamıyorum.

Berat23'ün https://www.picproje.org/index.php/topic,66502.msg520969.html#msg520969 mesajında gaussian gürültüsünden falan bahsetmesi üzerine;

Gürültü nedir?
Aritmetik ortalama nedir? Geometrik ortalama nedir?
Varyans nedir?
Sapma nedir?
Gaussian dağılım nedir?
Beyaz gürültü, pembe gürültü nedir?
Efektif değer nedir?

Benzeri sorularının cevaplarını  araştırıp buraya yazacağım.

Şimdiden uyarayım başlığımı sulandırmayın kavga ederim. Çirkefleşirim. Asabileşirim.

Kalman filitreleme konusunda bir şeyler bilip yönlendirecekler varsa da ağaların eli tutulmaz.

Gürültü nedir?

Bana ait iki tanım.

Gürültü, bir sinyale sonradan dahil olup sinyalimizi orjinal halinden uzaklaştıran bozucu sinyallerdir. Ancak, bir takım etkiler sonucunda sinyal daha üretim aşamasında iken de istenmeyen sinyallerle bozulabilir.

Örneğin mikrofon çıkışında temiz şekilde elde edilen elektriksel sinyal, uzun bir kablo ile korumasız şekilde taşındığında, özellikle ortamdaki 50Hz sinyaller kabloda iletilen sinyalin üstüne binip kablonun öteki ucuna nakledilen sinyalin yapısını bozar.  Bu durumda artık sinyalimiz 50Hzlik bir gürültüye sahiptir.

Dinamik bir mikrofondan alınan sinyale dışarıdan gürültü binmesin diye sinyal korumalı kablo ile taşınarak önlem alınabilir. Ancak mikrofon 50Hz de çalışan bir transformatörün, fluorasan lamba balastının yakınına konumlanırsa bu kez daha sinyal üretim aşamasında gürültüye boğulabilir.

Ya da sensör içindeki elektronik devrenin kendi ürettiği gürültü sensör sinyaline binebilir.

Ne yaparsak yapalım sinyalimizde öyle ya da böyle gürültü olacaktır.

Gürültünün yukarıdaki iki örnekte olduğu gibi tek bir frekansda olması şartı yoktur. Son derece geniş aralıktaki frekanslardan oluşmuş sinyaller de bir araya gelip sinyalimizi bozabilir.

Örneğin girişine hiç sinyal uygulanmamış bir ses amplfikatörünün volume düğmesi sonuna kadar açılırsa hoparlörlerden tıssss ya da hışşş sesi duyulabilir. Bu sesler de elektronik devrelerin ürettiği gürültülerdir ve geniş bir banda yayılmış çok farklı frekanslardaki sinyallerin bir sonucudur.

Kabaca gürültü hakkında fikir edindiğimize göre diğer tanımlara geçebiliriz.

burda bana çok biliyorsan gel anlat denmiş gibi kısaca. aslında haklısınız, ben olsam ben de derim çok biliyorsan goygoy yapma anlat diye:)

benim uzun uzun anlatacak bir vaktim olmuyor. ayrıca kalman bence forumda öğrenilecek bir konu değil. gerçekten nedir diye temelinden girsek bu birkaç dönemde verilen derslerin toplamı olur. genelde anlatımlar uygulama üzerinde oluyor. asıl temel o pahalı statistical signal processing kitaplarında var.  iş uygulama ise 5 denklem var, ezbere kullanılabilir. zaten gördüğüm kadarıyla genelde öyle yapılıyor, buna ms tezleri de dahil.

anlaşılamayan noktalarda her türlü soru cevap yardıma açığım elimden geldiği kadar. ben de bilgim kadar yardım edebilirim.

[Zoroaster]

Süper.

O zaman araştırmaya devam edip bu başlıkta alt yapı hazırlamaya devam edeyim fakat senden de aşağıdaki çalışmaya öncülük yapmanı isteyeyim.

Herhangi bir sensörün verdiği temiz sayılabilecek sinyale (basit bir trimpot olabilir) gürültü enjekte edeyim. Daha sonra da Kalman filitrelemeye ait C kodlamayı ve hangi parametrelere ihtiyaç olunacak nasıl tespit edilecek onun açıklamasını sende isteyelim.