Gaussian Noise

[Zoroaster]

Aşağıdaki başlıkla ilgili araştırma yaparken Gaussian Noise'i anlama konusunda sorun yaşıyorum.

https://www.picproje.org/index.php/topic,66687.0.html

Bu gürültüyü açıklayabilecek varmı?

[muhittin_kaplan]

http://web.firat.edu.tr/iaydin/bmu357/bmu_357_bolum5.pdf

[RaMu]

Bende bilmiyorum ama eğer aşağıdakinin gürültü versiyonu ise
video gayet açıklayıcı öğretici ve deneysel:
benim anladığım aslında anlamadığım üniversitede Çan Eğrisi Not sistemi derlerdi
gauss eğrisi - çan eğrisi mi oluyor ne?

https://www.youtube.com/watch?v=1WAhTdWErrU

[Zoroaster]

Kafamı karıştıran konu şu

Delphide random fonksiyonu ile peş peşe -200...+200 aralığında 800 tane random değer üretim diziye attım.

Daha sonra bu değerleri küçükten büyüğe doğru dizdim.

Ortalaması yaklaşık 0 çıktı. Varyans oldukça büyüktü.

Dağılımın grafiği ile aşağıdaki fonksiyon arasında nasıl bir alaka kuracağımı kestiremedim.

[latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex]

[ferdem]

Histogram çizip bakılmalı. Örnek sayısı arttıkça datanın historgramının data üreten mekanizmanın "probability density" fonksiyonuna yakınsaması lazım.

[okg]

Kafamı karıştıran konu şu

Delphide random fonksiyonu ile peş peşe -200...+200 aralığında 800 tane random değer üretim diziye attım.

Daha sonra bu değerleri küçükten büyüğe doğru dizdim.

Ortalaması yaklaşık 0 çıktı. Varyans oldukça büyüktü.

Dağılımın grafiği ile aşağıdaki fonksiyon arasında nasıl bir alaka kuracağımı kestiremedim.

[latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex]

Hocam, sıfır ortalamalı(u=0) gauss gürültüsünde, gürültünün etkin değeri direk standart sapmaya eşit oluyor.

Yazdığınız denklemin grafiği ise sıfır ortalamalı gauss dağılımı, tek koşullu olasılık yoğunluk fonksiyonu yada kutuplu iletişim yapan bir sisteme ait olabilir.

Basit bir örnek olarak,




Umarım sorunuzu yanlış anlayıp yanlış cevap vermemişimdir..

[alicavuslu]

u = ortalama değer
s = standart sapma olsun

u-s ile u+s  aralığında yaklaşık olarak 0.68 * 800 = 544 adet değer olması gerekir.
u-2s ile u+2s  aralığında yaklaşık olarak 0.95 * 800 =  760 adet değer olması gerekir.

Bu değerleri yaklaşık olarak sağlıyor iseniz gauss dağılımını sağlamış olursunuz.

[okg]

@alicavuslu  hocam 0.68 ve 0.95 değerlerini nasıl buldunuz acaba?

[alicavuslu]

Bu durum genel bir ifadedir. Aşağıdaki linktende inceleyebilirsin.

https://en.wikipedia.org/wiki/Normal_distribution#/media/File:Empirical_Rule.PNG

[okg]

Sağolun @alicavuslu  hocam, buldum dediğiniz kısmı, inceleyeyim biraz.




*

@alicavuslu Hocam, bu kısımdan şöyle bir yorum çıkardım,

iletilen bağımsız işaretlerin toplamından oluşan işaretin olasılık yogunluk fonksiyonlu, her iki işaretin olasılık yogunluk fonksiyonlarının konvolüsyonuna eşit olup, alıcıda alınan işaret ise yukarıda çizdiğim gibi bir işaret olur ve birleşme kısmında hatalı bilgiler bulunur. Alanın max %95 i kullanılarak geri kalan kısım (hataların bulunacağı) işleme dahil edilmez. Doğrumu anlamışım acaba?

[berat23]

Kafamı karıştıran konu şu

Delphide random fonksiyonu ile peş peşe -200...+200 aralığında 800 tane random değer üretim diziye attım.

Daha sonra bu değerleri küçükten büyüğe doğru dizdim.

Ortalaması yaklaşık 0 çıktı. Varyans oldukça büyüktü.

Dağılımın grafiği ile aşağıdaki fonksiyon arasında nasıl bir alaka kuracağımı kestiremedim.

[latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex]

şimdi hocam bu işin alfabesi matlab'tır. delphi falan lezzetli olmaz, şundan dolayı olmaz, bu dillerdeki random sayı üreteçleri elbette bir dağılımla(genelde gaussian) pseudorandom sayılar üretirler. böyle dillerle bilimsel işler çok uygun deil zira amacı o değil. matlab size daha fazla kontrol sağlar.

şimdi o denklem şudur; gaussian dağılımlı random variable odur ki bir değeri alma olasılığı iki parametreye bağlıdır, ortalama ve sigma. yani der ki ortalaması u, varyansı sigma olan bir dağılımda random variable'ın x olma olasılığı budur. dağılımın grafiğide o denklemdir.

şimdi delphinin batırdığı kısıma geliyoruz. dikkat ettiyseniz o pdf(denklem dediğiniz şey) sonlu değil. daha doğrusu bir yerlere yakınsıyor. yani ortalaması 0, sigması 1 olan bir rv(random variable) büyük olasılıkla 0.1 olabilir ama 10 da olabilir çok çok düşük bir olasılıkla. hatta matlab'a sordum, 7.6946e-23 dedi bu olasılığa. o yüzden bir aralıkta değil, sigma ve mü ile rv üretmek doğru.

diğer arkadaşların bahsettiği şey confidence interval konusu. o da şu; bu pdf'in belli bir aralıkta toplamı(integrali) bize rv'ın o aralıkta olma olasılığını söyler. bir denklem eğer pdf ise +-sonsuz aralığında toplamı 1 olmalıdır. burdan istediğimiz aralığın toplamını oranlarsak o aralıkta olma olasılığını bulurz. mesela gaussian için 3 sigma %99 oluyor. sizin denemede sigma muhtemelen 70ten küçük birşey çıkmalı eğer rng gaussian ise. bir rv'ın dağılımı sadece confidence interval ile bulunmaz. mesela üçgen gibi olup gaussian confidence interval değerlerini sağlayabilir, bu durumda bu rv gaussian diyemeyiz.

@okg
hocam etkin değer dediğiniz şeyin istatistikteki adı ortalama(mean) dır, o da 0 olacaktır, sigma değil. o çizdiğiniz pdf ve problem ise konuyla çok alakası olmayan, kısmen yanlış(etkin değer varyans meselesi gibi) aslında koşullu(bayes) olasılğa örnek birşey. iki işaretin konvolüsyonu ise joint probability olur(konvolüsyon dediğiniz). o da basitçe şöyle bir örnekle anlatılabilir; iki sensörden gaussian gürültülü iki veri ölçüyoruz, mesela birinden x birinden y. ve bu verilerle bir hesap sonucu veri üretiyoruz, mesela z = x + y. eğer ben z'nin pdf'ini istersem o işte joint pdf oluyor. o bit örneği öyle değil, şu voltsa 1-0 deme konusu ya da tersi, 0 aldıysam kaç v olabilir sorusu.

[Zoroaster]

şimdi delphinin batırdığı kısıma geliyoruz. dikkat ettiyseniz o pdf(denklem dediğiniz şey) sonlu değil. daha doğrusu bir yerlere yakınsıyor. yani ortalaması 0, sigması 1 olan bir rv(random variable) büyük olasılıkla 0.1 olabilir ama 10 da olabilir çok çok düşük bir olasılıkla. hatta matlab'a sordum, 7.6946e-23 dedi bu olasılığa. o yüzden bir aralıkta değil, sigma ve mü ile rv üretmek doğru.

Bir gürültü kaynağı yapıp Gaussian ifadesine göre yazılımla, belirlediğim bir Sigma değeri için ortalaması sıfır olacak random dizi elde etmek amacıyla, random değerlerden seçme mantığıyla hareket edersem, random değer üretirken kaynağa müdahale etmemeliyiz düşüncesi ile bu mantık çelişirmi?

[berat23]

ilk sorum niye bunu yapıyoruz, gerek var mı? rng yapmak olasılık öğrenmekle pek alakası olmayan bir iş.

ikinci olarak pseudorandom number gerenator'lar temelde benzer bir prensibe dayanır, rastgele bir kaynaktan veri alıp, mesela saat, bir işlem sonucunda bir dağılımla rv üretmek, bu anlatması kolay gerçeklemesi zor bir iş. hali hazırda zaten bu işi yapan algoritmalar var, yenisini yapacağım derseniz phd teziniz hazır derim. öte yandan gürültü kaynağı bir devre(analog birşey) olacaksa o gürültü zaten saf gaussian olacaktır %90. her doğal gürültü gaussiandır denilebiir.

matlab diye boşuna demiyoruz, mesela rng diye bir fonksiyonu var rastgele sayı üretmek için;
https://www.mathworks.com/help/matlab/ref/rng.html

burdan bakarsanız hangi metodla üreteceğini bile seçebiliyorsunuz. gaussian için de randn var. aslında bu konuyu siz c-asm gibi alıyorsunuz ama öyle değil. burda ben delphide/c de yazarım inandı işe yaramaz. bilimsel çalışma/proof of concept için matlab ve türevi araçlar kullanmak zorundasınız.

[Zoroaster]

Bu konuya çok geç müdahil olduğum için kafam karışık.

Özel bir şey yapmaya çalışmıyorum sadece kafama takılan konuları çözmeye çalışıyorum. Delphi ya da bir başka tool da bir şeyleri deneme adına aracı sadece.

Meşhur çan eğrisi kafama yatmıyor.  Neden yatmıyor?

Bu eğriyi görünce random dizimde bazı sayılardan çokça çıkmış ve onlar ortada çanın tepesini oluşturmuş, bazıları çok çok az çıkmış onlar da çanın en alt kısmını oluşturmuş. Geriye kalan ise çanın yan yüzeylerine dağılmış.

Eğer bu şekilde anlamam doğru ise, bu yapıdaki random kafama yatmıyor. Bir yerde kümeleşmiş veriler varsa nasıl randomluktan bahsedebiliriz ki?

Çanı yanlış mı anlıyorum?

Çan eğrisinde dikey ekseni olasılık olarak düşünmüyormuyuz?

[berat23]

siz kafanızda random ile uniform dağılımı eşleştirmişsiniz. rv demek bilinmezlik, kaos gibi değil, istatistiksel olarak bilinen demektir.

çanın dikey kısmı olasılıktır evet. çan size şunu der; gerçek değer ortalama gibidir, ama ölçümün bu olasılıklarla bu değerlerde olabilir. rv çanın içindeki herhangi bir yer olablilir, ama nerde olacağının bir olasılığı var. uniform dağılımda bir aralıkta herhangi bir nokta olabilir, o da bir dağılım şekli.

gaussian dağılım en harika dağılımdır. mesela sizin her sabah işe gelme saatiniz bellidir, atıyorum 8:30. ama tam kaçta gelirsiniz orası rv oluyor. yani ortalaması 8:30, sigma 2dk desek olur sanırım. bu şartlarda sizin işe geliş saatiniz deterministic midir yoksa bir rv midir?