Aşağıdaki başlıkla ilgili araştırma yaparken Gaussian Noise'i anlama konusunda sorun yaşıyorum.
https://www.picproje.org/index.php/topic,66687.0.html
Bu gürültüyü açıklayabilecek varmı?
http://web.firat.edu.tr/iaydin/bmu357/bmu_357_bolum5.pdf
Bende bilmiyorum ama eğer aşağıdakinin gürültü versiyonu ise
video gayet açıklayıcı öğretici ve deneysel:
benim anladığım aslında anlamadığım üniversitede Çan Eğrisi Not sistemi derlerdi
gauss eğrisi - çan eğrisi mi oluyor ne?
https://www.youtube.com/watch?v=1WAhTdWErrU
Kafamı karıştıran konu şu
Delphide random fonksiyonu ile peş peşe -200...+200 aralığında 800 tane random değer üretim diziye attım.
Daha sonra bu değerleri küçükten büyüğe doğru dizdim.
Ortalaması yaklaşık 0 çıktı. Varyans oldukça büyüktü.
Dağılımın grafiği ile aşağıdaki fonksiyon arasında nasıl bir alaka kuracağımı kestiremedim.
[latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex]
Histogram çizip bakılmalı. Örnek sayısı arttıkça datanın historgramının data üreten mekanizmanın "probability density" fonksiyonuna yakınsaması lazım.
Alıntı yapılan: Zoroaster - 17 Aralık 2016, 19:32:22
Kafamı karıştıran konu şu
Delphide random fonksiyonu ile peş peşe -200...+200 aralığında 800 tane random değer üretim diziye attım.
Daha sonra bu değerleri küçükten büyüğe doğru dizdim.
Ortalaması yaklaşık 0 çıktı. Varyans oldukça büyüktü.
Dağılımın grafiği ile aşağıdaki fonksiyon arasında nasıl bir alaka kuracağımı kestiremedim.
[latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex]
Hocam, sıfır ortalamalı(u=0) gauss gürültüsünde, gürültünün etkin değeri direk standart sapmaya eşit oluyor.
Yazdığınız denklemin grafiği ise sıfır ortalamalı gauss dağılımı, tek koşullu olasılık yoğunluk fonksiyonu yada kutuplu iletişim yapan bir sisteme ait olabilir.
Basit bir örnek olarak,
(http://i.hizliresim.com/Mok109.jpg)
Umarım sorunuzu yanlış anlayıp yanlış cevap vermemişimdir..
u = ortalama değer
s = standart sapma olsun
u-s ile u+s aralığında yaklaşık olarak 0.68 * 800 = 544 adet değer olması gerekir.
u-2s ile u+2s aralığında yaklaşık olarak 0.95 * 800 = 760 adet değer olması gerekir.
Bu değerleri yaklaşık olarak sağlıyor iseniz gauss dağılımını sağlamış olursunuz.
@alicavuslu hocam 0.68 ve 0.95 değerlerini nasıl buldunuz acaba?
Bu durum genel bir ifadedir. Aşağıdaki linktende inceleyebilirsin.
https://en.wikipedia.org/wiki/Normal_distribution#/media/File:Empirical_Rule.PNG
Sağolun
@alicavuslu hocam, buldum dediğiniz kısmı, inceleyeyim biraz.
(http://i.hizliresim.com/5LYn2A.png)
*
@alicavuslu Hocam, bu kısımdan şöyle bir yorum çıkardım,
iletilen bağımsız işaretlerin toplamından oluşan işaretin olasılık yogunluk fonksiyonlu, her iki işaretin olasılık yogunluk fonksiyonlarının konvolüsyonuna eşit olup, alıcıda alınan işaret ise yukarıda çizdiğim gibi bir işaret olur ve birleşme kısmında hatalı bilgiler bulunur. Alanın max %95 i kullanılarak geri kalan kısım (hataların bulunacağı) işleme dahil edilmez. Doğrumu anlamışım acaba?
Alıntı yapılan: Zoroaster - 17 Aralık 2016, 19:32:22
Kafamı karıştıran konu şu
Delphide random fonksiyonu ile peş peşe -200...+200 aralığında 800 tane random değer üretim diziye attım.
Daha sonra bu değerleri küçükten büyüğe doğru dizdim.
Ortalaması yaklaşık 0 çıktı. Varyans oldukça büyüktü.
Dağılımın grafiği ile aşağıdaki fonksiyon arasında nasıl bir alaka kuracağımı kestiremedim.
[latex=inline]\Phi_{\mu\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}[/latex]
şimdi hocam bu işin alfabesi matlab'tır. delphi falan lezzetli olmaz, şundan dolayı olmaz, bu dillerdeki random sayı üreteçleri elbette bir dağılımla(genelde gaussian) pseudorandom sayılar üretirler. böyle dillerle bilimsel işler çok uygun deil zira amacı o değil. matlab size daha fazla kontrol sağlar.
şimdi o denklem şudur; gaussian dağılımlı random variable odur ki bir değeri alma olasılığı iki parametreye bağlıdır, ortalama ve sigma. yani der ki ortalaması u, varyansı sigma olan bir dağılımda random variable'ın x olma olasılığı budur. dağılımın grafiğide o denklemdir.
şimdi delphinin batırdığı kısıma geliyoruz. dikkat ettiyseniz o pdf(denklem dediğiniz şey) sonlu değil. daha doğrusu bir yerlere yakınsıyor. yani ortalaması 0, sigması 1 olan bir rv(random variable) büyük olasılıkla 0.1 olabilir ama 10 da olabilir çok çok düşük bir olasılıkla. hatta matlab'a sordum, 7.6946e-23 dedi bu olasılığa. o yüzden bir aralıkta değil, sigma ve mü ile rv üretmek doğru.
diğer arkadaşların bahsettiği şey confidence interval konusu. o da şu; bu pdf'in belli bir aralıkta toplamı(integrali) bize rv'ın o aralıkta olma olasılığını söyler. bir denklem eğer pdf ise +-sonsuz aralığında toplamı 1 olmalıdır. burdan istediğimiz aralığın toplamını oranlarsak o aralıkta olma olasılığını bulurz. mesela gaussian için 3 sigma %99 oluyor. sizin denemede sigma muhtemelen 70ten küçük birşey çıkmalı eğer rng gaussian ise. bir rv'ın dağılımı sadece confidence interval ile bulunmaz. mesela üçgen gibi olup gaussian confidence interval değerlerini sağlayabilir, bu durumda bu rv gaussian diyemeyiz.
@okg hocam etkin değer dediğiniz şeyin istatistikteki adı ortalama(mean) dır, o da 0 olacaktır, sigma değil. o çizdiğiniz pdf ve problem ise konuyla çok alakası olmayan, kısmen yanlış(etkin değer varyans meselesi gibi) aslında koşullu(bayes) olasılğa örnek birşey. iki işaretin konvolüsyonu ise joint probability olur(konvolüsyon dediğiniz). o da basitçe şöyle bir örnekle anlatılabilir; iki sensörden gaussian gürültülü iki veri ölçüyoruz, mesela birinden x birinden y. ve bu verilerle bir hesap sonucu veri üretiyoruz, mesela z = x + y. eğer ben z'nin pdf'ini istersem o işte joint pdf oluyor. o bit örneği öyle değil, şu voltsa 1-0 deme konusu ya da tersi, 0 aldıysam kaç v olabilir sorusu.
Alıntı Yapşimdi delphinin batırdığı kısıma geliyoruz. dikkat ettiyseniz o pdf(denklem dediğiniz şey) sonlu değil. daha doğrusu bir yerlere yakınsıyor. yani ortalaması 0, sigması 1 olan bir rv(random variable) büyük olasılıkla 0.1 olabilir ama 10 da olabilir çok çok düşük bir olasılıkla. hatta matlab'a sordum, 7.6946e-23 dedi bu olasılığa. o yüzden bir aralıkta değil, sigma ve mü ile rv üretmek doğru.
Bir gürültü kaynağı yapıp Gaussian ifadesine göre yazılımla, belirlediğim bir Sigma değeri için ortalaması sıfır olacak random dizi elde etmek amacıyla, random değerlerden seçme mantığıyla hareket edersem, random değer üretirken kaynağa müdahale etmemeliyiz düşüncesi ile bu mantık çelişirmi?
ilk sorum niye bunu yapıyoruz, gerek var mı? rng yapmak olasılık öğrenmekle pek alakası olmayan bir iş.
ikinci olarak pseudorandom number gerenator'lar temelde benzer bir prensibe dayanır, rastgele bir kaynaktan veri alıp, mesela saat, bir işlem sonucunda bir dağılımla rv üretmek, bu anlatması kolay gerçeklemesi zor bir iş. hali hazırda zaten bu işi yapan algoritmalar var, yenisini yapacağım derseniz phd teziniz hazır derim. öte yandan gürültü kaynağı bir devre(analog birşey) olacaksa o gürültü zaten saf gaussian olacaktır %90. her doğal gürültü gaussiandır denilebiir.
matlab diye boşuna demiyoruz, mesela rng diye bir fonksiyonu var rastgele sayı üretmek için;
https://www.mathworks.com/help/matlab/ref/rng.html
burdan bakarsanız hangi metodla üreteceğini bile seçebiliyorsunuz. gaussian için de randn var. aslında bu konuyu siz c-asm gibi alıyorsunuz ama öyle değil. burda ben delphide/c de yazarım inandı işe yaramaz. bilimsel çalışma/proof of concept için matlab ve türevi araçlar kullanmak zorundasınız.
Bu konuya çok geç müdahil olduğum için kafam karışık.
Özel bir şey yapmaya çalışmıyorum sadece kafama takılan konuları çözmeye çalışıyorum. Delphi ya da bir başka tool da bir şeyleri deneme adına aracı sadece.
Meşhur çan eğrisi kafama yatmıyor. Neden yatmıyor?
Bu eğriyi görünce random dizimde bazı sayılardan çokça çıkmış ve onlar ortada çanın tepesini oluşturmuş, bazıları çok çok az çıkmış onlar da çanın en alt kısmını oluşturmuş. Geriye kalan ise çanın yan yüzeylerine dağılmış.
Eğer bu şekilde anlamam doğru ise, bu yapıdaki random kafama yatmıyor. Bir yerde kümeleşmiş veriler varsa nasıl randomluktan bahsedebiliriz ki?
Çanı yanlış mı anlıyorum?
Çan eğrisinde dikey ekseni olasılık olarak düşünmüyormuyuz?
siz kafanızda random ile uniform dağılımı eşleştirmişsiniz. rv demek bilinmezlik, kaos gibi değil, istatistiksel olarak bilinen demektir.
çanın dikey kısmı olasılıktır evet. çan size şunu der; gerçek değer ortalama gibidir, ama ölçümün bu olasılıklarla bu değerlerde olabilir. rv çanın içindeki herhangi bir yer olablilir, ama nerde olacağının bir olasılığı var. uniform dağılımda bir aralıkta herhangi bir nokta olabilir, o da bir dağılım şekli.
gaussian dağılım en harika dağılımdır. mesela sizin her sabah işe gelme saatiniz bellidir, atıyorum 8:30. ama tam kaçta gelirsiniz orası rv oluyor. yani ortalaması 8:30, sigma 2dk desek olur sanırım. bu şartlarda sizin işe geliş saatiniz deterministic midir yoksa bir rv midir?
Alıntı yapılan: berat23 - 18 Aralık 2016, 12:42:03
gaussian dağılım en harika dağılımdır. mesela sizin her sabah işe gelme saatiniz bellidir, atıyorum 8:30. ama tam kaçta gelirsiniz orası rv oluyor. yani ortalaması 8:30, sigma 2dk desek olur sanırım. bu şartlarda sizin işe geliş saatiniz deterministic midir yoksa bir rv midir?
Cevabını bilmiyorum. Ama deterministic gibi hissediyorum.
Şöyle bir deney yapalım.
0...255 aralığında random sayı üreten bir alet olsun.
256 kere atış yapalım ve her sonuç farklı olsun (her sayı bir kez çıksın) fakat peş peşe atılan değerler arasında hiç alaka kurulamasın. (Gerçi sayılar çıktıkça bir sonra gelecek sayının ne olacağı daha çok tahmin edilebilir ama...)
Bir başka random sayı üreten cihaz daha olsun. Bununla da 256 atış yapalım. Bunda 128 civarında kümeleşme olsun. Mesela 50 kez 128 çıksın onar kez 120 çıksın. Bir iki tane 5 çıksın vs.
Burada da peşpeşe atışlarda elde edilen sayılar arasında bir alaka kurulamasın.
Bu durumda ikinci cihaz Gaussian mı diyeceğiz?
Hocam birinci bahsettiğinizi uniform dağılım olarak geçer. İkinci söylediğiniz Gauss dağılım olarak ifade edilebilir.
Ama gauss dağılımlı olması için sayılarınızın 174 tanesi ortalama değerinizin standart sapma sağı ve solunda kumeleşmeli. Yukarıda söylediğim gibi % oranları standart sapma değerine bağlı olarak kümelenmelidir.
bir dağılıma hemen ad vermek basit değil, tek dağılım da gaussian değil. yine matlab ta distribution fitting diye bir tool var, onunla istediğiniz verileri dağılıma uyduruarak ne kadar benzediğini deneyebilirsiniz.
hocam atladığınız temel nokta şu, olasılık ya da rv ve random processler(geliş noktamız kalman) demek tahmin edilemez kaotik demek değildir. verinin asıl değerini bilirseniz deterministic, davranışını bilirseniz istatistik oluyor.
bir örnek daha, diyelim adc ile gerilim ölçüyoruz, hatta sıcaklık sensörü var ucunda. burda hep aynı gerilimi mi ölçeriz yoksa belli bir merkezde salınır mı? sonuçta ortam 30.0 derece ise biz muhtemelen 30.5 - 29.5 arası birşey ölçeriz (rakamlar farazidir). bu aralıkta bir yere yaslanır ama gerçek değer bilinemez, estimate edilir. ki zate kalman da istatistiği bilinen bir rv için en iyi estimate koşullu olasılğın ortalamasıdır mantığından yola çıkar. yani ölçüm bu aralıkta değişebilir, ben x ölçmüşken aslında nedir yaklaşımı.
Biraz biraz şekilleniyor.
Kafamı karıştıran konu, ramdomu düşünürken aklıma hep kriptolamadaki en basit exor işleminin gelmesi.
Gizlenecek veriyi tahmin edilebilirliği yüksek bir random değişkenle exorlanırsa çıkacak sonuç tahmin edilebilirliği yüksek bir sonuç olacaktır. O zaman neden Gaussian gürültü cazip geliyor sorusu kafa karıştırıyor.
Evet ADC ölçümünde ölçülen büyüklükte sayısal değerin dar bir alana sıkışmasını isteriz tabiki.
xor un olayı aslında daha farklı, sonuçta unique bir veri elde etmeye çalışıyorsunuz. malum xor linear seperable bir sonuç çıkarmıyor falan.