Please use this identifier to cite or link to this item: https://hdl.handle.net/11147/7115
Title: Ortak bilgi miktarının modelden-bağımsız ve hızlı hesaplanması için yeni yöntemler
Other Titles: Novel techniques for model-free and fast computation of mutual information
Authors: Çağdaş, Serhat
Karaçalı, Bilge
Çağdaş, Serhat
Karaçalı, Bilge
Izmir Institute of Technology. Electronics and Communication Engineering
Keywords: Conditional entropy
Mutual information
Signal processing
Model free
Ortak bilgi miktarı
Koşullu entropi
Model bağımsız
Parametrik olmayan
Issue Date: 2018
Publisher: Institute of Electrical and Electronics Engineers Inc.
Source: Çağdaş, S., and Karaçalı, B. (2018 May 2-5). Novel techniques for model-free and fast computation of mutual information. Paper presented at the 26th IEEE Signal Processing and Communications Applications Conference, SIU 2018. doi:10.1109/SIU.2018.8404637
Abstract: Bu çalışmada, iki rastlantısal değişken arasındaki ortak bilgi miktarının veri üzerinden hesaplanmasına yönelik yeni yaklaşımlar önerilmiştir. Bu yaklaşımlar, doğrusal dönüşüm altında diferansiyel entropinin gösterdiği özellikleri kullarak ve koşullu entropiyi modelden-bağımsız bir şekilde küçültmeye çalışarak kestirim yapacak şekilde kurgulanmıştır. Birim vektör parametrizasyonu ve veri oturtmaya dayanan tahmin edici olarak adlandırdığımız yöntemlerin, yaygın olarak kullanılan Kraskov yöntemiyle yapılan karşılaştırmalarda, örnek sayısı arttıkça işlem hızı açısından avantaj sağladığı görülmüştür.
In this study, two new approaches are proposed to calculate mutual information between two random variables from data. These approaches are constructed in a way to use the properties of the differential entropy under linear transformations and to try to minimize conditional entropy in a model-free manner. In comparisons with a widely used mutual information estimator, the Kraskov method, the methods that we termed as unit vector parametrization and data fitting based estimators, offered an advantage in terms of computation speed.
Description: 26th IEEE Signal Processing and Communications Applications Conference, SIU 2018; Altin Yunus Resort ve Thermal Hotel, Izmir; Turkey; 2 May 2018 through 5 May 2018
URI: http://doi.org/10.1109/SIU.2018.8404637
http://hdl.handle.net/11147/7115
ISBN: 9781538615010
Appears in Collections:Electrical - Electronic Engineering / Elektrik - Elektronik Mühendisliği
Scopus İndeksli Yayınlar Koleksiyonu / Scopus Indexed Publications Collection

Files in This Item:
File Description SizeFormat 
7115.pdfConference Paper573.96 kBAdobe PDFThumbnail
View/Open
Show full item record

CORE Recommender

Google ScholarTM

Check

Altmetric


Items in GCRIS Repository are protected by copyright, with all rights reserved, unless otherwise indicated.