Title: Combining Low-Level Image Features with Features from A Simple Convolutional Neural Network

Abstract: In the traditional image processing approaches, first low-level image features are extracted and then they are sent to a classifier or a recognizer for further processing. While the traditional image processing techniques employ this step-by-step approach, majority of the recent studies prefer layered architectures which both extract features and do the classification or recognition tasks. These architectures are referred as deep learning techniques and they are applicable if sufficient amount of labeled data is available and the minimum system requirements are met. Nevertheless, most of the time either the data is insufficient or the system sources are not enough. In this study, we experimented how it is still possible to obtain an effective visual representation by combining low-level visual features with features from a simple deep learning model. As a result, combinational features gave rise to 0.80 accuracy on the image data set while the performance of low-level features and deep learning features were 0.70 and 0.74 respectively.

Keywords: Image processing; feature extraction; low-level features; convolutional neural networks

Başlık: Düşük Seviye Görsel Öznitelikler ile Basit Bir Konvolüsyonel Sinir Ağından Elde Edilen Özniteliklerin Birleştirilmesi

Özet: Görüntü işleme çalışmalarında, geleneksel yaklaşımda öncelikle görüntüden düşük seviye öznitelikler çıkartılır ve daha sonra işlenmek üzere bir tanıma sistemine iletilir. Geleneksel görüntü işleme teknikleri bu adım adım yaklaşımı benimserken, güncel yaklaşımların pek çoğunda hem öznitelikleri çıkartan hem de sınıflandırma veya tanıma işlemini gerçekleştiren katmanlı yapılar tercih edilmektedir. Derin öğrenme teknikleri olarak isimlendirilen bu yapılar yeterli miktarda etiketli verinin mevcut olması ve en düşük sistem gereksinimlerinin karşılanması koşulu ile uygulanabilmektedir. Bununla birlikte, çoğu zaman ya veri miktarı yetersiz olmakta ya da sistem kaynakları karşılanamamaktadır. Bu çalışmada, düşük seviye öznitelikleri basit bir derin öğrenme nöral ağından çıkartılan öznitelikler ile birleştirilerek etkili bir görsel sunum elde etmenin mümkün olduğu deneyimlenmiştir. Sonuç olarak, görüntü veri setimizde birleştirilmiş öznitelikler ile 0.80 doğruluk elde ederken düşük seviye ve derin öğrenme öznitelikleri ile elde edilen doğruluk değerleri sırasıyla 0.70 ve 0.74 olarak bulunmuştur.

Anahtar kelimeler: Görüntü işleme; öznitelik çıkarma; düşük seviye öznitelikler; konvolusyonel nöral ağlar

• Bay H, Tuytelaars T, Gool LJV. Surf: Speeded up robust features. In Proceedings of the 9th European conference on Computer Vision (ECCV), 2006, pp. 404-417.
• LeCun Y, Kavukcuoglu K, Farabet C. Convolutional networks and applications in vision. In Proceedings of 2010 IEEE International Symposium on Circuits and Systems (ISCAS), May 30-June 2, 2010, Paris, France, pp. 253–256.
• Krizhevsky A, Sutskever I, Hinton GE. Imagenet classification with deep convolutional neural networks. In Advances in Neural Information Processing Systems 25 (NIPS 2012), 2012, pp. 1097-1105.
• Pan S, Yang Q. A survey on transfer learning. IEEE Transactions on Knowledge and Data Engineering 2010; 22(10): 1345–1359.
• Iakovidou C, Anagnostopoulos N, Kapoutsis A, Boutalis Y, Lux M, Chatzichristofis SA. Localizing global descriptors for content based image retrieval. Simplifying the simple family of descriptors. EURASIP Journal on Advances in Signal Processing 2015; 2015(80): 1-20.
• Chatzichristofis SA, Boutalis YS. CEDD: Color and edge directivity descriptor: A compact descriptor for image indexing and retrieval. In 6th International Conferenceon Computer Vision Systems (ICVS 2008), May 12-15, 2008, Santorini, Greece, pp. 312-322.
• Fei-Fei L, Fergus R, Perona P. Learning generative visual models from few training examples: An incremental Bayesian approach tested on 101 object categories. Computer Vision and Image Understanding 2007; 106: 59–70. In IEEE Workshop on Generative-Model Based Vision (CVPR 2004), June 27-July 2, 2004.
• Lowe D. Object recognition from local scale-invariant features. In IEEE Proceedings of the International Conference on Computer Vision (ICCV 1999), September 20-27, 1999, Kerkyra, Greece, pp. 1150-1157.