INTERPRETATION OF NEURAL NETWORK CLASSIFICATION RESULTS
https://doi.org/10.37493/2307-910X.2020.3.1
Abstract
The paper proposes a method for extracting classification rules from an artificial neural network. The method is based on the modification of the artificial neuron, which consists in structuring data stream processed in its information field. In this case, complex multidimensional data is converted into a simpler structure of lower dimension with the possibility of subsequent trivial transformation of the results into a set of fuzzy rules of a certain type. The results of an experimental research of the proposed method are presented with the example of solving a well-known problem of multi-parameter classification. The results obtained confirm the adequacy of the proposed method, which can be used both in independent neural network pattern recognition systems and in decision support systems.
References
1. Yan A. Neural Network Rule Extraction for Real Time Traffic Behavior Identification / A. Yan, Z. Chen, L. Wang, L. Peng, M.U. Hassan, C. Zhao // Proceedings of the International Conference on Security, Pattern Analysis, and Cybernetics (Jinan, China, 14-17 December 2018). - IEEE, 2018. - P. 146-151.
2. Elsarrar O. Analysis of Forest Fire Data Using Neural Network Rule Extraction with Human Understandable Rules / O. Elsarrar, M. Darrah, R. Devine // Proceedings of the 18th IEEE International Conference On Machine Learning And Applications (Boca Raton, FL, USA, 16-19 December 2019). - IEEE, 2019. - P. 1917-1923.
3. Du M. Techniques for interpretable machine learning / M. Du, N. Liu, X. Hu // Communications of the ACM. - 2020. - Vol. 63, No. 1. - P. 68-77.
4. Augasta M.G. Rule extraction from neural networks - A comparative Study / M.G. Augasta, T. Kathirvalavakumar // Proceedings of the International Conference on Pattern Recognition, Informatics and Medical Engineering (Salem, Tamilnadu, India, 21-23 March 2012). - IEEE, 2012. P. 404-408.
5. Huynh T.Q. Guiding Hidden Layer Representations for Improved Rule Extraction From Neural Networks / T.Q. Huynh, J.A. Reggia // IEEE Transactions on Neural Networks. - 2011. - Vol. 22, No.2. - P. 264-275.
6. Kamruzzaman S.M. Rule extraction using artificial neural networks / S.M. Kamruzzaman, A.R. Hasan // Proceedings of the International Conference on Information and Communication Technology in Management (Melaka, Malaysia, 23-25 May 2005). - Melaka, 2005.-P. 1-14.
7. Калистратов T.A. Методы и средства автоматического контрастирования нейронной сети // Вестник Тамбовского университета. Серия: Естественные и технические науки. - 2016. - Т. 21, №2. - С. 668-670.
8. Гридин В.Н. Совместное использование нейросетевых технологий и деревьев решений для поиска логических закономерностей в данных / В.Н. Гридин, В.И. Солодовников // Информационные технологии и нанотехнологии: сб. тр. III Междунар. конф. и мол. шк. (Самара, 25-27 апреля 2017 г.). - Самара, 2017. - С. 1763-1769.
9. Chopade Н.А. Hybrid Auto Text Summarization Using Deep Neural Network And Fuzzy Logic System / H.A. Chopade, M. Narvekar // Proceedings of the INTERNATIONAL CONFERENCE ON INVENTIVE COMPUTING AND INFORMATICS (COIMBATORE, INDIA, 23-24 November 2017). - IEEE, 2017. - P. 52-56.
10. Кориков A.M. Нейро-нечеткая классификация объектов и их состояний / A.M. Кориков, А.Т. Нгуен // Научный вестник НГТУ. - 2018. - Т. 72, №3. - С. 73-86.
11. Chorowski J. Extracting rules from neural networks as decision diagrams / J.Chorowski, J.M. Zurada // IEEE Transactions on Neural Networks. - Vol. 22, No.12. - 2011. - P. 2435-2446.
12. Частиков А.П. Гибридная нейро-экспертная система для идентификации значимых событий на графиках временных рядов/ А.П. Частиков, П.М. Урвачев, К.Е. Тотухов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. - 2016. - №124. - С. 756-769.
13. Маршаков Д.В. О методе синтеза эмпирических моделей представления знаний // Системный анализ, управление и обработка информации: тр. 5-го Междунар. науч. сем. (Дивноморск, 2-6 октября 2014 г.). - Ростов н/Д, 2014. - С. 296-299.
14. Маршаков Д.В. Технология сортировки агрокультурной продукции на основе макропризнаков // Состояние и перспективы развития сельскохозяйственного машиностроения: сб. ст. 8-й Междунар. науч.-практ. конф. (Ростов-на-Дону, 3-6 марта 2015 г.). - Ростов н/Д, 2015. - С. 310-313.
15. Кохонен Т. Самоорганизующиеся карты. - Москва: Бином. Лаборатория знаний, 2016. - 656 с.
Review
For citations:
Marshakov D.V. INTERPRETATION OF NEURAL NETWORK CLASSIFICATION RESULTS. Modern Science and Innovations. 2020;(3):9-16. (In Russ.) https://doi.org/10.37493/2307-910X.2020.3.1
Views:
81
Email this article 