<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">msi</journal-id><journal-title-group><journal-title xml:lang="ru">Современная наука и инновации</journal-title><trans-title-group xml:lang="en"><trans-title>Modern Science and Innovations</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">2307-910X</issn><publisher><publisher-name>North-Caucasus Federal University</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.37493/2307-910X.2020.3.1</article-id><article-id custom-type="elpub" pub-id-type="custom">msi-222</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ТЕХНИЧЕСКИЕ НАУКИ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>ENGINEERING SCIENCES</subject></subj-group></article-categories><title-group><article-title>ИНТЕРПРЕТАЦИЯ РЕЗУЛЬТАТОВ НЕЙРОСЕТЕВОЙ КЛАССИФИКАЦИИ</article-title><trans-title-group xml:lang="en"><trans-title>INTERPRETATION OF NEURAL NETWORK CLASSIFICATION RESULTS</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Маршаков</surname><given-names>Д. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Marshakov</surname><given-names>D. V.</given-names></name></name-alternatives><email xlink:type="simple">daniil_marshakov@mail.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>Донской государственный технический университет</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Don State Technical University</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2020</year></pub-date><pub-date pub-type="epub"><day>04</day><month>08</month><year>2022</year></pub-date><volume>0</volume><issue>3</issue><fpage>9</fpage><lpage>16</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Маршаков Д.В., 2022</copyright-statement><copyright-year>2022</copyright-year><copyright-holder xml:lang="ru">Маршаков Д.В.</copyright-holder><copyright-holder xml:lang="en">Marshakov D.V.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://msi.elpub.ru/jour/article/view/222">https://msi.elpub.ru/jour/article/view/222</self-uri><abstract><p>В работе предложен метод извлечения правил классификации из искусственной нейронной сети. Метод основан на модификации искусственного нейрона, структурировании информационных потоков, обрабатываемых в его информационном поле, и приведении сложных многомерных данных в более простую структуру меньшей размерности с последующим тривиальным преобразованием результатов в набор нечётких правил определенного типа. Полученные результаты экспериментального исследования, на примере решения известной задачи многопараметрической классификации, подтверждают адекватность предложенного метода, который может быть использован как в независимых нейросетевых системах распознавания образов, так и в системах поддержки принятия решений.</p></abstract><trans-abstract xml:lang="en"><p>The paper proposes a method for extracting classification rules from an artificial neural network. The method is based on the modification of the artificial neuron, which consists in structuring data stream processed in its information field. In this case, complex multidimensional data is converted into a simpler structure of lower dimension with the possibility of subsequent trivial transformation of the results into a set of fuzzy rules of a certain type. The results of an experimental research of the proposed method are presented with the example of solving a well-known problem of multi-parameter classification. The results obtained confirm the adequacy of the proposed method, which can be used both in independent neural network pattern recognition systems and in decision support systems.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>искусственная нейронная сеть</kwd><kwd>интерпретация</kwd><kwd>извлечение правил</kwd><kwd>классификация</kwd></kwd-group><kwd-group xml:lang="en"><kwd>artificial neural network</kwd><kwd>interpretation</kwd><kwd>rule extraction</kwd><kwd>classification</kwd></kwd-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Yan A. Neural Network Rule Extraction for Real Time Traffic Behavior Identification / A. Yan, Z. Chen, L. Wang, L. Peng, M.U. Hassan, C. Zhao // Proceedings of the International Conference on Security, Pattern Analysis, and Cybernetics (Jinan, China, 14-17 December 2018). - IEEE, 2018. - P. 146-151.</mixed-citation><mixed-citation xml:lang="en">Yan A. Neural Network Rule Extraction for Real Time Traffic Behavior Identification / A. Yan, Z. Chen, L. Wang, L. Peng, M.U. Hassan, C. Zhao // Proceedings of the International Conference on Security, Pattern Analysis, and Cybernetics (Jinan, China, 14-17 December 2018). - IEEE, 2018. - P. 146-151.</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Elsarrar O. Analysis of Forest Fire Data Using Neural Network Rule Extraction with Human Understandable Rules / O. Elsarrar, M. Darrah, R. Devine // Proceedings of the 18th IEEE International Conference On Machine Learning And Applications (Boca Raton, FL, USA, 16-19 December 2019). - IEEE, 2019. - P. 1917-1923.</mixed-citation><mixed-citation xml:lang="en">Elsarrar O. Analysis of Forest Fire Data Using Neural Network Rule Extraction with Human Understandable Rules / O. Elsarrar, M. Darrah, R. Devine // Proceedings of the 18th IEEE International Conference On Machine Learning And Applications (Boca Raton, FL, USA, 16-19 December 2019). - IEEE, 2019. - P. 1917-1923.</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Du M. Techniques for interpretable machine learning / M. Du, N. Liu, X. Hu // Communications of the ACM. - 2020. - Vol. 63, No. 1. - P. 68-77.</mixed-citation><mixed-citation xml:lang="en">Du M. Techniques for interpretable machine learning / M. Du, N. Liu, X. Hu // Communications of the ACM. - 2020. - Vol. 63, No. 1. - P. 68-77.</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Augasta M.G. Rule extraction from neural networks - A comparative Study / M.G. Augasta, T. Kathirvalavakumar // Proceedings of the International Conference on Pattern Recognition, Informatics and Medical Engineering (Salem, Tamilnadu, India, 21-23 March 2012). - IEEE, 2012. P. 404-408.</mixed-citation><mixed-citation xml:lang="en">Augasta M.G. Rule extraction from neural networks - A comparative Study / M.G. Augasta, T. Kathirvalavakumar // Proceedings of the International Conference on Pattern Recognition, Informatics and Medical Engineering (Salem, Tamilnadu, India, 21-23 March 2012). - IEEE, 2012. P. 404-408.</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Huynh T.Q. Guiding Hidden Layer Representations for Improved Rule Extraction From Neural Networks / T.Q. Huynh, J.A. Reggia // IEEE Transactions on Neural Networks. - 2011. - Vol. 22, No.2. - P. 264-275.</mixed-citation><mixed-citation xml:lang="en">Huynh T.Q. Guiding Hidden Layer Representations for Improved Rule Extraction From Neural Networks / T.Q. Huynh, J.A. Reggia // IEEE Transactions on Neural Networks. - 2011. - Vol. 22, No.2. - P. 264-275.</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Kamruzzaman S.M. Rule extraction using artificial neural networks / S.M. Kamruzzaman, A.R. Hasan // Proceedings of the International Conference on Information and Communication Technology in Management (Melaka, Malaysia, 23-25 May 2005). - Melaka, 2005.-P. 1-14.</mixed-citation><mixed-citation xml:lang="en">Kamruzzaman S.M. Rule extraction using artificial neural networks / S.M. Kamruzzaman, A.R. Hasan // Proceedings of the International Conference on Information and Communication Technology in Management (Melaka, Malaysia, 23-25 May 2005). - Melaka, 2005.-P. 1-14.</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Калистратов T.A. Методы и средства автоматического контрастирования нейронной сети // Вестник Тамбовского университета. Серия: Естественные и технические науки. - 2016. - Т. 21, №2. - С. 668-670.</mixed-citation><mixed-citation xml:lang="en">Калистратов T.A. Методы и средства автоматического контрастирования нейронной сети // Вестник Тамбовского университета. Серия: Естественные и технические науки. - 2016. - Т. 21, №2. - С. 668-670.</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Гридин В.Н. Совместное использование нейросетевых технологий и деревьев решений для поиска логических закономерностей в данных / В.Н. Гридин, В.И. Солодовников // Информационные технологии и нанотехнологии: сб. тр. III Междунар. конф. и мол. шк. (Самара, 25-27 апреля 2017 г.). - Самара, 2017. - С. 1763-1769.</mixed-citation><mixed-citation xml:lang="en">Гридин В.Н. Совместное использование нейросетевых технологий и деревьев решений для поиска логических закономерностей в данных / В.Н. Гридин, В.И. Солодовников // Информационные технологии и нанотехнологии: сб. тр. III Междунар. конф. и мол. шк. (Самара, 25-27 апреля 2017 г.). - Самара, 2017. - С. 1763-1769.</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Chopade Н.А. Hybrid Auto Text Summarization Using Deep Neural Network And Fuzzy Logic System / H.A. Chopade, M. Narvekar // Proceedings of the INTERNATIONAL CONFERENCE ON INVENTIVE COMPUTING AND INFORMATICS (COIMBATORE, INDIA, 23-24 November 2017). - IEEE, 2017. - P. 52-56.</mixed-citation><mixed-citation xml:lang="en">Chopade Н.А. Hybrid Auto Text Summarization Using Deep Neural Network And Fuzzy Logic System / H.A. Chopade, M. Narvekar // Proceedings of the INTERNATIONAL CONFERENCE ON INVENTIVE COMPUTING AND INFORMATICS (COIMBATORE, INDIA, 23-24 November 2017). - IEEE, 2017. - P. 52-56.</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Кориков A.M. Нейро-нечеткая классификация объектов и их состояний / A.M. Кориков, А.Т. Нгуен // Научный вестник НГТУ. - 2018. - Т. 72, №3. - С. 73-86.</mixed-citation><mixed-citation xml:lang="en">Кориков A.M. Нейро-нечеткая классификация объектов и их состояний / A.M. Кориков, А.Т. Нгуен // Научный вестник НГТУ. - 2018. - Т. 72, №3. - С. 73-86.</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Chorowski J. Extracting rules from neural networks as decision diagrams / J.Chorowski, J.M. Zurada // IEEE Transactions on Neural Networks. - Vol. 22, No.12. - 2011. - P. 2435-2446.</mixed-citation><mixed-citation xml:lang="en">Chorowski J. Extracting rules from neural networks as decision diagrams / J.Chorowski, J.M. Zurada // IEEE Transactions on Neural Networks. - Vol. 22, No.12. - 2011. - P. 2435-2446.</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Частиков А.П. Гибридная нейро-экспертная система для идентификации значимых событий на графиках временных рядов/ А.П. Частиков, П.М. Урвачев, К.Е. Тотухов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. - 2016. - №124. - С. 756-769.</mixed-citation><mixed-citation xml:lang="en">Частиков А.П. Гибридная нейро-экспертная система для идентификации значимых событий на графиках временных рядов/ А.П. Частиков, П.М. Урвачев, К.Е. Тотухов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. - 2016. - №124. - С. 756-769.</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Маршаков Д.В. О методе синтеза эмпирических моделей представления знаний // Системный анализ, управление и обработка информации: тр. 5-го Междунар. науч. сем. (Дивноморск, 2-6 октября 2014 г.). - Ростов н/Д, 2014. - С. 296-299.</mixed-citation><mixed-citation xml:lang="en">Маршаков Д.В. О методе синтеза эмпирических моделей представления знаний // Системный анализ, управление и обработка информации: тр. 5-го Междунар. науч. сем. (Дивноморск, 2-6 октября 2014 г.). - Ростов н/Д, 2014. - С. 296-299.</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Маршаков Д.В. Технология сортировки агрокультурной продукции на основе макропризнаков // Состояние и перспективы развития сельскохозяйственного машиностроения: сб. ст. 8-й Междунар. науч.-практ. конф. (Ростов-на-Дону, 3-6 марта 2015 г.). - Ростов н/Д, 2015. - С. 310-313.</mixed-citation><mixed-citation xml:lang="en">Маршаков Д.В. Технология сортировки агрокультурной продукции на основе макропризнаков // Состояние и перспективы развития сельскохозяйственного машиностроения: сб. ст. 8-й Междунар. науч.-практ. конф. (Ростов-на-Дону, 3-6 марта 2015 г.). - Ростов н/Д, 2015. - С. 310-313.</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Кохонен Т. Самоорганизующиеся карты. - Москва: Бином. Лаборатория знаний, 2016. - 656 с.</mixed-citation><mixed-citation xml:lang="en">Кохонен Т. Самоорганизующиеся карты. - Москва: Бином. Лаборатория знаний, 2016. - 656 с.</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
