Knowledge base: Warsaw University of Technology

Settings and your account

Back

Turbofan engine degradation from prediction point of view, using recurrent neural network, LSTM and GRU cells

Jakub Karol Sypniewski

Abstract

This paper presents turbofan engine degradation from prediction point of view, using recurrent neural network, LSTM and GRU cells. By way of introduction, history of turbofan engine is presented. Next, idea of Predictive Maintenance is described, which is one of the main components of Industry 4.0 and also, the growing importance of collecting huge amounts of data. What is more, the paper consists of turbofan engine description, it’s implementation and main parameters, followed by more information about predictive analysis. The main point of theoretical part is taking into account the evolution of Artificial Intelligence from the very basic idea of simple perceptron to advanced structures, which recurrent neural networks definitely are. There is a description of LSTM and GRU cells, which are contemporarily used to work with time series analysis. More information about algorithms, architecture of neural network and its modifications used in computable part of this paper is presented with their advantages and disadvantages. For the purpose of this paper, database from NASA repository was collected. It contains sensor measurements from engine which represent engines degradation, to be more specified, failure mode in high pressure compressor. Next components of this work present data mining and data visualizations, correlation of numbers followed by necessary feature extraction. Optimization of recurrent neural network is being shown, including choosing the right parameters and their importance for the final result. To get the prediction, time series analysis was used, where the main task for neural network was to remember the previous data sequences. This is the reason for LSTM and GRU cells being used. In the next part of paper, final results were described, the efficiency of choosing neural networks was stressed and so was the legitimacy of using that approach. In this paper the wide spectrum of available data mining methods and machine learning methods has been used: normalization and scaling data, feature extraction, correlation matrices, tree classification, dimension reduction using PCA, k-mean clustering, noise reduction with moving average and Savitzky-Golay filter and previously mentioned methods for neural network optimization to obtain regression.
Diploma type
Engineer's / Bachelor of Science
Diploma type
Engineer's thesis
Author
Jakub Karol Sypniewski (FPAE) Jakub Karol Sypniewski,, Faculty of Power and Aeronautical Engineering (FPAE)
Title in Polish
Degradacja żywotności silników turbowentylatorowych w ujęciu predykcyjnym przy użyciu rekurencyjnych sieci neuronowych, komórek LSTM oraz GRU
Supervisor
Mateusz Żbikowski (FPAE/IHE) Mateusz Żbikowski,, The Institute of Heat Engineering (FPAE/IHE)Faculty of Power and Aeronautical Engineering (FPAE)
Certifying unit
Faculty of Power and Aeronautical Engineering (FPAE)
Affiliation unit
The Institute of Heat Engineering (FPAE/IHE)
Study subject / specialization
, Mechanika i Projektowanie Maszyn
Language
(pl) Polish
Status
Finished
Defense Date
07-02-2019
Issue date (year)
2019
Pages
59
Internal identifier
MEL; PD-4929
Reviewers
Andrzej Teodorczyk (FPAE/IHE) Andrzej Teodorczyk,, The Institute of Heat Engineering (FPAE/IHE)Faculty of Power and Aeronautical Engineering (FPAE) Mateusz Żbikowski (FPAE/IHE) Mateusz Żbikowski,, The Institute of Heat Engineering (FPAE/IHE)Faculty of Power and Aeronautical Engineering (FPAE)
Keywords in Polish
silnik turbowentylatorowy, analiza predykcyjna, degradacja silnika, rekurencyjne sieci neuronowe, komórka LSTM, komórka GRU, regresja, uczenia maszynowe, głębokie uczenie
Keywords in English
turbofan engine, predictive analysis, engine degradation, recurrent neural networks, LSTM cell, GRU cell, regression, machine learning, deep learning
Abstract in Polish
Praca omawia degradację silników turbowentylatorowych w ujęciu predykcyjnym przy użyciu rekurencyjnych sieci neuronowych, komórek LSTM oraz GRU. Słowem wstępu zamieszczona jest krótka historia powstania silnika turbowentylatorowego. Następnie opisana jest idea Predictive Maintenance, która wpisuje się w zamysł Przemysłu 4.0 oraz rosnące znaczenie gromadzenia dużych ilości danych. Ponadto, został podany opis silników turbowentylatorowych, ich zastosowanie oraz główne parametry. Dalej zamieszone zostały informacje o innych metodach analizy predykcyjnej niż tej zastosowanej w niniejszej pracy. Głównym elementem teoretycznej części pracy jest zwrócenie uwagi na ewolucję sztucznej inteligencji od idei pojedynczego perceptronu, aż po zaawansowane struktury jakimi są rekurencyjne sieci neuronowe. Opisano komórki LSTM oraz GRU, które są współcześnie wykorzystywane przy analizach serii czasowych. Zamieszczone zostały informacje o zastosowanych w obliczeniowej części pracy algorytmach, architekturze sieci neuronowej oraz jej licznych modyfikacjach, wadach i zaletach poszczególnych rozwiązań oraz zasadności ich użycia. Na potrzeby części obliczeniowej użyto bazę danych udostępnioną przez repozytorium NASA zawierającą odczyty sensorów z silnika reprezentujące jego degradację, a dokładniej powstanie krytycznego błędu w sprężarce wysokiego ciśnienia. Kolejne elementy pracy przedstawiają obróbkę danych i ich dodatkowe wizualizacje, obrazują korelacje danych i wybór odpowiednich predyktorów. Pokazana jest optymalizacja architektury sieci neuronowej wraz z jej parametrami oraz wpływ poszczególnych rozwiązań na wynik. W celu dokonania predykcji użyto modeli analizujących kolejne sekwencje serii czasowych, gdzie kluczowym wymogiem dla sieci neuronowej jest umiejętność zapamiętywania poprzednio analizowanych sekwencji. Z tego powodu zdecydowano się na użycie komórek LSTM oraz GRU.W dalszej części pracy omówiono uzyskane wyniki, zwrócono uwagę na skuteczność sieci neuronowej jak również poddano ocenie zasadność jej użycia. W pracy użyto szerokiego spektrum metod obróbki danych oraz metod uczenia sieci takich jak: normalizacja danych, wybór predyktorów, tworzenie macierzy korelacji, klasyfikacja metodą drzew, redukcja wymiarów metodą PCA, klasteryzacja k-średnich, redukcja szumów z użyciem ruchomej średniej i filtru Savitzky-Golay oraz wcześniej wspomnianej optymalizacji architektury sieci neuronowej w celu stworzenia regresji.
File
  • File: 1
    PRACA_INZYNIERSKA_Jakub_Sypniewski.pdf
Request a WCAG compliant version
Local fields
Identyfikator pracy APD: 31165

Uniform Resource Identifier
https://repo.pw.edu.pl/info/bachelor/WUT2d37efb0d90841e6a228c3fad1bb3c7f/
URN
urn:pw-repo:WUT2d37efb0d90841e6a228c3fad1bb3c7f

Confirmation
Are you sure?
Report incorrect data on this page