Source-linked AI summary
Deep Convolutional Neural Networks for Raman Spectrum Recognition: A Unified Solution
Jinchao Liu, Margarita Osadchy, Lorna Ashton, Michael Foster, Christopher J. Solomon, Stuart J. Gibson
TL;DR
Raman 스펙트럼 분류는 일반적으로 baseline correction과 PCA 같은 전처리에 의존한다. 이 논문은 대규모 광물 데이터베이스의 스펙트럼에 convolutional neural network를 end-to-end로 학습시켜, 스펙트럼 전처리 없이 기존 방법보다 높은 정확도를 달성한다.
문제
기존 Raman 스펙트럼 분류기는 대체로 baseline correction이나 PCA 같은 전처리를 필요로 하며, 크게 왜곡된 raw spectra를 직접 처리하는 방법은 알려져 있지 않다.
방법
convolutional neural network가 전처리, feature extraction, classification을 하나의 end-to-end architecture로 결합하고 Raman 스펙트럼을 사용해 학습한다.
결과
88.4% top-1 accuracy와 96.3% top-3 accuracy를 달성했으며, 비교한 machine-learning 방법을 유의하게 능가했다.
시사점 및 한계
통합 CNN은 스펙트럼 전처리를 피하면서 대규모 광물 데이터베이스에서 높은 성능을 제공해 Raman 분류를 단순화한다.
시사점 및 한계
특수 filtering 방법으로 품질이 나쁜 스펙트럼을 제거했으며, 이는 전체 수량의 80%를 차지했다.
Abstract
from arXiv · showhide
Machine learning methods have found many applications in Raman spectroscopy, especially for the identification of chemical species. However, almost all of these methods require non-trivial preprocessing such as baseline correction and/or PCA as an essential step. Here we describe our unified solution for the identification of chemical species in which a convolutional neural network is trained to automatically identify substances according to their Raman spectrum without the need of ad-hoc preprocessing steps. We evaluated our approach using the RRUFF spectral database, comprising mineral sample data. Superior classification performance is demonstrated compared with other frequently used machine learning algorithms including the popular support vector machine.
1 서론
Raman spectroscopy에서는 신속하고 대규모인 물질 식별이 필요하지만, 기존 machine-learning pipeline은 대체로 baseline correction과 PCA 같은 preprocessing에 의존한다. 본 연구에서는 수동 조정 없이 preprocessing, feature extraction, classification을 결합하는 raw Raman spectra용 end-to-end CNN을 제안한다.
- Raman spectroscopy는 신속하고 대규모인 물질 식별이 필요한 산업, 행성, 보안, 생명과학, 지질학 및 실험실 환경 전반에서 널리 사용된다.
- 기존 Raman classification 방법은 일반적으로 feature engineering 또는 baseline correction과 PCA를 포함한 preprocessing을 요구하며, 많은 class로 쉽게 확장되지 않을 수 있다.Baseline fluorescence는 Raman scattering보다 몇 자릿수 더 클 수 있어 자동 보정이 여전히 어렵다.
- 본 연구에서는 Raman spectroscopy에 CNN을 도입하고, 수동 조정이 필요 없는 end-to-end system에서 하나의 architecture로 preprocessing, feature extraction 및 classification을 결합한다.저자들은 대규모 image classification에서 CNN이 성공한 점에 착안하여 1차원 spectral data용 architecture를 개발했다.
- 선행 Raman 연구에서는 다른 algorithm보다 우수한 것으로 support vector machines (SVM)을 보고한 경우가 많았지만, 적용 대상은 binary 또는 소규모 문제였고 PCA를 사용한 경우가 많았다.보고된 적용 사례로는 유방암 진단, 3-class biological-sample sorting, 세 bacterial species 간 discrimination이 있었다.
- 1차원 spectral classification에서 CNN의 efficacy를 검증하기 위해 RRUFF mineral dataset을 선택했으며, 선행 연구는 matching software와 관련 Raman classification 문제에 초점을 맞췄다.
2 재료 및 방법
본 연구는 광물 종 분류를 위해 완전히 샘플링된 Raman spectra에 one-dimensional convolutional neural networks를 직접 적용하며, 수작업으로 설계한 feature 없이 계층적 feature extraction을 수행한다. 채택한 LeNet 변형은 regularization, class-weighted training, spectrum augmentation, RRUFF에서의 leave-one-out evaluation과 함께 convolutional 및 pooling layer를 결합한다.
- CNN architecture: CNN은 end-to-end로 학습 가능한 architecture에서 convolutional 및 pooling layer를 통해 계층적 입력 feature를 학습하므로, 별도로 학습하거나 수작업으로 만든 processing stage가 필요 없다.Convolutional layer는 filter map을 학습하고 pooling은 두드러진 구조를 추출한다. 이렇게 학습된 feature는 classifier 성능에 맞게 최적화된다.
- 실험 설계: 저자들은 Raman spectra에 LeNet, Inception, Residual Net architecture를 적용해 평가했으며, 세 architecture 모두 유사한 분류 결과를 보여 pyramid-shaped LeNet 변형을 채택했다.광물 인식은 RRUFF database에서 leave-one-out splitting으로 검증했다. 여러 spectrum을 보유한 광물의 경우 spectrum 하나를 무작위로 제외하고 나머지를 training에 사용했다.
- CNN architecture: 모델은 전체 정규 샘플링 Raman spectra에 one-dimensional convolutional kernel을 적용한 뒤, max pooling, fully connected tanh layer, class별 softmax output을 사용한다.Convolutional layer에는 LeakyReLU를 사용하고, overfitting을 줄이기 위해 batch normalization과 dropout을 적용한다.
- Training procedure: Training에서는 inverse-class-frequency weighting과 random spectral shift, magnitude-proportional noise, spectrum의 linear combination을 이용한 augmentation으로 class imbalance와 제한된 데이터 문제를 다룬다.CNN은 learning rate 1e-3에서 Adam으로 50 epochs 동안 학습했으며 early stopping을 적용했다. Training은 단일 NVIDIA GTX-1080 GPU에서 약 7시간이 걸렸고, inference는 1 millisecond 미만이었다.
3 결과 및 논의
CNN은 baseline-corrected mineral spectra에서 conventional machine-learning methods를 유의하게 능가했으며, raw spectra에서 93.3% accuracy를 달성했다. Baseline correction은 conventional methods의 성능을 향상시켰지만 CNN 성능은 소폭 낮춰, 최소한의 preprocessing을 적용한 end-to-end recognition을 뒷받침했다.
- Baseline-corrected spectra: Baseline-corrected benchmark는 1,671 mineral species에 걸친 5,168 spectra로 구성되었으며, species당 1–40 spectra가 포함되었다.Dataset에는 class 내부의 spectral variation과 mineral species 간 불균형한 spectra 분포가 포함되었다.
- Baseline-corrected spectra: CNN은 88.4% top-1 및 96.3% top-3 accuracy를 달성했으며, 50회의 independent runs 전체에서 비교된 모든 methods를 유의하게 능가했다.대규모 classification에서는 유사하거나 구분하기 어려운 classes가 포함될 수 있으므로 top-k accuracy를 보고했다.
- Raw versus baseline-corrected spectra: CNN은 raw spectra에서 93.3% accuracy를 달성했으며, comparison table에서 두 번째로 우수한 method인 KNN을 유의하게 능가했다.Comparison에서는 CNN과 conventional classifiers를 대상으로 raw spectra와 baseline-corrected spectra를 평가했다.
- Prediction analysis: CNN은 예측 상위 순위에 화학적으로 관련되거나 spectrally similar한 minerals를 자주 배치했으며, 여기에는 올바른 mineral-group alternatives와 peak가 일치하는 incorrect labels가 포함되었다.예를 들어 Actinolite의 alternatives로 Ferroactinolite와 Tremolite가, peak가 유사하지만 잘못된 분류인 Russellite의 사례로 Hydrokenoelsmoreite가 포함되었다.
- Raw versus baseline-corrected spectra: Experiments에서는 conventional classifiers에 대해 여섯 가지 established baseline-correction methods와 PCA-based features를 사용했으며, PCA가 성능을 낮춘 Random Forest는 제외했다.Correction methods에는 modified polynomial fitting[1], rubber band[3], robust local regression estimation[33], iterative restricted least squares, asymmetric least-square smoothing[6], rolling ball[2]이 포함되었다.
- Raw versus baseline-corrected spectra: Baseline correction은 conventional methods를 20%–40% 향상시킨 반면, CNN performance는 약 0.5%–2.5% 낮췄다.이 결과는 CNN이 explicit baseline correction 없이도 유용한 spectral representations를 학습할 수 있음을 나타낸다.
4 결론 및 향후 연구
이 연구는 대규모 광물 데이터베이스에서 검증한 전처리 없는 deep convolutional neural network 기반 Raman spectrum 분류 방법을 제시한다. 이 방법은 다른 최신 machine-learning 방법을 큰 폭으로 능가하는 뛰어난 성능을 보였으며, 더 폭넓은 spectroscopy 응용 가능성을 시사한다.
- 결론: 제안한 deep convolutional neural network는 spectrum 전처리 없이 Raman spectra를 분류한다.이 통합 접근법은 어떤 종류의 전처리 단계도 사용하지 않는다.
- 결론: 대규모 광물 데이터베이스에서 이 방법은 뛰어난 성능을 달성했으며 다른 최신 machine-learning 방법을 큰 폭으로 능가했다.결론은 광물 Raman 데이터에서의 검증과 경쟁 방법에 대한 전반적인 상당한 우위를 보고한다.
- 향후 연구: Raman 데이터에서 평가되었지만, 이 방법은 다른 spectroscopy 응용에도 적용할 수 있을 것으로 제안된다.