[인공지능] 피드 포워드 신경망(Feed-Forward Neural Network, FFNN)의 개념

피드 포워드 신경망(Feed-Forward Neural Network, FFNN)의 개념

피드 포워드 신경망(FFNN)은 인공신경망의 가장 기본적인 구조로, 데이터가 입력층에서 시작하여 은닉층을 거쳐 출력층까지 일방향으로(즉, "피드 포워드") 전달되는 구조를 가지고 있습니다. 여기서 데이터는 되돌아오지 않으며, 오직 한 방향으로만 흐릅니다. 이러한 구조는 순전파(Forward Propagation)를 통해 입력 데이터를 출력값으로 변환하는 과정을 단순화하며, 주로 회귀와 분류 문제에 많이 활용됩니다.

피드 포워드 신경망의 구조

1. 입력층(Input Layer):
   • 입력 데이터를 받아들이는 첫 번째 층으로, 문제에 필요한 데이터 특징(feature) 수에 따라 뉴런이 배치됩니다.
2. 은닉층(Hidden Layers):
   • 입력층과 출력층 사이에 위치하며, 피드 포워드 신경망에서는 한 개 이상의 은닉층이 있을 수 있습니다. 은닉층의 뉴런들은 각 입력 데이터에 특정 가중치를 곱하고, 활성화 함수를 적용해 데이터를 변환합니다. 은닉층이 많아질수록 신경망의 복잡성과 성능이 높아질 수 있습니다.
3. 출력층(Output Layer):
   • 은닉층을 통해 학습된 정보를 바탕으로 최종 결과를 출력하는 층입니다. 분류 문제라면 각 카테고리에 대한 확률값을, 회귀 문제라면 예측값을 출력합니다.

피드 포워드 신경망

순전파(Forward Propagation)

피드 포워드 신경망에서 입력된 데이터는 다음과 같은 과정을 통해 출력값으로 변환됩니다.

1. 가중치 계산:
   • 입력 값과 각 뉴런의 가중치를 곱하여 은닉층으로 전달합니다. 각 가중치는 랜덤 값으로 초기화되며 학습 과정에서 수정됩니다.
2. 활성화 함수 적용:
   • 각 뉴런의 출력값에 활성화 함수를 적용하여 비선형성을 부여합니다. Sigmoid, ReLU, Tanh 등의 활성화 함수가 사용되며, 이는 FFNN이 더 복잡한 패턴을 학습할 수 있게 합니다.
3. 출력층으로 전달:
   • 마지막 은닉층을 통과한 데이터는 출력층에서 최종 출력값으로 변환됩니다.

오차 역전파(Backpropagation)와 학습

피드 포워드 신경망은 예측 결과가 실제 결과와 얼마나 차이가 나는지를 평가하고, 이 오차를 최소화하기 위해 가중치를 조정하는 학습 과정을 거칩니다. 이 과정에서 사용하는 주요 알고리즘이 오차 역전파(Backpropagation)로, 오차가 역방향으로 전파되며 가중치가 조정됩니다.

1. 오차 계산:
   • 출력층에서 예측된 값과 실제 값의 오차를 계산합니다.
2. 가중치 업데이트:
   • 오차 역전파를 통해 가중치가 수정되며, 오차를 줄이기 위해 각 층의 가중치를 조정합니다.

FFNN의 장점과 한계

• 장점: FFNN은 구조가 비교적 단순하여, 기본적인 회귀 및 분류 문제에 효율적입니다.
• 한계: 피드 포워드 신경망은 순환 구조가 없어 시계열 데이터와 같이 시간적 연관성을 필요로 하는 문제를 해결하기 어렵습니다. 이를 극복하기 위해 순환 신경망(RNN)이 사용됩니다.

피드 포워드 신경망은 인공신경망의 기초 모델로, 심층 신경망(Deep Neural Network)의 토대가 되는 중요한 구조입니다.