AI/Deep-Learning20 [Keras] EarlyStopping EarlyStopping은 머신 러닝 모델의 훈련을 중지시키는 콜백(callback) 클래스 중 하나로, 특정 조건이 충족되면 모델 훈련을 조기에 멈추도록 도와주는 역할을 합니다. 이 클래스는 주로 훈련 중 과적합(overfitting)을 방지하거나, 최상의 검증 성능을 갖는 모델을 선택하기 위해 사용됩니다. 시그니처 EarlyStopping 클래스의 시그니처 (메서드와 파라미터)는 라이브러리 또는 프레임워크에 따라 다를 수 있지만, 일반적인 시그니처는 다음과 같습니다: from tensorflow.keras.callbacks import EarlyStopping EarlyStopping(monitor='val_loss', min_delta=0, patience=0, verbose=0, mode='aut.. 2023. 9. 21. [Keras] Sequential 모델과 Dense, Dropout TensorFlow의 Sequential 클래스는 신경망 모델을 만들기 위한 고수준 API 중 하나로, 순차적으로 레이어를 쌓아 간단한 신경망 모델을 구축하는 데 사용됩니다. 이 클래스는 특히 간단한 feedforward 신경망을 만들 때 유용합니다. Sequential 모델은 순서대로 레이어를 추가하면, 입력 데이터가 첫 번째 레이어에서 시작하여 순차적으로 각 레이어를 통과하게 됩니다. 주요 단계 Sequential 클래스를 사용하여 신경망 모델을 만드는 주요 단계는 다음과 같습니다: Sequential 모델 생성 from tensorflow.keras.models import Sequential model = Sequential() 레이어 추가 model.add() 메서드를 사용하여 순차적으로 레이어.. 2023. 9. 21. LSTM(Long Short-Term Memory) LSTM은 "Long Short-Term Memory"의 약어로, 순환 신경망(Recurrent Neural Network, RNN) 아키텍처의 한 종류입니다. LSTM은 시퀀스 데이터를 처리하고 장기적인 의존성을 학습하는 데 사용되며, 주로 자연어 처리 및 시계열 예측과 같은 응용 분야에서 널리 사용됩니다. LSTM은 RNN의 한계를 극복하기 위해 개발되었는데, RNN은 긴 시퀀스 데이터에 대한 학습에서 그래디언트 소실 혹은 폭발 문제를 가지고 있습니다. 이로 인해 RNN은 긴 시퀀스에 대한 정보를 적절히 유지하지 못하는 경향이 있습니다. LSTM은 이러한 문제를 해결하기 위해 다음과 같은 주요 구성 요소를 도입했습니다. 주요 구성요소 Cell State (셀 상태): LSTM은 고정된 길이의 메모리 .. 2023. 9. 18. [TensorFlow] Tokenizer 텐서플로우(TensorFlow)의 Tokenizer 클래스는 자연어 처리(Natural Language Processing, NLP) 작업을 수행할 때 텍스트 데이터를 토큰(token)으로 분리하고 관리하기 위한 도구 중 하나입니다. 토큰은 텍스트를 작은 단위로 나눈 것으로, 예를 들면 단어, 문장 부호, 혹은 문자 등이 될 수 있습니다. Tokenizer 클래스는 주로 다음과 같은 목적으로 사용됩니다: 목적 텍스트 토큰화(Tokenization): 주어진 텍스트를 토큰으로 나누는 작업을 수행합니다. 이를 통해 문장을 단어, 문장 부호, 혹은 하위 단위로 분해할 수 있으며, 이러한 토큰은 머신러닝 모델의 입력으로 사용됩니다. 어휘(Vocabulary) 구축: Tokenizer는 데이터로부터 추출한 토큰들.. 2023. 9. 13. 순환신경망(Recurrent Neural Network, RNN) 순환신경망(Recurrent Neural Network, RNN)은 딥러닝의 한 종류로, 순차적인 데이터를 처리하고 이전 단계의 정보를 현재 단계에 활용할 수 있는 신경망 구조입니다. RNN은 주로 자연어 처리(NLP) 및 시계열 데이터 분석과 같이 시간적 또는 순차적인 패턴을 가진 데이터를 다루는 데 사용됩니다. 구성 요소 RNN은 다음과 같은 주요 구성 요소로 이루어져 있습니다: 입력 (Input): RNN은 각 시간 단계(time step)에서 입력 데이터를 받습니다. 시간 단계는 순차 데이터의 각 요소 또는 프레임을 나타냅니다. 예를 들어, 문장을 처리하는 경우 각 단어 또는 문자가 각 시간 단계에 해당할 수 있습니다. 숨겨진 상태 (Hidden State): RNN은 각 시간 단계에서 숨겨진 상.. 2023. 9. 13. 풀링 레이어 (Pooling Layer) 개념 풀링 레이어는 주로 합성곱 신경망 (CNN)과 관련이 있으며, 주로 이미지 분류 및 컴퓨터 비전 작업에서 사용됩니다. 이 레이어는 입력 데이터의 공간적 차원을 줄이고 중요한 정보를 유지하는 역할을 합니다. 풀링 작업은 입력 영역의 특징값을 줄이는 것으로, 주로 최대 풀링(Max Pooling) 또는 평균 풀링(Average Pooling)이 사용됩니다. 예를 들어, 2x2 최대 풀링은 2x2 영역에서 가장 큰 값을 선택하여 출력합니다. 주요 매개변수 풀링 작업의 유형(Max Pooling 또는 Average Pooling)과 풀링 윈도우의 크기가 주요 매개변수입니다. 최대 풀링(Max Pooling)과 평균 풀링(Average Pooling)은 합성곱 신경망 (Convolutional Neural .. 2023. 9. 13. 임베딩 레이어(Embedding Layer) 임베딩 레이어(Embedding Layer)는 딥 러닝 모델에서 주로 사용되는 레이어 중요한 역할을 하는 레이어입니다. 개념을 자세히 설명하겠습니다. 임베딩 레이어 (Embedding Layer) 개념: 임베딩 레이어는 주로 자연어 처리(NLP)에서 사용되며, 텍스트 데이터를 다룰 때 유용합니다. 이 레이어는 이산적인(discrete) 데이터(예: 단어, 범주)를 연속적인 실수 벡터로 매핑하는 역할을 합니다. 각 입력 요소(예: 단어)는 고유한 정수 인덱스로 표현되며, 임베딩 레이어는 이 인덱스를 실수 벡터로 변환합니다. 이 벡터는 학습 중에 모델에 의해 학습되며, 입력 데이터로부터 의미 있는 특징을 추출하는 데 도움을 줍니다. 주요 매개변수 input_dim: 입력 요소의 전체 개수(예: 단어 집합의 .. 2023. 9. 13. 트랜스포머 모델 트랜스포머 모델은 기계 학습 및 자연어 처리(Natural Language Processing, NLP) 분야에서 혁명적인 모델로 손꼽히는 인공 신경망 구조 중 하나입니다. 이 모델은 "Attention Is All You Need"라는 논문에서 처음으로 소개되었으며, 주로 기계 번역 및 자연어 이해 등의 NLP 작업에 사용됩니다. 아래에서 트랜스포머 모델의 주요 특징과 동작 방식을 설명하겠습니다. 어텐션 메커니즘(Attention Mechanism) 트랜스포머의 핵심 아이디어 중 하나는 어텐션 메커니즘을 사용하여 입력 시퀀스의 각 요소가 출력에 어떻게 기여하는지를 모델링하는 것입니다. 이것은 입력 시퀀스의 모든 요소를 동시에 고려할 수 있게 해주며, 이를 통해 모델은 문맥을 더 잘 파악할 수 있습니다... 2023. 9. 13. Convolution, Deconvolution 레이어 Convolution 레이어 Convolution 레이어는 딥러닝 신경망의 핵심 구성 요소 중 하나로, 주로 이미지 처리와 관련된 작업에서 사용됩니다. Convolution 레이어는 입력 데이터로부터 특징 맵(Feature Map)을 추출하는 역할을 합니다. 이 레이어는 합성곱 연산(Convolution operation)을 통해 입력 데이터에서 특정 패턴이나 특징을 감지하고 추출합니다. Convolution 레이어의 주요 구성 요소와 작동 방식을 설명하겠습니다: 필터 (Filter) 또는 커널 (Kernel) Convolution 레이어는 여러 개의 필터를 사용합니다. 각 필터는 특정한 패턴이나 특징을 감지하기 위한 작은 가중치 행렬입니다. 필터는 일반적으로 작은 크기의 정사각 행렬로 정의되며, 입력 .. 2023. 9. 13. 이전 1 2 3 다음
