728x90 반응형 SMALL 전체 글 보기262 [파이썬, Python] 딥러닝 - 2️⃣ 전이학습(Transfer Learning), 이진분류 신경망 모델 구현하기! 📄예제에 사용할 데이터셋 https://www.kaggle.com/datasets/pmigdal/alien-vs-predator-images Alien vs. Predator images Small image classification - for transfer learning www.kaggle.com 📍 캐글에서 데이터셋 다운로드하여 사용하는법 캐글 로그인 ➡️ 본인 계정 클릭 ➡️ Your Porfile ➡️ Account ➡️ API 항목의 Create New Token ➡️ json 다운로드 1. 에일리언 vs 프레데터 데이터셋 import os # 캐글에서 데이터셋을 받을때 토큰값을 보내 접근 가능하게 함 os.environ['KAGGLE_USERNAME'] = '****' # username.. 2023. 7. 1. [파이썬, Python] 딥러닝 - 1️⃣ CNN(Convolutional Neural Network 1. CNN(Convolutional Neural Network) 합성곱 인공 신경망 전통적인 뉴럴 네트워크에 컨볼루셔널 레이어를 붙인 형태 컨볼루셔널 레이어를 통해 입력 받은 이미지에 대한 특징(Featuer)을 추출하게 되고 추출한 특징을 기반으로 기존의 뉴럴 네트워크에 이용하여 분류 [CNN체험] https://adamharley.com/nn_vis/ An Interactive Node-Link Visualization of Convolutional Neural Networks An Interactive Node-Link Visualization of Convolutional Neural Networks Adam W. Harley Abstract Convolutional neural networks.. 2023. 7. 1. [파이썬, Python] 알고리즘 - 1️⃣ 재귀호출(recursive call) 1. 재귀호출이란❓ 함수 안에서 동일한 함수를 호출하는 형태 여러 알고리즘, 고급 정렬 알고리즘 작성시 자주 사용됨 1-1. 재귀 호출 분석 2! = 1 * 2 3! = 1 * 2 * 3 = 3 * 2! 4! = 1 * 2 * 3 * 4 = 4 * 3! 1-2. 규칙 n! = n * (n-1)! 함수로 만듬 함수(n)은 n > 1 이면 return n * 함수(n-1) 함수(n)은 n = 1이면 return n 1-3. 검증 2! 함수(2)이면 2 > 1 이므로 2 * 함수(1) 함수(1)은 1이므로 return 2*1, 답은 2 3! 함수(3)이면 3 > 1 이므로 3 * 함수(2) 함수(2)는 1번에 의해 2! 이므로 return 2 * 1 = 2 3 * 함수(2) = 3 * 2 = 3 * 2 * 1.. 2023. 6. 29. [파이썬, Python] 활성화 함수(Activation Function) 종류에 대해 알아보자! 1. 비선형 활성화 함수(Activation Function) 인공 신경망(Artificial Neural Network) 모델에서 입력 신호의 가중합을 변환하여 출력 신호를 생성하는 함수 신경망의 성능을 향상시키기 위해 사용 선형으로 풀지 못하는 문제를 비선형으로 바꾸어 성능을 향상시킴(곡선으로 차원을 바꿈) 선형 함수는 입력값과 가중치를 곱한 결과를 그대로 출력하기 때문에 신경망에서 여러 개의 선형 활성화 함수를 사용한다면 최종 출력값은 입력값과 가중치의 선형 조합으로 표현되므로 이는 입력 데이터의 비선형 관계를 표현할 수 없음(선형함수를 여러개 곱해봐야 선형함수임) 신경망이 입력 데이터의 비선형 관계를 잘 학습할 수 있도록 하기 위해서 비선형 활성화 함수를 사용 1-1. 시그모이드(Sigmoid) .. 2023. 6. 29. [파이썬, Python] 딥러닝(DeepLearning) - 퍼셉트론과 역전파 1. 퍼셉트론(Perceptron) 1-1. 생물학적 뉴런 인간의 뇌는 수십억 개의 뉴런을 가지고 있음 뉴런은 화학적, 전기적 신호를 처리하고 전달하는 연결된 뇌신경 세포 1-2. 인공 뉴런(Perceptron) 1943년에 워렌 맥컬록, 월터 피츠 단순화된 뇌세포 개념을 발표 신경 세포를 이진 출력을 가진 단순한 논리 게이트라고 설명 생물학적 뉴런의 모델에 기초한 수학적 기능으로, 각 뉴런이 입력을 받아 개별적으로 가중치를 곱하여 나온 합계를 비선형 함수를 전달하여 출력을 생성 1-3. 논리 회귀(단층 퍼셉트론)로 OR 문제 풀기 import torch import torch.nn as nn import torch.optim as optim X = torch.FloatTensor([[0, 0], [0,.. 2023. 6. 29. [파이썬, Python] 데이터로더(DataLoader) - 배치 단위로 학습시키기! 📄사용할 예제 - sklearn의 손글시 데이터셋 [데이터셋 정보] https://scikit-learn.org/stable/modules/generated/sklearn.datasets.load_digits.html sklearn.datasets.load_digits Examples using sklearn.datasets.load_digits: Recognizing hand-written digits Recognizing hand-written digits A demo of K-Means clustering on the handwritten digits data A demo of K-Means clustering... scikit-learn.org 1. 손글씨 인식 모델 만들기 import torch.. 2023. 6. 29. [파이썬, Python] 서브워드분리(subword segmentation) - WordPiece Tokenizer 1. WordPiece Tokenizer 구글이 2016년 Google's Neural Machine Translation System Bridging the Gap between Human and Machine Translation논문에 처음 공개한 BPE의 변형 알고리즘 병합할 두 문자가 있을 때, 각각의 문자가 따로 있을때를 더 중요시 여기는지, 병합되었을 때를 더 중요시 여기는지 차이점을 둠 코퍼스의 우도(Likelihood)를 가장 높이는 쌍을 병합 GPT 모델과 같은 생성모델(자연어를 만들어냄)의 경우에는 BPE 알고리즘을 사용 BERT, ELECTRA와 같은 자연어 이해 모델에서는 WordPiece Tokenizer를 주로 사용 📍 수행하기 이전의 문장: Jet makers feud over.. 2023. 6. 29. [파이썬, Python] 서브워드분리(subword segmentation) - BPE 알고리즘 1. 서브워드 분리(Subword segmenation) 작업 하나의 단어를 여러 서브워드로 분리해서 단어를 인코딩 및 임베딩하겠다는 의도를 가진 전처리 작업 OOV나 희귀 단어, 신조어와 같은 문제를 완화 서브워드 분리 알고리즘인 BPE(Byte Pair Encoding) 알고리즘 2. BPE 인코딩(Byte Pair Encoding) 2016년 Neural Machine Translation of Rare Words with Subword Units 논문에서 제안 코퍼스 내 단어의 등장 빈도에 따라 서브워드를 구축하는데 사용 글자(charcter) 단위에서 점차적으로 단어 집합(vocabulary)을 만들어 내는 Bottom up 방식의 접근을 사용 기계는 모르는 단어가 등장하면 그 단어를 단어 집합.. 2023. 6. 27. 이전 1 ··· 5 6 7 8 9 10 11 ··· 33 다음 728x90 반응형 LIST
