LiJell's 성장기

Using a Recurrent Neural Network to write Patent Abstracts Introduction LSTM cell의 특정 아키텍쳐에 대해서 모든것을 이해할 필요는 없다. 사람이 할 일이 아니다. LSTM이 뜻하는 것은 과거정보다 나중에 다시 reinfected될 수 있게 해주는 것이다. 데이터 사이언스 기슬울 배우는 가장 효율적인 방법은 문제를 찾고 해결하는 것이다 Top-down approach: 다시 돌아가고 이론을 covering하기 전에 어떻게 구현해야하는지 배워보자 내가 필요한 방법을 계속 고민하고 언제 연구 컨셉으로 다시 돌아가 공부해야하는지 알아야한다. 어떤 프레임워크를 어떤 아이디어에 적용시킬지에 대한것들 등 끊임없는 고민이 필요하다. 어떻게 Keras에서 ..

인터넷은 보통 TCP/IP라는 약속으로 연결되어 있다 인터넷 중 "웹"에서는 서로 통신하기 위해 HTTP(HyperText Transfer Protocol)를 사용한다 HTTP 서버와 클라이언트가 인터넷 상에서 데이터를 주고 받기위한 프로토콜을 이야기함 어떠한 종류의 데이터도 전송할 수 있도록 설계되어있음 작동방식 HTTP는 서버/클라이언트 모델임 요청과 응답으로 이루어짐 클라이언트가 서버에 요청하면 서버가 클라이언트에게 응답 무상태 프로토콜이라고도 부름 요청과 응답의 과정이 끝나면 연결을 끊음 클라이언트가 바로 다음 요청을 해도 아까 요청한 클라이언트인지 알 수 없다 이러한 특징은 장단점이 있음 장점: 불특정 다수 대상 서비스에 적합 단점: 연결을 끊기 때문에 클라이언트가 이전에 뭘 했는지 알 수 없음..

2.1.인터넷의 동작 방법 인터넷을 통해 독립적인 컴퓨터틀이 연결되었고 컴퓨터들은 서로 데이터를 요청하고 제공하기 시작했다. 요청하는 컴퓨터를 클라이언트 제공하는 컴퓨터를 서버라고 한다 어떤 컴퓨터가 서버이고 클라이언트 인지는 상대적인 개념이 된다 상황에 따라 다르기 때문 일반적으로 웹브라우저가 설치된 컴퓨터와 서버측 컴퓨터가 있다면 웹브라우저가 클라이언트가 됨 클라이언트가 주소창에 https://lime-jelly.tistory.com/ 를 입력하였다. 서버에게 https://lime-jelly.tistory.com/ 라는 주소가 넘겨지고 https://lime-jelly.tistory.com/ 에 여러 서버가 있을 수 있다 DB, 채팅, 웹, 게임 등등 이때 누가 응답할지 결정하고 누굴 연결시킬까 하..

1.1. 웹사이트 접속 방법 IP 주소 도메인 네임 일반적인 이용자는 도메인 네임을 이용하여 웹사이트에 접속할 것이다. 1.1.1. IP주소 Internet Protocol Address 숫자로 이루어진 주소로 네트워크 상에서 통신을 하기 위한 컴퓨터가 갖고 있는 고유한 번호 IPv4 기존에 사용하던 체계, 하지만 IP주소가 모자라서 IPv6가 고안됨 IPv4는 192.234.23.12 이러한 방식으로 각 2^8개씩 4개로 구성되어 0255.0255.0255.0255 방식이다 IPv6는 영어또한 포함되어 2의 128제곱으로 이루어졌다. 유동 IP를 통해서 IP 고갈에 대응하기도 한다 장기간 IP를 쓰지 않는 경우 다른 사람에게 그 IP를 양도했다가 다시 사용하게 되면 다른 IP를 할당받는 방식이다. 사용..

Visualizing what convnets learn Deep Learning model as Blackbox Convnet은 시각적인 개념을 학습한 것 → 시각화 하기 아주 좋음 시각화에 유용한 기법 컨브넷 중간층의 출력(중간층에 있는 활성화)을 시각화 컨브넷 필터 시각화 클래스 활성화에 대한 히트맵(heatmap)을 이미지에 시각화 Visualizing Intermediate activations 어떤 입력이 주어졌을 때 네트워크에 있는 여러 합성곱과 풀링층이 출력하는 특성맵을 그 리는 것 네트워크에 의해 학습된 필터들이 어떻게 입력을 분해하는지 보여줌 넓이, 높이, 깊이(채널) 3개의 차원에 대해 특성맵을 시각화하는 것이 좋음 각 채널은 비교적 독립적 특성을 인코딩하므로 특성맵의 각 채널 내용을..

2022.03.08 - [Bigdata/TensorFlow] - Tranfer_Learning Tranfer_Learning Dogs vs. Cats Google Colab 사용 Runtime에서 TPU 사용 추천 Dogs vs Cats dataset https://www.kaggle.com/c/dogs-vs-cats/data 25000 images (12500 cats and 12500 dogs) Create dataset Training: 1000 sam.. lime-jelly.tistory.com 작은 이미지 데이터셋에 딥러닝을 적용하는 일반적이고 효과적인 방법은 사전 훈련된 네트 워크를 사용 사전 훈련된 네트워크(pretrained network) - 일반적으로 대규모 이미지 분류 문제를 위 해 ..

Dogs vs. Cats Google Colab 사용 Runtime에서 TPU 사용 추천 Dogs vs Cats dataset https://www.kaggle.com/c/dogs-vs-cats/data 25000 images (12500 cats and 12500 dogs) Create dataset Training: 1000 samples for each class Validation: 500 samples for each class Test: 500 samples for each class Training a convnet from scratch on a small dataset Prepare dataset import os, shutil original_db_dir = './train' base_..

MNIST Handwritten Digit Classification Dataset MNIST (Modified National Institute of Standard and Technology) dataset from keras.datasets import mnist from matplotlib import pyplot # load dataset (trainX, trainy), (testX, testy) = mnist.load_data() # summarize loaded dataset print('Train: X=%s, y=%s' % (trainX.shape, trainy.shape)) print('Test: X=%s, y=%s' % (testX.shape, testy.shape)) # plot fi..

CNN Fully-Connected Layer만으로 구성된 인공신경망의 입력 데이터는 1차원 형태로 한정 Flatten → Dense → 1차원 사진 데이터로 FC 신경망을 학습시키는 경우, 사진 데이터를 1차원으로 변환 → 공간정보 의 손실 → 정보 부족으로 특징 추출 및 학습이 비효율적이고 정확도를 높이는데 한계 이미지의 공간정보를 유지한 상태로 학습 가능한 모델이 CNN CNN의 특징 각 레이어의 입출력 데이터의 형상 유지 이미지의 공간 정보를 유지하면서 인접 이미지와의 특징을 효과적으로 인식 복수의 필터로 이미지의 특징 추출 및 학습 셀로판지 느낌 추출한 이미지의 특징을 모으고 강화하는 Pooling layer 필터를 공유 파라미터로 사용하기 때문에, 일반 인공 신경망과 비교하여 학습 파라미터 가..