s5unnyjjj's LOG

ImageAI를 이용하여 detection을 진행해보았습니다. ImageAI는 오픈 소스로 해당 코드를 이용하면 detection model을 쉽게 구동할 수 있습니다. https://github.com/OlafenwaMoses/ImageAI#detection GitHub - OlafenwaMoses/ImageAI: A python library built to empower developers to build applications and systems with self-contai A python library built to empower developers to build applications and systems with self-contained Computer Vision capabilit..

일전에 Vision Transformer (ViT) 모델 구조를 리뷰하며 스터디한 것을 기반으로 ViT 모델 구조를 직접 구현해보았습니다. https://s5unnyjjj.tistory.com/77 Code Review: Vision Transformer (Ref: Google research github) Vision Transformer (ViT) 모델 구조를 코드와 함께 리뷰해보려합니다. Paper: https://arxiv.org/abs/2010.11929 Offifical github: https://github.com/google-research/vision_transformer GitHub - google-res.. s5unnyjjj.tistory.com 대게 ViT 모델이 pytorch 기..

Vision Transformer (ViT) 모델 구조를 코드와 함께 리뷰해보려합니다. Paper: https://arxiv.org/abs/2010.11929 Offifical github: https://github.com/google-research/vision_transformer GitHub - google-research/vision_transformer Contribute to google-research/vision_transformer development by creating an account on GitHub. github.com Vision Transformer (ViT) 모델 구조를 코드를 함께 리뷰해보려합니다. 정확한 리뷰를 위하여 official github에 업로드된 코드를 ..

딥러닝 모델 구축에 사용되는 많은 activation function이 존재합니다. 해당 글에서는 activation function의 변천사에 대해서 간략히 설명하려고 합니다. Sigmoid / Tanh(Hyperbolic Tangent) 초기에는 sigmoid, tanh가 빈번하게 사용되었습니다. Sigmoid와 Tanh는 s 모양의 곡선으로 이루어져있습니다. Sigmoid의 경우 y 값의 범위는 0~1인 반면, Tanh의 경우 y 값의 범위는 -1~1입니다. 하지만 모델 업데이트 과정에서의 지속적인 미분으로 인하여 vanishing gradient가 발생합니다. 이를 해결하기 위해 ReLU가 급부상하게 됩니다. ReLU(Rectified Linear Unit) ReLU는 x가 0이상의 양수일 경우 ..

본 글에서는 아래에 나열된 이론을 바탕으로 코드를 작성해보도록 한다. 1. SVM (참고링크) https://s5unnyjjj.tistory.com/64?category=939071 1_1. Binary Classification with Linear SVM 1_2. Kernel SVM Binary Classification with Linear SVM sklearn에서는 classification 모델 테스트를 위하여 여러가지 가상의 데이터를 생성하는 함수를 제공한다. 그 중, 클러스터링 용 가상데이터를 생성하는 함수인 make_blobs 함수를 사용하여 진행한다. training dataset과 test dataset에서 표본 데이터의 수는 각각 100개 씩이며 독립 변수의 수는 2개로 설정하였다. ..

본 글에서는 아래에 나열된 이론을 바탕으로 코드를 작성해보도록 한다. 1. Regularization (참고링크) https://s5unnyjjj.tistory.com/42?category=939071 1_1. Ridge Regression 1_2. Lasso Regression 1_3. L1/L2 norm-regularized Logistic Regression 2. Confusion matrix (참고링크) https://s5unnyjjj.tistory.com/44?category=939071 Used train data #1 사용할 데이터는 data1.csv 파일에 담겨 있다. 해당 파일을 열어보면 아래와 같이 저장되어있다. 아래의 코드를 이용하여 data1.csv 파일에서 0행을 drop한 정보만..

본 글에서는 아래에 나열된 이론을 바탕으로 코드를 작성해보도록 한다. 1. Perceptron (참고링크) https://s5unnyjjj.tistory.com/39?category=939071 2. Logistic Regression (참고링크) https://s5unnyjjj.tistory.com/39?category=939071 3. KNN (K-Nearest Neighbors) (참고링크) https://s5unnyjjj.tistory.com/63?category=939071 Used train data 사용할 데이터는 data_train.txt파일에 담겨 있다. 해당 파일을 열어보면 아래와 같이 저장되어있다. 아래의 코드를 이용하여 data_train.txt 파일에서 데이터를 불러온 후, 1행은..

본 글에서는 아래에 나열된 이론을 바탕으로 코드를 작성해보도록 한다. 1. Linear regresison (참고링크) https://s5unnyjjj.tistory.com/39?category=939071 2. Ordinary Least Squares (OLS) (참고링크) https://s5unnyjjj.tistory.com/33?category=939071 3. Batch Gradient descent 4. Stochastic Gradient descent Used train data 사용할 데이터는 data_train.txt파일에 담겨 있다. 해당 파일을 열어보면 아래와 같이 저장되어있다. 아래의 코드를 이용하여 data_train.txt 파일에서 데이터를 불러온 후, 1행은 population으..