본문 바로가기

728x90

ML

(4)
로지스틱 회귀 모델 로지스틱 회귀 모델로지스틱 회귀 모델을 이해하기 위해 경사 하강법과 컨벡스 함수 개념을 먼저 알아보자경사하강법주어진 비용 함수의 지역 최솟값이나 전역 최솟값을 구하는 것은 수학적 최적화 과정 중 하나인데, 경사 하강법은 이 과정을 수행하는 방법의 하나이다.넚은 의미에서 경사하강법은 경사 혹은 그래이디언트의 역방향으로 입력값을 차례대로 이동하며 최소의 목푯값을 달성하는 모든 방법을 의미.경사하강법 종류로는 최대하강법, 뉴턴법, BFGS 등 여러 알고리즘이 있다.최대하강법이중 가장 간단한 최대하강법임으로 이를 알아보면이터레이션마다 해당 점의 그레이디언트를 구하고 그 역방향으로 그레이디언트의 상수 배만큼 좌표를 이동하며 지역 최솟값을 찾는 최적화 알고리즘구현하기함수 f(x)=x^2 을 최대하강법으로 구현함수를..
비지도 학습 비지도 학습알고리즘: K-평균 군집화, 주성분 분석(PCA)실습: 군집화 및 차원 축소 기법 적용k-평균 군집화 모델k-평균 군집화 모델이란 주어진 K에 대하여 각 샘플과 그 샘프이 속한 군집의 중심까지 거리의 제곱합을 최소화하는 K개의 군집을 찾아내는 기법.중심 근처의 점을 해당 군집으로 배정하고 중심을 다시 업데이트하는 과정을 반복하여 데이터를 군집화 함이론이 매우 간단하고 성능이 안정적이며, 학습 시간 복잡도가 낮은 장점이 있다. 이에 큰 데이터 셋에서 효율적으로 사용 가능하다.목적함수 값이 최소화될 때까지 군집의 중심위치와 각 데이터가 소속될 군집를 반복해서 찾는다.이 값을 관성(inertia)이라 한다.n개의 샘플로 구성된 피처 행렬 X를 중심이 μj(1≤j≤K)인 K개의 군집으로 분할중심은 군..
머신러닝 알고리즘 정리 지도학습- 지도 학습은 정담(label)을 컴퓨터에 미리 알려 주고 데이터를 학습시키는 방법- 지도 학습에는 분류와 회귀가 존재 분류 - 주어진 데이터를 정해진 범주에 따라 분류회귀 - 데이터들의 특성을 기준으로 연속된 값을 그래프로 표현하여 패턴이나 트렌드를 예측할 때 사용 분류와 회귀 차이 구분 분류 (Classification) 회귀 (Regression) 목표입력 데이터를 미리 정의된 여러 범주 중 하나로 분류연속적인 값을 예측출력 값이산적 값 (카테고리)연속적 값 (숫자)예시이메일이 스팸인지 아닌지 분류, 손글씨 숫자 인식주택 가격 예측, 온도 예측알고리즘 예시로지스틱 회귀, 의사 결정 트리, 랜덤 포레스트, 서포트 벡터 머신(SVM), k-최근접 이웃(K-NN), 신경망선형 회귀, 다항 회귀..
강화학습 1 강화학습이란?"순차적 의사결정 문제 에서 누적 보상을 최대화 하기 위해 시행착오를 통해 행동을 교정하는 학습 과정"쉽게 말해, "시행착오를 통해 발전해 나가는 과정"그림 1 과 같이 머신러닝의 한 부류로 비지도 및 지도 머신러닝과 다르게 정적 데이터셋에 의존하는 것이 아니라 역동적인 환경에서 동작하며 수집된 경험으로 부터 학습한다.대표사진 삭제사진 설명을 입력하세요.강화학습이란?쉽지만 추상적인 버전 “시행착오(train and error)를 통해 발전해 나가는 과정어렵지만 좀더 명확한 버전 “순차적 의사결정 문제에서 누적 보상을 최대화 하기 위해 시행착오를 통해 행동을 교정하는 학습과정”순차적 의사결정 문제에이전트가 시간 순서대로 행동을 선택하고 환경으로부터 피드백을 받아 학습하는 문제결과에서 얻은 보상..

728x90