Processing math: 100%

본문 바로가기

전체 글48

퍼셉트론(perceptron)과 Multilayer Perceptron(MLP) 퍼셉트론 (perceptron) 퍼셉트론이란? 퍼셉트론은 Frank Rosenblatt가 1957년에 고안한 알고리즘이다. 다수의 신호를 입력받아 하나의 신호를 출력하는 feedforward 형태의 네트워크로 선형분류기로도 볼 수 있다. 인간의 뉴런은 dendrite를 통해 입력 받은 신호가 어떠한 임계치(threshlod)를 넘어서면 활성화(activate)되는 동작을 하는데 이 현상을 컴퓨터로 구현한 것이 퍼셉트론이다. 퍼셉트론의 개념을 도식화하면 다수의 입력 값

$x$ 가 있을 때, 중요도에 따라 각각의 입력 값에

$w$ (weight)를 곱해 준 후 bias를 더한다. 그 결과 값들을 모두 더하여 하나의 값(

$z)$ 으로 만든다. 마지막으로

$z$ 값을 0과 1로 반환해 줄 수 있는 활성 함수(Activ.. 2023. 5. 16.

Computer Vision (컴퓨터 비전) 연구의 역사 A brief history of computer vision and deep learning 컴퓨터 비전 연구의 시작 Hubel and Wiesel, 1959 - 고양이 실험 고양이의 시각 피질 실험에서 고양이 시야의 한 쪽에 자극을 주었더니 전체 뉴련이 아닌 특정 뉴런만 활성화 물체의 형태와 방향에 따라서도 활성화되는 뉴런이 다름 → 시각 정보가 뇌에서 어떻게 처리되는지에 대한 이해 Larry Roberts, 1963 사진 정보를 컴퓨터로 가져오는 방법에 관한 연구 The Sight System을 통해 물체를 비교적 정확하게 인식 → 초기 컴퓨터 비전 분야에서 3차원 물체 인식을 위한 중요한 기반 제공 David Marr, 1970s Primitive Representations : 시각적 자극을 간.. 2023. 5. 16.

이산형 확률분포 - 기하 분포(Geometric Distribution), 음이항 분포(Negative Binomial Distribution), 초기하 분포(Hypergeometric Distribution) 기하 분포(Geometric Distribution) 기하 분포의 정의 기하 분포는 베르누이 시행으로부터 시작한다. 성공 혹은 실패의 경우로 구성된 시행을 연달아 수행하며 처음 성공할 때 까지 시도한 횟수

$X$ 에 대한 분포이다. 기하분포의 확률질량함수(pmf)는 다음과 같이 정의한다.

$P\{X=n\} = (1-p)^{n-1}p\quad n=1,2,...$ 동전을 다섯 번 던져서 앞면이 나올 확률은

$p=0.5$ 이고 5번째에 처음으로 앞면이 나온다면, 4번째 까지는 뒷면이 나오고 (뒷면이 나올 확률 =

$1-p$ ) 마지막 5번째 시도에서 앞면이 나와야 하므로 위와 같은 식이 정의된다. 기하 분포의 기대값과 분산

$E[X] = 1/p$

$V[X] = (1-p)/p^{2}$ 기하 분포의 예제 항아리에 N개.. 2023. 5. 11.

이산형 확률분포 - 포아송 분포(Poisson Distribution) 포아송 분포의 정의 (Poisson Distrubution) 단위 시간 안에 특정 사건이 몇 번 발생할 것인지를 표현

$f(k;\lambda) = \cfrac{\lambda^{k} e^{-\lambda}}{k!}$ Parameter는 분포의 모양을 결정하며 모든 분포는 Parameter를 가지고 있음 → 포아송 분포의 Parameter :

$\lambda$ 포아송 분포를 사용하는 경우 포아송 분포는 드물게 발생하는 사건에 적합하다. 따라서 발생 가능성이 매우 낮은 사건을 모델링 할 때, 이항분포를 사용하면 예측 오차가 커질 수 있지만 포아송 분포를 사용하면 더 나은 결과를 얻을 수 있다. ▼ 사용 예 어떤 집단에서 100세 이상인 사람의 수 책의 page에서 오타의 개수 전화를 잘못 걸 경우 이항분포와 .. 2023. 5. 11.

이산형 확률분포 - 베르누이분포(Bernoulli Distribution), 이항분포(Binomial Distribution) Bernoulli Distribution (버눌리, 베르누이 분포) 베르누이 분포의 정의 확률변수

$X$ 가 0과 1을 갖는 확률변수를 베르누이 확률변수라고 하고, 이것의 분포를 베르누이 분포라고 한다. 이 때, 0과 1을 확률로 바꾸려면 함수가 필요하며 이를 베르누이 확률 함수라고 한다. 베르누이 확률함수는 다음과 같다. (일반적으로 베르누이 분포에서

$P$ 는 시행 결과가 ‘성공’일 확률을 말한다.)

$f_{x}(x; p) = p^{x}(1-p)^{1-x}, x = 0, 1$ 베르누이 확률 함수의 기대값과 분산 기대값의 정의

$E[X] = \sum_{x=0,1} x\cdot p^{x}(1-p)^{1-x}$ 여기서

$X$ 가 0일때는 0,

$X$ 가 1일때는

$0+p = p$ $\therefor.. 2023. 5. 8.

파이토치(PyTorch) - Tensor 텐서(Tensor) 행렬을 2차원 배열이라 표현한다면, 텐서는 그 이상의 배열이라고 표현할 수 있다. PyTorch에서는 텐서를 사용하여 모델의 입력과 출력뿐만 아니라 모델의 매개변수를 부호화(encode) 한다. GPU나 다른 연산 가속을 위한 특수한 하드웨어에서 실행할 수 있다는 점을 제외하면, 텐서는 NumPy의 ndarray와 매우 유사하다. 즉, 텐서는 GPU를 사용하기 위해서 필요하다. 텐서 초기화 텐서는 여러가지 방법으로 초기화 할 수 있다. 데이터로부터 직접 생성 NumPy 배열로 부터 생성 다른 텐서로부터 생성 무작위 또는 상수 값을 사용하여 생성 import torch import numpy as np # 1. 직접 생성 data = [[1,2],[3,4]] x_data = torch... 2023. 5. 8.

파이토치(PyTorch) 설치 파이토치(PyTorch) 설치 파이토치를 install 할 때는 아래 페이지 (파이토치 공식 홈페이지) 에서 자신의 PC 환경과 동일하게 설정을 해주면 command를 생성해준다. https://pytorch.org/ PyTorch An open source machine learning framework that accelerates the path from research prototyping to production deployment. pytorch.org 그런데 여기서 Compute Platform 항목에 CUDA 라는 것이 존재한다. CUDA란 Compute Unified Device Architecture의 약자로 NVIDIA가 만든 병렬 컴퓨팅 플랫폼 및 API 모델이다. CUDA 플랫폼은.. 2023. 5. 8.

확률변수(Random Variable) 확률변수(Random Variable)의 정의 확률변수는 표본공간(Sample Space)에 있는 모든 원소(Element)를 실수로 대응시키는 함수이다. 표본공간(Sample Space) 표본공간은 실험의 결과 하나하나를 모두 모은 것을 뜻하며, S로 나타냄 예를 들어 동전을 2개 던지는 경우 표본공간은

$S = \{앞앞, 앞뒤, 뒤앞, 뒤뒤\}$ 그렇다면 위 표본공간에서 확률변수(

$Y$ = 동전이 앞면이 나오는 경우는? 표본공간

$S$ 에서 앞면이 나오는 경우를 세보면

$S =\{2, 1, 1, 0\}$ 확률변수의 정의에 따라 표본공간의 모든 원소를 실수로 대응시킨 것을 확인할 수 있음 이산형 확률변수 (Discrete random variables) 유한한 값을 가지는 확률 변수 ex. .. 2023. 5. 4.

이전 1 ··· 3 4 5 6 다음

티스토리툴바