전체 글105 2.6 선형변환 이 글은 Edwith로 부터 제공되는 주재걸 교수님의 "인공지능을 위한 선형대수" 강의를 듣고 요약하였으며, 개인 공부를 위해 부족한 부분을 위해 필요한 개념들을 추가하여 작성하였습니다. 이번 절(2.6)에서는 선형 변환 정의 및 개념을 알아보고, 예제를 직접 풀어면서 이해를 돕고자 한다. Transformation Transformation (function, mapping) 의 정의는 다음과 같다. vector x (n 공간)를 어떤 규칙에 의해서 Linear Tranformation을 했을때 vector T (x) (m 공간)로 변환하는 과정이다. [용어 정리] Domain : Set of all the possible values of x (정의역) Co-domain : Set of all the.. 2019. 11. 19. 2.5 부분공간의 기저와 차원 이 글은 Edwith로 부터 제공되는 주재걸 교수님의 "인공지능을 위한 선형대수" 강의를 듣고 요약하였으며, 개인 공부를 위해 부족한 부분을 위해 필요한 개념들을 추가하여 작성하였습니다. 이번 절(2.5)에서는 부분공간의 기저와 차원 정의 및 개념을 알아보고, 예제를 직접 풀어면서 이해를 돕고자 한다. Linear independence (2.4) span (2.5) subspace (2.5) Span and Subspace (Subspace of ℝ) Subspace & Span 다음 아래에 세 가지 조건을 만족하면 ℝ(n) 차원의 subspace H 라고 불린다. Example 1. v1과 v2 벡터의 Span은 Linear combination을 한 것이다. Example 2. 2차원 공간에 있는 .. 2019. 11. 19. 2.4 선형독립과 선형종속 이 글은 Edwith로 부터 재공되는 주재걸 교수님의 "인공지능을 위한 성형대수" 강의를 듣고 요약하였으며, 개인 공부를 위해 부족한 부분을 위해 필요한 개념들을 추가하여 작성하였습니다. 이번 절(2.4)에서는 선형 독립과 선형 종속 정의 및 개념을 알아보고, 예제를 직접 풀어면서 이해를 돕고자 한다. Linear independence (2.4) span (2.5) subspace (2.5) Recall: Linear System 우선 본론으로 들어가기 전에 앞 절에서 다룬 "Linear System"을 다시 한번 상기 시켜보자. [그림 1]처럼 데이터가 주어졌을 때, 선형 시스템을 Matrix equation과 Vector equation 으로 표현할 수 있다. Uniqueness of Solutio.. 2019. 11. 19. 2.1 선형방정식과 선형시스템 The Matrix Equations Ax = b Example 1. Matrix equation Example 2. Vector equation to matrix equation x가 항상 뒤에 붙어야 합니다. 만약 순서가 다르면 잘못된 표현이다. Example 3. system of linear equations to matrix equation Example 4. more efficient way to compute matrix equation Theorem 3. Theorem 4. 위의 이론이 앞으로도 계속 나오기 때문에 숙지하고 넘어가자. [노트에 적어가면서 이해] Theorem 5. 위의 이론은 당연한것처럼 보이지만, 아닌 경우도 있기 때문에, 선형대수에서 반드시 위의 조건을 만족하는 경우 아.. 2019. 11. 19. 1.2 Row Reduction and Echelon Forms Echelon Forms Row Reduction nonzero row & nonzero coulmn Row Reduction에 대한 구체적인 알고리즘을 알아보자 시작하기에 앞서 nonzero row와 nonzero column을 알아야 한다. 어떤 Matrix에서 특정 Row 또는 Column을 뽑았을 때, Row나 Column에 내에 있는 scalar 中, 0이 아닌 값이 적어도 하나가 존재한다면 nonzero row 또는 nonzero column 이라고 한다. A leading entry of row the leftmost nonzero entry : 어떤 행에서 가장 왼쪽에 있는 nonzero entry Echelon form (정의 및 예제) All nonzero rows are above a.. 2019. 11. 15. 1.1 Linear Equations in Linear Algebra linear equation system of linear equations consistent / inconsistent elementary row operations: replacement, interchange, and scaling equivalent / row equivalent 선형 대수학에서 Linear Equations이란? coefficient의 범위는 모든 실수와 복소수를 가질 수 있다. Invalid Linear Equation Linear Equations의 모양을 반드시 기억해 놓자. A System of linear equations 1개 이상의 Linear Equation들이 모여서 A System of linear equations을 만든다. Matrix notation (M.. 2019. 11. 12. 테스트 d 2019. 4. 5. 4. 바른 학습을 위해 바른 학습을 위해 기계학습에서 OverFitting이 문제가 되는 일이 많다. 오버피팅이란? 신경망이 훈련 데이터에만 지나치게 적응되어 그 외의 데이터에는 제대로 대응하지 못하는 상태를 말한다. 기계학습은 범용 성능을 지향한다.훈련 데이터에는 포함되지 않는, 아직 보지 못한 데이터가 주어져도 바르게 식별해내는 모델이 바람직하다. 복잡하고 표현력이 높은 모델을 만들 수는 있지만, 그만큼 오버피팅을 억제하는 기술이 중요해지는 것이다. Overfitting(오버피팅)오버피팅이 발생하는 경우● 매개변수가 많고 표현력이 높은 모델 ● 훈련 데이터가 적음이번 절에서는 이 두 요건을 일부러 충족하여 오버피팅을 일으켜보자. 그러기 위해 본래 60,000개인 MNIST 데이터셋의 훈련 데이터 중 300개만 사용하고, 7.. 2018. 11. 18. 2. 가중치 초깃값 가중치의 초깃값 신경망 학습에서 특히 중요한 것이 가중치의 초깃값이다. 가중치의 초깃값을 무엇으로 설정하느냐가 신경망 학습의 성패가 가르는 일이 실제로 자주 있다. 이번에는 권장 초깃값에 대해서 설명하고 실험을 통해 신경망 학습이 신속하게 이뤄지는 모습을 확인해보자. 초깃값을 0으로 하면?오버피팅을 억제해 범용 성능을 높이는 기술을 "가중치 감소(weight decay)"기법이 있다.가중치 감소는 말 그대로 가중치 매개변수의 값이 작아지도록 학습하는 방법, 가중치를 작게 하여 오버피팅을 방지할 수 있다. 가중치 초기값을 0으로 하면(균일한 값으로 설정하면)?- Backpropagation에서 모든 가중치의 값이 똑같이 갱신됨 - 가중치들은 같은 초기값에서 시작하고 갱신을 거쳐도 여전히 같은 값을 유지- .. 2018. 11. 17. 이전 1 ··· 6 7 8 9 다음
