Machine Learning

목차 개요 unconstrained(비구속 최적화)와 constrained optimization(구속 최적화) 그리고 제약의 분류인 equality(등식 제약)와 inequality constraint(부등식 제약)에 대해 알아보자 Unconstrained Optimization; 제약이 없는 최적화 문제의 해결 방법에서 제약 조건이 없는 최적화를 의미 목적 함수(objective function)를 최대화하거나 최소화하는 변수의 값을 찾는 것이 목표입니다. 예를 들어, 어떤 기업이 이익을 최대화하는 생산량을 찾고자 한다면, 이익 함수를 최대화하는 생산량 값을 찾는 것이 unconstrained optimization 문제가 됩니다. 하지만 대부분의 ML에서는 비구속 최적화를 실행하기 보다는 구속 최적..

목차 개요 이번 포스트에서는 최적화의 핵심 요소 중 하나인 결정변수에 대해 알아본다. 정의 결정변수는 최적화 문제에서 최적의 해를 찾기 위해 조절되어야 하는 변수 머신러닝에서 이 변수들은 모델의 매개변수(parameter)로 볼 수 있으며, 이 매개변수들의 값을 조절함으로써 성능을 향상시킬 수 있습니다. ML 최적화 과정에서의 역할 최적화 문제를 해결하는 과정에서 머신러닝 알고리즘에 의해 선택되는 변수이다. 당연하게도 머신러닝을 위한 모델을 만들 때에도 결정변수를 정확하게 정의하고 사용해야지 최적화 결과의 정확성과 성능이 좋게 나올수 있다. 예를 들어, 제조업체가 생산하는 제품의 가격을 최소화하는 문제를 예로 들면 결정변수는 생산량, 원재료 비용, 인건비 등의 변수가 될 수 있고 이러한 변수들을 모델링하..

목차 개요 이번 포스트에서는 최적화의 핵심 요소 중 하나인 목적 함수에 대해 알아보고 단일 목적 문제(Single-Objective Problem)와 다중 목적 문제(Multi-Objective Problem)에 대해 알아본다. Objective Function ; 목적 함수 최적화 문제에서 최대화 또는 최소화하고자 하는 목표를 수학적으로 표현한 것 목적 함수를 이용하여, 우리는 주어진 문제에서 최적의 해답을 찾을 수 있다. Single-Objective Problem ; 단일 목적 문제 하나의 목적만을 최적화하는 문제 목적 함수가 하나만 존재하며, 이를 최대화 또는 최소화하여 최적의 해답을 찾는다. 예로들어 기업이 제품 생산 비용을 최소화하는 문제를 생각해보면 실제로는 단지 생산비용을 최소화 하는게 아..

목차 개요 Bayesian statistical approaches ; 베이지안 접근법 Frequentist statistical approaches ; 프리퀀티스트 접근법 위 두 접근법은 통계학에서 가장 넓게 쓰이는 접근법으로 서로 다른 방식을 통해 최적값에 접근한다. 이를 ML에서는 Optimum 값을 구하기 위하여 사용되고 각 장단점을 통해 어떤 상황에서 무엇을 사용해야하는지 생각해보자 Bayesian statistical approaches ; 베이지안 접근법 사전 정보와 새로운 데이터를 결합하여 사후 확률을 계산하고 불확실성을 확률로 표현하고 베이즈 정리를 통해 사전 정보를 업데이트 해가며 접근해나가는 방식이다. 예로 사전 정보로 동전의 앞면이 나올 확률은 50%라고 생각하고 그 다음 동전을 1..

목차 개요 Experience ; 경험 Observation ; 관측 Outcome ; 결과 위 세가지는 ML 모델 제작을 위한 데이터 분석에 있어서 알아두어야할 개념 3요소이다. 이 개념을 잘 숙지해놓아야 데이터의 패턴과 관계를 이해하기에 쉬워지는데 본 3가지 요소들이 기준값(예:시간)에 따라 값이 달라지는 경우에 기준 별로 다양한 요인이 어떻게 행동과 결과에 영향을 미치는지 파악하기에 쉬워지고 좀 더 정확한 모델을 얻기위해 어떤 요소를 수정해야 하는지 쉽게 이해가능하다. 간단하게 알아보자. Experience ; 경험 특정 상황이나 활동에 직접 참여하거나 노출되어 지식이나 기술을 습득하는 과정을 의미 통계에서 경험은 행동 추적, 상태 변화나 자연 환경 변화 모니터링과 같이 시간에 따른 데이터 수집을 ..

목차 개요 처음 프로그래밍을 접했을때 군대에서 각종 CS 도서들과 함께 O'REILLY 에서 제공하는 ML 책을 읽었던게 처음이기도 했고 이번에 항공우주공학과를 졸업하게 되면서 1년간 쓰게될 졸업 논문 주제로 UUV의 6DOF거동에 대한 데이터 셋으로 Keras 와 제어모델을 통해서 위치나 상태등을 예측하는 모델을 제작하고 이를 ROS를 통해 시각화 하는 것을 정하였기에 이를 진행하는 과정과 기존에 배웠던 지식+ML교수님의 강의 등에 대해서 포스팅 해보고자한다.