분류 전체보기360 HiPPO - 3 이전 게시글(https://pasus.tistory.com/363)에서 함수 \(f(x), \ 0 \lt x \le t\) 를 N차원 부분 함수공간으로 투사한 근사 함수 \(g(x), \ 0 \lt x \le t\) 를 다음과 같이 유도하였다. \[ \begin{align}& g(x)= \sum_{n=0}^{N-1} c_n (t) \sqrt{(2n+1)} P_n \left( \frac{2x}{t}-1 \right) \tag{1} \\ \\& \dot{\mathbf{c}}(t)= - \frac{1}{t} A \mathbf{c}(t)+ \frac{1}{t} Bf(t) \end{align} \] 식 (1)에 의하면 HiPPO는 본질적으로 연속시간(continuous-time) 에서 정의된 상미분 .. 2025. 1. 12. HiPPO - 2 이전 게시글(https://pasus.tistory.com/362)에서 함수 \(f(x), \ 0 \lt x \le t\) 를 \(N\)차원 부분 함수공간으로 투사한 근사 함수 \(g(x), \ 0 \lt x \le t\) 를 다음과 같이 유도하였다. \[ \begin{align} g(x) & = \sum_{n=0}^{N-1} c_n (t) \sqrt{(2n+1)} P_n \left( \frac{2x}{t}-1 \right) \tag{1} \\ \\ c_n (t) &= \int_0^t f(x) \sqrt{(2n+1)} P_n \left( \frac{2x}{t}-1 \right) \frac{1}{t} \ dx \end{align} \] 식 (1)에서 계수 \(c_n (t)\) 에 관한 적분식을 미분방.. 2025. 1. 9. HiPPO - 1 언어 모델링이나 음성 인식, 강화학습 또는 주식 데이터 분석 등 시계열 데이터를 다루는 AI 분야에서는 매우 긴 시퀀스 데이터를 효과적으로 학습하고 표현(representation)할 필요가 있다. 그러나 모든 과거 데이터를 저장하고 처리하는 것은 저장 공간과 계산 자원의 한계로 인해 비효율적일 뿐만 아니라 실질적으로 불가능하다. 특히 온라인 환경에서는 데이터가 지속적으로 유입되기 때문에 이전 데이터를 적절히 요약(summarization)하면서도 중요한 패턴과 정보를 유지하는 메모리 메커니즘이 필요하다. 이러한 문제를 해결하기 위해 등장한 것이 바로 HiPPO (High-order Polynomial Projection Operators)다. HiPPO는 '고차 다항식 투사 연산자'를 의미하는 것으로서.. 2025. 1. 8. [B-Plane] 좌표변환 B-평면과 관련하여 3개의 평면을 정의할 수 있다. 목표(target) 행성의 적도면(equatorial plane), 진입 궤도면(orbital plane), 그리고 B-평면(B-plane)이 그것이다. 또한 각 평면에서 각각 행성중심관성좌표계 \(\{a\}\), 궤도중심좌표계(perifocal frame) \(\{p\}\), 그리고 TRS좌표계 \(\{s\}\) 를 정의할 수 있다. 아래 그림에 이 3개의 평면과 좌표계가 나와 있다. 그림에서 \(i\) 는 궤도의 경사각, \(\vec{h}\) 는 각운동량 벡터다. TRS좌표계 \(\{s\}\) 는 행성의 중심에 원점이 있고 점근선벡터 \(\hat{S}\) 를 z축, \(\hat{T}\) 을 x축, \(\hat{R}\) 을 y축으로하는 좌표계다... 2025. 1. 4. [B-Plane] B-평면의 정의 우주비행체가 목표로 한 도착지 행성의 중력권으로 접근하는 단계에서의 궤도 설계는 행성의 궤도에 진입할지 또는 플라이바이(fly-by) 기동을 할지 등, 임무 목적에 따라 달라지며 이와 관련하여 설정된 조건의 충족을 목표로 삼아 수행된다. 예를 들어 행성의 궤도에 진입하는 것을 목적으로 할 경우 특정 시간에 특정 고도, 특정 경사각을 가진 궤도의 지점으로 도착해야 한다는 목표를 설정할 수 있을 것이다. 이러한 목표를 도착 타겟팅이라고 한다. 도착 타겟팅은 도착지 행성을 기준으로 진입 점근선(incoming asymptote)을 원하는 위치와 방향으로 배치하는 것으로써 달성될 수 있는데 이 때 사용되는 유용한 방법이 B-평면 타켓팅(B-plane targeting)이다. B-평면은 점근선의 위치와 방향을 단.. 2024. 12. 30. 쌍곡선 궤도의 기하학 이체문제 가정하에서 우주비행체가 가질 수 있는 궤도의 모양은 원, 타원, 포물선, 쌍곡선이 있다 (https://pasus.tistory.com/171). 이 중에서 포물선과 쌍곡선 궤도를 열린 궤도라고 하는데 이 궤도를 취해야 이체문제의 중심 질점으로부터 무한대 거리까지 비행할 수 있기 때문이다 (https://pasus.tistory.com/173). 우주비행체가 포물선 궤도를 따를 경우 무한대의 거리에서는 속도가 \(0\) 이지만, 쌍곡선 궤도를 따를 경우에는 무한대의 거리에서 속도가 \(v_\infty= \sqrt{2 \mathcal{E}}\) 로서 유한한 값을 갖는다. 여기서 \(\mathcal{E}\) 는 궤도의 역학적 에너지이다. 현실적으로 행성 또는 천체의 중심에서 거리가 무한대인 지점으로.. 2024. 12. 27. [MCMC] MCMC 개요 어떤 확률분포를 가진 랜덤변수에서 데이터를 생성하는 과정을 샘플링(sampling)이라고 한다. 파이썬(Python)이나 매트랩(Matlab)과 같은 많은 컴퓨터 언어에서는 기본적으로 가우시안 확률분포나 균등 확률분포와 같은 표준 형태의 확률밀도함수로부터 샘플을 추출할 수 있는 함수를 제공한다. 하지만 그렇지 않은 경우에는 어떤 방법으로 샘플을 추출해야할까. 먼저 직접적인 방법이 있다 (https://pasus.tistory.com/49). 누적분포함수(cumulative distribution function)의 역함수를 이용하는 방법으로서 정확한 샘플링 방법이다. 하지만 랜덤변수가 다차원(multi-dimension)을 갖거나 복잡한 확률밀도함수를 갖는 경우에는 이 방법을 적용하기가 어렵다. .. 2024. 12. 26. 파티클 군집 최적화 (Particle Swarm Optimization) 파티클 군집 최적화(PSO, particle swarm optimization)는 1995년에 에버하트(Eberhart)와 케네디(Kennedy)가 개발한 최적화 알고리즘으로서 먹이를 찾는 새(bird)들의 군집 행동을 모방해서 개념을 정립했다고 한다. 새 떼는 무리 내부의 리더(leader)나 무리 외부의 통제자 없이 새들간의 상호 작용을 통해 먹이를 찾는다고 한다. 이러한 새들의 집단적 행동을 모방하여 최적화 문제를 풀기 위해서는 군집 지능(swarm intelligence)이라는 전제가 필요하다. 군집 지능은 단순하게 행동하는 개별 에이전트들을 군집으로 적절히 연결하면 그들의 집단적 행동이 매우 지능적인 결과를 만들 수 있다는 것을 의미한다. 즉 멍청한 에이전트들을 연결해 놓으면 전체적으로 똑똑한 .. 2024. 12. 20. 노이즈 공분산 추정 방법: ALS 칼만필터(Kalman filter)는 시스템의 동역학 모델과 센서의 확률적 특성을 이용하여 시스템의 상태를 추정하는 알고리즘이다 (https://pasus.tistory.com/105). 만약 시스템의 동역학 모델이 선형이고 그 모델의 오차와 센서 노이즈를 가우시안(Gaussian) 확률 함수로 정확히 표현할 수 있다면 칼만필터가 계산한 시스템의 상태 추정값은 최소평균제곱오차(MMSE, minimum mean-square error) 관점에서 최적(optimal)이다. 가우시안이 아니더라도 칼만필터는 최상(best)의 추정값을 산출한다. 하지만 실제로는 많은 상황에서 시스템 모델의 오차와 센서 노이즈의 확률적 특성을 모르거나 부분적으로만 아는 경우가 많기 때문에 부정확한 확률 특성 값을 사용한 칼만필터의.. 2024. 12. 17. 이노베이션 (Innovation)의 확률적 특성 칼만필터(Kalman filter)의 이노베이션(innovation) 또는 측정 잔차는 측정값(measurement)과 측정 예측값(measurement prediction)의 차이로서 칼만필터가 작동 중에 유일하게 실제값과 비교하여 알 수 있는 값이다. 따라서 이 값과 이 값의 확률적 특성을 이용하면 칼만필터가 설계대로 잘 작동하고 있는지 여부를 판단할 수 있을 뿐만 아니라 칼만필터 설계값들을 튜닝할 수 있는 근거가 된다. 먼저 칼만필터 알고리즘을 간략히 살펴본 후 이노베이션의 확률적 특성에 대해서 알아보자. 다음과 같이 선형 시스템이 있다. \[ \begin{align} \mathbf{x}_{t+1} &= F_t \mathbf{x}_t + G_t \mathbf{u}_t + \Gamma_t \mathb.. 2024. 12. 15. 이전 1 2 3 4 ··· 36 다음