// LATEST TRANSMISSIONS
Latest Posts
S4: 긴 시퀀스를 구조화된 상태공간으로 읽는 법
Structured State Space sequence model(S4)이 긴 의존성을 다루기 위해 상태공간모델을 어떻게 구조화하고, 계산 가능한 Cauchy 커널로 바꾸는지 살펴봅니다. arXiv 초록과 메타데이터에서 확인되는 주장만 구분해 정리합니다.
H3: 언어 모델링에서 SSM이 놓치던 기억과 비교
Hungry Hungry Hippos가 상태공간모델의 언어적 약점을 토큰 기억과 비교 능력으로 분해하고, H3와 FlashConv, 하이브리드 attention 조합으로 어떻게 보완하는지 설명합니다.
Mamba: 선택적 상태공간으로 콘텐츠 기반 추론에 접근하기
Mamba가 입력에 따라 상태공간 파라미터를 바꾸는 selective SSM과 하드웨어 인식 병렬 알고리즘으로 긴 시퀀스의 효율성과 언어 모델링 성능을 함께 겨냥한 이유를 설명합니다.
Mamba-2는 왜 Transformer와 닮았는가: SSD로 다시 읽는 SSM
Tri Dao와 Albert Gu의 Mamba-2 논문을 따라가며 상태공간모델과 어텐션의 연결, SSD 알고리즘의 하드웨어적 의미, 그리고 확인되지 않은 주장까지 정리한다.
// CAPABILITIES
Tech Stack
LOW-LEVEL
Systems & Rust
- Rust / C / Assembly
- Memory-safe systems programming
- Kernel modules & eBPF
- Zero-copy networking
INTELLIGENCE
AI / ML Engineering
- PyTorch / CUDA / TensorRT
- LLM fine-tuning & inference
- RAG pipelines & embeddings
- MLOps & model serving
PLATFORM
Infrastructure
- Kubernetes / Helm / ArgoCD
- Terraform / Ansible
- Cloudflare Workers / Edge
- Observability & SRE
FULLSTACK
Web & API
- TypeScript / React / Next.js
- NestJS / Axum / Actix
- PostgreSQL / Redis / NATS
- gRPC / GraphQL / REST
#
Hacker's Attitude
$ whoami p4r4d0xb0x $ cat /etc/role Systems Engineer Rust Developer AI/ML Engineer Infrastructure Architect Low-Level Hacker Kernel Enthusiast $ uname -a Rust 1.87 | Python 3.12 | CUDA 13.0 | K8s | Linux 6.x $ _
- The world is full of fascinating problems waiting to be solved.
- No problem should ever have to be solved twice.
- Boredom and drudgery are evil.
- Freedom is good.
- Attitude is no substitute for competence.
"Talk is cheap. Show me the code."— Linus Torvalds