selen-kim/stamp-dataset

Dataset 구조 설명

이 디렉토리는 STAMP 프로젝트의 데이터셋을 포함하며, 다음과 같은 구조로 구성되어 있습니다.

디렉토리 구조

dataset/
├── emb128/                        # 128차원 임베딩 데이터
│   ├── trace_embed/               # 원본 임베딩 데이터
│   ├── autoencoder_stage1/        # 오토인코더 학습/추론 결과
│   │   ├── weight/                # 학습된 모델 체크포인트
│   │   └── infer_result/          # 추론 결과 (잠재 공간 데이터)
│   ├── trace_latent/              # → autoencoder_stage1/infer_result (심볼릭 링크)
│   └── setting/                   # 설정 파일
├── emb256/                        # 256차원 임베딩 데이터
│   ├── trace_embed/               # 원본 임베딩 데이터
│   ├── autoencoder_stage1/        # 오토인코더 학습/추론 결과
│   │   ├── weight/                # 학습된 모델 체크포인트
│   │   └── infer_result/          # 추론 결과 (잠재 공간 데이터)
│   ├── trace_latent/              # → autoencoder_stage1/infer_result (심볼릭 링크)
│   └── setting/                   # 설정 파일
└── label_configuration/           # 레이블 데이터 (CLIP에 사용)

데이터 형식 설명

1. 임베딩 차원 (emb128, emb256)

• emb128: trace_embed에서 128차원 임베딩 사용
• emb256: trace_embed에서 256차원 임베딩 사용
• 각 폴더는 동일한 구조를 가지며, 임베딩 차원만 다름

2. trace_embed/

원본 임베딩 데이터가 저장된 폴더입니다.

데이터 형식 예시 (shape: [3905, 512, 6, 256]):

• 3905: 샘플 수 (디바이스별 데이터)
• 512: 시퀀스 길이
• 6: 채널 수
• 256: 임베딩 차원 (emb256의 경우, emb128은 128)

학습 시 데이터 변환:

• 저장 형식: (N, Seq, C, Emb) → (3905, 512, 6, 256)
• 학습 형식: (B, C, H, W) → 512(seq)와 6(ch)의 자리가 바뀜

3. label_configuration/

CLIP 모델에 사용될 레이블 데이터입니다. 사실 윈도우 샘플당 label은 19개씩 인데, outpaint를 위해서 window size(512)의 절반(256)만큼마다 labeling한 결과라 두개씩 concat한 데이터 입니다. 즉, (앞19+뒤19 = 총 38)이 되는겁니다.

데이터 형식 예시 (shape: [3905, 38]):

• 3905: trace_embed와 동일한 샘플 수 (1:1 대응)
• 38: 레이블 차원

데이터 대응 관계:

• 하나의 샘플: trace_embed (512, 6, 256) ↔ label (38)
• 임베딩 사이즈(emb128/emb256)에 관계없이 동일한 레이블 사용 가능

4. autoencoder_stage1/

오토인코더 학습과 추론의 모든 결과가 저장되는 디렉토리입니다.

weight/ - 학습된 모델 체크포인트:

• stage1_epoch_XXXX.pt: 정기 체크포인트 (32 에포크마다)
• stage1_best.pt: 최고 성능 모델

infer_result/ - 추론 결과:

• recon_XXXXXX.npy: 재구성된 임베딩 데이터
• target_model.txt: 사용된 모델 경로
• metrics.csv: 평가 지표

5. trace_latent/

autoencoder_stage1/infer_result/에 대한 심볼릭 링크로, 기존 코드와의 호환성을 위해 제공됩니다.

데이터 정보 확인

각 폴더의 data_info.json 파일에서 해당 데이터의 상세 정보를 확인할 수 있습니다:

• shape: 데이터 형태
• dtype: 데이터 타입
• min_value, max_value: 최솟값, 최댓값
• size_gb: 파일 크기 (GB)

참고사항

• 자세한 학습 코드 및 데이터 처리 방법은 autoencoder-stage1/ 폴더의 코드를 참고하세요.
• 데이터 정보 생성은 playground/generate_data_info.py 스크립트를 사용합니다.

Dataset Information

• Total Files: 21
• Total Size: 88.66 GB
• Embedding Dimensions: emb128, emb256
• Last Updated: 2025-09-19T21:01:16.164200

Usage

from datasets import load_dataset

# Load the dataset
dataset = load_dataset("selen-kim/stamp-dataset")