AWS Korea Tech Blog

AWS DMS ‘validation-only task’ 를 활용한 데이터 검증 최적화

thumbnail

AWS DMS ‘validation-only task’를 활용한 데이터 검증 최적화

1. 데이터 검증 전용 작업 사용 사례(관계형 데이터베이스)

  • 데이터 타입에 따라 다르게 비교
  • 검증 실패 시 처리 방법
  • 일반적인 사용 사례
    • 마이그레이션을 실행하지 않고 데이터 검증
    • 예약된 검증

2. AWS DMS 검증 전용 작업 구성과 모니터링

  • 전체 로드와 CDC 비교
  • 작업 최적화 방법
    • 파라미터 설정
    • 검증 실패 처리

3. 데이터 검증 작업의 주요 파라미터

  • PartitionSize: 10,000
  • ThreadCount: 5
  • SkipLobColumns: FALSE
  • Failure retry period 설정

4. LOB 잘림과 데이터 검증

  • ValidationPartialLobSize 설정 권장
  • TIMESTAMP 데이터 유형 불일치 처리

결론: AWS DMS 'validation-only task'를 효과적으로 활용하여 데이터 검증을 최적화 할 수 있으며, 데이터 유형에 맞는 비교와 설정을 통해 검증 실패 사례를 처리할 수 있습니다. 필요한 파라미터를 설정하고 데이터 일관성을 유지하는데 도움이 됩니다.