05 / Contents · 매일 업로드 · 영상 + 교안

Contents

// study log · video + 교안

매일 한 편씩 — 영상을 보고 교안을 정리합니다.

최신
C-022Day 222026.06.17

부동소수점과 실수 계산 오차의 원인

컴퓨터의 2진법 기반 구조로 인해 10진 소수를 정확히 표현할 수 없어 0.1+0.2≠0.3 같은 오차가 발생하는 원리

#floating-point#binary#ieee754#precision#data-types#numerical-error
9:52교안 보기
이전 회차