note4973 님의 블로그

  • 홈
  • 태그
  • 방명록

2025/04/15 1

20250415 TIL 부동소수점 문제 1.1f -0.1f == 1.0f ?

10진수 체계를 컴퓨터에서 처리할때 2진수로 처리되는데float은 부동소수점을 사용하여 실수를 저장한다부동소수점은 다음과 같이 구성되는데부호, 지수, 가수부호 1비트 지수 7비트 가수 23비트로 처리된다. 10진수2진수 표현특징0.50.1정확하게 표현됨0.250.01정확하게 표현됨0.10.0001100110011...(반복)무한 반복됨1.11.0001100110011...(반복)무한 반복됨실수 = ± 1.M × 2^(E - Bias) M: 가수 (소수부를 2진수로 저장)E: 지수Bias: float일 경우 127어렸을때 배운 무한순환소수와 같이 10진수에서 무한순환소수가 아니더라도 2진수에서는 무한순환 소수인 경우가 존재한다.무한순환소수가 제대로 계산된다면 문제가 발생하지 않겠지만 가수는 23비트만 저장..

카테고리 없음 2025.04.15
이전
1
다음
더보기
프로필사진

note4973 님의 블로그

note4973 님의 블로그 입니다.

  • 분류 전체보기 (51)

Tag

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/04   »
일 월 화 수 목 금 토
1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바