🚀
Incheol's TECH BLOG
  • Intro
  • Question & Answer
    • JAVA
      • JVM
      • String, StringBuffer, StringBuilder
      • JDK 17일 사용한 이유(feat. JDK 8 이후 훑어보기)
      • 스택 오버 플로우(SOF)
      • 블럭킹 | 논블럭킹 | 동기 | 비동기
      • 병렬처리를 이용한 이미지 리사이즈 개선
      • heap dump 분석하기 (feat. OOM)
      • G1 GC vs Z GC
      • JIT COMPILER
      • ENUM
      • STATIC
      • Thread(쓰레드)
      • hashCode()와 equals()
      • JDK 8 특징
      • break 와 continue 사용
      • STREAM
      • Optional
      • 람다와 클로저
      • Exception(예외)
      • Garbage Collector
      • Collection
      • Call by Value & Call by Reference
      • 제네릭(Generic)
    • SPRING
      • Spring 특징
      • N+1 문제
      • 테스트 코드 어디까지 알아보고 오셨어요?
      • 테스트 코드 성능 개선기
      • RestTemplate 사용시 주의사항
      • 동시성 해결하기(feat. TMI 주의)
      • redisson trylock 내부로직 살펴보기
      • DB 트래픽 분산시키기(feat. Routing Datasource)
      • OSIV
      • @Valid 동작 원리
      • mybatis @Builder 주의사항
      • 스프링 클라우드 컨피그 갱신 되지 않는 이슈(feat. 서비스 디스커버리)
      • ImageIO.read 동작하지 않는 경우
      • 카프카 transaction 처리는 어떻게 해야할까?
      • Spring Boot 특징
      • Spring 5 특징
      • JPA vs MyBatis
      • Filter와 Interceptor
      • 영속성 컨텍스트(Persistence Context)
      • @Transactional
      • @Controlleradvice, @ExceptionHandler
      • Spring Security
      • Dispatcher Servlet
      • @EnableWebMvc
      • Stereo Type(스테레오 타입)
      • AOP
      • JPA Repository 규칙
    • DATABASE
      • Database Index
      • SQL vs NoSQL
      • DB 교착상태
      • Isolation level
      • [MySQL] 이모지 저장은 어떻게 하면 좋을까?
      • SQL Hint
      • JOIN
    • INFRA
      • CLOUD COMPUTING
      • GIT
      • DOCKER
      • 카프카 찍먹하기 1부
      • 카프카 찍먹하기 2부 (feat. 프로듀서)
      • 카프카 찍먹하기 3부 (feat. 컨슈머)
      • JENKINS
      • POSTMAN
      • DNS 동작 원리
      • ALB, NLB,ELB 차이는?
      • 카프카 파티션 주의해서 사용하자
      • DEVOPS
      • JWT
      • OSI 7 Layer
      • MSA
      • 서비스 디스커버리는 어떻게 서비스 등록/해제 하는걸까?
      • 핀포인트 사용시 주의사항!! (feat 로그 파일 사이즈)
      • AWS EC2 도메인 설정 (with ALB)
      • ALB에 SSL 설정하기(feat. ACM)
      • 람다를 활용한 클라우드 와치 알림 받기
      • AWS Personalize 적용 후기… 😰
      • CloudFront를 활용한 S3 성능 및 비용 개선
    • ARCHITECTURE
      • 객체지향과 절차지향
      • 상속보단 합성
      • SOLID 원칙
      • 캡슐화
      • DDD(Domain Driven Design)
    • COMPUTER SCIENCE
      • 뮤텍스와 세마포어
      • Context Switch
      • REST API
      • HTTP HEADER
      • HTTP METHOD
      • HTTP STATUS
    • CULTURE
      • AGILE(Feat. 스크럼)
      • 우리는 성장 할수 있을까? (w. 함께 자라기)
      • Expert Beginner
    • SEMINAR
      • 2022 INFCON 후기
        • [104호] 사이드 프로젝트 만세! - 기술만큼 중요했던 제품과 팀 성장기
        • [102호] 팀을 넘어서 전사적 협업 환경 구축하기
        • [103호] 코드 리뷰의 또 다른 접근 방법: Pull Requests vs. Stacked Changes
        • [105호] 실전! 멀티 모듈 프로젝트 구조와 설계
        • [105호] 지금 당장 DevOps를 해야 하는 이유
        • [102호] (레거시 시스템) 개편의 기술 - 배달 플랫폼에서 겪은 N번의 개편 경험기
        • [102호] 서버비 0원, 클라우드 큐 도입으로 해냈습니다!
  • STUDY
    • 오브젝트
      • 1장 객체, 설계
      • 2장 객체지향 프로그래밍
      • 3장 역할, 책임, 협력
      • 4장 설계 품질과 트레이드 오프
      • 5장 책임 할당하기
      • 6장 메시지와 인터페이스
      • 7징 객체 분해
      • 8장 의존성 관리하기
      • 9장 유연한 설계
      • 10장 상속과 코드 재사용
      • 11장 합성과 유연한 설계
      • 12장 다형성
      • 13장 서브클래싱과 서브타이핑
      • 14장 일관성 있는 협력
      • 15장 디자인 패턴과 프레임워크
      • 마무리
    • 객체지향의 사실과 오해
      • 1장 협력하는 객체들의 공동체
      • 2장 이상한 나라의 객체
      • 3장 타입과 추상화
      • 4장 역할, 책임, 협력
    • JAVA ORM JPA
      • 1장 JPA 소개
      • 2장 JPA 시작
      • 3장 영속성 관리
      • 4장 엔티티 매핑
      • 5장 연관관계 매핑 기초
      • 6장 다양한 연관관계 매핑
      • 7장 고급 매핑
      • 8장 프록시와 연관관계 관리
      • 9장 값 타입
      • 10장 객체지향 쿼리 언어
      • 11장 웹 애플리케이션 제작
      • 12장 스프링 데이터 JPA
      • 13장 웹 애플리케이션과 영속성 관리
      • 14장 컬렉션과 부가 기능
      • 15장 고급 주제와 성능 최적화
      • 16장 트랜잭션과 락, 2차 캐시
    • 토비의 스프링 (3.1)
      • 스프링의 이해와 원리
        • 1장 오브젝트와 의존관계
        • 2장 테스트
        • 3장 템플릿
        • 4장 예외
        • 5장 서비스 추상화
        • 6장 AOP
        • 8장 스프링이란 무엇인가?
      • 스프링의 기술과 선택
        • 5장 AOP와 LTW
        • 6장 테스트 컨텍스트 프레임워크
    • 클린코드
      • 1장 깨끗한 코드
      • 2장 의미 있는 이름
      • 3장 함수
      • 4장 주석
      • 5장 형식 맞추기
      • 6장 객체와 자료 구조
      • 9장 단위 테스트
    • 자바 트러블슈팅(with scouter)
      • CHAP 01. 자바 기반의 시스템에서 발생할 수 있는 문제들
      • CHAP 02. scouter 살펴보기
      • CHAP 03. scouter 설정하기(서버 및 에이전트)
      • CHAP 04. scouter 클라이언트에서 제공하는 기능들
      • CHAP 05. scouter XLog
      • CHAP 06. scouter 서버/에이전트 플러그인
      • CHAP 07. scouter 사용 시 유용한 팁
      • CHAP 08. 스레드 때문에(스레드에서) 발생하는 문제들
      • CHAP 09. 스레드 단면 잘라 놓기
      • CHAP 10. 잘라 놓은 스레드 단면 분석하기
      • CHAP 11. 스레드 문제
      • CHAP 12. 메모리 때문에 발생할 수 있는 문제들
      • CHAP 13. 메모리 단면 잘라 놓기
      • CHAP 14. 잘라 놓은 메모리 단면 분석하기
      • CHAP 15. 메모리 문제(Case Study)
      • CHAP 24. scouter로 리소스 모니터링하기
      • CHAP 25. 장애 진단은 이렇게 한다
      • 부록 A. Fatal error log 분석
      • 부록 B. 자바 인스트럭션
    • 테스트 주도 개발 시작하기
      • CHAP 02. TDD 시작
      • CHAP 03. 테스트 코드 작성 순서
      • CHAP 04. TDD/기능 명세/설계
      • CHAP 05. JUnit 5 기초
      • CHAP 06. 테스트 코드의 구성
      • CHAP 07. 대역
      • CHAP 08. 테스트 가능한 설계
      • CHAP 09. 테스트 범위와 종류
      • CHAP 10. 테스트 코드와 유지보수
      • 부록 A. Junit 5 추가 내용
      • 부록 C. Mockito 기초 사용법
      • 부록 D. AssertJ 소개
    • KOTLIN IN ACTION
      • 1장 코틀린이란 무엇이며, 왜 필요한가?
      • 2장 코틀린 기초
      • 3장 함수 정의와 호출
      • 4장 클래스, 객체, 인터페이스
      • 5장 람다로 프로그래밍
      • 6장 코틀린 타입 시스템
      • 7장 연산자 오버로딩과 기타 관례
      • 8장 고차 함수: 파라미터와 반환 값으로 람다 사용
      • 9장 제네릭스
      • 10장 애노테이션과 리플렉션
      • 부록 A. 코틀린 프로젝트 빌드
      • 부록 B. 코틀린 코드 문서화
      • 부록 D. 코틀린 1.1과 1.2, 1.3 소개
    • KOTLIN 공식 레퍼런스
      • BASIC
      • Classes and Objects
        • Classes and Inheritance
        • Properties and Fields
    • 코틀린 동시성 프로그래밍
      • 1장 Hello, Concurrent World!
      • 2장 코루틴 인 액션
      • 3장 라이프 사이클과 에러 핸들링
      • 4장 일시 중단 함수와 코루틴 컨텍스트
      • 5장 이터레이터, 시퀀스 그리고 프로듀서
      • 7장 스레드 한정, 액터 그리고 뮤텍스
    • EFFECTIVE JAVA 3/e
      • 객체 생성과 파괴
        • 아이템1 생성자 대신 정적 팩터리 메서드를 고려하라
        • 아이템2 생성자에 매개변수가 많다면 빌더를 고려하라
        • 아이템3 private 생성자나 열거 타입으로 싱글턴임을 보증하라
        • 아이템4 인스턴스화를 막으려거든 private 생성자를 사용하라
        • 아이템5 자원을 직접 명시하지 말고 의존 객체 주입을 사용하라
        • 아이템6 불필요한 객체 생성을 피하라
        • 아이템7 다 쓴 객체 참조를 해제하라
        • 아이템8 finalizer와 cleaner 사용을 피하라
        • 아이템9 try-finally보다는 try-with-resources를 사용하라
      • 모든 객체의 공통 메서드
        • 아이템10 equals는 일반 규약을 지켜 재정의하라
        • 아이템11 equals를 재정의 하려거든 hashCode도 재정의 하라
        • 아이템12 toString을 항상 재정의하라
        • 아이템13 clone 재정의는 주의해서 진행해라
        • 아이템14 Comparable을 구현할지 고려하라
      • 클래스와 인터페이스
        • 아이템15 클래스와 멤버의 접근 권한을 최소화하라
        • 아이템16 public 클래스에서는 public 필드가 아닌 접근자 메서드를 사용하라
        • 아이템17 변경 가능성을 최소화하라
        • 아이템18 상속보다는 컴포지션을 사용하라
        • 아이템19 상속을 고려해 설계하고 문서화하라. 그러지 않았다면 상속을 금지하라
        • 아이템20 추상 클래스보다는 인터페이스를 우선하라
        • 아이템21 인터페이스는 구현하는 쪽을 생각해 설계하라
        • 아이템22 인터페이스 타입을 정의하는 용도로만 사용하라
        • 아이템23 태그 달린 클래스보다는 클래스 계층구조를 활용하라
        • 아이템24 멤버 클래스는 되도록 static으로 만들라
        • 아이템25 톱레벨 클래스는 한 파일에 하나만 담으라
      • 제네릭
        • 아이템26 로 타입은 사용하지 말라
        • 아이템27 비검사 경고를 제거하라
        • 아이템28 배열보다는 리스트를 사용하라
        • 아이템29 이왕이면 제네릭 타입으로 만들라
        • 아이템30 이왕이면 제네릭 메서드로 만들라
        • 아이템31 한정적 와일드카드를 사용해 API 유연성을 높이라
        • 아이템32 제네릭과 가변인수를 함께 쓸 때는 신중하라
        • 아이템33 타입 안전 이종 컨테이너를 고려하라
      • 열거 타입과 애너테이션
        • 아이템34 int 상수 대신 열거 타입을 사용하라
        • 아이템35 ordinal 메서드 대신 인스턴스 필드를 사용하라
        • 아이템36 비트 필드 대신 EnumSet을 사용하라
        • 아이템37 ordinal 인덱싱 대신 EnumMap을 사용하라
        • 아이템38 확장할 수 있는 열거 타입이 필요하면 인터페이스를 사용하라
        • 아이템 39 명명 패턴보다 애너테이션을 사용하라
        • 아이템40 @Override 애너테이션을 일관되게 사용하라
        • 아이템41 정의하려는 것이 타입이라면 마커 인터페이스를 사용하라
      • 람다와 스트림
        • 아이템46 스트림에는 부작용 없는 함수를 사용하라
        • 아이템47 반환 타입으로는 스트림보다 컬렉션이 낫다
        • 아이템48 스트림 병렬화는 주의해서 적용하라
      • 메서드
        • 아이템49 매개변수가 유효한지 검사하라
        • 아이템50 적시에 방어적 본사본을 만들라
        • 아이템53 가변인수는 신중히 사용하라
        • 아이템 54 null이 아닌, 빈 컬렉션이나 배열을 반환하라
        • 아이템56 공개된 API 요소에는 항상 문서화 주석을 작성하라
      • 일반적인 프로그래밍 원칙
        • 아이템56 공개된 API 요소에는 항상 문서화 주석을 작성하라
        • 아이템57 지역변수의 범위를 최소화하라
        • 아이템 60 정확한 답이 필요하다면 float와 double은 피하라
      • 예외
        • 아이템 73 추상화 수준에 맞는 예외를 던지라
        • 아이템 74 메서드가 던지는 모든 예외를 문서화하라
      • 동시성
        • 아이템78 공유 중인 가변 데이터는 동기화해 사용하라
        • 아이템79 과도한 동기화는 피하라
        • 아이템 80 스레드보다는 실행자, 태스크, 스트림을 애용하라
      • 직렬화
        • 아이템 87 커스텀 직렬화 형태를 고려해보라
    • Functional Programming in Java
      • Chap 01. 헬로, 람다 표현식
      • Chap 02. 컬렉션의 사용
      • Chap 03. String, Comparator, 그리고 filter
      • Chap 04. 람다 표현식을 이용한 설계
      • CHAP 05. 리소스를 사용한 작업
      • CHAP 06. 레이지
      • CHAP 07. 재귀 호출 최적화
      • CHAP 08. 람다 표현식의 조합
      • CHAP 09. 모든 것을 함께 사용해보자
      • 부록 1. 함수형 인터페이스의 집합
      • 부록 2. 신택스 오버뷰
    • 코틀린 쿡북
      • 2장 코틀린 기초
      • 3장 코틀린 객체지향 프로그래밍
      • 4장 함수형 프로그래밍
      • 5장 컬렉션
      • 6장 시퀀스
      • 7장 영역 함수
      • 9장 테스트
      • 10장 입력/출력
      • 11장 그 밖의 코틀린 기능
    • DDD START!
      • 1장 도메인 모델 시작
      • 2장 아키텍처 개요
      • 3장 애그리거트
      • 4장 리포지터리와 모델구현(JPA 중심)
      • 5장 리포지터리의 조회 기능(JPA 중심)
      • 6장 응용 서비스와 표현 영역
      • 7장 도메인 서비스
      • 8장 애그리거트 트랜잭션 관리
      • 9장 도메인 모델과 BOUNDED CONTEXT
      • 10장 이벤트
      • 11장 CQRS
    • JAVA 8 IN ACTION
      • 2장 동작 파라미터화 코드 전달하기
      • 3장 람다 표현식
      • 4장 스트림 소개
      • 5장 스트림 활용
      • 6장 스트림으로 데이터 수집
      • 7장 병렬 데이터 처리와 성능
      • 8장 리팩토링, 테스팅, 디버깅
      • 9장 디폴트 메서드
      • 10장 null 대신 Optional
      • 11장 CompletableFuture: 조합할 수 있는 비동기 프로그래밍
      • 12장 새로운 날짜와 시간 API
      • 13장 함수형 관점으로 생각하기
      • 14장 함수형 프로그래밍 기법
    • 객체지향과 디자인패턴
      • 객체 지향
      • 다형성과 추상 타입
      • 재사용: 상속보단 조립
      • 설계 원칙: SOLID
      • DI와 서비스 로케이터
      • 주요 디자인 패턴
        • 전략패턴
        • 템플릿 메서드 패턴
        • 상태 패턴
        • 데코레이터 패턴
        • 프록시 패턴
        • 어댑터 패턴
        • 옵저버 패턴
        • 파사드 패턴
        • 추상 팩토리 패턴
        • 컴포지트 패턴
    • NODE.JS
      • 1회차
      • 2회차
      • 3회차
      • 4회차
      • 6회차
      • 7회차
      • 8회차
      • 9회차
      • 10회차
      • 11회차
      • 12회차
      • mongoose
      • AWS란?
    • SRPING IN ACTION (5th)
      • Chap1. 스프링 시작하기
      • Chap 2. 웹 애플리케이션 개발하기
      • Chap 3. 데이터로 작업하기
      • Chap 4. 스프링 시큐리티
      • Chap 5. 구성 속성 사용하기
      • Chap 6. REST 서비스 생성하기
      • Chap 7. REST 서비스 사용하기
      • CHAP 8 비동기 메시지 전송하기
      • Chap 9. 스프링 통합하기
      • CHAP 10. 리액터 개요
      • CHAP 13. 서비스 탐구하기
      • CHAP 15. 실패와 지연 처리하기
      • CHAP 16. 스프링 부트 액추에이터 사용하기
    • 스프링부트 코딩 공작소
      • 스프링 부트를 왜 사용 해야 할까?
      • 첫 번째 스프링 부트 애플리케이션 개발하기
      • 구성을 사용자화 하기
      • 스프링부트 테스트하기
      • 액추에이터로 내부 들여다보기
    • ANGULAR 4
      • CHAPTER 1. A gentle introduction to ECMASCRIPT 6
      • CHAPTER 2. Diving into TypeScript
      • CHAPTER 3. The wonderful land of Web Components
      • CHAPTER 4. From zero to something
      • CHAPTER 5. The templating syntax
      • CHAPTER 6. Dependency injection
      • CHAPTER 7. Pipes
      • CHAPTER 8. Reactive Programming
      • CHAPTER 9. Building components and directives
      • CHAPTER 10. Styling components and encapsulation
      • CHAPTER 11. Services
      • CHAPTER 12. Testing your app
      • CHAPTER 13. Forms
      • CHAPTER 14. Send and receive data with Http
      • CHAPTER 15. Router
      • CHAPTER 16. Zones and the Angular magic
      • CHAPTER 17. This is the end
    • HTTP 완벽 가이드
      • 게이트웨이 vs 프록시
      • HTTP Header
      • REST API
      • HTTP Method 종류
        • HTTP Status Code
      • HTTP 2.x
  • REFERENCE
    • TECH BLOGS
      • 어썸데브블로그
      • NAVER D2
      • 우아한 형제들
      • 카카오
      • LINE
      • 스포카
      • 티몬
      • NHN
      • 마켓컬리
      • 쿠팡
      • 레진
      • 데일리 호텔
      • 지그재그
      • 스타일쉐어
      • 구글
      • 야놀자
    • ALGORITHM
      • 생활코딩
      • 프로그래머스
      • 백준
      • 알고스팟
      • 코딜리티
      • 구름
      • 릿코드
Powered by GitBook
On this page
  • RestTemplate 사용시 주의사항
  • RestTemplate이란?
  • Timeout 설정이 필요하다
  • 그럼 애플리케이션의 가용성을 보장하기 위해선 어떻게 해야 할까?
  • ClientHttpRequestFactory 구현체 중 어느걸 사용해야 하지?
  • 별도로 사용할 쓰레드풀만 지정하면 괜찮은걸까?
  • 클라이언트와 서버가 통신이 이루어진 이후에는 주의해야할 점은 없을까?
  • 그럼 성능적으로도 차이가 있을까?
  • 결론
  • 참고

Was this helpful?

  1. Question & Answer
  2. SPRING

RestTemplate 사용시 주의사항

Previous테스트 코드 성능 개선기Next동시성 해결하기(feat. TMI 주의)

Last updated 1 year ago

Was this helpful?

RestTemplate 사용시 주의사항

RestTemplate이란?

  • RestTemplate은 스프링 프레임워크에서 제공하는 HTTP 클라이언트 라이브러리이다. 주로 HTTP 프로토콜 기반으로 데이터를 전송하는 웹 서비스를 통신하기 위해 사용된다

  • 그런데 RestTemplate을 별다른 설정하지 않고 사용하다 보면 다양한 이슈를 발견할 수 있을것이다.

  • RestTemplate을 사용할때 유의 해야할 부분을 확인해보자

Timeout 설정이 필요하다

  • 만약 RestTemplate을 통해서 타 서비스를 호출한다. 그런데 해당 서비스는 실행시간이 10초가 걸린다고 하자

  • 그럼 RestTemplate은 타서비스의 response를 받을 때까지 커넥션을 유지하게 된다

  • 여기까지는 크게 이슈는 없다고 볼수 있다

그런데 만약 동시에 10000개의 요청이 들어온다면 어떻게 될까?

  • 자바는 기본적으로 멀티 쓰레드 기반으로 병렬처리가 가능하다. 애플리케이션에서 허용 가능한 쓰레드 갯수만큼 동시에 수행된다

  • 그러면 요청을 수행하는 쓰레드 마다 10초 동안 사용중 상태로 유지할 것이다

  • 애플리케이션의 가용할 수 있는 모든 쓰레드는 RestTemplate 요청으로 인해 더 이상 가용할 쓰레드가 없게 되어 다른 기능들이 동작하지 않을 수도 있다

그럼 애플리케이션의 가용성을 보장하기 위해선 어떻게 해야 할까?

  • 우선 애플리케이션의 가용할 수 있는 쓰레드를 확보해야 한다

  • RestTemplate에서 사용할 쓰레드풀을 별도로 설정해서 운영해야 한다

  • RestTemplate에 사용할 쓰레드풀을 제한하여 애플리케이션의 전반적인 가용성을 보장할 수 있다

그럼 쓰레드풀 설정은 어떻게 할 수 있지?

  • RestTemplate 내부에는 ClientHttpRequestFactory 인터페이스 유형의 구현체를 사용하여 요청을 처리한다

  • ClientHttpRequestFactory은 함수형 인터페이스로 제공하고 있으며 createRequest() 메서드를 호출하여 통신에 사용될 request 객체를 생성한다

/**
 * Factory for {@link ClientHttpRequest} objects.
 * Requests are created by the {@link #createRequest(URI, HttpMethod)} method.
 *
 * @author Arjen Poutsma
 * @since 3.0
 */
@FunctionalInterface
public interface ClientHttpRequestFactory {

	/**
	 * Create a new {@link ClientHttpRequest} for the specified URI and HTTP method.
	 * <p>The returned request can be written to, and then executed by calling
	 * {@link ClientHttpRequest#execute()}.
	 * @param uri the URI to create a request for
	 * @param httpMethod the HTTP method to execute
	 * @return the created request
	 * @throws IOException in case of I/O errors
	 */
	ClientHttpRequest createRequest(URI uri, HttpMethod httpMethod) throws IOException;

}
  • createRequest(url, method)를 통해서 request 객체를 생성하고, request.execute() 메서드를 호출하여 서버와 통신이 이루어진다

// RestTemplate.java
@Nullable
protected <T> T doExecute(URI url, @Nullable HttpMethod method, @Nullable RequestCallback requestCallback,
		@Nullable ResponseExtractor<T> responseExtractor) throws RestClientException {

	Assert.notNull(url, "URI is required");
	Assert.notNull(method, "HttpMethod is required");
	ClientHttpResponse response = null;
	try {
		ClientHttpRequest request = createRequest(url, method);
		if (requestCallback != null) {
			requestCallback.doWithRequest(request);
		}
		response = request.execute();
		handleResponse(url, method, response);
		return (responseExtractor != null ? responseExtractor.extractData(response) : null);
	}

	...
}

ClientHttpRequestFactory 구현체 중 어느걸 사용해야 하지?

  • 구현체 종류는 상당히 다양하다 그중에서 우리는 커넥션 풀을 설정해야 하기 때문에 HttpComponentsClientHttpRequestFactory 클래스를 사용할 예정이다.

  • HttpComponentsClientHttpRequestFactory 객체를 생성하고 httpClient에 필요한 쓰레드 갯수를 설정할 수 있다

  • maxConnTotal : 최대로 연결할 수 있는 커넥션 쓰레드 최대 갯수를 설정한다

  • maxConnPerRoute : IP + PORT당 연결할 커넥션 쓰레드 최대 갯수를 설정한다

HttpClient httpClient = HttpClientBuilder.create()
			.setMaxConnTotal(100) // 최대로 연결할 수 있는 커넥션 쓰레드 수
			.setMaxConnPerRoute(60) // (IP + PORT) 당 커넥션 쓰레드 수
			.build();

HttpComponentsClientHttpRequestFactory factory = new HttpComponentsClientHttpRequestFactory();
factory.setHttpClient(httpClient);

return new RestTemplate(factory);

별도로 사용할 쓰레드풀만 지정하면 괜찮은걸까?

  • 쓰레드풀을 설정하여 애플리케이션에 가용할 수 있는 쓰레드 그룹은 확보하였다

  • 애플리케이션에서 가용할 수 있는 쓰레드를 확보했다는 것이지 아직은 애플리케이션의 가용성을 100% 보장하지는 못했다

왜 애플리케이션은 쓰레드를 100% 가용하지 못하는가?

  • 그 이유는 HTTP 통신 과정에서 수행되는 유효 시간을 지정하지 않았기 때문이다

  • 만약 통신 과정에서 20~30초가 소요되면 대기하는 시간동안 쓰레드는 사용중인 상태로 대기해야 한다

  • 별도로 지정한 쓰레드풀 내에서도 가용할 수 있는 쓰레드가 부족하게 된다

  • 가용성을 향상시키기 위해서는 timeout 시간을 지정하여 통신이 길어져 무기한 대기하는 시간을 제한하여 일정시간 이후에는 가용할 쓰레드를 확보하는게 중요하다

그럼 제한시간 설정은 어떻게 해야 하나?

  • connectTimeout : 클라이언트가 서버에 접속하기 위해 기다리는 최대 시간이다. 이는 네트워크 자체가 느릴 경우 제한할 수 있는 설정이다

  • socketTimeout : 클라이언트와 서버가 연결되었지만 서버가 응답이 느려 기다릴 수 있는 최대 시간을 지정하는 것이다

  • connectionRequestTimeout : 만약 지정한 커넥션 풀이 모두 사용중일 경우에, 다른 가용할 수 있는 쓰레드를 대기 하기 위한 최대 시간이다

HttpComponentsClientHttpRequestFactory factory = new HttpComponentsClientHttpRequestFactory();
factory.setConnectionRequestTimeout(5000 * 1000); // 커넥션풀에서 사용 가능한 연결을 가져오기 위해 대기하는 최대 시간
factory.setConnectTimeout(5000); // 커넥션 최대 시간
factory.setReadTimeout(5000); // 읽기 최대 시간
...

return new RestTemplate(factory);

클라이언트와 서버가 통신이 이루어진 이후에는 주의해야할 점은 없을까?

  • 이번에는 가용성 측면보다는 오류 발생 가능성을 줄이기 위한 설정이 필요하다

  • 클라이언트와 서버가 커넥션을 맺고 나서 서버에서는 keep-alive 값을 내려준다

  • keep-alive를 설정하면 클라이언트와 서버와 통신할때 매번 커넥션을 맺기 위한 작업 없이 바로 데이터를 요청할 수 있다

  • 불필요한 작업을 최소화하여 성능을 향상시킬 수 있다

그러면 Keep-Alive를 믿어도 되는가?

  • 아니다. 실제로 서버측에서 keep-Alive를 지원하지 않을 수도 있다

왜 keep-alive를 지원하지 않지?

  • 이유는 다양하다

  • 이전의 사례는 긍정적인 효과만 설명하였는데 그보다 부정적인 효과도 많다

  • 우선은 연결을 계속 유지하는 것은 서버와 클라이언트의 리소스를 계속 사용하게 된다. 이는 대량의 클라이언트가 접속하는 경우 서버 리소스를 과도하게 사용할 수 있다.

  • 서버가 지원하는 동시 연결 수에 제한이 있는 경우, keep-alie를 사용하면 더 많은 연결이 동시에 점유되므로 다른 클라이언트의 연결 요청을 처리하는데 제약이 생길 수 있다.

  • 그리고 연결 유지를 위해 일정 시간 동안 연결을 열어두어야 하기 때문에, 이로 인해 일부 패킷 전송이 지연될 수 있다.

  • 그러므로 keep-alive를 사용할 때는 이러한 단점들을 고려하여 적절하게 설정하고, 서비스의 특성과 요구사항에 맞게 적용하는 것이 중요하다

  • 서버측에선 커넥션을 종료했는데 클라이언트에서 해당 커넥션을 종료하지 않은 상황에 해당 커넥션을 다시 이용하려고 시도하는 경우 문제가 될 수 있다. 이를 half-closed connection이라 일컫는다

  • 그래서 클라이언트도 커넥션을 맺었더라도 일정시간 이후엔 서버에서 내려주는 keep-alive 값에 의존하지 않고 자체적으로 유효한 커넥션을 해제할 수 있어야 한다

클라이언트에서는 어떻게 자체적으로 유효시간을 해제할 수 있을까?

  • evictIdleConnections : 클라이언트와 서버가 커넥션을 맺었을때, 최대 유효한 시간을 지정할 수 있다

  • evictExpiredConnections : 설정한 유효 시간이 지났을 경우엔 자체적으로 커넥션을 해제할 수 있도록 설정 한다

  • connTimeToLive : 유효시간 이외에도 클라이언트와 서버가 연결을 맺은 상태에서 얼마나 오랫동안 유지할지 최대 시간을 지정한다

connTimeToLive와 connectTimeout은 같지 않나?

→ 엄연히 다르다. connectTimeout은 통신하는 과정에서 이루어지는 최대 시간을 의미하고 connTimeToLive은 통신이 이루어진 이후에 연결할 수 있는 최대 시간을 지정하기 때문에 두개다 설정을 해주어야 한다

  • 서버측에선 커넥션을 종료했는데 클라이언트에서 해당 커넥션을 제거하지 않은 상황에 해당 커넥션을 다시 이용하려고 시도하는 경우 문제가 될 수 있습니다.

  • 이것을 half-closed connection이라 부릅니다.

// 최종 설정

HttpClient httpClient = HttpClientBuilder.create()
	.setMaxConnTotal(100) // 최대로 연결할 수 있는 커넥션 쓰레드 수
	.setMaxConnPerRoute(60) // (IP + PORT) 당 커넥션 쓰레드 수
	.evictIdleConnections(60L, TimeUnit.SECONDS) // 최대 연결 유효시간을 지정한다
	.evictExpiredConnections() // 설정한 최대 연결 유효시간이 만료되면 커넥션을 해제한다
	.setConnectionTimeToLive(5, TimeUnit.SECONDS) // 커넥션 만료시간을 설정한다
	.build();

HttpComponentsClientHttpRequestFactory factory = new HttpComponentsClientHttpRequestFactory();
factory.setConnectionRequestTimeout(5000 * 1000); //  HttpClient가 커넥션 풀에서 사용 가능한 연결을 가져오기 위해 대기하는 최대 시간을 지정하는 옵션입니다. 커넥션 풀에서 사용 가능한 연결이 없을 때, 요청은 커넥션 풀에 새로운 연결이 생성될 때까지 해당 시간만큼 대기합니다.
factory.setConnectTimeout(5000); // 커넥션 최대 시간
factory.setReadTimeout(5000); // 읽기 최대 시간
factory.setHttpClient(httpClient);

return new RestTemplate(factory);

서버가 keep-alive를 제공하지 않으면 유효시간 설정을 제거하자

  • 사실 앞에서 설명한 설정들은 half-closed connection 문제를 100% 해결해주지는 못한다

  • 단지 방어하기 위한 몇 가지 설정일 뿐이다

  • 가장 확실한 방법은 클라이언트에서도 keep-alive에 대한 장점을 포기하는 것이다

  • HeepHeader에 “Connection” 필드의 값을 “close”로 설정하면 명시적으로 keep-alive 기능을 사용하지 않는다

  • 만약, 호출하는 서버에서 keep-alive를 제공하지 않는다면 keep-alive를 사용하지 않도록 설정하는게 명확한 해결 방법일 것이다

HttpHeaders headers = new HttpHeaders();
headers.set("Connection", "close");

HttpEntity<String> requestEntity = new HttpEntity<>(headers);

ResponseEntity<String> response = restTemplate.exchange("<http://example.com/api/resource>", HttpMethod.GET, requestEntity, String.class);

그럼 성능적으로도 차이가 있을까?

  • 기본 설정과 모든 설정을 다 했을 경우 JMeter를 통해서 execute time을 측정해보겠다

  • 1000개의 요청을 1초단위로 5번 수행하여 총 5000개의 요청을 수행하도록 하였다

  • 그리고 통신하는 과정에서 4초라는 지연시간을 주어 조금 더 극적인 효과를 볼수 있도록 하였다

  • 아무설정 하지 않았을 경우엔 평균 49.8/sec의 속도를 보여주었고 다행히 에러는 발생하지는 않았다

  • 두번째는 14.7/sec의 속도로 대략 1/3정도 속도가 개선된것을 확인할 수 있다

결론

  • JAVA를 사용하다보면 정말 유용한 라이브러리가 많이 있다

  • 이는 비용이나 시간적인 측면에서 매우 매력적인 부분이다

  • 하지만 그만큼 책임이 따르는 것도 사실이다

  • 그러므로 라이브러리를 사용할때는 관련 이슈나 공식문서 등을 참고하여 우리 서비스에 적합한지 확인할 수 있는 과정이 필요하다

참고

https://medium.com/@cizek.jy/spring-resttemplate-why-the-set-timeout-does-not-work-b75aaee076a3
https://sjh836.tistory.com/141
https://renuevo.github.io/spring/resttemplate-thread-safe/
https://blog.eomsh.com/41
https://zepinos.tistory.com/34
https://pds.joongang.co.kr/news/component/htmlphoto_mmdata/202212/10/90c914f7-13ea-4051-9e6c-43343bb1f86a.jpg