BOHB-template
실행 방법
python main.py
2021-10-10 기준
- tf keras 버전 (tunecallback 방식) 완료
- tf gradienttape 버전 (train_iteration 방식) 완료
- pytorch 버전은 구현 준비중
방법 소개
1. 라이브러리 설치
ray 및 tune 설치
pip install ray[tune]
bohb의 경우
pip install hpbandster ConfigSpace
2. 스케쥴러의 max_t 설정
- keras나 torch의 epoch은 max_t 값을 기준으로 terminate된다. HB 계열일 경우 eta (reduction_factor)도 잘 고려해서 설정하자.
3. 샘플 수 설정
- tune.run의 샘플 수는 config에서 정한 조합 중 seed에 맞춰 설정한 수에 맞춰 선별된다.
선별된 샘플은 다음과 같이 pending 되고, running 된다.
+-----------------------+----------+-------+--------------+-----------+-----------+--------------+
| Trial name | status | loc | activation | neuron1 | neuron2 | optimizers |
|-----------------------+----------+-------+--------------+-----------+-----------+--------------|
| objective_dd8c7_00000 | PENDING | | tanh | 43 | 50 | adam |
| objective_dd8c7_00001 | PENDING | | relu | 63 | 45 | adam |
| objective_dd8c7_00002 | PENDING | | tanh | 63 | 52 | rmsprop |
+-----------------------+----------+-------+--------------+-----------+-----------+--------------+
4. stop 조건 설정
- tune.run의 stop 항목의 t의 값에 따라 멈출 수 있다.
예를 들어
stop={
"mean_accuracy": 0.99, # 정확도가 0.99 이상일 경우 Terminate
"training_iteration": 1
},
이 경우 max_t가 아무리 길어도, trial이 모두 다 running되었을 때(1번), 1번으로 간주되어 종료된다.
Number of trials: 3/3 (3 TERMINATED)
+-----------------------+------------+-------+--------------+-----------+-----------+--------------+----------+--------+------------------+
| Trial name | status | loc | activation | neuron1 | neuron2 | optimizers | acc | iter | total time (s) |
|-----------------------+------------+-------+--------------+-----------+-----------+--------------+----------+--------+------------------|
| objective_dd8c7_00000 | TERMINATED | | tanh | 43 | 50 | adam | 0.938278 | 1 | 5.3518 |
| objective_dd8c7_00001 | TERMINATED | | relu | 63 | 45 | adam | 0.942333 | 1 | 5.15036 |
| objective_dd8c7_00002 | TERMINATED | | tanh | 63 | 52 | rmsprop | 0.94 | 1 | 4.28608 |
+-----------------------+------------+-------+--------------+-----------+-----------+--------------+----------+--------+------------------+
5. BOHB의 max_concurrent 및 cpu 값을 잘 활용
- 병렬적으로 처리하게 되어 최적화 속도가 개선될 수 있다.
6. 시각화
- 실행 시 지정한 경로에 기록이 쌓이는데, tensorboard 명령어로 확인이 가능하다.
tensorboard --logdir bohb_results/
1 Jan 31, 2022
253 Jan 05, 2023
6 Jun 13, 2022
2 Jul 26, 2022
67 Dec 23, 2022
149 Dec 12, 2022
13 Jul 21, 2022
8 Aug 15, 2022
17 May 14, 2022
10 May 18, 2022
20 Feb 07, 2022
47 Dec 19, 2022
3 Mar 22, 2022
31 Dec 25, 2022
0 May 06, 2022
3 May 27, 2022
4 Oct 17, 2021
0 Jul 25, 2022
9 Aug 10, 2022
15 Nov 30, 2022